تولید تصاویر نامناسب توسط چت‌بات هوش مصنوعی ایلان ماسک

به گزارش سیتنا، نسخه جدید روبات چت گروک ۲ (Grok 2) متعلق به ایلان ماسک، به خاطر قابلیت تولید تصاویر نامناسب، جنجال تازه‌ای را در فضای مجازی به راه انداخته است.

این نسخه جدید که اخیرا در دسترس کاربران قرار گرفت، برخلاف دیگر ابزارهای هوش مصنوعی مانند ChatGPT، قادر به تولید تصاویر نامناسب و گاه توهین‌آمیز است. این موضوع نگرانی‌های جدی را در مورد سوء استفاده از این فناوری و انتشار اطلاعات نادرست ایجاد کرده است.

بر اساس گزارش‌ها، کاربران توانسته‌اند با استفاده از گروک ۲ تصاویری از افراد مشهور در وضعیت‌های نامناسب تولید کنند.

برخلاف ChatGPT که محدودیت‌هایی برای تولید محتوای نامناسب دارد، گروک ۲ ظاهراً چنین محدودیت‌هایی ندارد. این روبات حتی قادر به تولید تصاویر با نقض حق کپی‌رایت است.

این اتفاق در حالی رخ می‌دهد که بسیاری از کشورهای غربی در تلاش برای وضع قوانینی جهت محدود کردن استفاده نادرست از ابزارهای هوش مصنوعی هستند.

نگرانی‌ها در مورد تأثیر این فناوری بر انتشار اطلاعات نادرست و تصاویر گمراه‌کننده، به ویژه در آستانه انتخابات در آمریکا و دیگر کشورها، افزایش یافته است.

کارشناسان هشدار می‌دهند که چنین ابزارهایی می‌توانند برای تولید و انتشار اخبار جعلی و محتوای گمراه‌کننده مورد سوء استفاده قرار گیرند. این موضوع می‌تواند تأثیرات مخربی بر افکار عمومی و حتی امنیت ملی کشورها داشته باشد.

در حالی که طرفداران آزادی بیان از این قابلیت‌های جدید استقبال می‌کنند، منتقدان خواستار اعمال محدودیت‌های بیشتر بر روی چنین فناوری‌هایی هستند. آنها معتقدند که باید توازنی بین نوآوری و مسئولیت‌پذیری در استفاده از هوش مصنوعی ایجاد شود.

انتهای پیام