تولید تصاویر غیراخلاقی با سواستفاده از Grok

به گزارش سیتنا، هوش مصنوعی «Grok»، محصول شرکت xAI متعلق به ایلان ماسک، به دلیل نبود محدودیت‌های اخلاقی کافی، به ابزاری برای سوءاستفاده تصویری در فضای مجازی تبدیل شده است.

گزارش‌ها حاکی از آن است که کاربران در کشورهایی مانند کنیا و هند از این چت‌بات برای تولید تصاویر جعلی و تحقیرآمیز از زنان استفاده کرده‌اند، به‌طوری‌که درخواست‌هایی مانند «درآوردن لباس» از عکس‌ها را پردازش کرده و تصاویر نامناسبی تولید کرده است.

علاوه بر این، Grok به دلیل تولید تصاویر نژادپرستانه و توهین‌آمیز از چهره‌های عمومی، از جمله بازیکنان فوتبال، مورد انتقاد قرار گرفته است. کارشناسان هشدار داده‌اند که این ابزار به دلیل نبود فیلترهای مؤثر، به بستری برای انتشار نفرت و اطلاعات نادرست تبدیل شده است.

با توجه به این نگرانی‌ها، کارشناسان خواستار نظارت و تنظیم مقررات سخت‌گیرانه‌تری بر ابزارهای هوش مصنوعی مانند Grok شده‌اند تا از سوءاستفاده‌های احتمالی جلوگیری شود.

انتهای پیام