متا آبروریزی کرد؛ امکان ساخت استیکرهای غیراخلاقی در فیسبوک مسنجر!
با گذشت تنها یک هفته از رونمایی متاپلتفرمز از ابزار جدید مبتنی بر هوش مصنوعی که بر روی فیسبوک مسنجر سوار شده و کار آن ساخت استیکرهای متنوع است، کاربران این شبکه اجتماعی مشکلی را کشف کردند که باعث آبروریزی در فیسبوک شده است.
به گزارش سیتنا، به گفته کاربران، این ابزار جدید قادر به فیلتر کردن درخواست‌های غیراخلاقی و نامناسب نیست و به کاربران اجازه خلق تصاویر غیراخلاقی از شخصیت‌های کارتونی و محبوب کودکی مثل میکی ماوس و سوپر ماریو را می‌دهد.
یک کاربر با انتشار پستی در شبکه اجتماعی X به وضوح نشان داد که می‌توان از این استیکرهای غیراخلاقی ساخته شده در فیسبوک مسنجر و اینستاگرام استفاده کرد.
در حال حاضر این ابزار هوش مصنوعی فقط در اختیار تعداد محدودی از کاربران قرار گرفته و به آن‌ها دسترسی داده تا با وارد کردن یک توصیف متنی کوتاه یک عکس استیکر را خلق کنند.
متا برای توسعه این ابزار از مدل جدید هوش مصنوعی سنتز تصویر به‌نام Emu استفاده کرده و فیلترهایی را هم پیاده‌سازی کرده تا جلوی خلق عکس‌های غیراخلاقی را بگیرد، اما گویا این مدل در فیلتر تصاویر ناموفق بوده است.
پیش از این نیز پروژه‌های این‌چنینی با شکست مواجه شده بود، اما خطای این ابزارها در مرحله آزمایش کشف شده و از در دسترس قرار گرفتن آن برای کاربران جلوگیری شده بود.
نکته عجیب اینجاست که متاپلتفرمز بدون پشت سر گذاشتن مراحل آزمایش و اطمینان از کامل بودن ابزار ساخته شده، آن را در اختیار برخی کاربران گذاشته که اکنون موجب آبروریزی و سرافکندگی او شده است.
انتهای پیام
افزودن دیدگاه جدید