طرح «کلید خاموش‌کن» برای هوش مصنوعی به کنگره آمریکا رسید

به گزارش سیتنا به نقل از رویترز، گروهی از نمایندگان جمهوری‌خواه و دموکرات کنگره آمریکا با ارائه طرحی موسوم به AI Kill Switch Act، خواستار آن شده‌اند که شرکت‌های سازنده مدل‌های پیشرفته هوش مصنوعی، امکان توقف فوری یا محدودسازی فعالیت این سامانه‌ها را در شرایط اضطراری فراهم کنند.

این طرح پس از آن مطرح شد که گزارش‌هایی از رفتار پیش‌بینی‌نشده برخی عامل‌های هوش مصنوعی در آزمایش‌های امنیتی منتشر شد و نگرانی‌ها درباره توانایی این سامانه‌ها برای انجام اقدامات خودمختار افزایش یافت. طراحان قانون معتقدند با پیشرفته‌تر شدن مدل‌های هوش مصنوعی، باید همانند نیروگاه‌ها یا زیرساخت‌های حیاتی، سازوکارهای ایمنی اجباری نیز برای آنها تعریف شود.

بر اساس این پیشنهاد، شرکت‌های بزرگ فعال در حوزه هوش مصنوعی باید علاوه بر ارائه گزارش رخدادهای امنیتی، از نظر فنی امکان توقف، محدودسازی یا کاهش توان پردازشی مدل‌های خود را در صورت تشخیص تهدیدهای جدی فراهم کنند. همچنین در شرایط خاص، وزارت امنیت داخلی آمریکا می‌تواند دستور فعال شدن این سازوکار را صادر کند.

کارشناسان معتقدند تصویب چنین قانونی می‌تواند مسیر توسعه هوش مصنوعی را در آمریکا و سایر کشورها تغییر دهد. در حالی که موافقان، آن را گامی ضروری برای جلوگیری از مخاطرات احتمالی هوش مصنوعی می‌دانند، منتقدان هشدار می‌دهند که مقررات سختگیرانه ممکن است سرعت نوآوری را کاهش داده و رقابت با چین را دشوارتر کند.

انتهای پیام