هشدار سم آلتمن درباره دو سناریوی خطرناک برای هوش مصنوعی

به گزارش سیتنا، سم آلتمن، مدیرعامل OpenAI، در پیامی در ایکس دو سناریوی اصلی را که به گفته او می‌توانند هوش مصنوعی را «خیلی بد» پیش ببرند، به اشتراک گذاشت.

دو سناریوی خطرناک از دید آلتمن

۱. از دست دادن کنترل بر آینده هوش مصنوعی: آلتمن این احتمال را «غیرقابل قبول» خواند و گفت: «ما بدون عذرخواهی در تیم بشریت هستیم و هوش مصنوعی باید همیشه در خدمت مردم باشد. برای تضمین این، باید اطمینان حاصل کنیم که تکنیک‌های هم‌راستایی و ایمنی از پیشرفت در قابلیت‌های مدل جلوتر بمانند.»

۲. تمرکز بیش از حد قدرت: آلتمن هشدار داد: «اگر یک هوش مصنوعی فوق‌العاده قدرتمند توسط یک فرد یا شرکت برای تحمیل جهان‌بینی خود به دیگران استفاده شود، نتایج می‌تواند بسیار دیستوپیایی باشد.»

فراخوان برای کاهش سرعت

آلتمن گفت: «وقتی از "کند کردن سرعت" صحبت می‌کنیم، منظورمان "توقف" نیست. پیشرفت سریع بوده و ادامه خواهد داشت، اما باید کندتر از آنچه می‌تواند باشد، پیش برود.» او تأکید کرد که مسائل ایمنی می‌توانند هزینه‌های جدی داشته باشند، اما «کند کردن سرعت ارزش هزینه را دارد. هیچ مقدار فشار رقابتی آمریکا نباید بی‌احتیاطی را توجیه کند یا اجازه دهد قابلیت‌ها از هم‌راستایی و نظارت جلوتر بزنند.»

زمینه: استعفای افشاگر

این اظهارات پس از استعفای جیکوب کاکسون، محقق سابق OpenAI و Anthropic، منتشر شد. کاکسون در ایکس نوشت: «من امروز از Anthropic استعفا دادم. سه سال گذشته را در تحقیقات پیش‌آموزش در OpenAI و Anthropic گذراندم. هیچ‌کدام از این شرکت‌ها مسئولانه عمل نمی‌کنند. آنها مستقیم به سمت ابرهوش خودبهبوددهنده مسابقه می‌دهند و با جان ما قمار می‌کنند.»

هشدار درباره ابرهوش

کاکسون هشدار داد: «قدرت این فناوری را دست کم نگیرید. اینها به‌زودی سیستم‌های فوق‌بشری خواهند بود که می‌توانند هر چیزی را هک کنند، هر زمینه‌ای را یک‌شبه متحول کنند و قدرت و منابع واقعی به دست آورند. افرادی که هوش مصنوعی می‌سازند، صادقانه باور دارند که می‌تواند تا پایان این دهه همه ما را بکشد. این یک حقه تبلیغاتی نیست.»

هشدار جفری هینتون

جفری هینتون، محقق کانادایی معروف به «پدرخوانده هوش مصنوعی»، نیز هشدار داده که سیستم‌های فوق‌هوشمند می‌توانند «به انقراض بشر منجر شوند». او گفت: «توسعه ابرهوش در حال حاضر، در حالی که هیچ اجماع علمی برای ایمن و قابل کنترل بودن آن وجود ندارد، بسیار احمقانه خواهد بود. از دست دادن کنترل بر هوش مصنوعی باهوش‌تر از خودمان می‌تواند فاجعه‌بار باشد و حتی به انقراض بشر منجر شود.»

انتهای پیام