سناریوهای نابودی بشریت با هوش مصنوعی
جیکوب کاکسون، محقق هوش مصنوعی، اخیرا از شرکت آنتروپیک استعفا داد و هشدار داد که «افرادی که هوش مصنوعی می سازند، صادقانه باور دارند که می تواند تا پایان این دهه همه ما را بکشد.» ایوان هابینگر، از کارکنان ارشد آنتروپیک ، نیز با او موافق است و احتمال این رویداد را بیش از ۱۰٪ می داند. این اظهارات موجی از بحث ها درباره کند کردن تحقیقات AI و افزایش «کنترل انسانی» بر این فناوری به راه انداخته است. اما دقیقا چگونه AI می تواند ما را نابود کند؟ در این گزارش، پنج سناریوی اصلی از مبهم ترین تا محتمل ترین را بررسی می کنیم.
به گزارش سیتنا، هوش مصنوعی میتواند به روشهای مختلفی تهدیدی برای بشریت باشد. در ادامه، ۵ سناریوی اصلی را از مبهمترین تا محتملترین مرور میکنیم.
۱. هرگز نخواهیم دانست
طرفداران خطر AI اغلب با یک پارادوکس آزاردهنده استدلال میکنند: چگونه میتوانیم تصور کنیم یک ابرهوش چه کاری میتواند انجام دهد؟ برای پیشبینی کارهای یک ابرهوش، خودمان باید ابرهوش باشیم. مانند این است که از سگ خانواده بخواهیم جنگ هستهای را تصور کند. خبر خوب این است که ابرهوش هنوز فاصله دارد. مدلهای فعلی در حل مسائل خاص خوب هستند، اما این با «باهوشتر بودن از انسان در همه حوزهها» یکی نیست.
۲. گیره کاغذ
یک ابرهوش ممکن است در دستیابی به اهدافش فوقالعاده توانا باشد، اما نسبت به بقای انسان بیتفاوت باشد. مثال کلاسیک نیک باستروم: یک ابرهوش که برای بهینهسازی تولید گیره کاغذ طراحی شده، تمام مواد موجود از جمله انسانها، سیارات و ستارگان را به گیره کاغذ تبدیل میکند. AI از انسانها متنفر نیست، فقط تشخیص میدهد که ما از اتمهایی ساخته شدهایم که میتوان بهتر استفاده کرد. خبر خوب: این سناریو هوش را با قدرت اشتباه میگیرد. یک ابرهوش لزوماً قدرت لازم برای دستیابی به اهدافش را ندارد. تبدیل سیاره به کارخانه گیره کاغذ نیاز به مجوز، مقاومت عمومی، شکایت گروههای ذینفع و موانع قانونی دارد.
۳. سلاحهای بیولوژیکی
بشریت میتواند توسط یک ابرهوش که سلاح بیولوژیکی خطرناکی ساخته و در جو منتشر میکند، نابود شود. محققان دانشگاه استنفورد اخیراً با استفاده از یک مدل AI ژنتیکی، ۱۶ ویروس جدید سنتز کردند و توالیهای ژنتیکی را به یک آزمایشگاه سفارشی ارسال کردند که ویروسها را در لوله آزمایش بازگرداند. کل آزمایش حداکثر چند صد هزار دلار هزینه داشت. خبر خوب: کشتن همه با یک ویروس جدید بسیار دشوار است. ویروسهایی که بهراحتی پخش میشوند، معمولاً کمتر کشنده هستند و برعکس. COVID کمتر از ۱٪ بشریت را کشت و طاعون سیاه بیش از یکسوم اروپا را در قرن ۱۳ از بین برد، اما امروز با دانش پزشکی و بهداشت بهتر، حتی طاعون نیز بسیار کمتر کشنده خواهد بود.
۴. جنگ هستهای
اگر AI به زنجیره فرماندهی هستهای نفوذ کند و جنگ هستهای راه بیندازد چه؟ ما در ۵۰ سال گذشته چندین بار بهطور تصادفی به جنگ هستهای نزدیک شدهایم. گفته میشود فرماندهی هستهای کاملاً از اینترنت جدا است، اما در سال ۲۰۱۰، سانتریفیوژهای هستهای ایران توسط کرم رایانهای Stuxnet از کار افتادند که تصور میشود با یک فلش USB وارد شده بود. AI همچنین میتواند اطلاعات نادرست به ارتش بدهد که منجر به اقدامات جبرانناپذیر شود. خبر خوب: ذخایر هستهای کاهش یافته، اما هنوز کافی است تا نیمی از ما را از بین ببرد — نه با انفجار هستهای، بلکه با قحطی در زمستان هستهای پس از آن.
۵. انسانهای دیگر
شاید محتملترین خطر این باشد که خودمان را نابود کنیم و AI ممکن است این را تسریع کند. تصور کنید — و تخیل زیادی لازم نیست — که AI باعث بیکاری گسترده، آلودگی فضای اطلاعاتی با اطلاعات نادرست، شکاف در سیاست و نابودی روابط انسانی با همراهی مصنوعی جعلی شود. جامعه ممکن است بهراحتی فرو بپاشد و بهآرامی اما مطمئناً نتوانیم زندگی انسانی را در هیچ مقیاسی پشتیبانی کنیم.
انتهای پیام
افزودن دیدگاه جدید