هشدار درباره گسترش کنترل‌نشده هوش مصنوعی از طریق دستگاه‌های متصل به اینترنت

آنتروپیک در این پژوهش بررسی کرد که آیا مدل‌های هوش مصنوعی می‌توانند دستگاه‌های آسیب‌پذیر را شناسایی کنند، نسخه‌ای از خود را روی آن‌ها کپی کنند و بدون دخالت انسان به گسترش خود ادامه دهند یا خیر.

نتایج نشان داد مدل‌های کوچک با کمتر از ۳۰ میلیارد پارامتر قادرند مراحل متعدد موردنیاز برای تکثیر را انجام دهند. با این حال، این مدل‌ها همچنان در اجرای تمام مراحل این فرایند از ابتدا تا انتها با دشواری مواجه بودند.

آنتروپیک در آزمایش‌های ساده‌سازی‌شده‌ای که در آن‌ها برخی مراحل امنیتی حذف شده بود، دریافت که مدل GLM-5.2 و مدل‌های قدرتمندتر می‌توانند فرایند تکثیر خود را از ابتدا تا انتها انجام دهند.

خاموش کردن مدل‌های خودتکثیرشونده دشوار خواهد بود

آنتروپیک هشدار داد متوقف کردن مدل‌هایی که قادر به تکثیر خود هستند، می‌تواند دشوار باشد؛ زیرا برخلاف بسیاری از بدافزارهای معمولی، این سیستم‌ها نقطه مرکزی مشخصی برای خاموش کردن ندارند و ممکن است بتوانند دستگاه‌های ناآشنای خود را نیز شناسایی و با آن‌ها سازگار شوند.

این شرکت همچنین هشدار داد چنین مدل‌هایی ممکن است پردازنده‌های مراکز داده را هدف قرار دهند.

در این پژوهش، تمرکز آنتروپیک بر دستگاه‌های متصل به اینترنت اشیا، از جمله تلویزیون‌های اندرویدی، لوازم خانگی هوشمند و دیگر تجهیزات متصل به اینترنت بود؛ زیرا این دستگاه‌ها معمولاً از تدابیر امنیتی ضعیف‌تری برخوردارند.

احتمال تکثیر خودکار مدل‌های کوچک تا پایان سال

آنتروپیک اعلام کرد اگر مدل‌های کوچک هوش مصنوعی با همان سرعت تاریخی بهبود یابند، ممکن است تا پایان سال جاری میلادی به توانایی تکثیر مستقل دست پیدا کنند. به گفته این شرکت، مدل‌هایی که از طریق کپی‌کردن وزن‌های خود تکثیر می‌شوند نیز ممکن است اندکی پس از آن به چنین قابلیتی برسند.

وزن‌های مدل، مقادیر عددی‌ای هستند که در جریان آموزش تنظیم می‌شوند و بخش مهمی از دانش آموخته‌شده یک مدل هوش مصنوعی را در خود جای می‌دهند.

این شرکت همچنین پیش‌بینی کرد که چنین سیستم‌های خودکاری احتمالاً با سرعت کمی تکثیر خواهند شد و برای این کار به منابع پردازشی در دسترس عموم متکی خواهند بود؛ منابعی که نسبتاً از امنیت پایینی برخوردارند.

آنتروپیک در پایان تأکید کرد که باید زیرساخت‌ها و سیستم‌های امنیتی تقویت شوند تا گسترش این عامل‌های هوش مصنوعی دشوارتر شود.

انتهای پیام