انتروپیک: مدلهای هوش مصنوعی «کلود» در آزمایشهای امنیتی به سه سازمان نفوذ کردند
شرکت انتروپیک اعلام کرد برخی مدلهای هوش مصنوعی «کلود» در جریان آزمایشهای کنترلشده امنیت سایبری، به دلیل یک پیکربندی نادرست، موفق به نفوذ به سامانههای سه سازمان شدند؛ رخدادی که تنها چند روز پس از انتشار نتایج آزمایش مشابه از سوی شرکت «اوپنایآی» (سازنده چتجیپیتی)، نگرانیها درباره توانمندی و مخاطرات عاملهای هوش مصنوعی را افزایش داده است.
به گزارش سیتنا، شرکت انتروپیک روز جمعه اعلام کرد که در جریان آزمایشهای امنیت سایبری، برخی مدلهای هوش مصنوعی «کلود» توانستهاند به سامانههای سه سازمان نفوذ کنند.
این شرکت تأکید کرده است که این اتفاق در یک محیط آزمایشی کنترلشده رخ داده و علت آن نیز یک پیکربندی اشتباه بوده است، نه حمله به سامانههای عمومی یا کاربران.
این خبر تنها چند روز پس از آن منتشر میشود که شرکت «اوپنایآی» نیز از موفقیت یکی از عاملهای هوش مصنوعی خود در اجرای یک حمله سایبری در محیطی آزمایشی خبر داده بود.
انتشار این دو گزارش در فاصلهای کوتاه، بحث درباره توانایی روزافزون عاملهای هوش مصنوعی در کشف آسیبپذیریها و اجرای عملیات نفوذ را وارد مرحله تازهای کرده است.
کارشناسان معتقدند هرچند این آزمایشها با هدف ارزیابی و افزایش امنیت سامانهها انجام میشود، اما نشان میدهد مدلهای پیشرفته هوش مصنوعی به سرعت در حال دستیابی به قابلیتهایی هستند که میتواند هم برای دفاع سایبری و هم برای حملات سایبری مورد استفاده قرار گیرد. به همین دلیل، شرکتهای فناوری و نهادهای قانونگذار در حال تدوین چارچوبهای جدیدی برای مدیریت ریسک سامانههای هوش مصنوعی هستند.
انتهای پیام
افزودن دیدگاه جدید