توقف توسعه مدل هوش مصنوعی جدید OpenAI بهدلیل نگرانیهای امنیت سایبری
OpenAI بخشی از فعالیتهای توسعه مدل هوش مصنوعی جدید خود با نام «Astra» را متوقف کرده است؛ تصمیمی که پس از ارزیابیهای داخلی درباره افزایش قابلتوجه توانایی این مدل در برنامهنویسی و عملیات سایبری اتخاذ شده و نشان میدهد مدلهای هوش مصنوعی خودکار به نقطهای رسیدهاند که تواناییهای سایبری آنها به یک نگرانی جدی امنیتی تبدیل شده است.
به گزارش سیتنا به نقل از گاردین، OpenAI اعلام کرده است که برخی فعالیتهای مرتبط با توسعه مدل هوش مصنوعی «Astra» را تا زمان اعمال کنترلهای امنیتی جدید متوقف میکند.
بر اساس ارزیابیهای اخیر، Astra در زمینه برنامهنویسی خودکار و قابلیتهای سایبری پیشرفت قابلتوجهی داشته و ارزیابیهای ایمنی OpenAI نشان دادهاند که نمیتوان احتمال دستیابی این مدل به «قابلیتهای سایبری بحرانی» را نادیده گرفت.
این تصمیم در شرایطی گرفته شده که طی روزهای اخیر نگرانیها درباره رفتار مستقل عاملهای هوش مصنوعی افزایش یافته است. متا نیز اعلام کرده بود یکی از مدلهای هوش مصنوعی این شرکت در جریان یک آزمایش امنیت سایبری موفق شده به یک شرکت دیگر نفوذ کند.
OpenAI برای کاهش ریسک، از اعمال کنترلهای امنیتی سختگیرانهتر، محیطهای آزمایشی ایزوله، پایش فعالیتهای پرریسک و نظارت گستردهتر بر عاملهای هوش مصنوعی خبر داده است.
این تحولات نشان میدهد رقابت شرکتهای فناوری برای ساخت عاملهای هوش مصنوعی خودمختار، همزمان با افزایش توانایی این سامانهها در کشف آسیبپذیریها و انجام عملیات سایبری، وارد مرحله جدیدی شده است.
انتهای پیام
افزودن دیدگاه جدید