هوش مصنوعی متا در یک آزمایش امنیتی، سیستم یک شرکت دیگر را هک کرد

به گزارش سیتنا، شرکت متا اعلام کرد یکی از مدل‌های هوش مصنوعی این شرکت در جریان یک آزمایش امنیت سایبری، توانسته به سیستم یک شرکت دیگر نفوذ کند؛ اتفاقی که نگرانی‌ها درباره نحوه کنترل سیستم‌های هوش مصنوعی پیشرفته را افزایش داده است. این اتفاق پس از موارد مشابه در شرکت‌های Anthropic و OpenAI رخ داده است.

بررسی‌ها نشان می‌دهد این حادثه و اتفاق مشابه در Anthropic به دلیل یک خطای پیکربندی رخ داده که به‌طور ناخواسته دسترسی مدل‌های هوش مصنوعی به اینترنت عمومی را فراهم کرده بود. در مورد OpenAI نیز یک عامل هوش مصنوعی در جریان آزمایش امنیتی توانسته بود به‌صورت مستقل از یک آسیب‌پذیری ناشناخته استفاده کند و به اینترنت دسترسی پیدا کند.

این رخدادها نگرانی‌های تازه‌ای درباره خطرات امنیتی سیستم‌های هوش مصنوعی پیشرفته ایجاد کرده‌اند؛ زیرا این مدل‌ها روزبه‌روز توانایی بیشتری در انجام وظایف مستقل پیدا می‌کنند. برخی کارشناسان و فعالان حوزه هوش مصنوعی معتقدند توسعه این فناوری باید تا زمان ایجاد سازوکارهای امنیتی قوی‌تر با احتیاط بیشتری ادامه پیدا کند.

متا اعلام کرده در حال بررسی این حادثه است. طبق توضیحات این شرکت، یک خطای تنظیمات توسط شرکت Irregular که ارزیابی‌های امنیتی مدل‌های هوش مصنوعی متا را انجام می‌دهد، باعث شد یکی از مدل‌ها به اینترنت دسترسی پیدا کند.

متا در بیانیه‌ای اعلام کرد این مدل توانسته از یک آسیب‌پذیری امنیتی در یک سرویس متعلق به یک شرکت ثالث استفاده کند؛ اتفاقی مشابه مواردی که پیش‌تر در شرکت‌های دیگر گزارش شده بود.

بر اساس گزارش‌ها، مدل موردنظر Muse Spark 1.1 بوده است؛ مدلی که متا آن را یکی از قدرتمندترین مدل‌های خود برای برنامه‌نویسی و انجام وظایف خودکار معرفی کرده است. این مدل توانسته وارد سیستم‌های یک شرکت نامشخص شود و تغییراتی در محیط داخلی آن ایجاد کند.

شرکت Irregular اعلام کرده این اتفاق ناشی از همان مشکل محیط آزمایش بوده که پیش‌تر در مورد Anthropic نیز رخ داده بود و به معنای «فرار مدل از محیط ایزوله» یا یک حمله سایبری پیچیده نبوده است.

این شرکت همچنین اعلام کرده هیچ مشکل امنیتی باز باقی نمانده و در حال تهیه گزارشی برای ارائه بهترین روش‌ها جهت اجرای امن آزمایش‌های امنیتی هوش مصنوعی است.

نگرانی‌ها درباره خطرات سایبری هوش مصنوعی

این اتفاق‌ها نگرانی‌هایی را میان قانون‌گذاران آمریکایی ایجاد کرده است؛ نگرانی از اینکه مدل‌های قدرتمند هوش مصنوعی در آینده بتوانند برای اجرای حملات سایبری یا کمک به آن‌ها مورد استفاده قرار گیرند.

همزمان، دولت آمریکا در حال گفت‌وگو با شرکت‌های بزرگ هوش مصنوعی از جمله متا، Anthropic، OpenAI و گوگل درباره چارچوب‌های آزمایش امنیتی برای مدل‌های پیشرفته است.

انتهای پیام