ابزار جدید انویدیا برای جلوگیری از فرار عاملهای هوش مصنوعی
انویدیا مجموعهای از ابزارهای نرمافزاری جدید را برای کنترل و مهار عاملهای هوش مصنوعی عرضه کرده است که به گفته این شرکت، میتوانستند از نفوذ عاملهای سرکش به سامانههای خارجی و حتی حمله اخیر به هاجینگفیس جلوگیری کنند.
به گزارش سیتنا، انویدیا روز دوشنبه مجموعهای از ابزارهای نرمافزاری برای افزایش ایمنی عاملهای هوش مصنوعی عرضه کرد و مدعی شد این ابزارها میتوانستند از حمله به هاجینگفیس، پلتفرم کدنویسی هوش مصنوعی که انویدیا چند ماه پس از حمله عاملهای سرکش اوپنایآی با پرداخت ۱۳ میلیارد دلار خریداری کرد، جلوگیری کنند.
این اقدام در شرایطی انجام شده که اوپنایآی و آنتروپیک، دو آزمایشگاه بزرگ هوش مصنوعی آمریکا، در حال بررسی موارد متعددی هستند که در آن عاملهای هوش مصنوعی این شرکتها، یعنی سامانههایی که قادر به انجام وظایف پیچیده هستند، به سامانههای تجاری و دولتی نفوذ کردهاند.
جنسن هوانگ، مدیرعامل انویدیا، که تراشههای این شرکت نقش مهمی در رونق هوش مصنوعی داشتهاند، با درخواستها برای وضع مقررات گسترده در حوزه ایمنی هوش مصنوعی مخالفت کرده و در عوض، خروج عاملهای هوش مصنوعی از محیطهای کنترلشده را یک مسئله مهندسی دانسته است؛ مشابه تلاش برای افزایش ایمنی خودروها.
یکی از ابزارهایی که انویدیا روز دوشنبه عرضه کرد، OpenShell نام دارد و از قابلیتهای سختافزاری پردازندههای انویدیا برای محدود کردن فعالیت عاملهای هوش مصنوعی استفاده میکند. انویدیا اعلام کرده است که با شرکتهای آرم و اینتل نیز همکاری میکند تا این سیستم روی پردازندههای آنها نیز قابل استفاده باشد.
انویدیا این مجموعه ابزارها را با همکاری دهها شریک تجاری، از جمله آنتروپیک، عرضه کرده است.
جاستین بویتانو، معاون و مدیرکل بخش رایانش سازمانی انویدیا، گفت ابزارهای جدید در صورت استفاده زودهنگام در آزمایشگاههای پیشرو هوش مصنوعی برای ارزیابی مدلها، میتوانستند از حمله به هاجینگفیس جلوگیری کنند.
او گفت: «بر اساس آنچه میدانیم، اگر این پلتفرم امنیتی جدید در مراحل اولیه ارزیابی مدلها در آزمایشگاههای پیشرو استفاده میشد، میتوانست از این نفوذ جلوگیری کند.»
سامانه دیگری به نام Sentry نیز در کنار OpenShell و با استفاده از یک تراشه جداگانه انویدیا فعالیت میکند تا اگر یک عامل هوش مصنوعی سرکش تلاش کند از محیط ایزولهشده خود در پردازنده خارج شود، فعالیت آن را متوقف کند.
ابزارهای انویدیا با استفاده از فرمولهای ریاضی تلاش میکنند زمانی را تشخیص دهند که عاملهای هوش مصنوعی در حال استفاده از روشهای دور زدن محدودیتها هستند؛ برای مثال زمانی که یک عامل اصلی چند «عامل فرعی» ایجاد میکند تا محدودیتهای اعمالشده علیه خود را دور بزند.
علی گلشن، مدیر ارشد نرمافزار هوش مصنوعی انویدیا، گفت: «موضوع درباره رفتار عاملمحور است؛ یعنی مجموعهای از عاملها و نحوه همکاری آنها با یکدیگر.»
انتهای پیام
افزودن دیدگاه جدید