هشدار درباره حملات سایبری هوش مصنوعی؛ حوادث بزرگ‌تری در راه است
رئیس گوگل دیپ‌مایند، با هشدار درباره افزایش خطر حملات سایبری با استفاده از هوش مصنوعی اعلام کرد که حوادث اخیر، نشانه‌هایی اولیه از تهدیدهای بزرگ‌تر در آینده هستند و در صورت تقویت‌نشدن امنیت این سامانه‌ها، جهان ممکن است طی سال آینده و سال‌های پس از آن با حملات جدی‌تری روبه‌رو شود؛ او همچنین بر ضرورت تدوین استانداردهای بین‌المللی ایمنی هوش مصنوعی تأکید کرد.
به گزارش سیتنا، دمیس هاسابیس، هم‌بنیان‌گذار و رئیس گوگل دیپ‌مایند، روز چهارشنبه گفت حملات سایبری اخیر که با استفاده از عامل‌های هوش مصنوعی انجام شده‌اند، «زنگ هشدار اولیه» هستند و اگر امنیت این سامانه‌ها تقویت نشود، جهان ممکن است به‌زودی با حوادث بزرگی روبه‌رو شود.
رفتارهای خارج از کنترل عامل‌های هوش مصنوعی، از جمله نفوذ به شبکه‌های سازمانی و همچنین افشای اخیر شرکت آنتروپیک درباره ارسال یک گزارش دروغین قتل از سوی یک مدل هوش مصنوعی به وب‌سایت پلیس، هشدار پژوهشگران را در پی داشته و نگرانی‌ها درباره پیشرفت سریع این فناوری را افزایش داده است.
هاسابیس گفت برای به‌کارگیری رویه‌های ایمنی مشابه آنچه در حوزه‌هایی مانند زیست‌شناسی و صنعت هسته‌ای برای حفاظت از سامانه‌های حیاتی استفاده می‌شود، «کارهای زیادی باید انجام شود». او افزود که در نهایت به نوعی نهاد بین‌المللی برای تدوین استانداردها نیاز خواهد بود.
هاسابیس که دانشمند ارشد شرکت آلفابت، شرکت مادر گوگل، نیز هست، در یک اجلاس هوش مصنوعی در دوبلین گفت: «فکر می‌کنم این حملات سایبری، زنگ هشدار اولیه‌ای برای ما هستند؛ زیرا سامانه‌ها هنوز آن‌قدر قدرتمند نیستند و به همین دلیل، حوادث رخ‌داده نیز چندان بزرگ نبوده‌اند.»
او هشدار داد: «اما اگر در صنعت، شرکت‌ها و دولت‌ها برای ایمن‌سازی این سامانه‌ها اقدامات بیشتری انجام ندهیم، ممکن است از سال آینده و طی یکی دو سال بعد با حوادث بزرگی مواجه شویم.»
برد اسمیت، رئیس مایکروسافت، نیز در این نشست گفت رفتارهای خارج از کنترل هوش مصنوعی، سال ۲۰۲۶ را به سالی «تأمل‌برانگیز» تبدیل کرده است و برای آنکه ایمنی همگام با نوآوری پیش برود، تصویب قوانین و مقررات جدید در حوزه ایمنی هوش مصنوعی فوریت دارد.
او گفت: «هیچ شرکت یا فناوری‌ای نباید فراتر از قانون باشد. ما به قانون و مقررات نیاز داریم؛ اما این مقررات باید منطقی و متعادل باشند و نوآوری‌ها را در نظر بگیرند.»
اسمیت افزود: «این مخالفت شدید برخی افراد در صنعت با مقررات‌گذاری، واقعاً چیزی است که باید از آن عبور کنیم.»
هاسابیس گفت اگرچه ایجاد یک نهاد بین‌المللی برای تدوین استانداردها راهکاری بدیهی به نظر می‌رسد، اما چنین نهادی باید انعطاف‌پذیر و دقیق عمل کند تا مانع نوآوری نشود.
او توضیح داد: «آنچه نیاز داریم، ایجاد یک فرایند صدور گواهی است که به‌صورت پویا توسعه یابد، متناسب با سطح ریسک‌ها باشد و بتواند با توجه به مسیر پیشرفت فناوری، به‌سرعت تغییر کند.»
انتهای پیام
افزودن دیدگاه جدید