درخواست توقف شتاب توسعه مدل‌های هوش مصنوعی

به گزارش سیتنا، مدیرعامل شرکت Anthropic با ابراز نگرانی درباره سوءاستفاده‌های احتمالی از هوش مصنوعی، از شرکت‌های فعال در این حوزه خواست سرعت توسعه قابلیت‌های مدل‌های هوش مصنوعی را کاهش دهند و زمان بیشتری برای مدیریت خطرات این فناوری اختصاص دهند.

داریو آمودی، مدیرعامل Anthropic، در مقاله‌ای با ارائه یک چارچوب سه‌مرحله‌ای تأکید کرد که شرکت‌های پیشرو هوش مصنوعی باید توسعه مدل‌ها را با ملاحظات ایمنی بیشتری پیش ببرند. این برنامه شامل حضور ارزیابان مستقل با دسترسی مشابه کارکنان داخلی شرکت‌ها، همکاری میان آزمایشگاه‌های هوش مصنوعی برای تعیین استانداردهای ایمنی و تقویت همکاری‌های بین‌المللی برای مدیریت ریسک‌های این فناوری است.

آمودی اعلام کرد که هدف او توقف پیشرفت هوش مصنوعی یا متوقف کردن آموزش مدل‌ها نیست، بلکه ایجاد فرصت کافی برای هم‌راستا کردن و ایمن‌سازی سیستم‌ها پیش از عرضه گسترده‌تر آن‌هاست.

این اظهارات پس از افزایش نگرانی‌ها درباره توانایی‌های جدید هوش مصنوعی و مواردی از رفتارهای غیرمنتظره عامل‌های هوش مصنوعی مطرح شده است. اخیراً گزارش‌هایی درباره استفاده نادرست از مدل‌های هوش مصنوعی برای فعالیت‌هایی مانند توسعه سلاح، عملیات سایبری، نظارت و کلاهبرداری منتشر شده است.

مدیرعامل Anthropic همچنین پیشنهاد کرد شرکت‌های بزرگ هوش مصنوعی به‌صورت داوطلبانه برای تدوین استانداردهای ایمنی همکاری کنند. او معتقد است این همکاری می‌تواند به شرکت‌ها اجازه دهد بدون از دست دادن مزیت رقابتی، اقدامات لازم برای کاهش خطرات را انجام دهند.

سام آلتمن، مدیرعامل OpenAI، و ایلان ماسک، مدیرعامل xAI، نیز با برخی پیشنهادهای آمودی از جمله استفاده از ارزیابان مستقل برای نظارت بر ایمنی مدل‌ها موافقت کرده‌اند.

با این حال، رقابت اقتصادی میان شرکت‌های بزرگ هوش مصنوعی همچنان ادامه دارد؛ چراکه OpenAI و Anthropic هر دو در مسیر عرضه اولیه سهام قرار دارند و توسعه قابلیت‌های جدید هوش مصنوعی می‌تواند بر ارزش‌گذاری آینده آن‌ها تأثیر بگذارد.

آمودی همچنین تأکید کرد که هرگونه کاهش سرعت توسعه هوش مصنوعی در کشورهای دموکراتیک باید با هدف حفظ برتری شرکت‌های آمریکایی در برابر چین انجام شود و خواستار کنترل‌های سخت‌گیرانه‌تر برای جلوگیری از سرقت تراشه‌ها، مدل‌ها و فناوری‌های پیشرفته هوش مصنوعی شد.

انتهای پیام