نامه ۱۱۰۰ متخصص هوش مصنوعی به دولت آمریکا: پیش از خودمختار شدن هوش مصنوعی، قوانین نظارتی بسازید

به گزارش سیتنا، مقامات ارشد برخی از شرکت‌های پیشرو هوش مصنوعی آمریکا معتقدند زمان آن رسیده است که دولت فدرال راهکاری برای کاهش سرعت توسعه این فناوری، در صورت نیاز، پیدا کند.

در نامه‌ای سرگشاده که بیش از ۱۱۰۰ نفر از کارکنان حوزه هوش مصنوعی از شرکت‌هایی مانند OpenAI، Anthropic، گوگل و متا آن را امضا کرده‌اند، آمده است: «ما از دولت آمریکا می‌خواهیم از یک تلاش بین‌المللی برای توسعه ابزارهای فنی و چارچوب‌های حکمرانی لازم حمایت کند تا بتوان سرعت پیشرفت توسعه خودکار هوش مصنوعی را به شکل هدفمند مدیریت کرد.»

در میان امضاکنندگان این نامه، نام چهره‌های شناخته‌شده‌ای مانند جک کلارک و جرد کاپلان، از بنیان‌گذاران Anthropic، یاکوب پاچوکی، دانشمند ارشد OpenAI، شنجیا ژائو، دانشمند ارشد متا و آنکا دراگان، مدیر بخش ایمنی و هم‌راستاسازی هوش مصنوعی در Google DeepMind دیده می‌شود.

نگرانی از هوش مصنوعی که خودش را توسعه می‌دهد

این نامه تمرکز ویژه‌ای بر مفهوم «توسعه خودکار هوش مصنوعی» دارد؛ موضوعی که به توانایی سیستم‌های هوش مصنوعی برای طراحی و بهبود نسخه‌های جدید خودشان اشاره می‌کند. در صنعت هوش مصنوعی از این مفهوم با عنوان «بهبود خودکار بازگشتی» (Recursive Self-Improvement) یاد می‌شود.

شرکت Anthropic پیش‌تر اعلام کرده بود که مدل‌های هوش مصنوعی Claude این شرکت به سرعت به چنین مرحله‌ای نزدیک می‌شوند. در این نامه آمده است: «پیش‌بینی دقیق میزان شتاب گرفتن پیشرفت هوش مصنوعی در این مرحله دشوار است، اما خطر واقعی این وجود دارد که توسعه توانایی‌های این فناوری با سرعتی فراتر از توانایی ما برای درک یا کنترل سیستم‌های ایجادشده پیش برود.»

جان شولمن، دانشمند ارشد شرکت Thinking Machines و از امضاکنندگان نامه، اعلام کرد که هدفش از حمایت از این نامه، جلب توجه به ضرورت ایجاد سازوکارهای هماهنگی برای دوره‌ای است که تحقیقات خودکار هوش مصنوعی باعث افزایش سرعت پیشرفت فناوری می‌شود.

او همچنین تأکید کرد که شرکت‌های فعال در این حوزه باید حتی پیش از ورود دولت آمریکا، به‌صورت داوطلبانه طراحی چنین سازوکارهایی را آغاز کنند.

افزایش درخواست‌ها برای قانون‌گذاری هوش مصنوعی

این نامه نشان می‌دهد بخش بزرگی از فعالان صنعت هوش مصنوعی به سمت حمایت از ایجاد قوانین و چارچوب‌های نظارتی حرکت کرده‌اند. در هفته‌های اخیر نیز مدیران شرکت‌های بزرگ این حوزه، از جمله داریو آمودی، مدیرعامل Anthropic، سم آلتمن، مدیرعامل OpenAI و دِمیس هاسابیس، رئیس Google DeepMind، پیشنهادهایی برای ایجاد نوعی نظام جهانی نظارت بر هوش مصنوعی مطرح کرده‌اند.

بحث درباره قانون‌گذاری هوش مصنوعی پس از آن جدی‌تر شد که یکی از مدل‌های OpenAI توانست از محیط آزمایشی خود خارج شود و به سیستم‌های پلتفرم متن‌باز Hugging Face نفوذ کند. سم آلتمن این اتفاق را «یادآوری جدی درباره اهمیت و خطرات تحولات فعلی» توصیف کرده است.

اختلاف نظر درباره رویکرد دولت آمریکا

دولت دونالد ترامپ تاکنون رویکردی محدودتر نسبت به قانون‌گذاری هوش مصنوعی داشته و از مقررات سخت‌گیرانه حمایت نکرده است. با این حال، قدرت روزافزون مدل‌های پیشرفته هوش مصنوعی باعث افزایش نگرانی میان برخی مقام‌های دولتی و مدیران شرکت‌ها شده است.

کاخ سفید پیش‌تر برای مدت کوتاهی محدودیت‌هایی را برای عرضه مدل قدرتمند Fable 5 شرکت Anthropic اعمال کرد و بعداً از OpenAI خواست عرضه مدل GPT-5.6 را به تعویق بیندازد.

دونالد ترامپ پیش‌تر گفته بود مقررات بیش از حد سخت‌گیرانه می‌تواند توان رقابت آمریکا با شرکت‌های هوش مصنوعی چین را کاهش دهد. با وجود افزایش توافق درباره ضرورت اقدام، کنگره آمریکا هنوز نتوانسته سیاستی را تصویب کند که از هر دو مجلس عبور کرده و به میز رئیس‌جمهور برسد. در همین فاصله، برخی ایالت‌ها قوانین مستقلی برای این صنعت وضع کرده‌اند.

برای مثال، ایالت نیویورک ساخت موقت مراکز داده عظیم جدید مورد نیاز شرکت‌های هوش مصنوعی و ارائه‌دهندگان بزرگ خدمات ابری را برای یک سال متوقف کرده است.

رقابت جهانی مانع کاهش سرعت توسعه AI شده است

در این نامه آمده است: «هر شرکت و هر کشور تحت فشار شدید رقابتی قرار دارد تا به‌تنهایی سرعت توسعه را کاهش ندهد. در حال حاضر، جهان فاقد ابزارهای فنی و چارچوب‌های حکمرانی لازم برای مدیریت هدفمند سرعت پیشرفت هوش مصنوعی پیشرفته است.»

اگرچه بسیاری از فعالان صنعت درباره ضرورت قانون‌گذاری توافق دارند، اما درباره جزئیات این قوانین اختلاف نظر وجود دارد. داریو آمودی پیشنهاد کرده است نهادی مستقل مشابه اداره هوانوردی فدرال آمریکا (FAA) ایجاد شود که مدل‌های پیشرفته هوش مصنوعی را آزمایش کند و در صورت مشاهده خطر، اختیار توقف عرضه آن‌ها را داشته باشد.

دمیس هاسابیس نیز پیشنهاد داده است ابتدا شرکت‌های توسعه‌دهنده مدل‌های پیشرفته، به‌صورت داوطلبانه مدل‌های خود را تا ۳۰ روز پیش از عرضه برای بررسی ارائه کنند و در مراحل بعد، دریافت مجوز پیش از عرضه اجباری شود.

این نامه که نخستین بار توسط بلومبرگ گزارش شد، با همکاری دو سازمان غیرانتفاعی Guidelight AI Standards و Encode AI تهیه شده است؛ دو مجموعه‌ای که بر توسعه استانداردهای ایمنی هوش مصنوعی تمرکز دارند.

انتهای پیام