راهکار افزایش ایمنی هوش مصنوعی

به گزارش سیتنا، حوزه ایمنی هوش مصنوعی هنوز توسعه نیافته است، که باعث می‌شود تمام شرکت‌ها و سازمان‌هایی که از این فناوری استفاده می‌کنند در معرض خطرات جدی قرار بگیرند.

تاکنون موارد زیادی از هوش مصنوعی و یادگیری ماشینی خرابکاری کرده‌اند. در زمینه‌های مختلف، از پزشکی گرفته تا اجرای قانون، الگوریتم‌هایی که قرار بوده «بی‌طرفانه» رفتار کنند، خودشان به عامل جهت‌گیری‌های مخفی یا علنی تبدیل شده و اعتبار سازندگان و کاربران خود را زیر سوال برده‌اند.

کارشناسان می‌گویند به منظور جلوگیری از مشکلات احتمالی و همزمان بهره‌مندی از مزایای هوش مصنوعی، کاربران این فناوری باید روی مشکلاتی متمرکز شوند که یافتن راه حل‌شان برای انسان نسبتاً دشوار است، اما تأیید راه حل‌هایی که هوش مصنوعی برای آنها می‌یابد، برای انسان آسان است.

به عنوان مثال یک متن بسیار طولانی را در نظر بگیرید که باید ویرایش شود. اینجا تشخیص اشتباهات لغوی و دستوری برای انسان زمان‌بر است و گاهی ممکن است دشوار باشد. اما هنگامی که هوش مصنوعی یک خطای بالقوه را در متن شناسایی کرد، انسان می‌تواند به آسانی بررسی کند که آیا هوش مصنوعی درست تشخیص داده است یا خیر، و بعد تغییرات لازم را اِعمال کند.

تمرکز بر چنین مشکلاتی هزینه استفاده از هوش مصنوعی را کاهش و فایده آن را افزایش می‌دهد. وجود ناظر انسانی به منظور تأیید خروجی محتوای تولیدشده توسط هوش مصنوعی برای ایمنی این فناوری بسیار مهم است. این به هوش مصنوعی اجازه می‌دهد تا روی حل مشکلاتی که برای انسان‌ها دشوار است تمرکز کند.

نکته کلیدی این است که گرچه راه‌حل‌ها را هوش مصنوعی پیشنهاد می‌کند، اما این همیشه انسان است که آنها را مورد تأیید نهایی قرار می‌دهد. اجازه دادن به هوش مصنوعی برای اینکه مستقیماً از طرف یک شرکت بزرگ با مردم صحبت کند یا اقدامی انجام دهد، کاری خطرناک است و باید از آن اجتناب کرد.

انتهای پیام