شکایت والدین دختر ۱۳ ساله از گوگل به‌دلیل نقش هوش مصنوعی در برنامه‌ریزی خودکشی
والدین یک دختر ۱۳ ساله در آمریکا با طرح شکایتی علیه گوگل مدعی شده‌اند قابلیت‌های هوش مصنوعی موتور جست‌وجوی این شرکت به دخترشان کمک کرده است تا برای خودکشی احتمالی و مراسم خاکسپاری خود برنامه‌ریزی کند؛ پرونده‌ای که بار دیگر نگرانی‌ها درباره ایمنی ابزارهای هوش مصنوعی برای کودکان را افزایش داده است.
به گزارش سیتنا، پدر و مادر یک دختر ۱۳ ساله از شرکت گوگل شکایت کرده‌اند و مدعی شده‌اند دخترشان از قابلیت‌های هوش مصنوعی این شرکت در رایانه‌ای که مدرسه در اختیارش قرار داده بود، برای برنامه‌ریزی درباره یک خودکشی احتمالی و مراسم خاکسپاری خود استفاده کرده است.
این دادخواست روز دوشنبه دوم نوامبر در دادگاهی در ایالت کالیفرنیا ثبت شده و بنا بر گزارش‌ها، نخستین پرونده‌ای است که گوگل را به سهل‌انگاری در قبال قابلیت‌های جست‌وجوی مجهز به هوش مصنوعی متهم می‌کند؛ قابلیت‌هایی که از طریق کروم‌بوک، یکی از لپ‌تاپ‌های ارزان‌قیمت گوگل که به‌طور گسترده در مدارس استفاده می‌شود، در دسترس بوده‌اند.
این دختر که در اسناد قضایی با نام مستعار «اِما» معرفی شده است، به دلیل مسدود شدن دسترسی به برنامه جمینای گوگل و چت‌جی‌پی‌تی اوپن‌ای‌آی از سوی مدرسه، امکان استفاده از این دو ابزار را نداشت؛ با این حال، همچنان می‌توانست از موتور جست‌وجوی گوگل و قابلیت‌های هوش مصنوعی تعبیه‌شده در آن استفاده کند.
بر اساس ادعای مطرح‌شده در شکایت، اِما با وجود نداشتن هیچ‌گونه سابقه بیماری روانی، طی چند ماه پس از استفاده از این موتور جست‌وجو وارد مسیری شد که خانواده‌اش آن را «سقوط تدریجی به سوی یک بحران شدید روان‌شناختی» توصیف کرده‌اند.
در ۱۷ مارس، مدرسه پس از آن‌که نرم‌افزار نظارتی آن سندی با عنوان «خاکسپاری» را شناسایی کرد، موضوع را به والدین دختر اطلاع داد. مادر اِما نیز بعدتر متوجه شد که دخترش در حال نوشتن نامه خداحافظی است؛ موضوعی که باعث مداخله پدر او شد.
اندرو لیدل، وکیل خانواده، روز پنجشنبه پنجم نوامبر به خبرگزاری فرانسه گفت: «مدارس باید قابلیت جست‌وجو را غیرفعال کنند و تا زمانی که گوگل حالت هوش مصنوعی را از جست‌وجو حذف نکرده یا اطمینان حاصل نکرده است که تک‌تک دانش‌آموزان هنگام تعامل با هوش مصنوعی همواره در امنیت کامل هستند، آن را غیرفعال نگه دارند.»
افزایش فشارهای حقوقی بر شرکت‌های فناوری
گوگل اعلام کرده است که حالت هوش مصنوعی این شرکت شامل تدابیر حفاظتی برای جلوگیری از خودآسیب‌رسانی و تلاش برای دور زدن این محدودیت‌هاست.
خوزه کاستاندا، سخنگوی گوگل، در گفت‌وگو با خبرگزاری فرانسه اظهار کرد: «ما در حال بررسی ادعاهای مطرح‌شده در این دادخواست هستیم و این موضوع را بسیار جدی می‌گیریم.»
شرکت اوپن‌ای‌آی نیز با چندین شکایت حقوقی مرتبط با مرگ افراد روبه‌رو شده است. از جمله این پرونده‌ها، شکایت والدین آدام رین، نوجوان ۱۶ ساله‌ای است که بنا بر ادعای خانواده‌اش، پس از دریافت توصیه‌های آسیب‌زا از چت‌جی‌پی‌تی دست به خودکشی زده است.
همچنین در ماه ژانویه، گوگل و شرکت کاراکتر اِی‌آی با حل‌وفصل چندین شکایت مطرح‌شده از سوی خانواده‌های نوجوانان در خارج از دادگاه موافقت کردند.
در پرونده‌ای حقوقی جداگانه، گوگل، تیک‌تاک و متا روز چهارشنبه علیه ایالت کالیفرنیا شکایت کردند تا مانع اجرای قانونی شوند که استفاده از قابلیت‌های اعتیادآور شبکه‌های اجتماعی را برای کاربران زیر ۱۶ سال ممنوع می‌کند.
این قانون که در ماه سپتامبر به امضای گاوین نیوسام، فرماندار کالیفرنیا، رسید، قرار است از اول ژانویه ۲۰۲۷ اجرایی شود.
انتهای پیام
افزودن دیدگاه جدید