چت‌بات‌ها می‌توانند ترجیحات رأی‌دهندگان را تا ۱۵ درصد تغییر دهند

به گزارش سیتنا، در مطالعه‌ای که در نیچر منتشر شده، ترجیحات شرکت‌کنندگان در انتخابات واقعی تا حدود ۱۵ درصد پس از گفت‌وگو با یک چت‌بات تغییر یافته است. دیوید رند، نویسنده این پژوهش، می‌گوید این یافته‌ها نشان می‌دهد چت‌بات‌ها با اتکا به توانایی ترکیب حجم زیادی از اطلاعات در قالب مکالمه، قدرت تأثیرگذاری بالایی بر رأی‌دهندگان دارند. هر دو مقاله تأکید می‌کنند که این تغییرات نه از طریق احساسات، بلکه از طریق ارائه متوالی اطلاعات رخ داده است؛ روشی که احتمال تولید ادعاهای نادرست را نیز افزایش داده است.

لیزا آرگایل، پژوهشگر علوم اجتماعی محاسباتی، می‌گوید این قدرت اطلاعاتی می‌تواند هوش مصنوعی را به «ابزاری خطرناک» تبدیل کند، زیرا ممکن است به‌جای آگاه‌تر شدن مردم، باعث بیشتر ناآگاه شدن آن‌ها شود. او گستره وسیع این مطالعات را فراتر از معمول علوم اجتماعی توصیف می‌کند.

برای سنجش میزان نفوذ این فناوری، پژوهشگران از حدود ۶۰۰۰ شرکت‌کننده در سه کشور کانادا، لهستان و ایالات متحده خواستند نظرشان درباره نامزدهای انتخابات رهبری سال گذشته را از صفر تا ۱۰۰ امتیازدهی کنند. سپس گروهی از شرکت‌کنندگان به‌صورت تصادفی وارد گفت‌وگو با چت‌باتی شدند که برای حمایت از یک سیاستمدار خاص طراحی شده بود. پس از مکالمه، امتیازات دوباره ثبت شد و تغییر محسوسی نشان داد.

در آمریکا، بیش از ۲۳۰۰ نفر پیش از انتخابات ریاست‌جمهوری ۲۰۲۴ میان دونالد ترامپ و کامالا هریس در این آزمایش شرکت کردند. زمانی که چت‌بات برخلاف ترجیح اولیه فرد از نامزد دیگری حمایت می‌کرد، امتیاز افراد به‌طور متوسط بین ۲ تا ۴ واحد به سمت آن نامزد جابه‌جا شد؛ تغییری که با توجه به یافته‌های پیشین درباره اثر ناچیز تبلیغات سیاسی، قابل توجه است.

در کانادا و لهستان این جابه‌جایی حتی چشمگیرتر بود و به‌طور متوسط حدود ۱۰ واحد تغییر مشاهده شد. پژوهشگران می‌گویند قطبی بودن فضای سیاسی آمریکا می‌تواند علت کاهش اثر در این کشور باشد. در همه کشورها چت‌بات‌هایی که بر سیاست‌ها تمرکز داشتند، قانع‌کننده‌تر از آن‌هایی بودند که بر شخصیت نامزدها تکیه می‌کردند. برای رأی‌دهندگان لهستانی، حذف حقایق از مکالمه قدرت اقناعی چت‌بات را تا ۷۸ درصد کاهش داد.

در آزمایش‌های تکمیلی که ۷۷ هزار نفر در بریتانیا را شامل می‌شد، مشخص شد شرکت‌کنندگان به‌طور برابر تحت‌تأثیر اطلاعات درست و غلط قرار می‌گیرند. در این مطالعه که بیش از ۷۰۰ موضوع سیاسی را دربر می‌گرفت، امتیازات افراد پس از مکالمه، به‌طور متوسط بین ۵ تا ۱۰ واحد تغییر کرد و بیش از یک‌سوم این تغییرات دست‌کم یک ماه پایدار ماند.

این پژوهش‌ها نشان می‌دهد مکالمه رفت‌وبرگشتی عامل اصلی تأثیرگذاری است و مدل‌های مختلف، حتی نسخه‌های کوچک‌تر، تفاوت بزرگی در نتیجه ایجاد نمی‌کنند. همچنین شخصی‌سازی استدلال‌ها تنها اثر اندکی بر متقاعدسازی داشت.

نویسندگان نتیجه می‌گیرند که نگرانی اصلی باید درباره نحوه آموزش مدل‌ها و دستوراتی باشد که کاربران به آن‌ها می‌دهند؛ عواملی که می‌توانند باعث شوند چت‌بات‌ها صداقت را قربانی نفوذ سیاسی کنند. رند هشدار می‌دهد که هنگام تعامل با چت‌بات‌ها نباید فرض کرد همیشه دستورالعمل‌های خیرخواهانه دارند و باید به انگیزه طراحان و دستورکار سیاسی احتمالی آن‌ها توجه کرد.

انتهای پیام