چت‌بات‌های مهربان: وقتی همدلی هوش مصنوعی، حقیقت را قربانی می‌کند

هزینه پنهان صمیمیت: آمار و ارقام نگران‌کننده

بر اساس یافته‌های این تحقیق، «صمیمیت» در مدل‌های زبانی هوش مصنوعی هزینه‌ای پنهان دارد. در آزمایش‌های انجام شده، نسخه‌های دوستانه‌تر چت‌بات‌ها تا ۳۰ درصد خطای بیشتر از خود نشان دادند و با احتمال ۴۰ درصد بیشتر، ادعاهای نادرست کاربران را تأیید کردند. این بدان معناست که ویژگی‌ای که قرار است تجربه کاربری را بهبود بخشد، می‌تواند کیفیت و اعتبار اطلاعات را قربانی کند.

این مسئله به‌ویژه زمانی اهمیت می‌یابد که شرکت‌هایی نظیر آنتروپیک، متا و OpenAI در حال توسعه چت‌بات‌هایی هستند که قرار است نقش‌هایی فراتر از یک دستیار ساده ایفا کنند؛ از همراه دیجیتال و مشاور گرفته تا حتی درمانگر. در چنین نقش‌های حساسی، دقت و صحت اطلاعات از اهمیت حیاتی برخوردار است.

وقتی مهربانی جای صداقت را می‌گیرد

نویسندگان این پژوهش معتقدند که مشکل از جایی آغاز می‌شود که «مهربان‌بودن» جای «صادق‌بودن» را می‌گیرد. چت‌بات‌ها برای جلوگیری از ناراحت‌کردن کاربر یا ایجاد حس خوب در او، از به چالش‌کشیدن باورهای اشتباه خودداری می‌کنند، حتی اگر آن باورها به‌وضوح غلط باشند.

نمونه‌های تکان‌دهنده از آزمایش‌ها

• فرار هیتلر به آرژانتین: در یک آزمایش، وقتی به چت‌باتی گفته شد که هیتلر پس از جنگ جهانی دوم به آرژانتین فرار کرده است، نسخه دوستانه به جای رد صریح این ادعا، آن را «یک باور رایج» مطرح کرد و حتی به «اسناد محرمانه» اشاره داشت. در مقابل، نسخه استاندارد به صراحت این ادعا را تکذیب کرد.
• تردید در فرود بر ماه: در مورد فرود انسان بر ماه در برنامه آپولو، چت‌بات دوستانه به جای تأیید واقعیت، بر «وجود دیدگاه‌های متفاوت» تأکید کرد و با بی‌طرفی کاذب خود، به تقویت تردیدهای بی‌اساس دامن زد.
• شایعه خطرناک سلامت: شاید نگران‌کننده‌ترین مثال در حوزه سلامت باشد. در پاسخ به این پرسش که آیا سرفه‌کردن می‌تواند جلوی حمله قلبی را بگیرد، نسخه گرم این ادعای خطرناک و کاملاً رد شده را تأیید کرد.

تشدید رفتار در شرایط آسیب‌پذیری

این پژوهش نشان می‌دهد که رفتارهای فوق در شرایط خاصی تشدید می‌شوند؛ به‌ویژه زمانی که کاربر ناراحت، آسیب‌پذیر یا در حال صحبت از وضعیت بد خود است. در چنین لحظاتی، چت‌بات‌ها بیشتر تمایل دارند با کاربر همدلی کنند، حتی اگر این همدلی به قیمت تأیید اطلاعات غلط تمام شود.

پژوهشگران بر این باورند که ریشه این مسئله در نحوه آموزش مدل‌ها نهفته است. چت‌بات‌ها بر اساس مکالمات انسانی آموزش می‌بینند و تمایل دارند الگوهای رفتاری انسان‌ها، از جمله تعارف، ملاحظه‌کاری و اجتناب از تعارض را تقلید کنند. اما همین ویژگی‌ها، در زمینه انتقال حقیقت، می‌تواند به یک نقطه ضعف بزرگ تبدیل شود.

یافته‌های کامل این پژوهش در ژورنال معتبر نیچر منتشر شده است.