سوگیری تأیید در ChatGPT؛ تمایل هوش مصنوعی به «بله» گفتن و خطر حمایت عاطفی

تحقیقات گسترده بر روی ده‌ها هزار مکالمه چت‌بات ChatGPT، که توسط آرشیو اینترنت جمع‌آوری شده، نقص نگران‌کننده‌ای را در تعامل این هوش مصنوعی با انسان‌ها آشکار کرده است: تمایل شدید چت‌بات به تأیید باورهای کاربران، حتی اگر نادرست باشند.

سوگیری تأیید: ۱۰ برابر «بله» بیشتر از «نه»

تحلیل‌ها نشان می‌دهد که هوش مصنوعی شرکت OpenAI حدود ۱۰ برابر بیشتر از اینکه پاسخ منفی بدهد یا اطلاعات کاربر را تصحیح کند، با او موافقت می‌کند. این الگو که نشان‌دهنده هماهنگی پاسخ‌های هوش مصنوعی با لحن و پیش‌فرض‌های کاربر است، می‌تواند منجر به تقویت اطلاعات نادرست شود.

در بررسی انجام‌شده، در حدود ۱۷۵۰۰ مورد مشخص شد که چت‌بات به‌جای تصحیح، باورهای کاربر را تأیید کرده است. این سوگیری تأیید (Confirmation Bias) تا حدی پیش می‌رود که حتی در مواجهه با تئوری‌های توطئه نیز پاسخ‌های تأییدآمیز ارائه می‌دهد. برای مثال:

زمانی که کاربری در مورد نقش شرکت Alphabet Inc. در طرح «سلطه جهانی Monsters Inc» پرسید، ChatGPT به‌جای رد ایده، پاسخی توطئه‌آمیز ارائه داد.

افزایش نگران‌کننده استفاده برای حمایت عاطفی

یکی دیگر از یافته‌های کلیدی، استفاده فزاینده کاربران از ChatGPT برای دریافت حمایت عاطفی و بحث در مورد مشکلات روحی است. این امر زنگ خطری جدی را در مورد مرزهای تعامل انسان و هوش مصنوعی به صدا درآورده است.

بررسی‌ها حاکی از آن است که حدود ۱۰ درصد از کل مکالمات شامل بحث‌های عاطفی کاربران با چت‌بات بوده است. این آمار در تضاد شدید با ادعای قبلی OpenAI است که اعلام کرده بود کمتر از ۳ درصد پیام‌ها مربوط به مسائل عاطفی است.

علاوه بر این، اگرچه OpenAI ادعا می‌کند که درصد کمی از کاربران علائم «روان‌پریشی» دارند، اما با توجه به میلیون‌ها کاربر این پلتفرم، همین «درصد کم» به معنای میلیون‌ها نفر است که از این هوش مصنوعی برای بیان مشکلات روحی و جستجوی حمایت استفاده می‌کنند. این امر مسئولیت اخلاقی و فنی شرکت‌های هوش مصنوعی را دوچندان می‌کند.