توهم در مدل‌های زبانی هوش مصنوعی؛ دلایل و روش‌های کاهش خطا

مفهوم و ماهیت «توهم» در هوش مصنوعی

توهم هوش مصنوعی زمانی رخ می‌دهد که مدل‌های زبانی، با وجود اطمینان بالا، اطلاعاتی را تولید می‌کنند که یا نادرست هستند و یا کاملاً ساختگی. این مسئله صرفاً یک اشتباه ساده نیست، بلکه نتیجهٔ پیچیدگی‌های ذاتی در نحوهٔ یادگیری مدل، محدودیت‌های داده‌ای و فشارهای الگوریتمی است که بر سیستم وارد می‌شود.

مدل‌های زبانی فاقد «دانش واقعی» هستند؛ کارکرد آن‌ها بر اساس احتمال و پیش‌بینی کلمه یا عبارت بعدی است. به همین دلیل، هنگامی که اطلاعات کافی در دسترس نباشد، مدل به جای سکوت، تلاش می‌کند تا «حدس» بزند. این حدس‌ها به دلیل عدم دسترسی به داده‌های کافی یا صحیح، اغلب منجر به تولید محتوای غیرواقعی و تخیلی می‌شوند.

حتی جدیدترین و به‌روزترین مدل‌های هوش مصنوعی نیز در سال ۲۰۲۵ همچنان مستعد توهم هستند و پاسخ‌های نادرست یا غیرواقعی در اختیار کاربران می‌گذارند.

ریشه‌های اصلی پدیده هالوسینیشن

دلایل متعددی پشت اصرار مدل‌های زبانی برای ارائه پاسخ‌های نادرست نهفته است. این عوامل مستقیماً به طراحی و هدفمندی آن‌ها برمی‌گردد که بر «کاربردی بودن» و «پاسخگویی» تأکید دارد:

• ناتوانی در اعتراف به ندانستن: یکی از دلایل مهم این است که مدل‌ها آموزش ندیده‌اند که بگویند: «نمی‌دانم!». در نتیجه، در هر شرایطی تلاش می‌کنند پاسخی ارائه دهند که گاهی به ابداع پاسخ‌های تخیلی می‌انجامد.
• تشویق به پاسخگویی: مدل‌های زبانی تشویق می‌شوند که برای حفظ کاربردی بودن، همواره چیزی برای گفتن داشته باشند و ترجیح می‌دهند در صورت لزوم، حدس بزنند تا اینکه سکوت اختیار کنند.
• عدم دسترسی به داده‌های زنده: مدل‌ها معمولاً به داده‌های زنده و به‌روز دسترسی ندارند. بنابراین، اگر کاربری اطلاعات خبری و جدید را از آن‌ها بپرسد، احتمال دریافت پاسخ نادرست به شدت افزایش می‌یابد.
• طرح پرسش‌های هدایت‌کننده: گاهی نوع طرح پرسش توسط کاربر، مدل هوش مصنوعی را به سمتی سوق می‌دهد که برای پر کردن خلأ اطلاعاتی، پاسخ‌های نادرست تولید کند.

تأثیر زبان بر دقت پاسخ‌ها

یکی از یافته‌های کلیدی در مورد توهم مدل‌های زبانی، ارتباط آن با زبان پرسش و پاسخ است. اگر پرسش‌ها به زبان دیگری غیر از زبان اصلی مدل مطرح شوند، ممکن است میزان توهم تغییر کند. پاسخ این است که بله، این میزان متغیر است.

در زبان‌هایی مانند انگلیسی، به دلیل وجود داده‌های آموزشی بسیار بیشتر و منابع معمولاً معتبرتر، احتمال وقوع توهم و خطا نسبت به زبان‌های دیگر به طور محسوسی کمتر است.

چگونه خطای مدل‌های زبانی را کاهش دهیم؟

برای اطمینان از صحت پاسخ‌های دریافتی، کاربران باید هوش مصنوعی را صرفاً یک ابزار در نظر بگیرند و نه منبع حقیقت مطلق. می‌توان از طریق روش‌های زیر میزان خطای دریافتی را کاهش داد:

• ارزیابی دقیق نقل‌قول‌ها: بررسی و ارزیابی صحت هرگونه نقل‌قول یا ارجاع ارائه شده توسط مدل.
• چک کردن منابع: تلاش برای یافتن منبع اصلی اطلاعات ارائه شده.
• جست‌وجوی بیشتر: طرح پرسش‌های بیشتر و جزئی‌تر از مدل زبانی برای سنجش سازگاری و دقت پاسخ‌ها.