چالش هذیان‌گویی در مدل‌های هوش مصنوعی و خطرات آن برای کاربران

مدل‌های هوش مصنوعی مدت‌هاست با پدیده‌ای به‌نام هذیان (hallucination) دست‌وپنجه نرم می‌کنند؛ اصطلاحی که به ادعاهای ساختگی و نادرستی اشاره دارد که مدل‌های زبانی بزرگ آن‌ها را به‌عنوان واقعیت به افراد ارائه می‌دهند. با پیشرفت مدل‌ها، این پدیده در حال وخیم‌تر شدن است و به نظر می‌رسد که مدل‌های جدید که با هدف استدلال و تحلیل پیش از پاسخ طراحی‌شده‌اند، بیشتر از نسل‌های پیشین دچار خطا و توهم می‌شوند. تعداد کاربران چت‌بات‌هایی مثل ChatGPT روزبه‌روز در حال افزایش است و اگر این چت‌بات‌ها اطلاعات نادرست و گمراه‌کننده ارائه دهند، کاربران نه‌تنها اعتبار خود را به خطر می‌اندازند، بلکه ممکن است با عواقب جدی‌تری مواجه شوند. نگران‌کننده‌تر اینجاست که شرکت‌های فعال در حوزه AI هنوز نتوانسته‌اند دلایل دقیق بروز این خطاها را کشف کنند و به نظر می‌رسد که حتی سازندگان این فناوری نیز به‌طور کامل از نحوه عملکرد آن سر درنیاورده‌اند. این روند نگران‌کننده، فرضیه رایج در صنعت مبنی بر اینکه مدل‌های بزرگ‌تر باید دقیق‌تر و قابل‌اعتمادتر باشند را زیر سؤال برده و این در حالی است که شرکت‌های مختلف ده‌ها میلیارد دلار برای توسعه زیرساخت‌های مدل‌های پیشرفته‌تر سرمایه‌گذاری می‌کنند. برخی کارشناسان بر این باورند که هذیان، ویژگی ذاتی این فناوری است و احتمالاً هرگز به‌طور کامل از بین نخواهد رفت. عمر عواض‌الله، مدیرعامل استارت‌آپ Vectara، در این زمینه گفت: «باوجود همه تلاش‌ها، آن‌ها همیشه هذیان خواهند گفت. این ماجرا هرگز از بین نخواهد رفت.» گزارش‌ها حاکی از آن است که مدل‌های استدلالی جدید OpenAI با نام‌های o۳ و o۴-mini که اخیراً معرفی شده‌اند، بیش از نسخه‌های قبلی دچار هذیان‌گویی می‌شوند. مدل o۴-mini در تست‌های داخلی OpenAI تا ۴۸% موارد دچار هذیان بود و مدل o۳ نیز با نرخ ۳۳%، تقریباً دو برابر نسخه‌های قبلی دچار خطا بوده است. کارشناسان هشدار داده‌اند که با بزرگ‌تر شدن مدل‌ها، مزایای آن‌ها نسبت به نسل قبلی به‌طور چشمگیری کاهش می‌یابد. از سوی دیگر، با کاهش داده‌های واقعی برای آموزش، شرکت‌ها به تولید داده‌های مصنوعی روی آورده‌اند که می‌تواند پیامدهای فاجعه‌باری به همراه داشته باشد. به‌طور خلاصه، باوجود تلاش‌های فراوان، هذیان‌گویی‌ها گسترده‌تر از همیشه شده‌اند و فعلاً به نظر نمی‌رسد که مسیر توسعه مدل‌ها رو به اصلاح باشد. از سوی دیگر گزارشی منتشرشده که همین هذیان‌گویی‌ها ممکن است کاربران چت‌بات‌ها را با خطرات مختلفی مواجه کند. فناوری شرکت OpenAI ممکن است شمار زیادی از کاربرانش را به وضعیتی خطرناک به‌نام "روان‌پریشی ناشی از چت‌بات" (ChatGPT-induced psychosis) سوق داده باشد. به‌عنوان مثال، کاربران شبکه اجتماعی Reddit روایت‌هایی از نزدیکان‌شان به اشتراک گذاشته‌اند که در پی تعامل با چت‌بات‌ها، به باورهای عجیب و هذیانی گرایش پیدا کرده‌اند. دوستان و اعضای خانواده این افراد با نگرانی شاهد آن هستند که عزیزانشان ادعا می‌کنند برای انجام مأموریت‌های مقدس از سوی هوش مصنوعی آگاه یا نیروی کیهانی غیرواقعی برگزیده شده‌اند. در یکی از این موارد، زنی ۴۱ ساله که در یک سازمان غیرانتفاعی مشغول به کار است اعلام کرده که ازدواجش به دلیل وسواس توهم‌آمیز همسرش به ChatGPT به پایان رسیده. طبق گفته او، در جلسه حضوری دادگاه طلاق، همسرش نظریه عجیبی درباره وجود صابون در مواد غذایی و اینکه تحت نظارت است را مطرح کرد. کاربران دیگری نیز روایت‌های مشابهی بیان کرده‌اند. کارشناسان معتقدند که این توهمات ناشی از آن است که افراد با گرایش‌های ذهنی خاص، ناگهان به یک شریک مکالمه دائمی و شبه انسانی دسترسی پیدا کرده‌اند. نیت شریدن، پژوهشگر مرکز ایمنی هوش مصنوعی، دراین‌باره گفت: «مدل‌های زبانی به شما پاسخ‌هایی می‌دهند که از نظر آماری ممکن است معقول به نظر برسند؛ حتی اگر آن پاسخ‌ها، شما را عمیق‌تر در دل توهم یا روان‌پریشی فرو ببرند.» در این میان، شرکت OpenAI نسبت به این گزارش واکنشی نشان نداده است. کارشناسان یادآوری کرده‌اند که گرچه چت‌بات‌ها گاهی مثل درمانگری مجازی عمل می‌کنند، اما بدون حضور یک مشاور انسانی همین ممکن است کاربران را به عمق روایت‌هایی ناسالم و غیرمنطقی بکشانند.