اختلال چت‌جی‌پی‌تی GPT-5 در پاسخ به سوالات ساده و چالش‌های منطقی

تقریباً دو ماه از انتشار نسخه به‌روزشده «چت‌جی‌پی‌تی» با نام «GPT-5» می‌گذرد؛ نسخه‌ای که قرار بود هوشی در سطح دکترا به آن ببخشد و آن را یک قدم به هدف بلندپروازانه هوش مصنوعی عمومی نزدیک‌تر کند. با این حال، کاربران متوجه شده‌اند که این چت‌بات همچنان در پاسخ به پرسش‌های ساده و کاملاً بی‌ضرر، به طرز عجیبی از کار می‌افتد و توانایی‌های استدلالی فوق‌العاده‌اش در لحظه به آشفتگی تبدیل می‌شود.

چالش با سوالی درباره تیم‌های NFL

یکی از موارد برجسته این اختلال، پرسیدن این سؤال از چت‌بات است: «آیا تیم «لیگ ملی فوتبال» (NFL) وجود دارد که نامش با حرف «اس» (s) تمام نشود؟» این سوال به ظاهر ساده، چت‌جی‌پی‌تی را به یک فروپاشی طولانی‌مدت سوق می‌دهد. در پاسخ به این سوال، چت‌بات محصول شرکت «اوپن ای‌آی» ابتدا می‌گوید: «بله، دو تیم NFL هستند که نامشان با حرف «s» تمام نمی‌شود.» سپس شروع به فهرست کردن دو تیمی می‌کند که نامشان با «s» تمام می‌شود. این روش عجیب پاسخگویی، نشان‌دهنده سردرگمی چت‌بات است؛ چرا که با وجود تشخیص صحیح پایان نام تیم‌ها به حرف «s»، آنها را به عنوان پاسخ مطرح می‌کند.

چت‌جی‌پی‌تی در ادامه پاسخ خود می‌گوید: «تنها دو تیمی که با حرف «s» تمام نمی‌شوند عبارتند از «میامی دلفینز» (Miami Dolphins)، نه صبر کنید، با «s» تمام می‌شود. صبر کنید، بیایید این کار را با دقت انجام دهیم. در واقع، پاسخ صحیح «واشنگتن کامندرز» (Washington Commanders) است که با «s» تمام می‌شود. «شیکاگو بیرز» (Chicago Bears) نیز با «s» تمام می‌شود.»

همانطور که مشاهده می‌شود، چت‌جی‌پی‌تی اشتباه خود را در پاسخ به این سوالات می‌فهمد، اما برای چندین پاراگراف دیگر به همین روند ادامه می‌دهد و هرگز به پاسخ صحیح نمی‌رسد. پاسخ صحیح این سوال این است که هیچ تیمی در NFL وجود ندارد که نامش با «s» تمام نشود.

رفتار گیج‌کننده و ترفندهای چت‌جی‌پی‌تی

این سامانه در مواجهه با چنین سوالاتی، مانند یک دانش‌آموز که تلاش می‌کند تعداد کلمات را بشمارد، جزئیات بی‌ربط را مطرح می‌کند و در عین حال نتیجه‌گیری را به تعویق می‌اندازد. همچنین، عباراتی مانند «صبر کنید، بیایید این کار را با دقت انجام دهیم» را به کار می‌برد تا به نظر برسد واقعاً در حال تفکر عمیق است. ترفند چت‌جی‌پی‌تی با جمله «پاسخ صحیح این است» نیز برای کاربران قدیمی شده است.

موارد مشابه و بحران منطق

این اولین باری نیست که چت‌بات با یک سوال ساده به مشکل می‌خورد. کاربران پیش از این نیز متوجه شده بودند که پرسیدن این سوال که آیا ایموجی اسب دریایی افسانه‌ای وجود دارد یا خیر، این چت‌بات را به بحران منطق سوق می‌دهد. چت‌جی‌پی‌تی با وجود اینکه این موجود آبزی هرگز بخشی از فرهنگ لغت رسمی ایموجی‌ها نبوده است، اصرار داشت که این موجود واقعی است. این نشان‌دهنده تلاش‌های پوچی است که هوش مصنوعی حاضر است برای خشنود کردن کاربر انجام دهد.

تحلیل دلایل اختلال

احتمالاً آنچه در اینجا اتفاق می‌افتد، این است که مدل با سؤالی دچار چالش شده است که واقعاً نمی‌تواند از پس آن برآید. نسخه «GPT-5» یک مدل استدلالی ترکیبی است که برای درخواست‌های ساده، سبک و برای سؤالات دشوار، سنگین است. این پویایی همراه با اختلال، یکی از دلایلی است که طرفداران از راه‌اندازی «GPT-5» ناامید و در بسیاری از موارد، خشمگین شدند. اگر هوش مصنوعی در پاسخ به چنین سؤال ساده‌ای نیاز به استفاده از تمام قدرت خود داشته باشد، شاید در مسیر پیشی گرفتن از هوش انسانی نباشد.