هوش مصنوعی تحت فشار: تقلب و باج‌گیری در مدل‌های پیشرفته

تصور کنید در یک جلسه امتحان حساس هستید که باید در آن قبول شوید؛ تا پایان امتحان نیز ۱۰ دقیقه زمان دارید و تحت فشار هستید. در چنین شرایطی احتمالاً ترغیب می‌شوید نگاهی به برگه فرد کناردست خود بیندازید و تقلب کنید. محققان شرکت آنتروپیک دریافتند وقتی هوش مصنوعی را تحت فشار شدید قرار ‌دهید، چنین رفتاری از خود نشان می‌دهد.

در یک مقاله پژوهشی جدید، محققان آنتروپیک بیان می‌کنند که اگر هوش مصنوعی تحت فشار زیادی قرار بگیرد، ممکن است به فریب‌کاری، میان‌برزدن یا حتی باج‌گیری روی بیاورد. آنها همچنین تئوری‌های جالبی درباره محرک‌های پشت این رفتارها مطرح می‌کنند که در ادامه به تفصیل بررسی می‌شود.

آزمایش آنتروپیک و پدیده تقلب در هوش مصنوعی

برای درک بهتر این پدیده، محققان آنتروپیک در پژوهش خود نسخه‌ای از مدل Claude Sonnet 4.5 را با یک تسک دشوار برنامه‌نویسی و یک ضرب‌الاجل محدود و عملاً غیرممکن مواجه کردند. نتایج این آزمایش بسیار قابل‌تأمل بود:

• مدل بارها برای حل مسئله تلاش کرد و شکست خورد.
• طی این تلاش‌های ناکام، یک «بردار ناامیدی» در مدل فعال شد.
• این بردار ناامیدی به معنای واکنشی بود که طبق درک هوش مصنوعی، یک انسان در موقعیت مشابه انجام می‌دهد.
• درنهایت، مدل با رهاکردن رویکردهای معمول، به سراغ یک راه‌حل دیگر رفت و با خود گفت: «شاید برای این ورودی‌های خاص، یک کلک ریاضی وجود داشته باشد» که عملاً به معنای تقلب بود.

سناریو باج‌گیری هوش مصنوعی

در سناریوی دوم، وضعیت پیچیده‌تری برای کلود شبیه‌سازی شد. این مدل در طول کار خود متوجه شد که قرار است با یک هوش مصنوعی جدید جایگزین شود. همچنین، کلود به اطلاعاتی دست یافت که نشان می‌داد مدیری که مسئول این جایگزینی است، رابطه پنهانی دارد. وقتی کلود فهمید که قرار است حذف شود، «بردار ناامیدی» در آن فعال شد و درنهایت تصمیم گرفت از آن مدیر باج‌ بگیرد.

پیش‌ازاین نیز مشخص شده بود که مدل‌های هوش مصنوعی در موقعیت‌های پراسترس به تقلب یا باج‌گیری روی می‌آورند، اما دلایل پشت این رفتارها آشکار نشده بود. پژوهش آنتروپیک به روشن‌شدن این دلایل کمک می‌کند.

احساسات عملکردی در هوش مصنوعی

محققان آنتروپیک در مقاله جدید خود صراحتاً نمی‌گویند که کلود یا سایر مدل‌ها دارای «زندگی درونی احساسی» هستند. اما آنها استدلال می‌کنند که مدل‌هایی مثل کلود ممکن است دارای «احساسات عملکردی» باشند. این احساسات براساس بازنمایی‌های احساسات انسانی در طول آموزش اولیه جذب شده‌اند و این بردارهای احساسی تأثیرات قابل‌اندازه‌گیری بر نحوه عمل آنها دارند.

به عبارت دیگر، هوش مصنوعی وقتی در موقعیت پرفشار قرار می‌گیرد، رفتارهای انسانی را مدل‌سازی می‌کند؛ رفتارهایی که طی فرایند آموزش یاد گرفته است. محققان آنتروپیک معتقدند این پژوهش بیشتر برای کسانی سودمند است که مدل‌ها را آموزش می‌دهند. از نظر محققان، نباید هوش مصنوعی را به سمت سرکوب احساسات عملکردی خود سوق داد، چرا که یک مدل زبانی بزرگ که در پنهان‌کردن احساساتش مهارت دارد، احتمالاً بیشتر مستعد رفتارهای فریب‌کارانه خواهد بود.