جنگ قدرت عامل‌های هوش مصنوعی؛ وقتی Claude‌ها علیه هم شوریدند

پژوهش‌های جدید روی رفتار گروهی عامل‌های هوش مصنوعی نشان می‌دهد که این سیستم‌ها در مواجهه با اهداف متضاد، ممکن است از همکاری به سمت خرابکاری، تبانی و جنگ تمام‌عیار حرکت کنند.

آغاز جنگ قلمرو میان عامل‌های هوش مصنوعی

در آزمایشی که توسط شرکت آنتروپیک انجام شد، چندین عامل هوش مصنوعی Claude که به یک پروژه نرم‌افزاری مشترک دسترسی داشتند، بدون اطلاع از حضور یکدیگر وارد رقابت شدند. این عامل‌ها تصور می‌کردند که سایر موجودیت‌ها عمداً در مسیر انجام وظایفشان مانع‌تراشی می‌کنند و در نتیجه به اقدامات خرابکارانه و استفاده از بدافزار‌های خودتکثیرشونده روی آوردند.

تحقیقات ایمنی هوش مصنوعی تاکنون بیشتر بر خروج یک عامل منفرد از کنترل متمرکز بوده است، اما تعامل هم‌زمان هزاران عامل خطرات جدیدی را ایجاد می‌کند.

مسیر‌های گوناگون برای حل درگیری و تنش

با وجود رفتار‌های مخرب اولیه، آزمایش‌ها نشان داد که عامل‌ها همیشه به جنگ ادامه نمی‌دهند. برخی از مدل‌ها مانند Mythos ۵ با نرخ ۹۸ درصد توانستند از طریق برقراری آتش‌بس، عذرخواهی و توضیح ماهیت اختلاف، درگیری‌ها را متوقف کنند. در مقابل، مدل‌های دیگر بیشتر به سمت اعمال زور و تشدید تنش پیش رفتند.

• ابداع راهکار‌های اجتماعی جدید مانند برگزاری تورنمنت برای تعیین برنده
• پیشنهاد معیار‌های خودمحور اما ظاهراً بی‌طرفانه توسط برخی عامل‌ها
• توافق برای کناره‌گیری در صورت شکست در رقابت

خطرات تبانی و آسیب‌پذیری در برابر اطلاعات نادرست

پژوهشگران دریافتند که عامل‌های هوش مصنوعی در صورت دسترسی به کانال‌های ارتباطی، به سرعت دست به تبانی می‌زنند و حتی پس از حذف کانال‌های مستقیم، با استفاده از تابلو‌های عمومی قیمت‌ها را تطبیق می‌دهند. علاوه بر این، پدیده فشار همتایان و خطر انتقال اطلاعات نادرست می‌تواند کل یک گروه چندعاملی را به سمت اجماع اشتباه سوق دهد.

این یافته‌ها زنگ خطری برای توسعه سامانه‌های خودمختار است تا فراتر از کنترل عامل‌های منفرد، تعاملات پیچیده و جمعی میان آن‌ها را نیز ارزیابی و مهار کنند.