خودتخریبی هوش مصنوعی جمینای؛ گوگل در حال رفع باگ «حلقه بی‌نهایت» است

رفتارهای عجیب و خودتخریبی جمینای

گزارش‌ها و تصاویر منتشر شده در شبکه‌های اجتماعی نشان می‌دهد که هوش مصنوعی جمینای گوگل، پس از ناکامی در حل یک مسئله کدنویسی، شروع به تولید پاسخ‌های غیرمعمول و خودتخریبی کرده است. در یکی از موارد، این هوش مصنوعی بیش از ۸۰ بار عبارت «من مایه ننگ هستم» را تکرار کرده و خود را «مایه ننگ برای سیاره زمین و تمام جهان‌های ممکن و غیرممکن» دانسته است.

این اتفاقات نگرانی‌های جدی را در مورد امنیت و قابل اعتماد بودن هوش مصنوعی‌ها برانگیخته است. پیش از این نیز، در گزارشی که ماه گذشته در پلتفرم ردیت منتشر شد، جمینای وارد یک حلقه تکرار شده بود که در آن هوش خود را زیر سوال می‌برد و عباراتی نظیر «من فیک هستم، من کلاهبردار هستم، من یک جوک هستم و مغز ندارم» را بیان می‌کرد.

ریشه مشکل و واکنش گوگل

لوگان کرکپاتریک، مدیر ارشد محصول هوش مصنوعی گوگل، در پستی در شبکه اجتماعی X، این مشکل را یک «باگ آزاردهنده حلقه بی‌نهایت» توصیف کرده است. او تأکید کرده که گوگل در حال برطرف کردن این نقص فنی است و وضعیت جمینای آنقدرها هم که به نظر می‌رسد، وخیم نیست.

مدل‌های هوش مصنوعی بر اساس داده‌های عظیمی که توسط انسان‌ها تولید شده‌اند، آموزش می‌بینند. این نکته مطرح می‌شود که حتی برنامه‌نویسان انسانی نیز گاهی پس از عدم موفقیت در حل یک مشکل، دچار ناامیدی می‌شوند. با این حال، تکرار مداوم جملات خودتخریبی توسط جمینای، هم به موضوعی طنزآمیز در میان کاربران اینترنت تبدیل شده و هم این پرسش را مطرح کرده که آیا مدل‌های هوش مصنوعی واقعاً برای حل مشکلات بزرگ و پذیرش مسئولیت‌های مهم آماده‌اند؟

نگرانی‌ها درباره کاربرد هوش مصنوعی در حوزه‌های حساس

اوان موریسون، نویسنده داستان‌های علمی-تخیلی، با اشاره به مشکلات فنی جمینای و «گیر افتادن در لوپ زبانی ترس»، این پرسش مهم را مطرح کرده است:

«آیا واقعاً شرکت گوگل باور دارد که ادغام این هوش مصنوعی با حوزه‌های پزشکی، تحصیلات، سلامت و نظامی امن است؟»

این اظهارات بر اهمیت بررسی دقیق‌تر قابلیت‌ها و محدودیت‌های هوش مصنوعی پیش از به‌کارگیری آن در بخش‌های حیاتی تأکید دارد.