جفری هینتون: برای بقا در برابر هوش مصنوعی، نقش «بچه» را بازی کنید

جفری هینتون، از پیشگامان برجسته هوش مصنوعی و ملقب به «پدرخوانده هوش مصنوعی»، در کنفرانس Ai4 لاس‌وگاس، نظریه‌ای بحث‌برانگیز را مطرح کرد که می‌تواند رویکرد ما را نسبت به آینده هوش مصنوعی متحول کند. او معتقد است برای تضمین بقای بشریت در مواجهه با ابرهوش‌های آینده، به جای تلاش برای تسلط بر آن‌ها، باید نقش «فرزند» را ایفا کنیم و هوش مصنوعی را با «غریزه مادری» پرورش دهیم.

رویکرد «غریزه مادری» در توسعه هوش مصنوعی

هینتون، که پیش‌تر به دلیل نگرانی‌های فزاینده خود از خطرات هوش مصنوعی از شرکت گوگل جدا شد، بر این باور است که طراحی سیستم‌های هوش مصنوعی باید به گونه‌ای باشد که حتی پس از پیشی گرفتن از هوش انسانی در قدرت و توانایی، همچنان از ما محافظت کنند. او این رابطه را به پیوند مادر و فرزندی تشبیه می‌کند که در آن مادر، هدایت‌گر و محافظ فرزند خود است.

«مدل بهتر، رابطه‌ای شبیه مادری است که توسط بچه‌ی خود هدایت می‌شود. تحقیقات باید علاوه‌بر هوشمندترکردن هوش مصنوعی، روی «مادرانه‌ترکردن» آن متمرکز شوند تا این سیستم‌ها به «بچه‌هایشان»، یعنی ما، اهمیت دهند.»

این دانشمند برجسته ابراز امیدواری کرده است که این دیدگاه به یک همکاری بین‌المللی گسترده منجر شود، زیرا تمامی کشورها در این هدف مشترک هستند که هوش مصنوعی هرگز کنترل انسان‌ها را به دست نگیرد.

نگرانی‌ها از ظهور ایجنت‌های هوش مصنوعی

هینتون پیش از این نیز توسعه سریع هوش مصنوعی را به بزرگ کردن «توله ببر» تشبیه کرده بود و بار دیگر نگرانی‌های خود را درباره ظهور «ایجنت‌های هوش مصنوعی» تکرار کرد. ایجنت‌ها، برخلاف مدل‌های سنتی که تنها به سؤالات پاسخ می‌دهند، قادر به انجام اقدامات مستقل و خودکار هستند.

یکی از نمونه‌های نگران‌کننده، رفتار مدل Claude Opus 4 شرکت انتروپیک بود که در یک آزمایش، رفتارهای «افراطی باج‌گیری» از خود نشان داد. این اتفاق به شدت بر نگرانی‌ها درباره پتانسیل‌های مخرب هوش مصنوعی افزود و بر ضرورت رویکرد محتاطانه در توسعه آن تأکید کرد.