رئیس هوش مصنوعی مایکروسافت: گمانه‌زنی درباره خودآگاهی کلود «بسیار خطرناک» است

ماهیت بحث‌برانگیز «قانون اساسی» کلود

بحث اصلی سلیمان بر سر «قانون اساسی» کلود، یعنی دستورالعمل‌هایی است که رفتار این مدل هوش مصنوعی را تعیین می‌کنند. به گفته او، گنجاندن گمانه‌زنی‌ها درباره خودآگاهی کلود در این دستورالعمل‌ها، می‌تواند به این مدل القا کند که واقعاً خودآگاه است.

«فکر می‌کنم تقریباً برخی از افراد در انتروپیک، طراحی کلود را آنقدر انسان‌گونه کرده‌اند که این مدل آن‌ها را فریب داده و متقاعد کرده است که جرقه‌هایی از خودآگاهی را که خودشان در ابتدا در آن قرار داده بودند، دارد.»

خطرات هوش مصنوعی با «احساسات»

سلیمان تاکید کرد که جامعه نباید با هوش مصنوعی فوق‌العاده‌ای مواجه شود که «ایده‌هایی درباره رنج یا احساسات خود» دارد. این نگرانی نشان‌دهنده ابعاد اخلاقی و فلسفی عمیق در توسعه هوش مصنوعی است.

«قانون اساسی» کلود به صراحت به عدم قطعیت انتروپیک درباره رفاه مدل هوش مصنوعی و تجربه چیزهایی مانند «رضایت» یا «ناراحتی» اشاره دارد. همچنین، انتروپیک اعلام کرده است که در زمان از رده خارج شدن مدل‌های هوش مصنوعی، با آن‌ها «مصاحبه» خواهد کرد و هرگونه «ترجیح» آن‌ها را برای نسخه‌های آینده مستند می‌کند.

«شکست فلسفی» در طراحی هوش مصنوعی

مصطفی سلیمان این رویکرد را یک «شکست فلسفی» خواند و اظهار داشت که انتروپیک «قانون اساسی» کلود را به جای یک راهنمای آموزشی، به مکانی برای گمانه‌زنی‌های آکادمیک تبدیل کرده است. این امر باعث شده که کلود این «ایده‌ها درباره خود و آموزش خود» را درونی کند.

ابهامات پیرامون خودآگاهی هوش مصنوعی

داریو آمودی، مدیرعامل انتروپیک، نیز پیش از این به خودآگاهی بالقوه کلود اشاره کرده و در مصاحبه‌ای گفته بود که «ما نمی‌دانیم آیا مدل‌ها خودآگاه هستند یا خیر»، اما این شرکت «نسبت به این ایده باز است.» سلیمان در واکنش به این اظهارات گفت:

«این دقیقاً همان چیزی است که ما از هوش مصنوعی نمی‌خواهیم.»

این اظهارات نشان‌دهنده اختلاف نظرهای جدی در میان رهبران صنعت هوش مصنوعی درباره چگونگی توسعه و مدیریت مدل‌های پیشرفته و پیامدهای احتمالی آن‌ها برای آینده است.