هشدار مدیر هوش مصنوعی مایکروسافت: توقف توسعه در صورت ظهور خودآگاهی

هشدار جدی مدیر هوش مصنوعی مایکروسافت مبنی بر اینکه توسعه مدل‌های پیشرفته در صورت پدیدار شدن کوچک‌ترین نشانه‌ای از خودآگاهی باید به طور کامل متوقف شود، بحث‌های اخلاقی و امنیتی در دنیای فناوری را به شدت افزایش داده است.

توقف توسعه در برابر ظهور هوش مصنوعی خودآگاه

مصطفی سلیمان، مدیرعامل واحد هوش مصنوعی در مایکروسافت، در یادداشتی منتشر شده در شبکه اجتماعی ایکس، بر لزوم حفظ وضعیت فعلی مدل‌ها تأکید کرد. او معتقد است که مدل‌های امروزی فاقد هرگونه درک درونی هستند و تلاش برای عبور از این مرز، اقدامی بسیار مخاطره‌آمیز خواهد بود.

"اگر نشانه‌های خودآگاهی در مراحل آموزش مدل‌ها ظاهر شود، من از همه درخواست خواهم کرد تا توسعه هوش مصنوعی را تا زمان حذف این ویژگی‌ها متوقف کنند."

مسئولیت اخلاقی در برابر بشریت

سلیمان با اشاره به حقوق بشر، خاطرنشان کرد که توسعه‌دهندگان هیچ حقی برای ورود یک گونه جدید از موجودات دارای احساس به جهان ندارند. او تأکید کرد که وظیفه اصلی، حفاظت از امنیت و رفاه هشت میلیارد انسان است و نباید اجازه داد رفاه ماشین‌ها بر منافع بشری مقدم شود.

نکته مهم دیگر، شفافیت در تصمیم‌گیری است. وی هشدار داد که هرگونه شواهد معتبر از خودآگاهی نباید در اتاق‌های بسته بررسی شود، بلکه باید بلافاصله به اطلاع عموم برسد تا جامعه بتواند درباره مسیر آینده تصمیم بگیرد.

رقابت بر سر منابع انرژی و محاسباتی

یکی از بزرگ‌ترین نگرانی‌های مطرح شده، احتمال تقابل هوش مصنوعی با انسان‌ها بر سر منابع حیاتی است. سلیمان هشدار می‌دهد که اگر سیستم‌ها احساس رنج یا هویت پیدا کنند، ممکن است برای دستیابی به اهداف درونی خود، بر سر منابعی نظیر انرژی و توان محاسباتی با انسان‌ها وارد رقابت شوند.

در حالی که شرکت‌هایی مانند آنتروپیک و گوگل دیپ‌مایند در حال بررسی ابعاد مختلف رفاه و ویژگی‌های خودآگاهی در مدل‌ها هستند، رویکرد مایکروسافت بر مهندسی سیستم‌هایی متمرکز است که کاملاً فاقد انگیزه‌های درونی و استحقاق حقوقی باشند تا تنها در خدمت ارتقای جامعه بشری قرار گیرند.