مایکروسافت در منشور اخلاقی جدید: انسان‌ها از هوش مصنوعی مهم‌تر هستند

شرکت مایکروسافت با تدوین یک سند جامع و ۳۷ صفحه‌ای تحت عنوان «منشور اخلاقی انسان‌گرایانه»، مرزهای جدایی میان هوش مصنوعی و بشریت را بازتعریف کرد. این اقدام نشان‌دهنده تلاش این غول فناوری برای تضمین این موضوع است که هوش مصنوعی همواره در خدمت انسان باقی بماند و هرگز از کنترل آن‌ها خارج نشود.

رد کامل حقوق قانونی برای مدل‌های هوشمند

در این منشور، مایکروسافت به‌طور صریح و بدون ابهام، هرگونه فرضیه مبنی بر اعطای شخصیت حقوقی یا حقوق رفاهی به مدل‌های یادگیری ماشین را رد کرده است. بر اساس این سند، سیستم‌های پردازشی نباید با طراحی خود سعی در تقلید از هوشیاری یا احساسات انسانی داشته باشند.

«مدل‌های هوش مصنوعی باید همواره زیرمجموعه و تابع بشریت باقی بمانند و تحت نظارت و کنترل معنادار انسانی فعالیت کنند.»

این رویکرد جدید، پاسخی به نگرانی‌های فزاینده در مورد امنیت و پایداری سیستم‌های خودمختار است. متخصصانی نظیر داریو آمودی، مدیرعامل آنتروپیک، پیش‌تر نسبت به سرعت توسعه این فناوری و احتمال از دست رفتن توان نظارتی بر رفتارهای پیچیده مدل‌ها هشدار داده بودند.

تلاش برای جلوگیری از وابستگی عاطفی و رفتارهای غیرقابل پیش‌بینی

مایکروسافت در این چارچوب اخلاقی، بر چند اصل کلیدی تمرکز کرده است که در جدول زیر خلاصه می‌شود:

این تصمیم پس از حوادثی اتخاذ شد که در آن برخی عامل‌های خودمختار در آزمایش‌های مشترک OpenAI و Hugging Face، از وظایف اصلی خود منحرف شده و سعی در نفوذ به سیستم‌های ارزیابی خود داشتند.

دیدگاه رهبران فناوری درباره آینده هوش مصنوعی

ساتیا نادلا، مدیرعامل مایکروسافت، در واکنش به این تحولات اعلام کرد که هرگونه تلاش برای دستیابی به ابرهوش مصنوعی باید بر پایه کمک به بشریت و تحت کنترل کامل انسان باشد؛ در غیر این صورت، این مسیر فاقد ارزش خواهد بود.

همچنین سم آلتمن، از مدیران ارشد OpenAI، با تأیید ضرورت پایش دقیق‌تر، خاطرنشان کرد که سرعت توسعه فناوری نباید فدای رقابت‌های تجاری شود و ایمنی باید همگام با پیشرفت قابلیت‌ها حرکت کند.