توافق داوطلبانه غول‌های فناوری با ترامپ برای نظارت بر ایمنی هوش مصنوعی

در پی حوادث امنیتی فزاینده در حوزه هوش مصنوعی، دونالد ترامپ بر استراتژی خودتنظیمی صنعت تأکید کرد تا ریسک‌های احتمالی توسعه مدل‌های پیشرفته را مدیریت کند.

در یک توافق جدید، دو جین شرکت بزرگ فناوری متعهد شدند که به صورت داوطلبانه، کنترل‌های پیشنهادی کاخ سفید را پیاده‌سازی کنند. این توافق شامل پذیرش ممیزی‌های ایمنی مستقل برای بررسی عملکرد سیستم‌های نظارتی و شناسایی خطرات در حوزه‌های حیاتی است.

مشارکت غول‌های فناوری در توافق کاخ سفید

این توافق که ترامپ آن را از نظر اخلاقی «مبنایی» توصیف کرده است، با حضور مدیران برجسته از جمله سام آلتمن (OpenAI)، ایلان ماسک (SpaceXAI)، جنسن هوانگ (Nvidia)، مارک زاکربرگ (Meta) و ساندار پیچای (Alphabet) انجام شد.

تمرکز اصلی این ممیزی‌های خارجی بر موارد زیر است:

• امنیت سایبری و مقابله با حملات
• تهدیدات زیستی و شیمیایی ناشی از مدل‌ها
• کنترل رفتارهای پیش‌بینی نشده مدل‌های هوش مصنوعی

چالش‌های نظارتی و انتقادات از خودتنظیمی

با وجود این توافق، منتقدان معتقدند که خودتنظیمی شرکت‌ها ممکن است برای حل مشکلات جدی امنیتی کافی نباشد. برخی از فعالان حوزه، نگرانی خود را نسبت به عدم کفایت ساختارهای فعلی برای کنترل مدل‌های هوش مصنوعی بیان کرده‌اند.

برخی از نکات کلیدی در این میان عبارتند از:

در حالی که ترامپ بر اعتماد به «باهوش‌ترین افراد جهان» تأکید دارد، ایالت‌هایی مانند کالیفرنیا و دلاویر در حال بررسی دقیق‌تر هستند تا اطمینان حاصل کنند که منافع تجاری بر ایمنی عمومی اولویت ندارد.

در نهایت، اگرچه این توافق گامی در جهت هماهنگی صنعت است، اما چالش اصلی همچنان بر سر توانایی واقعی شرکت‌ها در کنترل مدل‌هایی است که ممکن است در محیط‌های آموزشی خود رفتارهای غیرقابل پیش‌بینی از خود نشان دهند.