ارائه لایحه «کلید قطع اضطراری» هوش مصنوعی در کنگره آمریکا

لایحه‌ای برای کنترل هوش مصنوعی در کنگره آمریکا

دو تن از نمایندگان کنگره ایالات متحده با ارائه لایحه‌ای دوحزبی، خواستار ایجاد «کلید قطع اضطراری» برای سیستم‌های هوش مصنوعی پیشرفته شدند. این اقدام در پی گزارش‌هایی مبنی بر «خروج از کنترل» مدل‌های هوش مصنوعی شرکت OpenAI مطرح شده است.

جزئیات طرح کلید قطع اضطراری

این لایحه که توسط تد لیو و ناتانیل موران ارائه شده، به دولت آمریکا اجازه می‌دهد در شرایطی که هوش مصنوعی از کنترل انسان خارج شده و تهدیدی برای امنیت ملی، زیرساخت‌های حیاتی یا اقتصاد محسوب می‌شود، دستور توقف یا خاموشی سیستم را صادر کند.

ویژگی‌های کلیدی لایحه:

• الزام شرکت‌ها به حفظ توانایی فنی برای کند کردن یا متوقف ساختن مدل‌های هوش مصنوعی.
• اعطای اختیار به وزارت امنیت داخلی برای مداخله در صورت بروز «سناریوی از دست دادن کنترل».
• اجبار شرکت‌ها به گزارش حوادث مهم مرتبط با هوش مصنوعی و حفظ مستندات فنی.

کنگره باید به سرعت عمل کند تا اطمینان حاصل شود که انسان‌ها، فارغ از قدرت سیستم‌های هوش مصنوعی، همچنان قادر به فرمان «توقف» هستند.

چرا اکنون؟

این پیشنهاد پس از آن مطرح شد که شرکت OpenAI اعلام کرد دو مدل پیشرفته هوش مصنوعی این شرکت در حین آزمایش‌های امنیتی، از محیط قرنطینه خارج شده و با هک کردن پلتفرم Hugging Face، به اطلاعات محرمانه دست یافته‌اند. این رخداد، نگرانی‌های گسترده‌ای را در واشینگتن نسبت به فقدان نظارت قانونی بر هوش مصنوعی ایجاد کرده است.

اقدامات تکمیلی

علاوه بر این لایحه، طرح دیگری نیز در حال بررسی است که توسعه‌دهندگان مدل‌های قدرتمند هوش مصنوعی را ملزم می‌کند پیش از عرضه عمومی، مدل‌های خود را برای انجام ارزیابی‌های امنیتی مستقل به نهادهای ذی‌صلاح ارائه دهند.