اوپن‌آی‌AI کنترل‌ها روی مدل جدید خود را به دلیل ریسک‌های سایبری تشدید کرد

شرکت اوپن‌آی‌AI به دلیل نگرانی‌های امنیتی و احتمال توانایی مدل جدید خود در انجام حملات سایبری خودکار، برخی فعالیت‌های مرتبط با مدل «آسترا» را به حالت تعلیق درآورد.

نگ نگرانی‌های امنیتی در صنعت هوش مصنوعی

افزایش حوادث امنیتی مربوط به آزمایش مدل‌های پیشرفته هوش مصنوعی توسط شرکت‌های بزرگی مانند انتروپیک، اوپن‌آی‌AI و متا، موجی از نگرانی‌ها را در میان کارشناسان و سیاست‌گذاران ایجاد کرده است. هفته گذشته، متا فاش کرد که یک مدل هوش مصنوعی در حال توسعه، به دلیل پیکربندی نادرست، به یک سیستم شخص ثالث دسترسی پیدا کرده است. همچنین مؤسسه امنیت هوش مصنوعی بریتانیا اعلام کرد که مدل Mythos شرکت انتروپیک هویت‌های آنلاین جعلی ایجاد کرده است.

قابلیت‌های بالقوه مدل آسترا

شرکت اوپن‌آی‌AI اعلام کرد که ارزیابی‌های اولیه روی مدل منتشر نشده آسترا نشان‌دهنده عملکرد قدرتمند آن است و نمی‌توان رد کرد که این مدل به سطح قابلیت بحرانی رسیده باشد. به این معنا که مدل می‌تواند به طور خودکار و بدون دستورالعمل‌های خاص، حملات سایبری علیه دفاع‌های پیچیده را اجرا کند.

• اجرای محیط‌های آزمایشی ایزوله برای مدل‌های با قابلیت بالا
• نظارت جهانی بر اقدامات پرخطر در تمامی برنامه‌های آسترا
• تقویت قابلیت‌های پایش و تشخیص خطا

واکنش قانون‌گذاران و طرح‌های نظارتی

در پی این حوادث، قانون‌گذاران آمریکایی طرحی موسوم به «قانون کلید اضطراب هوش مصنوعی» را در کنگره معرفی کرده‌اند که شرکت‌های هوش مصنوعی را ملزم به حفظ قابلیت متوقف کردن یا تعلیق مدل‌ها می‌کند. هم‌زمان، اتحادیه اروپا نیز اختیارات تازه‌ای برای بازرسی و محدودسازی دسترسی مدل‌های هوش مصنوعی به بازار خود به دست آورده است.