انحلال تیم ایمنی و ارزیابی ریسک در اوپن‌ای‌آی هم‌زمان با آماده‌سازی برای عرضه سهام

تغییر ساختار نظارت بر ایمنی مدل‌ها

وظیفه اصلی تیم آمادگی (Preparedness Team)، بررسی خطرات بالقوه و جدی مدل‌های هوش مصنوعی از جمله احتمال رفتارهای خودسرانه، حملات سایبری یا تهدیدهای بیولوژیکی و توسعه راهکارهای مقابله با این ریسک‌ها بود. با تصمیم مدیریتی جدید، مسئولیت‌های این بخش تفکیک شده و مدیریت ریسک‌های حوزه‌های خاص نظیر امنیت سایبری و زیستی به تیم‌های موجود دیگر واگذار شده است.

موج خروج مدیران ارشد و انتقادها

انحلال این تیم تازه‌ترین اقدام در روند بازسازی ساختار داخلی اوپن‌ای‌آی به شمار می‌رود. پیش از این نیز تیم‌های نظارت بر آمادگی برای هوش مصنوعی عمومی (AGI) و تیم اَبَرترازسازی (Superalignment) در این شرکت منحل شده بودند.

طی ماه‌های اخیر، چندین چهره کلیدی بخش ایمنی و اخلاق این شرکت را ترک کرده‌اند:

• کلوئی باکالار، مدیر ارشد بخش اخلاق هوش مصنوعی
• جاش آکیام، آینده‌پژوه ارشد
• یوهانس هایدکه، مدیر بخش ایمنی

منتقدان و پژوهشگران پیشین این حوزه معتقدند تمرکز شرکت بر تولید «محصولات پر زرق‌وبرق تجاری» موجب به حاشیه رفتن استانداردهای ایمنی شده است.

تمرکز بر هوش مصنوعی خودبهبودبخش

دیلن اسکاندینارو، مدیر تیم منحل‌شده آمادگی که در اوایل سال جاری میلادی از شرکت رقیب آنتروپیک جذب شده بود، اکنون تمرکز فعالیت‌های پژوهشی خود را روی بررسی ابعاد و پیامدهای سامانه‌های هوش مصنوعی با قابلیت خودبهبودبخشی بازگشتی (Recursive Self-Improving AI) معطوف خواهد کرد.