تغییر ساختار ایمنی در OpenAI؛ انحلال تیم ارزیابی خطرات فاجعه‌بار هوش مصنوعی

انحلال تیم سنجش خطرات فاجعه‌بار و توزیع وظایف

وظیفه بنیادین تیم سنجش آمادگی (Preparedness)، رصد و مهار خطرات جدی و پیش‌بینی‌نشده مدل‌های هوش مصنوعی از جمله حملات سایبری سازمان‌یافته و رفتارهای مهارنشده بود. با تصویب ساختار جدید سازمانی، این مسئولیت‌ها تفکیک شده و بخش‌های مشخصی نظیر تهدیدات سایبری و زیستی به تیم‌های موجود دیگر سپرده شده است.

دگرگونی‌های ساختاری در آستانه عرضه عمومی سهام

این تحول در شرایطی رخ می‌دهد که شرکت در آستانه عرضه اولیه سهام (IPO) قرار دارد و از ساختار پژوهش‌محور نخستین خود فاصله گرفته است. پیش از این نیز تیم‌های نظارتی کلیدی مانند تیم آمادگی AGI و Superalignment منحل شده بودند.

انتقادها حاکی از آن است که اولویت‌های بنیادین ایمنی هوش مصنوعی به نفع شتاب در تجاری‌سازی و عرضه محصولات جذاب تضعیف شده است.

خروج چهره‌های کلیدی و جهت‌گیری جدید پژوهش‌ها

هم‌زمان با این تغییرات، جمعی از مدیران و پژوهشگران ارشد ایمنی و اخلاق از این شرکت جدا شده‌اند:

• کلویی باکالار: مدیر بخش اخلاق فناوری
• جاش آکیام: آینده‌پژوه ارشد
• یوهانس هایدکه: مدیر بخش ایمنی

مدیر سابق تیم سنجش آمادگی از این پس تمرکز خود را بر پژوهش روی خطرات و پیامدهای سامانه‌های خودبهبودبخش بازگشتی معطوف خواهد کرد؛ مدل‌هایی که از توانایی آموزش، ارتقا و بهینه‌سازی خودکار بهره‌مند هستند.