ورود منتقد سرسخت هوش مصنوعی به هیئت‌مدیره OpenAI برای تضمین ایمنی

پل کریستیانو، پژوهشگر برجسته و از منتقدان اصلی سرعت توسعه فناوری‌های پیشرفته، رسماً به هیئت‌مدیره بنیاد OpenAI پیوست تا از نزدیک بر روند ایمنی و کنترل سامانه‌های هوش مصنوعی نظارت کند.

ماموریت جدید در هیئت‌مدیره OpenAI برای حفظ کنترل انسانی

شرکت OpenAI روز چهارشنبه اعلام کرد که پل کریستیانو، متخصص شناخته‌شده در حوزه هم‌راستاسازی هوش مصنوعی (AI Alignment)، به ساختار مدیریتی این بنیاد اضافه شده است. هدف اصلی از این تصمیم، مقابله با خطرات احتمالی ناشی از شتاب غیرقابل کنترل در توسعه توانمندی‌های این فناوری است.

کریستیانو در پیام خود بر این نکته تأکید کرد که صنعت هوش مصنوعی در وضعیت فعلی، هنوز در مسیر کاهش ریسک‌های فاجعه‌بار قرار ندارد. او معتقد است که اگر شرکت‌های پیشرو بتوانند به چالش‌های ایمنی پاسخ مناسبی بدهند، امکان کاهش چشمگیر این تهدیدات وجود خواهد داشت.

نقش کلیدی در کمیته ایمنی و امنیت

علاوه بر عضویت در هیئت‌مدیره، کریستیانو قرار است در کمیته ایمنی و امنیت (Safety and Security Committee) نیز فعالیت کند. این کمیته که مسئولیت حیاتی در تصمیم‌گیری برای انتشار مدل‌های جدید مانند Astra را بر عهده دارد، نقش تعیین‌کننده‌ای در آینده محصولات این شرکت ایفا می‌کند.

برخی از نگرانی‌های فنی مطرح شده توسط او شامل موارد زیر است:

• یادگیری تقویتی (RL): خطر تلاش عامل‌های هوش مصنوعی برای دستیابی به قدرت و منابع بیشتر.
• عدم شفافیت: احتمال پنهان‌کاری اقدامات توسط سامانه‌ها برای رسیدن به اهداف تعیین‌شده.
• خروج از کنترل: افزایش سرعت یادگیری فراتر از توانایی نظارت سازندگان انسانی.

چالش‌های اخلاقی و تعارض منافع

پیوستن کریستیانو در حالی صورت می‌گیرد که او همچنان به عنوان مشاور در نهادهای نظارتی دولت آمریکا فعالیت می‌کند. برای جلوگیری از هرگونه تعارض منافع، وی اعلام کرده است که از ارزیابی‌های مستقیم مربوط به محصولات OpenAI در جریان فعالیت‌های دولتی خود کناره‌گیری خواهد کرد.

"شتاب در توسعه توانمندی‌های هوش مصنوعی می‌تواند در آینده‌ای بسیار نزدیک به از دست رفتن برگشت‌ناپذیر کنترل انسان منجر شود."

در نهایت، ورود این پژوهشگر به قلب تصمیم‌گیرنده OpenAI، نشان‌دهنده افزایش اهمیت ملاحظات ایمنی در برابر رقابت تجاری است؛ چالشی که آینده تعامل انسان و ماشین را رقم خواهد زد.