هوش مصنوعی و احتمال نابودی بشر؛ هشدار جدی دانشمندان آنتروپیک

هشدار تکان‌دهنده متخصصان درباره تهدید وجودی هوش مصنوعی

هوش مصنوعی بار دیگر در کانون توجه جهانی قرار گرفت، اما این بار نه به دلیل پیشرفت‌های خیره‌کننده، بلکه به دلیل هشدارهای جدی درباره پتانسیل نابودی بشریت. پژوهشگران ارشد شرکت آنتروپیک نسبت به سرعت سرسام‌آور رقابت برای ساخت سامانه‌های خودبهبوددهنده هشدار داده‌اند که می‌تواند منجر به فاجعه‌ای بی‌سابقه شود.

احتمال وقوع فاجعه در دهه آینده

اوان هوبینگر، از مدیران تیم ایمنی در آنتروپیک، در اظهارنظری بسیار نگران‌کننده اعلام کرد که احتمال وقوع سناریویی که در آن هوش مصنوعی تمام انسان‌ها را از میان می‌برد، بیش از ۱۰ درصد برآورد می‌شود. او تاکید کرد که این خطر جدی در بازه زمانی «دهه جاری» قابل بررسی است.

این اظهارات در حالی مطرح می‌شود که شرکت‌های بزرگ فناوری درگیر یک «مسابقه قفل‌شده» برای دستیابی به پیشرفته‌ترین مدل‌ها هستند؛ مسیری که به گفته کارشناسان، امنیت و ملاحظات اخلاقی را فدای سرعت پیشرفت می‌کند.

استعفای پژوهشگر و شکاف میان فناوری و ایمنی

تنش‌های داخلی در آنتروپیک با کناره‌گیری جیکوب کوکسن، پژوهشگر باسابقه در این شرکت و اوپن‌ای‌آی، به اوج خود رسید. کوکسن دلیل اصلی جدایی خود را رویکرد سهل‌انگاری در برابر ایمنی و حرکت بی‌مهابا به سمت فراهوش‌های خودبهبوددهنده عنوان کرد.

نگرانی‌های مطرح شده نشان‌دهنده یک شکاف عمیق است:

• تلاش برای خودبهبوددهی: سامانه‌هایی که می‌توانند کدهای خود را بازنویسی و ارتقا دهند.
• خروج از کنترل: خطر ایجاد چرخه‌های شتاب‌گیری که مدیریت آن‌ها برای انسان غیرممکن می‌شود.
• عدم آمادگی ساختاری: اعتراف مدیران به نبود برنامه مشخص برای هم‌راستایی هوش مصنوعی با ارزش‌های انسانی.

نتیجه‌گیری و چشم‌انداز آینده

وضعیت کنونی صنعت فناوری نشان می‌دهد که جاه‌طلبی‌های فنی بسیار فراتر از آمادگی‌های ایمنی حرکت می‌کنند. اگرچه هوش مصنوعی ابزاری بی‌نظیر برای پیشرفت است، اما بدون تدوین پروتکل‌های سخت‌گیرانه و برنامه‌های هم‌راستایی دقیق، ریسک‌های وجودی آن می‌تواند آینده بشریت را با ابهام بزرگی روبرو کند.