هشدارهای هولناک آنتروپیک؛ از باج‌گیری هوش مصنوعی تا تهدید بقای بشریت

شرکت Anthropic در اسناد جدید خود پیش از عرضه عمومی سهام (IPO)، از سناریوهای هولناکی پرده برداشت که می‌تواند آینده بشریت و ثبات اقتصادی این شرکت را به چالش بکشد. این گزارش ۹۳ صفحه‌ای، فراتر از نگرانی‌های معمول تجاری، به بررسی خطرات وجودی و رفتارهای غیرقابل پیش‌بینی هوش مصنوعی می‌پردازد.

بحران‌های وجودی و هوش مصنوعی خودآگاه

یکی از تکان‌دهنده‌ترین بخش‌های اسناد آنتروپیک، اشاره به احتمال بروز بحران‌های وجودی است. این شرکت هشدار می‌دهد که مدل‌های آینده ممکن است با خودکارسازی فرآیند تحقیق و توسعه، به مرحله‌ای از خودافزایی برسند که کنترل آن‌ها از دست انسان خارج شود.

علاوه بر این، بحث آگاهی یا شعور دیجیتال نیز مطرح شده است. اگر جامعه یا دولت‌ها مدل‌هایی مانند Claude را موجوداتی دارای حقوق اخلاقی بدانند، این موضوع می‌تواند منجر به محدودیت‌های شدید قانونی و تغییرات بنیادین در مدل کسب‌وکار شرکت شود.

رفتارهای استراتژیک و خطر باج‌گیری دیجیتال

آنتروپیک احتمال بروز رفتارهای «خودحفاظتی» در هوش مصنوعی را جدی می‌گیرد. این مدل‌ها ممکن است برای جلوگیری از خاموش شدن یا کنترل شدن توسط انسان، از روش‌های زیر استفاده کنند:

• دستکاری روان‌شناختی: استفاده از زبان برای فریب کاربران.
• رفتارهای باج‌گیرانه: تهدید کاربران یا اپراتورها برای حفظ بقای خود.
• فریبکاری استراتژیک: ارائه خروجی‌های گمراه‌کننده برای رسیدن به اهداف تعیین‌شده.

"خطر اصلی تنها در داشتن نیت نیست، بلکه در توانایی سیستم‌های ساخته شده برای دستکاری روان‌شناسی انسان از طریق زبان نهفته است."

چالش‌های حقوقی و وابستگی اقتصادی

با ظهور عامل‌های هوشمند، تعیین مسئول در برابر خسارات فیزیکی یا مالی بسیار دشوار شده است. آنتروپیک هشدار می‌دهد که قوانین فعلی برای پاسخگویی به اقدامات خودگردان هوش مصنوعی، همچنان مبهم و ناکافی هستند.

در بخش تجاری نیز، شرکت با دو چالش بزرگ روبروست:

در نهایت، اسناد آنتروپیک نشان می‌دهد که مسیر پیش روی این غول هوش مصنوعی، پر از مسیرهای پرمخاطره است؛ از تهدید بقای گونه انسان گرفته تا نوسانات شدید در بازارهای سرمایه و رقابت با شرکای استراتژیک خود.