آنتروپیک عرضه مدل جدید هوش مصنوعی خود را به دلیل قدرت تخریبی بالا متوقف کرد

هشدار بی‌سابقه: هوش مصنوعی تهدیدی برای زیرساخت‌های جهانی

توسعه‌دهندگان آنتروپیک در گزارشی تکان‌دهنده فاش کردند که مدل پیشرفته هوش مصنوعی این شرکت به سطحی از توانمندی رسیده که عرضه آن می‌تواند امنیت زیرساخت‌های جهانی و حریم خصوصی کاربران را به شکلی جبران‌ناپذیر به چالش بکشد. این مدل، که هنوز نام رسمی آن اعلام نشده، قادر است تنها با دریافت دستورات متنی ساده، فرآیند اکسپلویت کردن سیستم‌های بزرگ و نفوذ به مرورگرهای وب را به صورت خودکار انجام دهد.

کارشناسان معتقدند که برخلاف مدل‌های پیشین با محدودیت‌های اخلاقی، این نسخه جدید پتانسیل بالایی در شناسایی حفره‌های امنیتی ناشناخته یا Zero-day دارد. این قابلیت هوش مصنوعی را به سلاحی مرگبار در دست هکرهای کلاه سیاه تبدیل می‌کند که می‌تواند زیرساخت‌های حساس ملی و بین‌المللی را فلج کرده و حملات سایبری پیچیده‌ای را سازمان‌دهی کند.

اعتراف سازنده به قدرت تخریبی محصولش

نکته حائز اهمیت در این گزارش، اعتراف صریح خودِ سازنده به قدرت تخریبی محصولش است. این نخستین بار است که یک غول فناوری در حوزه هوش مصنوعی، محصول آماده عرضه خود را به دلیل ترس از عواقب امنیتی بایگانی می‌کند. این اقدام آنتروپیک فشار مضاعفی را بر رقبای بزرگی همچون OpenAI وارد کرده و بحث‌های اخلاقی پیرامون اولویت دادن به ایمنی در مقابل سودآوری را در محافل فناوری دوباره داغ کرده است.

امنیت جهانی بر رقابت تجاری ارجحیت دارد؟

تصمیم به توقف عرضه این مدل، نشان‌دهنده یک چرخش بزرگ در سیاست‌های دره سیلیکون در سال جاری است. در حالی که پیش از این شعار «حرکت سریع و عبور از مرزها» در اولویت بود، اکنون ترس از خلق یک ابر هوش مصنوعی غیرقابل کنترل باعث شده تا توسعه‌دهندگان، امنیت جهانی را به رقابت‌های تجاری ترجیح دهند. با این حال، پرسش اساسی اینجاست که اگر آنتروپیک این فناوری را پشت درهای بسته نگه دارد، آیا سایر رقبای بین‌المللی نیز به این پیمان اخلاقی پایبند خواهند بود یا خیر.