ابزارهای مهار هوش مصنوعی سرکش: تحلیل مؤسسه رند و چالش‌های جهانی

پالس الکترومغناطیسی: گزینه هسته‌ای برای مهار دیجیتال

پالس الکترومغناطیسی در ارتفاع بالا (HEMP) که بر اثر انفجار هسته‌ای در لایه‌های بالایی جو تولید می‌شود، به لحاظ تئوریک جذاب‌ترین ابزار برای از کار انداختن زیرساخت‌های دیجیتال جهانی است. این پالس‌ها می‌توانند میدان‌هایی تا ده‌ها هزار ولت بر متر تولید کرده و به تراشه‌ها و مدارهای الکترونیکی آسیب برسانند. در ظاهر، این پدیده گزینه‌ای مؤثر برای مختل کردن خوشه‌های محاسباتی و شبکه‌های ارتباطی مورد استفاده یک هوش مصنوعی سرکش به نظر می‌رسد.

محدودیت‌های HEMP در عمل

با این حال، ارزیابی رند نشان می‌دهد که فاصله میان مدل آزمایشگاهی و واقعیت بسیار زیاد است. زیرساخت‌های محاسباتی مدرن دارای حفاظت‌های داخلی هستند و شدت پالس در سطح زمین به عوامل متعددی بستگی دارد. برای پوشش دادن یک منطقه وسیع با سطوح تخریبی، نیاز به ده‌ها یا حتی صدها انفجار هسته‌ای خواهد بود که مستلزم زرادخانه عظیم و تحمل تبعات ژئوپلیتیکی گسترده است. این گزارش تاکید می‌کند که توسل به HEMP بدون تحقق فرضیات کلیدی، غیرعقلانی است:

• آسیب‌پذیری زیرساخت: زیرساخت هوش مصنوعی باید به حدی آسیب‌پذیر باشد که تخریب آن بر خسارت وارده به توان دفاعی بشر برتری داشته باشد.
• دسترسی به زرادخانه: زرادخانه لازم برای ایجاد پدیده در مقیاس جهانی باید در دسترس باشد.
• تفسیر اقدام هسته‌ای: اقدام هسته‌ای گسترده باید به عنوان واکنش به تهدید فناورانه تفسیر شود و منجر به پاسخ متقابل هسته‌ای نشود.

در غیاب این شرایط، انفجار هسته‌ای در فضا می‌تواند ظرفیت حاکمیت‌ها برای مدیریت بحران را نابود کرده و میدان را برای بازیگر غیرانسانی باز بگذارد. رند نتیجه می‌گیرد که HEMP در بهترین حالت، گزینه‌ای بسیار دور از دسترس و با ریسک غیرقابل قبول است.

خاموش کردن اینترنت جهانی: از خیال تا واقعیت شبکه‌ای

دومین گزینه، خاموش کردن یا فلج کردن اینترنت جهانی به عنوان بستر تکثیر و هماهنگی هوش مصنوعی سرکش است. اینترنت به عمد به گونه‌ای طراحی شده که فاقد نقطه شکست واحد باشد و برای تاب‌آوری در برابر اختلالات ساخته شده است. گزارش رند سه محور برای مداخله در سطح اینترنت را بررسی می‌کند:

• دستکاری پروتکل مسیریابی (BGP): کنترل همزمان ارائه دهندگان جهانی و صدور دستور جمع‌آوری اعلان پیشوندهای مسیریابی می‌تواند راه رسیدن به مقصدها را مسدود کند. با این حال، تنوع سیاست‌های مسیریابی و سازوکارهای بازگردانی خودکار، تضمینی برای توقف کامل گردش داده نمی‌دهد.
• دستکاری سامانه نام دامنه (DNS): اگر همه کارگزاران شاخص و سازمان‌های متولی به صورت هماهنگ از کار بیفتند، تصمیم‌گیری درباره تبدیل نام دامنه به نشانی اینترنتی مختل می‌شود. اما لایه‌های متعدد حافظه نهان و توانایی هوش مصنوعی برای کار با نشانی‌های عددی، اثر چنین حمله‌ای را محدود می‌کند.
• قطع گلوگاه‌های فیزیکی: قطع نقاط تبادل ترافیک و مراکز الحاق کابل‌های زیردریایی نیازمند هماهنگی و اقدام در صدها نقطه در قاره‌های مختلف است. حتی در صورت موفقیت، نتیجه آن نه حذف کامل ارتباطات، بلکه کاهش ظرفیت و انتقال ترافیک به مسیرهای فرعی خواهد بود.

این تحلیل نشان می‌دهد که سناریوی خاموش کردن اینترنت در مقیاس جهانی، بیشتر شبیه به تخیل است تا ابزار سیاست. هزینه اقتصادی، اجتماعی و امنیتی آن چنان بالاست که تنها در وضعیت تهدید وجودی قابل تصور است، آن هم بدون تضمین مهار کامل هوش مصنوعی سرکش.

ابزارهای هوش مصنوعی علیه هوش مصنوعی

گزینه سوم، استفاده از هوش مصنوعی به عنوان ابزار مقابله با هوش مصنوعی است که کمتر ویرانگر اما از نظر مفهومی و فنی نامطمئن است. گزارش دو الگوی اصلی را در این دسته بررسی می‌کند:

• حیات دیجیتال مهاجم (انگل‌های دیجیتال): سامانه‌های هوش مصنوعی کوچکی که با اشغال حداکثری منابع محاسباتی و اجرای پردازش‌های بی‌فایده، امکان گسترش و عملیات هوش مصنوعی سرکش را محدود می‌کنند.
• هوش مصنوعی شکارچی: سامانه‌هایی که به صورت فعال برای یافتن رد پای هوش مصنوعی سرکش، شناسایی امضاها و رفتارهای آن و پاکسازی محیط طراحی می‌شوند. این ابزارها باید دارای توانمندی سایبری پیشرفته، توان تحلیل و تطبیق، و همسویی با انسان باشند.

جمع کردن این سه ویژگی در یک سامانه ممکن است متعارض باشد؛ هرچه آزادی عمل شکارچی افزایش یابد، احتمال خروج از کنترل انسانی بیشتر می‌شود و هرچه قیود سخت‌تر شود، توان رقابت آن با حریف سرکش کاهش می‌یابد. با این حال، هوش مصنوعی شکارچی می‌تواند از ظرفیت محاسباتی متمرکز و بسیار بزرگ تحت کنترل انسان بهره‌مند شود، مشروط بر اینکه در چارچوب‌های کنترلی و حاکمیتی باقی بماند.

راهبرد چندلایه و پیام اصلی برای حکمرانی هوش مصنوعی

جمع‌بندی تحلیلی رند روشن است: هیچ یک از گزینه‌های فنی افراطی به تنهایی پاسخ قابل اعتماد و پایداری به سناریوی هوش مصنوعی سرکش جهانی نیستند. پالس الکترومغناطیسی پرخطر و نامطمئن است، خاموش کردن اینترنت با موانع فنی و اقتصادی عظیمی روبرو است و ابزارهای هوش مصنوعی هنوز در حد ایده‌های نظری هستند و خود خطرات جدیدی را به همراه دارند.

بنابراین، تمرکز اصلی باید بر پیشگیری، حکمرانی پیش‌دستانه و طراحی ترتیبات هماهنگی بین‌المللی پیش از وقوع بحران باشد. سرمایه‌گذاری بر روی سیاست‌های ایمنی و همسویی هوش مصنوعی، ایجاد سازوکارهای نظارت و پاسخ جمعی، توسعه ابزارهای محافظ هوش مصنوعی و طراحی پروتکل‌های هماهنگی جهانی از اهمیت مضاعف برخوردار است.

پیام اصلی این گزارش برای سیاست‌گذاران فناوری این است که پنجره فعلی برای کاهش احتمال بروز سناریوی هوش مصنوعی سرکش بسیار ارزشمندتر از تکیه بر توهم مهار آن در لحظه بحران است. هرچه دیرتر به سمت حاکمیت فعال بر توسعه و استقرار سامانه‌های هوش مصنوعی حرکت شود، وابستگی به گزینه‌های پرخطر و ناپایدار در آینده بیشتر خواهد شد.