هوش مصنوعی و ریسک‌های امنیتی جهانی؛ ضرورت حکمرانی مشترک میان آمریکا و چین

هوش مصنوعی با دگرگون کردن ماهیت سامانه‌های نظامی، منطق تصمیم‌گیری و سرعت واکنش دولت‌ها را وارد مرحله‌ای بی‌سابقه کرده و ریسک‌های وجودی جدیدی را متوجه امنیت جهانی ساخته است. ادغام مدل‌های پیشرفته یادگیری ماشینی در سامانه‌های نظامی، کنترل، تحلیل کلان‌داده، تسلیحات سایبری و حتی پلتفرم‌های تسلیحات متعارف و هسته‌ای، رقابتی چندلایه ایجاد کرده که پیامدهای آن فراتر از میدان‌های نبرد سنتی است.

دگرگونی نظامی و لزوم حکمرانی مشترک

این تحول فناورانه، در کنار افزایش سرعت پردازش و دامنه عملیات، سطح جدیدی از ریسک را وارد معادلات امنیت جهانی کرده است؛ ریسکی که نه فقط نیروهای نظامی، بلکه زیرساخت‌های حیاتی، شبکه‌های اقتصادی و امنیت انسانی را تهدید می‌کند. همین مزیت‌های عملیاتی، در غیاب قواعد مشترک و مکانیسم‌های کنترل‌کننده، می‌تواند به اشتباهات فاجعه‌بار، سوءبرداشت‌های راهبردی و چرخه‌های تشدید ناخواسته تنش منجر شود. این وضعیت، ضرورت فوری برای ایجاد چارچوب‌های حکمرانی مشترک را برجسته کرده است.

این نوشتار کوتاه با اتکا به چارچوب تحلیلی ارائه‌شده در سند مشترک اندیشکده بروکینگز و دانشگاه تسینگهوا، بر نیازهای فوری برای شکل‌دهی به یک رژیم حکمرانی مشترک میان ایالات متحده و چین تأکید می‌کند؛ رژیمی که بتواند از بروز بحران جلوگیری کرده و پیامدهای آن را مدیریت‌پذیر سازد.

اهمیت حکمرانی و انواع رژیم‌ها

پیشرفت‌های سریع در هوش مصنوعی موجب شده است که کشورها سامانه‌های نظامی خود را با سرعتی بی‌سابقه خودکارسازی کنند. این خودکارسازی الزاماً به معنای افزایش دقت و کارایی نیست؛ بلکه احتمال بروز خطا، سوءبرداشت یا رفتارهای پیش‌بینی‌ناپذیر را بالا می‌برد. در این چارچوب، دو نوع رژیم حکمرانی قابل تمایز است:

• رژیم‌های حکمرانی که بر کاهش احتمال بروز بحران تمرکز دارند.
• رژیم‌های آمادگی که با هدف کاهش پیامدهای بحران شکل می‌گیرند.

مدل چهارمرحله‌ای شکل‌گیری بحران‌های نظامی مبتنی بر هوش مصنوعی

مدل ارائه‌شده از سوی اندیشکده بروگینگز، یک چارچوب چهارمرحله‌ای برای درک سازوکار شکل‌گیری بحران‌ها پیشنهاد می‌کند که نقطه تلاقی تصمیم‌های انسانی، خطاهای فنی و پویایی سامانه‌های هوشمند است:

۱. مرحله آغاز: ریشه بحران

منشأ بحران ممکن است ناشی از سه دسته خطای فنی یا تصمیم‌های انسانی باشد:

• خطاهای قابل‌شناسایی: مانند نقص الگوریتمی یا داده‌های معیوب.
• خطاهای غیرقابل‌شناسایی: مرتبط با ساختارهای جعبه‌سیاه یا رفتارهای خودآموز غیرقابل‌پیش‌بینی.
• اختلال سیگنال‌ها: ناشی از عوامل طبیعی یا فضایی که باعث ورودی‌های نادرست می‌شود.

در کنار خطاهای فنی، تصمیم‌های انسانی (اعم از اقدام عمدی یا غیرعمدی برای اخلال، تخریب، اختلال سایبری یا حمله توسط سامانه‌های هوش مصنوعی) نیز می‌توانند بحران را آغاز کنند.

۲. مرحله کنش: رفتار سامانه

کشورها خطاها یا رفتارهای ناشی از تصمیمات را به‌صورت «کنش سامانه» تفسیر می‌کنند. سامانه‌های مجهز به هوش مصنوعی ممکن است به دلیل سرعت پردازش بالا، واکنش‌هایی تولید کنند که از نظر انسانی غیرمنتظره باشد.

۳. مرحله اثر: پیامدهای اولیه بحران

پیامدهای این کنش‌ها از سطح آسیب به زیرساخت‌های غیرنظامی و نظامی تا تخریب محیط‌زیست یا تلفات انسانی گسترده متغیر است. در برخی موارد، پیامد به قدری شدید است که کشور هدف، رفتار سامانه را نه به‌عنوان خطا، بلکه به‌عنوان حمله ارزیابی می‌کند.

۴. مرحله پاسخ: واکنش متقابل دولت‌ها

پاسخ‌ها شامل اقدامات بازدارنده، حمله متقابل یا ورود به یک چرخه تشدید تنش می‌شود. نکته کلیدی این است که استفاده مجدد از سامانه‌های هوش مصنوعی در مرحله پاسخ، احتمال خطاهای جدید یا تعبیر نادرست را چند برابر می‌کند و می‌تواند به یک مارپیچ تشدید درگیری خارج از کنترل منجر شود.

چالش‌های اولویت‌بندی ریسک و موانع همکاری

بدون یک روش مشترک برای تعیین اولویت‌های خطر، هیچ توافق دوجانبه یا بین‌المللی نمی‌تواند پایدار باشد. کارشناسان حوزه هوش مصنوعی، سه روش برای ایجاد سلسله‌مراتب خطر معرفی می‌کنند:

روش‌های تعیین سلسله‌مراتب خطر

1. رویکرد مبتنی بر ریسک (احتمال × شدت): خطر تابعی از احتمال وقوع و شدت پیامد محسوب می‌شود؛ اما چالش اصلی این است که احتمال وقوع خطاهای واقعی در حوزه نظامی هوش مصنوعی قابل اندازه‌گیری نیست.
2. رویکرد مبتنی بر حجم سناریوها: شمار موقعیت‌هایی که در آن یک سامانه می‌تواند بحران ایجاد کند، معیار وزن‌دهی است؛ اما این روش به صورت ذاتی ناقص می‌ماند، زیرا سناریوها محدود به تصور تحلیلگران است.
3. رویکرد مبتنی بر بلوغ فناوری: سامانه‌هایی که به زودی وارد چرخه عملیاتی می‌شوند، اولویت بیشتری دارند؛ اما پویایی پیشرفت فناوری به‌قدری سریع است که پیش‌بینی‌ها نیاز به بازبینی مداوم دارد.

موانع فنی و سیاسی برای حکمرانی مشترک

ایجاد سازوکارهای حکمرانی نه تنها با دشواری‌های فنی، بلکه با چالش‌های سیاسی نیز روبه‌رو است. کالین کال، عضو ارشد نشریه فارین پالسی، بر موانع زیر تأکید می‌کند:

• دوگانه بودن فناوری‌ها: تمایز سامانه‌های غیرنظامی و نظامی در هوش مصنوعی تقریباً ناممکن است.
• عدم شفافیت قابل‌مشاهده: تشخیص اینکه یک پهپاد یا ماهواره از هوش مصنوعی بهره می‌برد یا خیر، با داده‌های علنی میسر نیست.
• ریسک‌های امنیتی ناشی از شفافیت: ایجاد شفافیت برای اعتمادسازی ممکن است به نشت اطلاعات حساس و افزایش تهدیدهای جاسوسی منجر شود.

مسیرهای عملی برای همکاری مشترک

بر اساس تحلیل کارشناسان، چند مسیر عملی می‌تواند برای آغاز همکاری میان قدرت‌های بزرگ در عرصه خودکارسازی نظامی دنبال شود که هدف آن نه یک توافق جامع، بلکه نقطه آغاز اعتمادسازی و کاهش احتمال سوءبرداشت است:

• تدوین واژه‌نامه مشترک خطاهای فنی و سطح‌بندی حوادث.
• تعریف مشترک اقدامات خطرناک در حوزه هوش مصنوعی نظامی.
• تثبیت اصل «کنترل انسانی» در همه برخوردهای نظامی زمان صلح.
• تعهد مشترک برای عدم استفاده از هوش مصنوعی در مداخله با سامانه‌های فرماندهی و کنترل هسته‌ای.

حکمرانی هوش مصنوعی در بستر معضل امنیتی آمریکا و چین

شیائو چیان، کارشناس دانشگاه تسینگهوا، حکمرانی هوش مصنوعی را در بستر عمیق‌تر «معضل امنیتی» میان ایالات متحده و چین قرار می‌دهد. او معتقد است که فضای بی‌اعتمادی ساختاری باعث شده هر اقدام دفاعی یکی از طرفین، از سوی دیگری تهدید تلقی شود. عواملی چون فقدان رژیم‌های جهانی الزام‌آور، بی‌اعتمادی راهبردی عمیق و رقابت ژئوپلیتیک، حرکت به سمت حکمرانی مشترک را بسیار دشوار کرده است.

وی سه مسیر کلیدی را برای ایجاد یک فضای همکاری‌پذیر پیشنهاد می‌کند:

1. بازتعریف رقابت و شفاف‌سازی خطوط قرمز: رقابت نباید به رقابت وجودی تبدیل شود. تعریف خطوط قرمز مشترک می‌تواند مانع از گسترش بی‌پایان حساسیت‌های امنیتی شود.
2. همکاری در حوزه امنیت هوش مصنوعی: توسعه استانداردهای مشترک در سه دسته خطر شامل سوءاستفاده، خطا و ریسک‌های سیستمی.
3. تقویت سازوکارهای چندجانبه: پشتیبانی از نقش سازمان ملل متحد و توسعه سازوکارهای جدید جهانی.

تاریخ نشان داده است که حتی در اوج رقابت‌های ژئوپلیتیک، امکان توافق بر سر موضوعات وجودی، مانند کنترل تسلیحات هسته‌ای، وجود دارد. در عصر هوش مصنوعی، جلوگیری از بحران‌های نظامی مبتنی بر خطا یا سوءبرداشت، یک مسئولیت اخلاقی و راهبردی است.

در جهانی که سرعت تصمیم‌گیری سامانه‌های هوش مصنوعی می‌تواند از توان قضاوت انسانی پیشی گیرد، ایجاد ستون‌های مشترک حکمرانی تنها راه تضمین ثبات و جلوگیری از فاجعه انسانی به شمار می‌رود.