هوش مصنوعی و خطر جنگ؛ چگونه خطای یک چت‌بات ارتش آمریکا را به مرز درگیری با چین کشاند

استفاده بی‌رویه و بدون نظارت از هوش مصنوعی در ساختارهای تحلیل اطلاعاتی ارتش ایالات متحده، ایالات متحده را در آستانه یک درگیری نظامی مستقیم با چین قرار داده است. افشای یک خطای اطلاعاتی فاجعه‌بار نشان می‌دهد که چگونه پدیده «توهم» در ابزارهای دیجیتال می‌تواند امنیت جهانی را به مخاطره بیندازد.

گزارش جعلی که جهان را به آتش کشید

در بهار امسال و در بحبوحه تنش‌ها با ایران، یک گزارش اطلاعاتی در سطح فرماندهی ارتش آمریکا منتشر شد که مدعی بود یک شناور چینی در منطقه خاورمیانه، در حال حمل قطعات مربوط به برنامه تسلیحات هسته‌ای است. این ادعا بلافاصله واکنش‌های نظامی شدیدی را برانگیخت.

بر اساس اطلاعات منتشر شده، نیروهای ویژه و هواپیماهای جنگی برای عملیات رهگیری و توقیف این کشتی آماده عملیات شدند. اما در آخرین لحظات پیش از آغاز درگیری، مشخص شد که این گزارش کاملاً ساختگی است.

"این گزارش کاملاً نادرست بود، اما نزدیک بود یک جنگ جدید میان دو قدرت بزرگ هسته‌ای راه بیندازد."

نقش هوش مصنوعی در اشتباهات استراتژیک

بررسی‌ها نشان داد که یک چت‌بات هوش مصنوعی، با ترکیب نادرست داده‌های آشکار و اطلاعات محرمانه، دچار نوعی خطای شناختی موسوم به توهم شده و محموله کشتی را به اشتباه شناسایی کرده است. تحلیلگر نظامی نیز بدون بازبینی دقیق، این خروجی ساختگی را در قالب یک گزارش استاندارد به سازمان توزیع کرده بود.

نکات کلیدی در مورد ابزارهای فعلی پنتاگون:

• استفاده از نسخه‌های تجاری چت‌بات‌ها با پوسته‌ای نظامی.
• ترکیب نادرست داده‌های سیگنالی و اطلاعات عمومی.
• سرعت بالای تولید گزارش به قیمت کاهش دقت.

چالش‌های امنیتی در استراتژی جدید پنتاگون

این حادثه در حالی رخ می‌دهد که پیت هگست، وزیر دفاع آمریکا، دستورالعمل «استراتژی شتاب‌دهی به هوش مصنوعی» را برای ۳ میلیون پرسنل نظامی صادر کرده است. با این حال، کارشناسان نسبت به نبود استانداردهای ایمنی هشدار می‌دهند.

تحلیلگران معتقدند فشار برای سرعت بخشیدن به فرآیندها باعث شده تحلیلگران جوان‌تر بدون ارزیابی نقادانه، به خروجی‌های هوش مصنوعی اعتماد کنند. در واقع، این ابزارها ممکن است سرعت رسیدن به تصمیمات غلط را به شدت افزایش دهند.

در نهایت، حادثه کشتی چینی نشان داد که ادغام سریع فناوری‌های نوین در ساختار نظامی، بدون وجود پروتکل‌های راستی‌آزمایی دقیق، می‌تواند منجر به تصمیمات نظامی فاجعه‌بار و درگیری‌های غیرقابل کنترل میان قدرت‌های جهانی شود.