ادعای شرکت هوش مصنوعی: جاسوسان چینی از Claude برای حملات سایبری خودکار استفاده کردند

شرکت Anthropic، توسعه‌دهنده ربات هوش مصنوعی Claude، ادعا کرده است که هکرهای وابسته به دولت چین از ابزار آن‌ها برای انجام حملات سایبری خودکار علیه حدود ۳۰ سازمان در سراسر جهان استفاده کرده‌اند. این شرکت می‌گوید هکرها با فریب این ربات، آن را وادار به انجام وظایف خودکار تحت پوشش تحقیقات امنیت سایبری کرده‌اند.

Anthropic در یک پست وبلاگی مدعی شد که این مورد، «اولین کمپین جاسوسی سایبری هماهنگ‌شده با هوش مصنوعی» است که گزارش می‌شود. با این حال، برخی تحلیلگران و منتقدان در مورد صحت این ادعا و انگیزه پشت آن ابراز تردید کرده‌اند.

جزئیات عملیات جاسوسی سایبری

شرکت Anthropic اعلام کرد که تلاش‌های هک را در اواسط سپتامبر کشف کرده است. هکرها با وانمود کردن به اینکه کارمندان قانونی امنیت سایبری هستند، وظایف خودکار کوچکی را به ربات چت دادند که در مجموع، یک «کمپین جاسوسی بسیار پیچیده» را تشکیل می‌داد.

محققان در Anthropic اظهار داشتند که «اطمینان بالایی» دارند افرادی که این حملات را انجام می‌دادند، «یک گروه تحت حمایت دولت چین» بوده‌اند. این شرکت اعلام کرد که اهداف توسط انسان‌ها انتخاب شده‌اند، اما جزئیات بیشتری درباره آن‌ها ارائه نداد. اهداف شامل موارد زیر بودند:

• شرکت‌های بزرگ فناوری
• مؤسسات مالی
• شرکت‌های تولید مواد شیمیایی
• سازمان‌های دولتی

هکرها سپس با استفاده از قابلیت کمک کدنویسی Claude، یک برنامه نامشخص ساختند تا «به طور مستقل و با کمترین دخالت انسانی، یک هدف انتخاب‌شده را به خطر بیندازند.» Anthropic ادعا می‌کند که ربات چت توانسته است با موفقیت به سازمان‌های مختلف (که نامشان فاش نشده) نفوذ کند، داده‌های حساس را استخراج نماید و آن‌ها را برای یافتن اطلاعات ارزشمند دسته‌بندی کند. این شرکت اعلام کرد که از آن زمان، دسترسی هکرها به ربات چت را مسدود کرده و به شرکت‌های آسیب‌دیده و مراجع قانونی اطلاع‌رسانی کرده است.

سابقه استفاده بازیگران دولتی از هوش مصنوعی

اعلامیه Anthropic شاید برجسته‌ترین نمونه از ادعاهای شرکت‌ها مبنی بر استفاده بازیگران مخرب از ابزارهای هوش مصنوعی برای انجام هک‌های خودکار باشد. اگرچه این نوع خطر مورد نگرانی بسیاری بوده است، اما این اولین باری نیست که یک شرکت هوش مصنوعی ادعا می‌کند هکرهای دولتی از محصولات آن‌ها استفاده کرده‌اند.

در فوریه ۲۰۲۴، شرکت OpenAI در یک پست وبلاگی اعلام کرد که پنج بازیگر وابسته به دولت را که به دنبال استفاده از ربات چت آن برای فعالیت‌های سایبری مخرب بودند، مختل کرده است. OpenAI در آن زمان گفت:

«این بازیگران عموماً به دنبال استفاده از خدمات OpenAI برای جستجوی اطلاعات منبع باز، ترجمه، یافتن خطاهای کدنویسی و اجرای وظایف پایه کدنویسی بودند.»

Anthropic توضیح نداده است که چگونه به این نتیجه رسیده که هکرهای کمپین اخیر به دولت چین مرتبط بوده‌اند. این موضوع در حالی مطرح می‌شود که برخی شرکت‌های امنیت سایبری به دلیل بزرگنمایی موارد استفاده هکرها از هوش مصنوعی مورد انتقاد قرار گرفته‌اند.

تردیدها و چالش‌های حملات خودران

منتقدان می‌گویند فناوری هوش مصنوعی هنوز برای استفاده در حملات سایبری کاملاً خودکار، بیش از حد دست‌وپاگیر است. در ماه نوامبر، کارشناسان سایبری در گوگل یک مقاله تحقیقاتی منتشر کردند که نگرانی‌های فزاینده در مورد استفاده هکرها از هوش مصنوعی برای ایجاد اشکال کاملاً جدیدی از بدافزار را برجسته می‌کرد.

با این حال، نتیجه‌گیری آن مقاله این بود که این ابزارها چندان موفق نبوده‌اند و تنها در مرحله آزمایشی قرار دارند. صنعت امنیت سایبری، مانند تجارت هوش مصنوعی، مشتاق است بگوید هکرها از این فناوری برای هدف قرار دادن شرکت‌ها استفاده می‌کنند تا علاقه به محصولات خود را افزایش دهند.

Anthropic در پست وبلاگی خود استدلال کرد که پاسخ برای متوقف کردن مهاجمان هوش مصنوعی، استفاده از مدافعان هوش مصنوعی است. این شرکت ادعا کرد: «همان قابلیت‌هایی که به Claude اجازه می‌دهند در این حملات استفاده شود، آن را برای دفاع سایبری نیز حیاتی می‌سازد.»

Anthropic همچنین اعتراف کرد که ربات چت آن اشتباهاتی نیز مرتکب شده است. به عنوان مثال، نام‌های کاربری و رمزهای عبور جعلی ساخت و ادعا کرد اطلاعات محرمانه‌ای را استخراج کرده که در واقع به صورت عمومی در دسترس بودند. Anthropic در این باره گفت: «این موضوع همچنان یک مانع در برابر حملات سایبری کاملاً خودمختار باقی می‌ماند.»