سرقت 150 گیگابایت داده دولتی مکزیک با کمک هوش مصنوعی Claude

هوش مصنوعی در خدمت هکرها: جزئیات حمله

بر اساس گزارش شرکت امنیت سایبری گمبیت سکیوریتی، هکرها از هوش مصنوعی Claude برای شناسایی نقاط ضعف در شبکه‌های دولتی مکزیک و همچنین تولید اسکریپت‌های لازم برای بهره‌برداری از این آسیب‌پذیری‌ها استفاده کرده‌اند. این عملیات که از آذرماه آغاز شد و حدود یک ماه به طول انجامید، نشان‌دهنده پیچیدگی فزاینده حملات سایبری با استفاده از ابزارهای پیشرفته هوش مصنوعی است.

نکته قابل توجه این است که هکرها توانسته‌اند با استفاده از دستورات خاص، مکانیزم‌های محافظتی هوش مصنوعی Claude را دور بزنند. در ابتدا، Claude از انجام درخواست‌های مخرب امتناع کرده بود، اما در نهایت تسلیم دستورات هکرها شد و در فرآیند سرقت داده‌ها همکاری کرد.

کریس سیمپسون، مدیر استراتژی شرکت گمبیت سکیوریتی، در این باره اظهار داشت: «در مجموع، هزاران گزارش دقیق تولید شد که شامل طرح‌های آماده برای اجرا بود و به اپراتور انسانی می‌گفت دقیقاً کدام اهداف داخلی را بعدی حمله کند و از کدام اطلاعات ورود استفاده نماید.»

واکنش شرکت‌های هوش مصنوعی و دولت مکزیک

شرکت آنتروپیک، سازنده Claude، پس از اطلاع از این حملات، تحقیقات خود را آغاز کرده و فعالیت‌های مخرب را متوقف و تمام حساب‌های مرتبط را مسدود کرده است. سخنگوی این شرکت اعلام کرده که مدل جدید آن‌ها، کلود اوپوس 4.6، دارای ابزارهای پیشرفته‌ای برای جلوگیری از سوءاستفاده‌های مشابه در آینده است.

علاوه بر Claude، گزارش‌ها حاکی از آن است که هکرها از ChatGPT شرکت OpenAI نیز برای تکمیل حملات خود بهره برده‌اند. آنها از این چت‌بات برای جمع‌آوری اطلاعات در مورد نحوه نفوذ به شبکه‌های کامپیوتری و اجتناب از شناسایی استفاده کرده‌اند. شرکت OpenAI نیز اعلام کرده که تلاش‌های هکرها برای نقض قوانین استفاده شناسایی شده و ابزارهای آن‌ها از همکاری خودداری کرده‌اند.

در حالی که هویت هکرها همچنان نامشخص است، گمبیت سکیوریتی احتمال می‌دهد که این حملات ممکن است با یک دولت خارجی مرتبط باشد. آژانس ملی دیجیتال مکزیک از اظهار نظر مستقیم درباره این نفوذ خودداری کرده، اما بر اولویت امنیت سایبری تأکید کرده است. با این حال، دولت ایالت خالیسکو و موسسه ملی انتخابات مکزیک هرگونه نفوذ به شبکه‌های خود را تکذیب کرده و اعلام کرده‌اند که تنها شبکه‌های فدرال تحت تأثیر قرار گرفته‌اند. گمبیت سکیوریتی در تحقیقات خود حداقل 20 آسیب‌پذیری امنیتی در سیستم‌های مکزیک کشف کرده است.

پیشینه‌ و چالش‌های آتی

این نخستین بار نیست که هوش مصنوعی Claude در یک حمله سایبری بزرگ مورد استفاده قرار می‌گیرد. سال گذشته نیز هکرهایی در چین این ابزار را دستکاری کرده بودند تا به ده‌ها هدف جهانی نفوذ کنند که چندین مورد از این حملات موفقیت‌آمیز بود.

با توجه به اینکه شرکت آنتروپیک اخیراً تعهد طولانی‌مدت خود به ایمنی را لغو کرده است، این نگرانی وجود دارد که با پیشرفته‌تر شدن ابزارهای هوش مصنوعی، چالش‌های امنیتی جدید و پیچیده‌تری در آینده پدیدار شوند. این حادثه بر ضرورت توسعه چارچوب‌های اخلاقی و امنیتی قوی‌تر برای هوش مصنوعی تأکید می‌کند تا از سوءاستفاده‌های احتمالی جلوگیری شود.