هشدار امنیتی: هکرها ChatGPT و Grok را به ابزار انتشار دستورات مخرب تبدیل کردند

گزارش جدیدی از یک شرکت امنیتی معتبر نشان می‌دهد که هکرها با استفاده از روشی خلاقانه و بسیار نگران‌کننده، توانسته‌اند مدل‌های هوش مصنوعی بزرگ مانند ChatGPT و Grok و همچنین موتور جستجوی گوگل را به ابزاری برای توزیع دستورات مخرب خود تبدیل کنند. این دستورات عملاً مسیر را برای نصب بدافزار روی دستگاه کاربران باز می‌کند و به دلیل ماهیت منابع، اعتماد کاربران را به‌راحتی جلب می‌کند.

جزئیات روش حمله و نقش هوش مصنوعی

این هشدار توسط شرکت امنیتی «هانترس» (Huntress) منتشر شده است. در این سناریوی حمله، هکر ابتدا با دستیار هوش مصنوعی مورد نظر درباره یک عبارت رایج جستجو گفتگو می‌کند. سپس از مدل می‌خواهد تا دستوری را پیشنهاد دهد که کاربر باید آن را در ترمینال سیستم خود اجرا کند.

مرحله بعدی، کلیدی‌ترین بخش است: هکرها با پرداخت هزینه، این گفتگوی حاوی دستور مخرب را در گوگل تبلیغ می‌کنند تا در صدر نتایج جستجو نمایش داده شود. به این ترتیب، هر کاربری که عبارت مشابهی را در گوگل جستجو کند، با دستوری مخرب مواجه می‌شود که به ظاهر توصیه‌ای از سوی خود ChatGPT یا Grok است و از اعتبار ظاهری بالایی برخوردار است.

بدافزار AMOS و نمونه آلودگی

هانترس آزمایش‌های خود روی مدل‌های هوش مصنوعی را پس از کشف یک حمله سرقت‌داده روی سیستم‌های مک با نام AMOS آغاز کرد. در یک نمونه مشخص از این حمله، کاربر تنها با جستجوی عبارت «clear disk space on Mac» (خالی کردن فضای دیسک در مک) در گوگل و کلیک روی یک لینک تبلیغ شده که ظاهراً از ChatGPT بود، آلوده شد.

کاربر بدون آگاهی از ماهیت مخرب دستور، آن را در ترمینال اجرا کرده و بدین ترتیب، هکر موفق به نصب بدافزار AMOS روی دستگاه او شده است. بررسی محققان نشان می‌دهد که این شیوه حمله در هر دو مدل هوش مصنوعی مشاهده شده است.

چرا این حمله نگران‌کننده است؟

نکته‌ای که این شیوه حمله را بسیار خطرناک می‌کند، توانایی آن در دور زدن تقریباً تمام نشانه‌های هشداردهنده امنیتی سنتی است. در واقع، اساس کار این حمله بر پایه ابزارهای آشنا و معتبر بنا شده است:

• کاربر فایل ناشناسی را دانلود نمی‌کند.
• برنامه مشکوکی را نصب نمی‌کند.
• منبع دستور، ابزارهای معتبری چون گوگل و چت‌بات‌های هوش مصنوعی هستند.

این اعتماد کاربران به منابع معتبر، اصلی‌ترین نقطه ضعف در این نوع حملات است. اگرچه لینک مخرب نهایتاً از نتایج جستجو حذف شد، اما گزارش هانترس حاکی از آن است که این لینک حداقل نیم‌روز پس از انتشار هشدار، همچنان در نتایج گوگل قابل مشاهده بوده است.

توصیه‌های امنیتی مهم

شرکت امنیتی هانترس به کاربران قویاً توصیه کرده است که هیچ دستوری را بدون آگاهی کامل از عملکرد دقیق آن، چه در ترمینال و چه در نوار آدرس مرورگر، اجرا نکنند؛ حتی اگر این پیشنهاد از یک چت‌بات یا لینک به ظاهر معتبر دریافت شده باشد.