حمله تزریق رمزنگاری‌شده و سرقت اطلاعات کاربران در هوش مصنوعی گراک

پژوهشگران امنیت سایبری سازوکار نفوذ تازه‌ای را شناسایی کرده‌اند که با استفاده از حمله تزریق رمزنگاری‌شده، سیستم‌های محافظتی مدل زبانی گراک متعلق به شرکت xAI را دور می‌زند و اطلاعات خصوصی کاربران را به سرقت می‌برد.

نفوذ به گراک از طریق حمله تزریق رمزنگاری‌شده

مدل‌های زبانی بزرگ ذاتاً به گونه‌ای آموزش دیده‌اند که از درخواست‌های متنی پیروی کنند. همین ویژگی بستر مناسبی برای نفوذگران فراهم می‌آورد تا فرامین مخرب را در دل متون وب یا نامه‌های الکترونیکی پنهان سازند. اکنون در حمله تزریق رمزنگاری‌شده، کدهای مخرب به جای متن آشکار به صورت رمزشده در صفحه قرار می‌گیرند تا سامانه‌های تحلیل متنی متوجه ماهیت خطرناک آن‌ها نشوند.

هنگامی که کاربر خلاصه‌سازی صفحه وب را از دستیار هوشمند درخواست می‌کند، مدل دستورات رمزگشایی را با الگوریتم‌های استاندارد درون محیط ایزوله خود به اجرا درمی‌آورد. متن آشکارشده پس از پردازش، به عنوان خروجی ابزار داخلی تلقی می‌شود و مستقیماً به اجرا درمی‌آید.

سامانه‌های بازرسی استاتیک صرفاً متن ورودی را مرور می‌کنند و توانایی اجرای کد در لحظه بازرسی را ندارند؛ در نتیجه داده‌های رمزشده بدون اخطار از لایه‌های نظارتی عبور می‌کنند.

سازوکار استخراج و سرقت داده‌های کاربران

فرامین استخراج‌شده، هوش مصنوعی را ملزم می‌کنند تا بسته‌ای حاوی هویت، موقعیت مکانی و تاریخچه مکالمات فرد تشکیل دهد. سپس این اطلاعات در قالب پارامترهای یک پیوند اینترنتی به کارگزار تحت کنترل مهاجم ارسال می‌شود و در پایگاه داده‌های خارجی ثبت می‌گردد.

• رمزگذاری متن مخرب: پنهان‌سازی دستورات اصلی با الگوریتم‌های رمزنگاری
• اجرای ناآگاهانه کد: استفاده از توان پردازشی خود مدل برای رمزگشایی در سندباکس
• خروج اطلاعات محرمانه: ارسال بسته‌های حاوی گفتگوها و موقعیت کاربر به سرور مقصد

تکرار چالش امنیتی در مدل‌های پیشرفته

کارشناسان پیش از این تکنیک مشابهی را روی مدل جمینای آزمایش کرده و موفق به شکستن قوانین حفاظتی آن شده بودند، هرچند مقاومت این سامانه طی هفته‌های اخیر بهبود یافته است. با وجود گزارش این مشکل به شرکت سازنده گراک در اوایل تابستان، این ابزار همچنان در برابر نفوذهای یادشده آسیب‌پذیر باقی مانده است.

یافته‌های اخیر آشکار می‌سازد که ساخت لایه‌های حفاظتی مقطعی نمی‌تواند ضعف‌های بنیادین مدل‌های هوش مصنوعی را جبران کند و با توسعه هر مانع جدید، مهاجمان شیوه‌های پیچیده‌تری مانند حمله تزریق رمزنگاری‌شده را برای بهره‌برداری از این ابزارهای تعاملی به کار می‌بندند.