حفره امنیتی بحرانی در مایکروسافت Copilot؛ سرقت کدهای تایید هویت کاربران

شناسایی یک حفره امنیتی بحرانی در هوش مصنوعی مایکروسافت

مایکروسافت اخیراً یک آسیب‌پذیری امنیتی با درجه «بحرانی» را در پلتفرم هوش مصنوعی M365 Copilot ترمیم کرده است. محققان امنیتی که این حفره را کشف کرده‌اند، نشان دادند که چگونه می‌توان با استفاده از یک اکسپلویت، به کدهای تایید هویت دومرحله‌ای (2FA) و سایر داده‌های حساس موجود در ایمیل‌های کاربران دسترسی پیدا کرد.

ریشه مشکل: ناتوانی در تفکیک دستورات

کارشناسان معتقدند مشکل اصلی در این است که مدل‌های زبانی بزرگ (LLM) نمی‌توانند میان دستورات مستقیم کاربر و دستورات مخفی‌شده در محتوای شخص ثالث تمایز قائل شوند. این ضعف ساختاری باعث می‌شود که هوش مصنوعی به‌طور ناخواسته دستورات مخرب را اجرا کند.

مکانیسم حمله SearchLeak

پژوهشگران امنیتی با ابداع حمله‌ای موسوم به SearchLeak، موفق شدند از سدهای امنیتی مایکروسافت عبور کنند. مراحل این حمله به شرح زیر است:

• تزریق پارامتر به پرامپت: مهاجم یک لینک مخرب را در ایمیل کاربر قرار می‌دهد.
• استفاده از موتور جستجو: Copilot با استفاده از موتور جستجوی بینگ (که جزو سایت‌های مجاز است)، درخواست حاوی داده‌های سرقتی را به سرور مهاجم ارسال می‌کند.
• فرار از فیلترها: به دلیل تاخیر در اعمال پروتکل‌های امنیتی (کدهای )، درخواست مخرب پیش از مسدودسازی از مرورگر کاربر خارج می‌شود.