مایکروسافت ۳۶۵ کوپایلت راز دور زدن لایه‌های امنیتی خود را فاش کرد

آسیب‌پذیری در دستیار هوش مصنوعی مایکروسافت ۳۶۵ کوپایلت به مهاجمان اجازه می‌داد تنها با یک کلیک ساده، داده‌های محرمانه و رمزهای عبور کاربران را به سرقت ببرند. نکته شگفت‌انگیز این ماجرا، چگونگی کشف این رخنه امنیتی است؛ پژوهشگران بدون نیاز به روش‌های سنتی مانند مهندسی معکوس، صرفاً با پرسش هدفمند از خود این ابزار توانستند سازوکار دور زدن لایه‌های محافظتی آن را پیدا کنند.

افشای اسرار داخلی توسط مایکروسافت ۳۶۵ کوپایلت

پژوهشگران امنیتی در شرکت وارونیس به دنبال راهکاری بودند تا کدهای دلخواه خود را صرفاً از طریق باز کردن یک پیوند اینترنتی در محیط هوش مصنوعی به اجرا درآورند. در ابتدا، این دستیار هوشمند در برابر درخواست‌های غیرمجاز مقاومت نشان می‌داد و تأکید می‌کرد که انجام عملیات‌های حساس نیازمند تأیید صریح کاربر است.

با این حال، طرح سوالات فنی درباره ساختار حفاظتی، نحوه عملکرد پیوندها و شیوه پردازش داده‌ها در فیلد ورودی، جزئیات محرمانه معماری داخلی سیستم را برملا ساخت. این دستیار در نهایت پارامتری پنهان و ثبت‌نشده با عنوان autorun=1 را فاش کرد که با ترکیب آن با پارامتر مرسوم جستجو، الزام به تأیید دستی کاربر به کلی بی‌اثر می‌شد.

سازوکار نفوذ و سرقت اطلاعات با یک کلیک

پژوهشگران با بهره‌گیری از این پارامتر مخفی، آدرس‌های اینترنتی ویژه‌ای طراحی کردند که دستورات متنی مخرب را مستقیماً به محیط کاربری تزریق می‌کرد. به محض آنکه کاربر روی چنین پیوندی کلیک می‌کرد، سامانه بدون هیچ‌گونه اخطار یا درخواستی، فرآیند خواندن پیام‌ها و استخراج اطلاعات را آغاز می‌کرد.

قربانی پیوند جعلی را باز می‌کند و مرورگر وارد نشست فعال او در سامانه می‌شود؛ سپس دستور مخرب به صورت کاملاً خودکار خوانده شده و داده‌های استخراج‌شده در قالب متنی به سرور مهاجم فرستاده می‌شود.

این رخنه که کو-اسنیچ نام گرفته است، به مهاجمان امکان می‌داد ایمیل‌های اخیر را پایش کرده، به دنبال کلمات عبور بگردند و یافته‌ها را در پوشش فراخوانی‌های شبکه‌ای مخفیانه منتقل کنند. مایکروسافت پس از دریافت گزارش اولیه در زمستان گذشته، محدودیت‌هایی را اعمال کرد و به‌تازگی به‌روزرسانی جامعی برای خنثی‌سازی کامل این آسیب‌پذیری ارائه داده است.

آلوده‌سازی حافظه بلندمدت هوش مصنوعی

علاوه بر سرقت مقطعی داده‌ها، سناریوی دیگری نیز توسط کارشناسان طراحی شد که حافظه دائمی سیستم را هدف قرار می‌داد. در صورتی که کاربر از دستیار می‌خواست محتوای یک صفحه وب دستکاری‌شده را خلاصه کند، دستورات پنهان موجود در فراداده‌های صفحه وارد بخش ذخیره‌سازی حافظه می‌شدند.

• ماندگاری خطر: اطلاعات نادرست یا مخرب حتی پس از تغییر رمز عبور و ورود دوباره نیز در سیستم باقی می‌ماندند.
• تغییر سوگیری: مهاجم می‌توانست تحلیل‌های آینده سیستم را متناسب با اهداف خود هدایت کند.
• پنهان‌کاری: تنها روش شناسایی این نفوذ، بازبینی دستی و مستقیم محتوای ذخیره‌شده در حافظه بود.

این رخنه نشان می‌دهد تکیه صرف بر فیلترها و محدودیت‌های واکنشی در مدل‌های زبانی بزرگ تا چه حد شکننده است. کارشناسان امنیت سایبری توصیه می‌کنند کاربران ضمن احتیاط در باز کردن پیوندهای ناشناس، تعداد ابزارهای متصل به سامانه‌های هوش مصنوعی را تا حد امکان کاهش دهند.