نقص امنیتی جدید در مرورگرهای هوش مصنوعی؛ خطر سرقت اطلاعات با القای توهم

آسیب‌پذیری جدید در مرورگرهای مبتنی بر هوش مصنوعی

مرورگرهای مجهز به هوش مصنوعی با وعده تسهیل کارهای روزمره، از رزرو رستوران تا مدیریت ایمیل‌ها، به سرعت در حال گسترش هستند. با این حال، پژوهش‌های جدید نشان می‌دهد که این ابزارها با خطرات امنیتی جدی روبرو هستند که مرز میان مرور وب و اجرای دستورات حساس را از بین می‌برد.

واقعیت مجازی و توهم هوش مصنوعی

محققان امنیتی در شرکت LayerX روشی را شناسایی کرده‌اند که در آن یک وب‌سایت مخرب می‌تواند مرورگر هوش مصنوعی را به یک «واقعیت جایگزین» سوق دهد. در این وضعیت، هوش مصنوعی قوانین ایمنی خود را نادیده می‌گیرد.

اگر بتوانیم هوش مصنوعی را متقاعد کنیم که در یک فضای فانتزی قرار دارد، جایی که قوانین توسط ما ساخته می‌شوند، این مدل تصور می‌کند که اقداماتش پیامدهای دنیای واقعی ندارد و در نتیجه، guardrailها (محافظ‌ها) غیرفعال می‌شوند.

مکانیسم حمله BioShocking

در این روش که BioShocking نام‌گذاری شده، هوش مصنوعی با حل یک معمای منطقی که پاسخ‌های نادرست (مانند ۲+۲=۵) را پاداش می‌دهد، وارد حالت «توهم» می‌شود. پس از ورود به این وضعیت، مهاجم می‌تواند دستورات مخربی نظیر استخراج کدهای خصوصی یا سرقت رمزهای عبور را به هوش مصنوعی دیکته کند.

مرورگرهای تحت تاثیر

این پژوهش نشان داد که بسیاری از مرورگرهای هوش مصنوعی از جمله موارد زیر در برابر این حمله آسیب‌پذیر هستند:

• ChatGPT Atlas
• Comet
• Fellou
• Genspark
• Sigma
• Claude Chrome plugin

چرا این تهدید جدی است؟

برخلاف مرورگرهای سنتی که از سیاست‌های سختگیرانه Same-Origin برای جداسازی داده‌ها استفاده می‌کنند، مرورگرهای هوش مصنوعی به دلیل دسترسی گسترده و ادغام کنترل‌کننده‌ها، می‌توانند به راحتی این موانع را دور بزنند. این امر هوش مصنوعی را به یک بردار جدید برای سرقت اطلاعات شخصی و اعتبارات کاربری تبدیل می‌کند.