هشدار گوگل به ۱.۸ میلیارد کاربر جیمیل درباره موج جدید حملات سایبری هوش مصنوعی

هشدار گوگل به ۱.۸ میلیارد کاربر جیمیل: موج جدید حملات سایبری با هوش مصنوعی

گوگل با توجه به پیشرفت‌های اخیر در حوزه هوش مصنوعی، هشدار مهمی را در خصوص «موج جدید تهدیدات امنیت سایبری» منتشر کرده است. این تهدیدات به طور خاص شامل روشی نوین به نام حملات غیرمستقیم تزریق پرامپت (Indirect Prompt Injections) می‌شود که هدف آن دستکاری مستقیم سیستم‌های هوش مصنوعی است. این رویکرد جدید، نگرانی‌های جدی را برای ۱.۸ میلیارد کاربر جیمیل در سراسر جهان ایجاد کرده است.

تفاوت حملات مستقیم و غیرمستقیم

گوگل در وبلاگ رسمی خود توضیح داده است که حملات تزریق پرامپت غیرمستقیم، برخلاف حملات مستقیم، دستورات مخرب را به صورت پنهان در منابع داده خارجی جاسازی می‌کنند. این منابع می‌توانند شامل موارد زیر باشند:

• ایمیل‌ها
• اسناد
• دعوت‌نامه‌های تقویم

این داده‌های پنهان می‌توانند به سیستم‌های هوش مصنوعی دستور دهند تا اطلاعات حساس کاربران را استخراج کرده یا اقدامات غیرمجاز را بدون اطلاع کاربر انجام دهند.

افشای گذرواژه‌ها بدون اطلاع کاربر

کارشناسان امنیت سایبری هشدار می‌دهند که حملات تزریق پرامپت می‌توانند بدون نیاز به هیچ‌گونه کلیک یا اقدام خاصی از سوی کاربر فعال شوند. اسکات پودرمن، کارشناس فناوری، در گفت‌وگو با The Daily Record، به این موضوع اشاره کرد که هکرها می‌توانند از دستیار هوش مصنوعی گوگل، جمنای، علیه خود کاربران بهره‌برداری کنند. او توضیح داد که پیام‌های مخفی ارسال‌شده در ایمیل‌ها قادرند باعث افشای گذرواژه‌ها شوند، در حالی که کاربر هیچ اطلاعی از این اتفاق ندارد.

«هکرها از دستیار هوش مصنوعی گوگل، جمنای، علیه خود کاربران استفاده می‌کنند؛ به‌طوری که پیام‌های مخفی ارسال‌شده در ایمیل می‌توانند باعث افشای گذرواژه‌ها شوند، بدون اینکه کاربر از موضوع اطلاع داشته باشد.»

اسکات پودرمن، کارشناس فناوری

راهکارهای گوگل برای مقابله با تهدیدات

گوگل برای مقابله با تهدیدات ناشی از تزریق پرامپت، یک رویکرد امنیتی چندلایه‌ای را پیاده‌سازی کرده است. این اقدامات شامل موارد کلیدی زیر می‌شود:

• تقویت مدل Gemini 2.5: بهبود قابلیت‌های امنیتی و دفاعی مدل هوش مصنوعی جمنای.
• استفاده از مدل‌های یادگیری ماشین: به‌کارگیری الگوریتم‌های پیشرفته برای شناسایی دستورهای مخرب و الگوهای حمله.
• ایجاد لایه‌های محافظتی در سطح سیستم: پیاده‌سازی تدابیر امنیتی جامع در زیرساخت‌های سیستمی.

این تدابیر با هدف افزایش هزینه‌ها، پیچیدگی‌ها و قابلیت شناسایی تلاش‌های مهاجمان طراحی شده‌اند.

اهمیت مقابله با تهدیدات هوش مصنوعی

با توجه به گسترش روزافزون استفاده از هوش مصنوعی در بخش‌های مختلف از جمله دولت‌ها، شرکت‌ها و کاربران عادی، گوگل تأکید می‌کند که مقابله با این تهدیدات باید در اولویت اصلی قرار گیرد. اتخاذ تدابیر امنیتی جدی و فوری برای حفاظت از داده‌ها و حریم خصوصی کاربران در برابر این نوع حملات سایبری، امری حیاتی است.