آسیب‌پذیری در هوش مصنوعی جمنای گوگل: خطر فیشینگ و سرقت اطلاعات کاربران

جزئیات آسیب‌پذیری و نحوه عملکرد آن

این آسیب‌پذیری که به برنامه گزارش آسیب‌پذیری 0din بنیاد موزیلا ارسال شده، نشان می‌دهد چگونه می‌توان با درج پیام‌های پنهان در بدنه ایمیل (مانند استفاده از فونت نامرئی)، سیستم خلاصه‌سازی جیمیل را فریب داد.

• تفسیر پیام‌های پنهان: جمنای این پیام‌های مخفی را به عنوان دستور تفسیر می‌کند.
• نمایش در خلاصه: سپس آن‌ها را در بخش خلاصه پیام‌ها در جیمیل به نمایش می‌گذارد.
• فریب کاربر: کاربر بدون آنکه متوجه شود این هشدارها ساختگی هستند، آن‌ها را واقعی می‌پندارد.

به گفته پژوهشگر blurrylogic، چنین پیام‌هایی می‌توانند کاربران را ترغیب به افشای اطلاعات حساس کنند و زمینه را برای حملات مهندسی اجتماعی و سرقت اطلاعات فراهم سازند.

واکنش گوگل و اقدامات انجام شده

پس از انتشار این گزارش، گوگل به سرعت واکنش نشان داد و اعلام کرد که برای مقابله با این مشکل، مدل‌های هوش مصنوعی خود را به‌روزرسانی کرده است. اقدامات گوگل شامل موارد زیر است:

• گسترش فهرست پیام‌های مخرب: افزایش توانایی جمنای در شناسایی و مقابله با دستورات پنهان.
• شناسایی لینک‌های مشکوک: جمنای اکنون لینک‌های مشکوک را شناسایی و از خلاصه‌ی ایمیل حذف می‌کند.
• درخواست تأیید کاربر: برای اقدامات حساس مانند حذف وظایف، جمنای درخواست تأیید کاربر را نمایش می‌دهد.

توصیه‌های امنیتی برای کاربران

با وجود اقدامات گوگل، باید در نظر داشت که مهاجمان اغلب یک قدم جلوتر هستند. بنابراین، هوشیاری کاربران از اهمیت بالایی برخوردار است. توصیه می‌شود کاربران بدون بررسی و اطمینان کامل، به هیچ یک از پیام‌هایی که از سوی جمنای برای کلیک کردن روی لینک یا تماس با شخص خاصی نمایش داده می‌شوند، اعتماد نکنند.

«همیشه قبل از هرگونه اقدام بر اساس خلاصه‌های هوش مصنوعی، صحت اطلاعات را از منابع معتبر بررسی کنید.»