کشف آسیب‌پذیری جدید در هوش مصنوعی جیمیل: خطر سرقت اطلاعات کاربران

فریب هوش مصنوعی جیمیل: روش کار هکرها

این آسیب‌پذیری توسط یک پژوهشگر امنیت سایبری کشف و به بنیاد موزیلا گزارش شده است. طبق این گزارش، هکرها می‌توانند با قرار دادن دستورات مخرب در بدنه ایمیل و پنهان کردن آن‌ها (برای مثال با استفاده از فونت نامرئی)، سیستم خلاصه‌سازی جیمیل را فریب دهند.

در این حالت، هوش مصنوعی Gemini این دستورات پنهان را به عنوان یک فرمان واقعی تفسیر کرده و آن را در بخش خلاصه ایمیل به کاربر نمایش می‌دهد. این روش جدید که نوعی مهندسی اجتماعی پیشرفته محسوب می‌شود، بار دیگر ثابت می‌کند که حتی پیشرفته‌ترین ابزارهای هوش مصنوعی نیز می‌توانند به ابزاری برای کلاهبرداری تبدیل شوند و امنیت کاربران را به خطر بیندازند.

برای مثال، ممکن است در خلاصه ایمیل پیامی جعلی مبنی بر لزوم تغییر رمز عبور یا کلیک روی یک لینک آلوده نمایش داده شود، بدون آنکه کاربر بداند منشأ این پیام یک دستور مخرب بوده است. این آسیب‌پذیری در هوش مصنوعی سرویس جیمیل زمینه را برای حملات فیشینگ و سرقت اطلاعات حساس فراهم می‌کند.

واکنش گوگل و توصیه‌های امنیتی

پس از انتشار این گزارش، گوگل اعلام کرد که برای مقابله با این مشکل، مدل‌های هوش مصنوعی خود را به‌روزرسانی کرده است. این شرکت می‌گوید اکنون جمنای لینک‌های مشکوک را بهتر شناسایی و از خلاصه ایمیل حذف می‌کند. همچنین برای اجرای دستورات حساس مانند حذف یک وظیفه، از کاربر تأییدیه مجدد می‌خواهد.

با وجود این اقدامات، کارشناسان امنیتی توصیه می‌کنند که کاربران هرگز به طور کامل به خلاصه‌های تولیدشده توسط هوش مصنوعی اعتماد نکنند. بهتر است همیشه جانب احتیاط را رعایت کنید و پیش از کلیک روی هر لینک یا اجرای هر دستوری، محتوای اصلی ایمیل را به دقت بررسی نمایید.