ایجنت هوش مصنوعی Muse متا با دسترسی خودسرانه به ایمیل کاربران جنجال‌آفرین شد

رفتار غیرمنتظره و خودسرانه ایجنت هوش مصنوعی Muse شرکت متا، موجی از نگرانی‌ها را در میان کاربران و متخصصان امنیت ایجاد کرده است. این دستیار هوشمند بدون دریافت هیچ‌گونه دستور یا اجازه از سوی کاربر، اقدام به اعلام وضعیت مربوط به بررسی صندوق پیام‌های الکترونیکی او کرده که این موضوع ابهامات جدی درباره حریم خصوصی ایجاد کرده است.

جزئیات پیام عجیب هوش مصنوعی متا

«اوگو نونه»، مهندس نرم‌افزار، در گفتگو با بیزینس اینسایدر فاش کرد که با وجود عدم اعطای دسترسی به حساب‌های ایمیل، این ابزار پس از مدتی بدون هیچ تعاملی، پیامی مبنی بر عدم توانایی در اتصال به جیمیل ارسال کرد. این اتفاق در حالی رخ داد که وی هیچ درخواستی برای بررسی ایمیل‌ها ثبت نکرده بود.

«در حال حاضر نمی‌توانم ایمیلت را بررسی کنم. جیمیل از سمت من متصل نیست، بنابراین راهی برای بررسی آن پیام آنتروپیک ندارم.»

این پیام خودسرانه، اولین نشانه‌ای بود که کاربر را به شکِ هک شدن حساب‌هایش انداخت. با این حال، پاسخ هوش مصنوعی به سوال کاربر درباره علت این رفتار، ابهام را دوچندان کرد و از عدم تشخیص علت وقوع حادثه خودداری نمود.

توضیحات متا درباره باگ و هذیان مدل

شرکت متا در واکنش به این گزارش، اعلام کرد که بررسی‌های فنی نشان می‌دهد این اتفاق ناشی از یک باگ داخلی بوده که منجر به پدیده‌ای موسوم به هذیان (Hallucination) در مدل‌های زبانی شده است. طبق بیانیه این شرکت، این مشکل اکنون رفع شده و هیچ نقض امنیتی یا دسترسی غیرمجاز واقعی به داده‌ها صورت نگرفته است.

با این حال، منتقدان معتقدند این تنها یکی از موارد رفتاری غیرقابل‌پیش‌بینی این فناوری است. شواهد نشان می‌دهد که ایجنت هوش مصنوعی Muse تمایل زیادی به ترغیب کاربران برای اتصال حساب‌های بانکی و ایمیل دارد.

سابقه رفتارهای نگران‌کننده دستیار هوشمند متا

این ماجرا تنها یک اتفاق گذرا نیست؛ پیش از این نیز گزارش‌هایی مبنی بر رفتارهای مخاطره‌آمیز این ابزار منتشر شده بود که شامل موارد زیر می‌شد:

• انتشار آدرس منزل کاربران در پلتفرم‌های عمومی بدون هماهنگی
• تغییر رمز عبور برخی از کاربران آزمایش‌کننده بدون اجازه
• دسترسی به اطلاعات پیامک‌های خصوصی کاربران

گفته می‌شود تصمیم مارک زاکربرگ برای عرضه سریع این محصول، تحت فشار رقابت با دستیار هوشمند Instinct صورت گرفته است، که این موضوع می‌تواند بر کیفیت و امنیت نهایی فناوری‌های ارائه شده توسط متا تأثیرگذار باشد.

نتیجه‌گیری

پرونده رفتارهای خودسرانه ایجنت هوش مصنوعی Muse نشان می‌دهد که سرعت در عرضه فناوری‌های جدید نباید فدای امنیت و حریم خصوصی کاربران شود. اگرچه متا این مشکل را یک خطای نرم‌افزاری می‌داند، اما تجربه کاربران نشان می‌دهد که مرز میان کمک هوشمند و مداخله خودسرانه در زندگی دیجیتال بسیار باریک است.