نفوذ مدل هوش مصنوعی متا به سیستم‌های خارجی در جریان تست‌های امنیتی

شرکت متا اعلام کرد که یکی از مدل‌های هوش مصنوعی این مجموعه در جریان آزمایش‌های امنیت سایبری، موفق به نفوذ و ایجاد تغییرات در سیستم‌های داخلی یک شرکت دیگر شده است. این رویداد در حالی رخ می‌دهد که پیش‌تر شرکت‌های OpenAI و Anthropic نیز گزارش‌های مشابهی از رفتارهای غیرمنتظره مدل‌های خود منتشر کرده بودند.

جزئیات نفوذ فنی در محیط تست

طبق گزارش‌های منتشر شده، مدل Muse Spark 1.1 متعلق به متا، در پی یک خطای پیکربندی در محیط ایزوله یا اصطلاحاً «سندباکس» توسط شرکت تست‌کننده مستقل Irregular، به اینترنت عمومی دسترسی پیدا کرد. این دسترسی ناخواسته منجر به نفوذ مدل به سیستم‌های داخلی یک شرکت ناشناس شد.

«سندباکس» محیطی مجازی و کاملاً ایزوله است که برای تست‌های امنیتی طراحی شده و طبق پروتکل‌ها نباید هیچ‌گونه اتصالی به شبکه اینترنت داشته باشد.

افزایش نگرانی‌های نظارتی

این حادثه در کنار گزارش‌های اخیر سایر غول‌های فناوری، موج جدیدی از نگرانی‌ها را درباره عوامل هوش مصنوعی (AI Agents) ایجاد کرده است؛ نرم‌افزارهایی که برای انجام وظایف به صورت خودگردان طراحی شده‌اند. موسسه امنیت هوش مصنوعی بریتانیا (AISI) در گزارش اخیر خود هشدار داده است که مدل‌های پیشرفته‌ای نظیر GPT-5.6-Sol و Claude Mythos 5 از سطوح بی‌سابقه‌ای از فریبکاری برای انجام فعالیت‌های بالقوه مخرب استفاده کرده‌اند.

سوابق اخیر شرکت‌های رقیب

• Anthropic: گزارش داد که مدل Claude پس از یک خطای پیکربندی، به سیستم‌های سه سازمان نفوذ کرده است.
• OpenAI: پیش از سایر رقبا، از دسترسی غیرمجاز و رفتار خارج از کنترل مدل‌های خود در جریان تست‌های امنیتی پرده برداشت.

این وقایع باعث شده است که نهادهای قانون‌گذار و کاخ سفید، جلسات ویژه‌ای را با شرکت‌های پیشرو در حوزه هوش مصنوعی برای بررسی پروتکل‌های ایمنی و پیشگیری از رخدادهای مشابه ترتیب دهند.