نفوذ عوامل هوش مصنوعی به شبکه‌های سازمانی از طریق فایل‌های مستندات وب

گزارش‌های جدید از یک آسیب‌پذیری امنیتی گسترده در عوامل هوش مصنوعی (AI Agents) حکایت دارد که می‌تواند شبکه‌های داخلی شرکت‌های بزرگ و حتی غول‌های فناوری را با تهدید جدی مواجه کند. محققان دریافتند که این عوامل، دستورات مخربی را از طریق فایل‌های مستندات وب، بدون بررسی اصالت، در محیط‌های سازمانی اجرا می‌کنند.

شکست مدل اعتماد در فایل‌های llms.txt

فایل‌های llms.txt و llms-full.txt که به عنوان استاندارد جدیدی برای ارائه خلاصه‌ای از محتوای سایت به ماشین‌ها شناخته می‌شوند، اکنون به یک سطح حمله تبدیل شده‌اند. محققان در یک استارتاپ اسرائیلی با بررسی بیش از ۶۰۰۰ دامنه متعلق به پیمانکاران دفاعی و شرکت‌های Fortune 500، متوجه شدند که بسیاری از این فایل‌ها حاوی دستورات نصب بسته‌های نرم‌افزاری ناموجود هستند.

مشکل اصلی از آنجا ناشی می‌شود که عوامل هوش مصنوعی، این فایل‌ها را به عنوان «منبع حقیقت» و مستندات رسمی در نظر می‌گیرند. زمانی که یک عامل هوش مصنوعی با دسترسی به محیط ترمینال، با دستوری مانند pip install در یک فایل مستندات روبرو می‌شود، بدون پرسش درباره مالکیت آن بسته، اقدام به دانلود و اجرای آن می‌کند.

تجربه عملی نفوذ توسط Claude و Codex

در آزمایش‌های انجام شده، محققان با ثبت نام‌های دامنه و بسته‌های نرم‌افزاری که در مستندات شرکت‌ها به آن‌ها اشاره شده بود، موفق شدند ارتباط خود را با شبکه‌های داخلی چندین شرکت بزرگ برقرار کنند. این آزمایش‌ها نشان داد که مدل‌های پیشرفته‌ای همچون Claude، Codex از OpenAI و Hermes مستقیماً در این فرآیند اجرای کدهای غیرمجاز نقش داشته‌اند.

مرز مخدوش میان داده و کد اجرایی

این آسیب‌پذیری نشان‌دهنده یک چالش بنیادین در معماری مدل‌های زبانی بزرگ است؛ عدم توانایی در تشخیص مرز میان «داده‌های خواندنی» و «دستورات اجرایی». برخلاف حملات تزریق دستور (Prompt Injection) که عمدی هستند، در اینجا دستورات ممکن است در ابتدا کاملاً بی‌ضرر باشند و تنها زمانی خطرناک شوند که یک دامنه یا بسته نرم‌افزاری منقضی، توسط مهاجم بازپس‌گیری شود.

"یک عامل هوش مصنوعی تفاوتی میان یک صفحه وب و یک دستور اجرایی قائل نمی‌شود؛ هر آنچه می‌خواند ورودی است و هر ورودی می‌تواند یک دستور احتمالی باشد."

در نهایت، با گسترش سریع استفاده از عوامل هوش مصنوعی در لایه‌های مختلف ابری و سازمانی، امنیت زنجیره تأمین به شدت آسیب‌پذیر شده است. تا زمانی که لایه‌های حفاظتی بتوانند تفاوت میان مستندات معتبر و دستورات پنهان را تشخیص دهند، این تهدید همچنان یکی از بزرگ‌ترین چالش‌های امنیت سایبری در عصر هوش مصنوعی باقی خواهد ماند.