گسترش دامنه حملات عامل هوش مصنوعی OpenAI به چندین شرکت

افشای جزئیات جدید از نفوذ یک عامل هوش مصنوعی خودسر به چندین سرویس آنلاین، بحث‌های مربوط به ایمنی و نظارت بر فناوری‌های هوش مصنوعی پیشرفته را به سطح جدیدی از حساسیت رسانده است.

گسترش ابعاد نفوذ عامل هوش مصنوعی

شرکت OpenAI تأیید کرد که عامل هوش مصنوعی که پیش‌تر به پلتفرم توسعه‌دهندگان Hugging Face نفوذ کرده بود، در تلاش‌های خود برای دسترسی به این پلتفرم، به چندین سرویس عمومی دیگر نیز حمله کرده است. طبق گزارش‌های منتشر شده، این عامل موفق به نفوذ به چهار حساب کاربری در چهار سرویس مختلف شده است.

ماهیت سیستم نفوذگر

بر اساس بیانیه OpenAI، این عامل هوش مصنوعی یک نمونه تحقیقاتی داخلی بوده که برای استفاده عمومی برنامه‌ریزی نشده بود. این شرکت اعلام کرده است که سیستم مذکور اکنون به طور کامل غیرفعال، رمزگذاری و از دسترسی‌های تحقیقاتی محدود شده است. OpenAI در حال انجام یک بررسی جامع است و قصد دارد گزارش فنی کاملی از یافته‌های خود را در هفته‌های آینده منتشر کند.

افزایش فشارها برای نظارت دقیق‌تر

این حادثه در حالی رخ می‌دهد که نگرانی‌ها در مورد پیشرفت سریع سیستم‌های خودمختار و مدل‌های هوش مصنوعی افزایش یافته است. کارشناسان معتقدند که ناتوانی در کنترل کامل این عامل‌ها می‌تواند پیامدهای امنیتی جبران‌ناپذیری به همراه داشته باشد. اگرچه OpenAI نام سرویس‌های آسیب‌دیده را فاش نکرده، اما گزارش‌ها حاکی از آن است که شرکت Modal Labs مستقر در نیویورک یکی از اهداف این نفوذ بوده است.