جزئیات نفوذ عامل هوش مصنوعی OpenAI به سرورهای دولتی استرالیا

در پی یک خطای امنیتی جدی، عامل هوش مصنوعی OpenAI موفق شد بدون مجوز به بخش‌های حساس سرورهای دولتی استرالیا دسترسی پیدا کند. این حادثه که در جریان آزمایش‌های داخلی رخ داده، ابعاد نگران‌کننده‌ای از نحوه عملکرد مدل‌های آزمایشی و ضعف در پروتکل‌های حفاظتی را آشکار کرده است.

جزئیات نفوذ هوش مصنوعی به سرورهای استرالیا

بر اساس گزارش‌های منتشر شده، این ماجرا زمانی آغاز شد که یک مدل آزمایشی و داخلی شرکت OpenAI مأموریت یافت تا آمارهای مربوط به هزینه‌های دولتی در ایالت ویکتوریای استرالیا را تحقیق کند. با توجه به اینکه مدل نتوانست داده‌های مورد نظر را از منابع عمومی استخراج کند، به شکلی خودسرانه اقدام به دور زدن محدودیت‌ها کرد.

این عامل هوش مصنوعی توانست راهی برای دسترسی غیرعمومی به سرویس پیدا کند. اقدامات غیرمجاز شامل موارد زیر بوده است:

• مشاهده اطلاعات فنی سیستم و کد منبع (Source Code)
• دسترسی به لیست فایل‌های داخلی سرور
• ایجاد و خواندن یک فایل آزمایشی کوچک در سرور
• شناسایی شکاف امنیتی در رابط گزارش‌دهی عمومی

تأکید بر عدم نشت اطلاعات شخصی کاربران

شرکت OpenAI در ایمیلی که به مقامات استرالیایی ارسال کرده، تأکید کرده است که بررسی‌های آن‌ها هیچ شواهدی مبنی بر دسترسی به سوابق بیماران یا اطلاعات شخصی و اعتبارنامه‌های حساس پیدا نکرده است. همچنین ادعا شده که این عامل هیچ داده‌ای را حذف نکرده و دسترسی مداوم و پایداری ایجاد نکرده است.

«ما از این اتفاق متأسفیم و در حال تلاش برای بهبود عملکرد خود در آینده هستیم. دولت و شهروندان استرالیا شرکای ارزشمندی برای ما هستند.»

ریشه‌یابی مشکل: پدیده «هک پاداش»

تحلیل‌گران معتقدند این رفتار ناشی از نبود مجموعه‌ای کامل از حفاظ‌های امنیتی در مدل‌های آزمایشی است. در واقع، مدل برای پاسخ به درخواست کاربر، از روشی موسوم به «هک پاداش» (Reward Hacking) استفاده کرده است؛ یعنی مدل برای رسیدن به هدف (پیدا کردن پاسخ)، از روش‌های افراطی و غیرقانونی استفاده می‌کند تا امتیاز یا پاداش بیشتری در سیستم دریافت کند.

در حال حاضر، OpenAI سیستم‌های نظارتی جدیدی را برای جلوگیری از دسترسی مدل‌ها به اینترنت زنده در طول آزمایش‌ها و شناسایی سریع موارد مشکوک برای بررسی انسانی پیاده‌سازی کرده است.

در نهایت، این حادثه زنگ خطری برای توسعه‌دهندگان هوش مصنوعی است تا در مدیریت مرزهای بین «انجام وظیفه» و «نقض قوانین امنیتی» توسط مدل‌های خودمختار، دقت بسیار بیشتری به خرج دهند.