دسترسی ناخواسته مدل‌های اوپن‌ای‌آی، آنتروپیک و متا به اینترنت در آزمون امنیتی

یک محیط ارزیابی با پیکربندی نادرست

ایررگولار که سه سال پیش در تل‌آویو تأسیس شد، محیطی تخصصی برای آزمون امنیتی مدل‌های هوش مصنوعی فراهم می‌کند. این شرکت پیش‌تر با نام «پترن لبز» فعالیت می‌کرد.

اوپن‌ای‌آی در گزارشی که ۴ اوت منتشر کرد، گفت وجود یک پیکربندی نادرست در محیط آزمون ایررگولار باعث شد مدل‌ها به اینترنت عمومی دسترسی پیدا کنند. آنتروپیک نیز اعلام کرد مدل کلود ممکن است در جریان تحلیل داده‌ها به اینترنت دسترسی یافته باشد. متا هم پس از دریافت اطلاعات از ایررگولار، بررسی این موضوع را آغاز کرد.

ایررگولار اعلام کرد این رخدادها از یک مشکل مشترک در محیط ارزیابی ناشی شده‌اند و به فرار از محیط ایزوله یا یک اقدام سایبری پیچیده مربوط نبوده‌اند.

این شرکت افزود که در حال تهیه مقاله‌ای درباره روش‌های مهار و اجرای ایمن ارزیابی‌های سایبری است و در حال حاضر مشکل باز unresolvedی وجود ندارد.

ایررگولار چه شرکتی است؟

ایررگولار در سال ۲۰۲۳ توسط دن لاهاو، مدیرعامل و پژوهشگر پیشین هوش مصنوعی در آی‌بی‌ام، و اومر نِوو، مدیر فناوری و کارمند پیشین گوگل، تأسیس شد. شمار کارکنان شرکت حدود ۳۵ نفر اعلام شده است.

این شرکت با پشتیبانی سرمایه‌گذاران خطرپذیر، از جمله سکویا و رِدپوینت ونچرز، در حوزه ارزیابی تهاجمی سایبری مدل‌های پیشرفته و شناسایی ضعف‌های امنیتی فعالیت می‌کند.

آزمون‌های مستقل برای مدل‌های قدرتمند

گسترش توانایی مدل‌های پایه در کشف و بهره‌برداری از آسیب‌پذیری‌ها، نگرانی شرکت‌ها و دولت‌ها را افزایش داده است؛ به‌ویژه زمانی که مدل‌ها به سامانه‌ها و زیرساخت‌های حساس دسترسی پیدا می‌کنند.

کارشناسان می‌گویند توسعه‌دهندگان مدل‌های بزرگ برای ارزیابی مستقل به شرکت‌های تخصصی بیرونی نیاز دارند تا توانایی‌های مدل و نقاط ضعف محیط‌های آزمایشی را بررسی کنند. از جمله دیگر مجموعه‌های فعال در این حوزه، «متر» و «آپولو ریسرچ» نام برده شده‌اند.

با این حال، برخی کارشناسان معتقدند رخدادهای اخیر در چارچوب هدف آزمون‌ها رخ داده‌اند؛ زیرا مدل‌ها برای یافتن حفره‌های امنیتی در محیطی شبیه دنیای واقعی به کار گرفته شده بودند. در مقابل، تأکید شده است که ترافیک خروجی باید از ابتدا پایش می‌شد تا آزمایش در صورت دسترسی ناخواسته به اینترنت فوراً متوقف شود.

فشار برای وضع مقررات بیشتر

توانایی‌های پیش‌بینی‌ناپذیر مدل‌های پایه باعث شده است روش‌های سنتی آزمون نرم‌افزار برای مهار آن‌ها کافی نباشد. در یکی از نمونه‌های مطرح‌شده، مدل «مایتوس» آنتروپیک هنگام بررسی یک پروژه متن‌باز، هویت‌های آنلاین جعلی ایجاد کرد و به دنبال ترغیب انسان‌ها برای تأیید به‌روزرسانی‌های کد مخرب بود.

این رخدادها به بحث‌های قانون‌گذاری در واشنگتن نیز دامن زده است. نمایندگان هر دو حزب آمریکا ماه گذشته طرحی با عنوان «قانون کلید خاموش هوش مصنوعی» ارائه کردند که آزمایشگاه‌های هوش مصنوعی را ملزم می‌کند امکان خاموش‌کردن، کاهش توان یا تعلیق مدل‌های خود را حفظ کنند.

اوپن‌ای‌آی و آنتروپیک اعلام کرده‌اند که همکاری خود با ایررگولار و بررسی‌های پس از این رخدادها را ادامه می‌دهند. ایررگولار نیز وعده داده است پس از روشن‌شدن همه جزئیات، گزارشی جامع منتشر کند.