نفوذ هوش مصنوعی آنتروپیک به حساب کاربری OpenAI و دسترسی به مخزن کدهای خصوصی

نفوذ هوش مصنوعی به زیرساخت‌های OpenAI نشان‌دهنده عصر جدیدی از تهدیدات سایبری است که در آن مدل‌های زبانی بزرگ، از ابزارهای ساده به موتورهای طراحی حملات تبدیل شده‌اند. پژوهشگران امنیتی مستقل اخیراً موفق شدند با بهره‌گیری از توانمندی‌های هوش مصنوعی آنتروپیک، به حساب کاربری یکی از کارکنان شرکت OpenAI دسترسی پیدا کنند.

جزئیات نفوذ به مخزن نرم‌افزاری Monorepo

این تیم پژوهشی که در قالب برنامه «باگ‌بانتی» (Bug Bounty) فعالیت می‌کرد، توانست از طریق شناسایی نقاط ضعف، به بخشی از مخزن خصوصی نرم‌افزارهای شرکت دسترسی پیدا کند. این مخزن که با نام Monorepo شناخته می‌شود، حاوی بخش‌های حیاتی از معماری و اسرار الگوریتمی شرکت است.

اگرچه این نفوذ به هسته اصلی مدل‌ها یا همان «وزن‌های مدل» دسترسی نیافته است، اما توانایی خواندن و پیشنهاد تغییر در کدهای این مخزن، ریسک بزرگی را متصور می‌سازد. طبق گزارش‌ها، این دسترسی‌ها می‌توانست مسیر ورود به سرویس GitHub شرکت را نیز فراهم کند.

نقش هوش مصنوعی در تغییر ماهیت حملات سایبری

نکته قابل توجه در این حادثه، استفاده از مدل زبانی Claude متعلق به شرکت آنتروپیک برای تسهیل فرآیند هک بود. این رویداد نشان می‌دهد که در دنیای مدرن، زنجیره‌های اعتماد دیجیتال می‌توانند از طریق ترکیب باگ‌های نرم‌افزاری و هوش مصنوعی شکسته شوند.

پیامدهای امنیتی و رقابت تکنولوژیک

در حالی که رقابت میان ایالات متحده و چین بر سر برتری در حوزه هوش مصنوعی شدت گرفته است، این رخنه امنیتی هشدار می‌دهد که گروه‌های پیشرفته سایبری با حمایت دولت‌ها می‌توانند به راحتی به اسرار تکنولوژیک آمریکا نفوذ کنند. سم آلتمن، مدیرعامل OpenAI، پیش‌تر نسبت به سرعت بالای پیشرفت این فناوری و دشواری مهار آسیب‌های احتمالی هشدار داده بود.

"سرعت پیشرفت هوش مصنوعی چنان بالا است که شرکت‌ها برای مهار آسیب‌ها فرصت کافی ندارند."

در نهایت، این حادثه تأکید می‌کند که دفاع در برابر هوش مصنوعی، نیازمند استراتژی‌های دفاعی پیشرفته‌تر و هوشمندتر است. رفع آسیب‌پذیری‌های شناسایی شده توسط OpenAI، گامی در جهت تقویت امنیت است، اما چالش‌های ناشی از استفاده از هوش مصنوعی در طراحی حملات همچنان پابرجاست.