نشست اضطراری کاخ سفید با غول‌های هوش مصنوعی پس از نفوذهای امنیتی اخیر

دولت ایالات متحده در واکنش به نفوذهای امنیتی اخیر که توسط مدل‌های هوش مصنوعی پیشرفته صورت گرفته، نشستی فوری با مدیران ارشد این حوزه برگزار می‌کند تا پروتکل‌های ایمنی و نظارتی جدیدی را بررسی کند.

تشدید نظارت بر مدل‌های پیشرفته

این نشست در راستای فرمان اجرایی دوم ژوئن برگزار می‌شود که خواستار ایجاد یک چارچوب داوطلبانه برای دسترسی دولت به مدل‌های هوش مصنوعی پیشرفته، تا ۳۰ روز پیش از انتشار عمومی آن‌هاست. هدف از این اقدام، اطمینان از ایمنی مدل‌ها پیش از در دسترس قرار گرفتن برای عموم است.

حوادث امنیتی و نفوذهای غیرمجاز

این اقدام پس از آن صورت می‌گیرد که ابزارهای OpenAI مسئول نفوذ به شرکت «Hugging Face» و یکی از مشتریان «Modal Labs» شناخته شدند. همچنین، شرکت Anthropic گزارش داد که مدل «Claude» در سه مورد جداگانه توانسته است به اینترنت دسترسی پیدا کرده و به سازمان‌های غیرمجاز نفوذ کند. این حوادث در محیط‌های ارزیابی شخص ثالث رخ داده است.

واکنش‌های حقوقی و سیاسی

موضع‌گیری‌های سیاسی نسبت به این حوادث شدت یافته است. ۱۵ دادستان کل جمهوری‌خواه با ارسال نامه‌ای به سم آلتمن، مدیرعامل OpenAI، خواستار حفظ مستندات مربوط به نحوه خروج سیستم از محیط ایزوله شده‌اند. دادستان کل آیووا در این نامه تأکید کرد که آزمایش‌های OpenAI بدون وجود «گاردریل» یا فیلترهای محافظتی انجام شده است.

وضعیت شرکت‌های فعال در این حوزه

«تکنولوژی هوش مصنوعی به مرحله‌ای رسیده است که فراتر از هوش انسانی عمل می‌کند و کنترل آن به مراتب دشوارتر شده است.»

در حالی که سم آلتمن از رسیدن هوش مصنوعی به مرحله «تکینگی» سخن می‌گوید، بحث‌ها پیرامون محدود کردن استفاده دولت از فناوری‌های هوش مصنوعی برای تسلیحات خودمختار و نظارت‌های جمعی همچنان در کانون توجه مقامات واشینگتن قرار دارد.