آنتروپیک با اعطای دسترسی کامل به ارزیابان مستقل، امنیت هوش مصنوعی را تضمین کرد

شرکت آنتروپیک در اقدامی بی‌سابقه، برای تضمین ایمنی و شفافیت در توسعه فناوری‌های خود، به گروهی از متخصصان خارجی اجازه داده است تا مستقیماً با زیرساخت‌های این شرکت در ارتباط باشند. این تصمیم با هدف ارزیابی دقیق‌تر هوش مصنوعی و شناسایی پتانسیل‌های خطرناک مدل‌های در حال توسعه صورت گرفته است.

تعامل بی‌سابقه با مؤسسه METR برای ارزیابی ریسک

طبق گزارش‌های منتشر شده، آنتروپیک به شش نفر از اعضای مؤسسه پژوهشی غیرانتفاعی METR اجازه داده است تا در دفتر مرکزی این شرکت مستقر شوند. این ارزیابان مستقل اکنون به تجهیزات کاری، فضای اداری و مهم‌تر از همه، به سیستم‌های داخلی و سخت‌افزارهای حساس دسترسی دارند.

سطح دسترسی این تیم خارجی، تقریباً با سطح دسترسی متخصصان داخلی بخش ارزیابی ریسک در آنتروپیک برابری می‌کند. این یعنی آن‌ها می‌توانند با دیدی باز و بدون محدودیت‌های معمول، عملکرد مدل‌های هوش مصنوعی را تحت نظر بگیرند.

استقلال مالی و آزادی در انتشار یافته‌ها

نکته حائز اهمیت در این همکاری، حفظ استقلال کامل مؤسسه METR است. این مؤسسه هیچ‌گونه کمک مالی از سوی آنتروپیک یا سایر شرکت‌های بزرگ فناوری دریافت نمی‌کند و هزینه‌های خود را از طریق نهادهای دولتی و خیریه تأمین می‌نماید.

این همکاری بر پایه شفافیت کامل بنا شده است:

• حق انتشار: ارزیابان حق دارند نتایج بررسی‌های خود را مستقیماً منتشر کنند و شرکت حق سانسور آن‌ها را ندارد.
• محدودیت‌های امنیتی: تنها درخواست حذف اطلاعات مربوط به داده‌های مشتریان یا جزئیات بسیار حساس معماری مدل‌ها امکان‌پذیر است.
• تشویق کارکنان: پرسنل آنتروپیک موظف شده‌اند اطلاعات را با همان شفافیتی با ارزیابان به اشتراک بگذارند که با همکاران خود دارند.

الگوی جدید در نظارت بر فناوری‌های حساس

مدیرعامل آنتروپیک، داریو آمودی، پیش‌تر پیشنهاد داده بود که ارزیابان خارجی باید در قلب شرکت‌های پیشرو مستقر شوند؛ پیشنهادی که مورد حمایت چهره‌هایی نظیر سم آلتمن و ایلان ماسک نیز قرار گرفت.

«آنتروپیک این سازوکار را به نظارت بر بانک‌ها تشبیه می‌کند؛ جایی که ناظران برای بررسی ریسک‌های سیستماتیک، در بدنه اصلی سازمان مستقر می‌شوند تا از تهدید منافع عمومی جلوگیری کنند.»

با قدرتمندتر شدن مدل‌های هوش مصنوعی، نیاز به سازوکارهای حفاظتی پیشرفته‌تر بیش از پیش احساس می‌شود. آنتروپیک با این حرکت نشان داد که آمادگی پاسخگویی نسبت به خطرات احتمالی را دارد، هرچند همچنان در انتشار برخی جزئیات فنی برای جلوگیری از سوءاستفاده رقبا یا خرابکاران، احتیاط می‌کند.

در نهایت، این اقدام آنتروپیک می‌تواند به عنوان الگویی برای سایر شرکت‌های بزرگ فناوری در مدیریت ریسک‌های ناشی از پیشرفت‌های سریع هوش مصنوعی شناخته شود.