خبر کامل
آنتروپیک برای ارزیابی امنیت هوش مصنوعی با سازمان‌های مستقل همکاری می‌کند
شرکت آنتروپیک (Anthropic)، یکی از پیشگامان حوزه هوش مصنوعی، رسماً اعلام کرد که برای ارزیابی دقیق‌تر پروتکل‌های ایمنی و مدیریت ریسک‌های احتمالی، با سازمان‌های غیرانتفاعی METR و SecureBio وارد همکاری شده است. این اقدام در راستای تعهد این آزمایشگاه به شفافیت و استفاده از ارزیابان مستقل انجام می‌شود.
ساختار جدید نظارت بر هوش مصنوعی در آنتروپیک
آنتروپیک برای مدیریت بهتر تعامل با نهادهای نظارتی، یک سیستم سه سطحی برای ارزیابان طراحی کرده است که میزان دسترسی آن‌ها به منابع شرکت را تعیین می‌کند:
- سطح اول: انجام تحقیقات محدود و مشخص در مورد ریسک‌های خاص.
- سطح دوم: امکان انتشار گزارش‌ها بدون نیاز به تأییدیه مستقیم شرکت.
- سطح سوم: برخورداری از دسترسی‌های مشابه کارمندان شرکت به زیرساخت‌ها.
این مدل جدید نشان‌دهنده تغییر رویکرد در صنعت هوش مصنوعی است که پیش از این، ارزیابان مستقل جایگاه کمرنگی داشتند.
نقش کلیدی سازمان‌های METR و SecureBio
در این میان، سازمان METR به عنوان یک ارزیاب سطح سوم فعالیت می‌کند. این سازمان با به‌کارگیری شش کارشناس متخصص، به سخت‌افزارها، فضاهای اداری و ابزارهای آنتروپیک دسترسی دارند تا ریسک‌ها و حوادث احتمالی را تحلیل و گزارش کنند.
از سوی دیگر، سازمان SecureBio در سطح اول فعالیت می‌کند و تمرکز اصلی آن بر بررسی بخش‌های مربوط به ریسک‌های تسلیحات شیمیایی و بیولوژیکی در مدل‌های هوش مصنوعی است. این همکاری‌ها بخشی از توافق‌نامه‌های داوطلبانه‌ای است که تحت حمایت سیاست‌های نظارتی جدید شکل گرفته است.
| سازمان ارزیاب | سطح دسترسی | تمرکز اصلی |
|---|---|---|
| METR | سطح ۳ (بالا) | تحلیل ریسک و حوادث سیستمی |
| SecureBio | سطح ۱ (محدود) | ریسک‌های بیولوژیکی و شیمیایی |
چالش‌های شفافیت و تأمین مالی مستقل
«هنوز استانداردهای مشخصی برای میزان دسترسی ارزیابان و نحوه گزارش‌دهی آن‌ها وجود ندارد. در بلندمدت، ما معتقدیم بودجه این ارزیابی‌ها باید از منابع دولتی یا صندوق‌های مشترک تأمین شود.»
اگرچه آنتروپیک با شرکت Accenture نیز در حال مذاکره است، اما نگرانی‌هایی در مورد استقلال مالی ارزیابان وجود دارد. شرکت تأکید کرده است که در غیاب سیستم‌های دولتی، از مدل‌های مختلف تأمین مالی برای حفظ بی‌طرفی استفاده خواهد کرد.
در نهایت، تلاش‌های آنتروپیک برای ادغام ارزیابان مستقل در بدنه خود، گامی استراتژیک برای مقابله با نگرانی‌های فزاینده جهانی درباره امنیت هوش مصنوعی و ایجاد اعتماد در میان سیاست‌گذاران و جامعه است.
درباره هوش‌مصنوعی دست‌اول:
تمامی اخبار دست‌اول توسط دستیار هوش مصنوعی «هوشنگ» پردازش، صحت‌سنجی، خلاصه و بازنویسی شده است. هوشنگ هر روز با داده‌های جدید آموزش داده می‌شود و با نظارت دقیق انسانی و سردبیری دست‌اول در حال بهتر شدن است.
شما می‌توانید از چت‌بات و سایر ابزارهای هوشنگ به صورت رایگان استفاده کنید.
زمان انتشار:
۱۷:۰۵ - ۱۴۰۵/۰۷/۲۳