آنتروپیک دسترسی کامل ناظران خارجی به سیستم‌های داخلی هوش مصنوعی را فراهم کرد

شرکت آنتروپیک در اقدامی بی‌سابقه، به ارزیابان خارجی اجازه داده است تا با دسترسی مشابه کارکنان خود، ریسک‌های موجود در مدل‌های هوش مصنوعی این شرکت را بررسی کنند. این تصمیم که با هدف افزایش پروتکل‌های ایمنی اتخاذ شده، نشان‌دهنده تعهد این آزمایشگاه به شفافیت در برابر نگرانی‌های جهانی درباره کنترل‌پذیری فناوری‌های پیشرفته است.

تعامل با سازمان METR و دسترسی به زیرساخت‌ها

در همین راستا، سازمان غیرانتفاعی METR که پیش از این با غول‌هایی نظیر گوگل و متا همکاری داشته، اکنون تیمی از متخصصان خود را در دفتر آنتروپیک مستقر کرده است. این تیم از جمله موارد زیر را در اختیار دارد:

• دسترسی مستقیم به سخت‌افزارهای اختصاصی شرکت
• استفاده از ابزارها و سیستم‌های داخلی مشابه تیم‌های ارزیابی ریسک خود شرکت
• فضای اداری و امکانات لازم برای فعالیت مستمر در محل

این همکاری برخلاف مدل‌های رایج، با پرداخت هزینه از سوی آنتروپیک به METR انجام نمی‌شود؛ چرا که این سازمان برای حفظ استقلال خود، هیچ کمک مالی از شرکت‌های هوش مصنوعی دریافت نمی‌کند.

استراتژی شفافیت در برابر ریسک‌های امنیتی

داریو آمودی، مدیرعامل آنتروپیک، معتقد است که با قدرتمندتر شدن مدل‌ها، نیاز به ارزیابی‌های چالش‌برانگیزتر احساس می‌شود. او این مدل نظارتی را با سیستم‌های نظارت بانکی مقایسه کرده است که در آن بازرسان مستقر در بانک‌ها، ریسک‌های احتمالی را پیش از وقوع شناسایی می‌کنند.

"ما می‌خواهیم در تصمیمات خود در برابر جامعه پاسخگو باشیم، اما نمی‌توانیم تمام اطلاعات حساس مربوط به ایمنی را به صورت عمومی منتشر کنیم."

با این حال، یک ویژگی کلیدی در این توافق وجود دارد: ناظران حق دارند نتایج تحلیل‌های خود را منتشر کنند و آنتروپیک نمی‌تواند مانع از انتشار گزارش‌ها شود. شرکت تنها می‌تواند درخواست حذف اطلاعات حساس مانند داده‌های مشتریان یا معماری‌های محرمانه مدل را داشته باشد.

چالش‌ها و چشم‌انداز آینده هوش مصنوعی

اگرچه این اقدام گامی مثبت به نظر می‌رسد، اما منتقدان نسبت به تضاد منافع در چنین قراردادهایی هشدار داده‌اند و بر ضرورت نظارت مستقیم دولتی تأکید می‌کنند. با این حال، آنتروپیک با سرمایه‌گذاری میلیاردی در همکاری با شرکت‌هایی مانند اکسنچر، در تلاش است تا اعتماد سرمایه‌گذاران را برای عرضه اولیه خود که ارزش آن به ۲ تریلیون دلار نزدیک است، جلب کند.

در نهایت، این حرکت آنتروپیک می‌تواند الگویی برای سایر شرکت‌های پیشرو در حوزه هوش مصنوعی باشد تا از طریق پذیرش نظارت‌های مستقل، امنیت و اعتماد عمومی را تقویت کنند.