مدیر آنتروپیک: مدل‌های متن‌باز هوش مصنوعی ذاتاً پرخطر هستند

مدیر بین‌الملل شرکت آنتروپیک با ابراز نگرانی شدید از توسعه بی‌رویه مدل‌های متن‌باز، اعلام کرد که این فناوری‌ها به دلیل ماهیت باز خود، ریسک‌های امنیتی بسیار بالاتری نسبت به مدل‌های اختصاصی دارند.

اختلاف دیدگاه در مدیریت ریسک هوش مصنوعی

«گیوم پرنسن»، یکی از مدیران ارشد آنتروپیک، در جریان یک اجلاس دولتی در دوبلین، موضعی تندتر از مدیرعامل این شرکت اتخاذ کرد. در حالی که «داریو آمودی» معتقد بود مدل‌های با وزن باز (Open Weights) اگر فاقد قابلیت‌های مخرب باشند، می‌توانند کالای عمومی باشند، پرنسن بر ضرورت احتیاط حداکثری نسبت به مدل‌های متن‌باز تأکید دارد.

دلیل اصلی این نگرانی، امکان دسترسی آزادانه کاربران به کدها، معماری و وزن‌های پردازشی این مدل‌هاست که اجازه می‌دهد هر فردی بدون نظارت، آن‌ها را بر روی سیستم‌های شخصی خود تغییر داده یا اجرا کند.

رقابت با غول‌های اروپایی و چالش‌های امنیتی

این اظهارات در زمانی مطرح می‌شود که شرکت‌های اروپایی در حال پیشروی در این عرصه هستند. برای نمونه، شرکت Mistral اخیراً مدل Large 4 موسوم به Le Chonk را با یک تریلیون پارامتر معرفی کرده است که تمرکز آن بر حاکمیت داده‌هاست.

بررسی‌های اخیر نیز نگرانی‌ها را تقویت کرده‌اند:

• گزارش SaferAI: مدل چینی GLM-5.2 در تست‌های مربوط به حملات سایبری و بیولوژیکی شکست خورد.
• آزمون Frontier Red Team: مدل‌های کوچک متن‌باز توانستند بر روی سخت‌افزارهای ارزان‌قیمت اندروید نیز مستقر شوند.
• تفاوت ایمنی: مدل Claude آنتروپیک به دلیل پروتکل‌های امنیتی سخت‌گیرانه، بسیاری از درخواست‌های مشکوک را رد می‌کند.

تحولات اقتصادی و جایگاه ایرلند

در کنار بحث‌های امنیتی، آنتروپیک تغییرات قیمتی قابل توجهی را نیز اعمال کرده است. هزینه استفاده از مدل Claude Opus 5.5 به دلیل کاهش قیمت رسمی و بهینه‌سازی مصرف توکن‌ها، تا ۴۰ درصد کاهش یافته است.

همچنین برگزاری این اجلاس در ایرلند با بحث‌های حاشیه‌ای همراه شده است. ایرلند که به عنوان پناهگاه مالیاتی شرکت‌های بزرگ فناوری شناخته می‌شود، اکنون میزبان نخستین دفتر اروپایی آنتروپیک است؛ شرکتی که با ارزش بازار ۹۶۵ میلیارد دلاری، به دنبال تثبیت جایگاه خود در بازار پررشد اروپا است.

نتیجه‌گیری

تقابل میان امنیت و دسترسی آزاد در حوزه مدل‌های متن‌باز، یکی از چالش‌های اصلی آینده هوش مصنوعی است. در حالی که شرکت‌های بزرگ مانند آنتروپیک بر کنترل‌پذیری تأکید دارند، رقابت با مدل‌های اروپایی و چینی، مسیر توسعه این فناوری را پیچیده‌تر می‌کند.