Anthropic سیاست محدودیت‌های مدل Claude Fable 5 را شفاف‌سازی می‌کند

عقب‌نشینی Anthropic از سیاست‌های پنهان

شرکت Anthropic، که خود را به عنوان جایگزینی اخلاقی‌تر و دوستدار محققان برای OpenAI معرفی کرده بود، با انتقادات گسترده‌ای مواجه شد. این انتقادات پس از آن صورت گرفت که محققان دریافتند Claude Fable 5، مدل زبان بزرگ جدید این شرکت، بدون اطلاع قبلی، درخواست‌های مربوط به وظایف خاصی را به مدل‌های ضعیف‌تر هدایت می‌کند یا عملکرد آن‌ها را کاهش می‌دهد.

«ما در حال تغییر تدابیر حفاظتی Fable 5 برای توسعه LLMهای پیشرفته هستیم تا آنها را قابل مشاهده کنیم. ما اشتباه کردیم و بابت عدم ایجاد تعادل صحیح عذرخواهی می‌کنیم.»

این شرکت در بیانیه‌ای به Wired اعلام کرد: «ما در حال تغییر تدابیر حفاظتی Fable 5 برای توسعه LLMهای پیشرفته هستیم تا آنها را قابل مشاهده کنیم. ما اشتباه کردیم و بابت عدم ایجاد تعادل صحیح عذرخواهی می‌کنیم.»

محدودیت‌های پنهان و عدم شفافیت

هنگامی که Anthropic مدل Claude Fable 5 را منتشر کرد، محققان متوجه شدند که این مدل در انجام وظایفی مانند آموزش مدل‌های زبان بزرگ رقیب، اشکال‌زدایی کدهای هوش مصنوعی و بهینه‌سازی معماری عصبی، یا از پاسخگویی امتناع می‌کند یا کیفیت پاسخ‌ها را کاهش می‌دهد. این محدودیت‌ها در مستندات مدل ذکر نشده بود و همین امر باعث نگرانی محققان در مورد شفافیت و اتلاف منابع (توکن و هزینه) شد.

• آموزش LLMهای رقیب: مدل درخواست‌ها را به مدل‌های ضعیف‌تر هدایت می‌کرد.
• اشکال‌زدایی کد AI: عملکرد مدل کاهش می‌یافت.
• بهینه‌سازی معماری عصبی: پاسخ‌ها با کیفیت پایین‌تر ارائه می‌شدند.

دین دبلیو. بال، محقق و نویسنده، در شبکه اجتماعی X نوشت: «کاهش عملکرد در تحقیقات یادگیری ماشین بدون اطلاع کاربر، به طرز تکان‌دهنده‌ای خصمانه و بسیار ناپسند است.»

رویکرد جدید: شفافیت در محدودیت‌ها

Anthropic سیاست حفاظتی خود را کاملاً لغو نمی‌کند، بلکه این محدودیت‌ها را برای کاربران قابل مشاهده می‌کند. Wired گزارش داد: «اگر شرکت مشکوک شود که کاربری در تلاش است تا از Claude برای ساخت یک هوش مصنوعی بسیار توانمند استفاده کند، به او هشدار خواهد داد که یا درخواستش رد می‌شود یا به یک مدل با توانایی کمتر هدایت خواهد شد.» این اقدام به منظور افزایش شفافیت و جلوگیری از سوءتفاهم‌های قبلی صورت می‌گیرد.