Anthropic Fable 5: هوش مصنوعی قدرتمند با محدودیت‌های امنیتی

شرکت Anthropic مدل هوش مصنوعی جدید خود، Fable 5، را با قابلیت‌های پیشرفته اما با محدودیت‌های سخت‌گیرانه در دسترسی به اطلاعات حساس منتشر کرد. این اقدام در راستای نگرانی‌های فزاینده درباره پتانسیل سوءاستفاده از هوش مصنوعی در حوزه‌هایی مانند امنیت سایبری و بیولوژی صورت گرفته است.

معرفی Fable 5 و محدودیت‌های آن

Anthropic روز سه‌شنبه مدل Claude Fable 5 را به صورت عمومی عرضه کرد. این مدل که اولین مدل از «کلاس Mythos» این شرکت محسوب می‌شود، در قابلیت‌های کلی از مدل‌های قبلی Opus پیشی گرفته است. با این حال، عرضه این مدل با تدابیر امنیتی خاصی همراه است تا از پاسخگویی به سؤالات در موضوعاتی مانند امنیت سایبری، زیست‌شناسی و شیمی جلوگیری کند. Anthropic پیش از این نگرانی خود را در مورد تأثیر بالقوه این مدل بر «تقویت کنشگران مخرب» ابراز کرده بود.

Fable 5 بر اساس همان مدل زیربنایی Mythos 5 عمل می‌کند که پس از یک دوره «پیش‌نمایش Mythos» چند ماهه، اکنون فقط برای «گروه کوچکی از مدافعان سایبری» که از طریق برنامه موجود Project Glasswing قابل اعتماد تشخیص داده شده‌اند، در دسترس است. اما برخلاف Mythos 5، مدل عمومی Fable 5 طوری طراحی شده است که سؤالات مربوط به موضوعات حساس را به مدل قبلی Claude Opus 4.8 هدایت کند و در صورت وقوع این اتفاق به کاربر هشدار دهد.

امنیت و جلوگیری از سوءاستفاده

Anthropic اعلام کرده است که این تدابیر امنیتی را «سخت‌گیرانه‌تر از حد ایده‌آل» تنظیم کرده است، به این معنی که ممکن است سیستم گاهی اوقات «درخواست‌های بی‌ضرر» را رد کند که می‌تواند برای کاربران عادی آزاردهنده باشد. اما این شرکت می‌گوید که چنین موارد خطای مثبتی در کمتر از ۵ درصد از تمام جلسات آزمایشی رخ داده است و این محدودیت‌ها برای جلوگیری از موقعیت‌هایی که Mythos می‌تواند به کنشگران مخرب در «ایجاد آسیب جدی که از منابع دیگر نمی‌توانستند دریافت کنند» کمک کند، ضروری است.

حفاظت‌های موضوعی Fable 5 بر اساس سیستمی از طبقه‌بندی‌کننده‌ها ساخته شده است که برای شناسایی گسترده موضوعات ممنوعه و همچنین هرگونه تلاش برای دور زدن محدودیت‌ها طراحی شده‌اند. Anthropic می‌گوید در بیش از ۱۰۰۰ ساعت آزمایش Red Team با یک برنامه جایزه باگ، تیم‌های خارجی نتوانستند هیچ «جیل‌بریک جهانی» برای Fable 5 پیدا کنند. مدل جدید همچنین در برابر تلاش‌های خودکار جیل‌بریک، مقاومت بسیار بیشتری نسبت به مدل‌های قبلی Claude Opus از خود نشان داد.

پیشرفت‌های فنی و نگرانی‌ها

Anthropic به طور خاص نگران توانایی Mythos 5 در انجام «هک عاملانه» است، به این معنی که می‌تواند حملات سایبری چندبخشی را با سهولت بسیار بیشتری نسبت به مدل‌های قبلی اجرا کند. اما آزمایش‌های اخیر مؤسسه امنیت هوش مصنوعی بریتانیا نشان داد که Mythos Preview عملکردی مشابه GPT-5.5 شرکت OpenAI در چالش‌های Capture the Flag دارد، که نشان می‌دهد عملکرد Mythos «یک پیشرفت خاص برای یک مدل» نیست.

در میان بهبودهای معیار که Anthropic برای Mythos 5 نسبت به مدل‌های مرزی قبلی گزارش کرده است، این شرکت ادعا می‌کند که جهش قابل توجهی در قابلیت‌های مدل در آزمایش ExploitBench متمرکز بر امنیت سایبری داشته است. Mythos 5 در آزمایش‌های بهره‌برداری از کدهای آسیب‌پذیر، امتیاز ۷۸ درصد را کسب کرد که افزایش قابل توجهی نسبت به امتیاز ۴۰ درصد Opus 4.8 و حتی ۶۹ درصد Mythos Preview است.

در حالی که مدل‌های قبلی Anthropic سؤالات مربوط به سلاح‌های بیولوژیکی را مسدود می‌کردند، این طبقه‌بندی‌کننده اکنون در Fable 5 به تمام سؤالات مربوط به شیمی و زیست‌شناسی اعمال می‌شود. این شرکت نگران است که «کنشگران مخرب با منابع کافی» بتوانند حتی از سؤالات ظاهراً بی‌ضرر در این زمینه‌ها برای کمک به «تحقیقات بیولوژیکی بسیار پرخطر» به شکلی مؤثرتر از مدل‌های قبلی استفاده کنند.

دسترسی و قیمت‌گذاری

Anthropic می‌داند که محدود کردن برخی موضوعات برای Fable 5 یک شمشیر دولبه است. این شرکت می‌نویسد: «همان سؤالاتی که در دست متخصصان امنیت سایبری و محققان زیست‌شناسی مفید هستند، در صورت در دسترس بودن برای کنشگران مخرب می‌توانند خطرناک باشند.»

این وضعیت Anthropic را در موقعیت دشواری قرار می‌دهد که باید قضاوت کند چه کسی به مدل‌هایی با قابلیت‌های بالقوه خطرناک دسترسی داشته باشد. این شرکت اعلام کرده است که برنامه موجود Project Glasswing خود را «با مشورت دولت ایالات متحده» به طور دوره‌ای گسترش خواهد داد تا متخصصان امنیت سایبری بیشتری را بپذیرد. این گسترش همچنین شامل یک برنامه دسترسی مورد اعتماد جدید برای سازمان‌های علوم زیستی خواهد بود که حفاظت‌های زیست‌شناسی/شیمی Fable 5 را حذف می‌کند، در حالی که حفاظت‌های امنیت سایبری را حفظ می‌کند.

کاربران API و سازمانی می‌توانند از امروز به مدل Fable 5 با هزینه ۱۰ دلار به ازای هر میلیون توکن ورودی و ۵۰ دلار به ازای هر میلیون توکن خروجی دسترسی پیدا کنند. این قیمت‌ها ۶۷ تا ۱۰۰ درصد بیشتر از قیمت‌های GPT-5.5 اخیر OpenAI است، تفاوتی که می‌تواند در زمانی که بسیاری از کاربران از هزینه‌های بالای مدل‌های مرزی ناراضی هستند، قابل توجه باشد.

برنامه‌های اشتراک موجود Anthropic شامل دسترسی به Fable 5 تا تاریخ ۲۲ ژوئن خواهد بود، پس از آن کاربران برای دسترسی به مدل جدید باید «اعتبار استفاده» خریداری کنند. Anthropic امیدوار است که در نهایت دسترسی به Fable 5 را به عنوان بخشی استاندارد از برنامه‌های اشتراک بازگرداند، به محض اینکه «ظرفیت کافی» برای انجام این کار را داشته باشد.