خبر کامل
محدودیت‌های Claude Fable 5: چرا هوش مصنوعی Anthropic به سوالات زیست‌شناسی پاسخ نمی‌دهد؟
شرکت Anthropic، سازنده هوش مصنوعی، جدیدترین مدل خود، Claude Fable 5 را منتشر کرده و آن را قدرتمندترین مدل هوش مصنوعی خود معرفی کرده است. این شرکت توانایی‌های برجسته این مدل را در زمینه‌های مختلف، از جمله زیست‌شناسی، ستوده است؛ با این حال، Fable 5 از پاسخ به سوالات پایه زیست‌شناسی، که حتی یک دانش‌آموز دبیرستانی نیز از عهده آن‌ها برمی‌آید، سر باز می‌زند.
این مدل، به جای پاسخگویی، پرسش‌ها را به مدل قبلی و پرچم‌دار شرکت، Claude Opus 4.8، ارجاع می‌دهد. این مسئله نه به دلیل عدم آگاهی Fable، بلکه به دلیل محدودیت‌های طراحی‌شده توسط Anthropic است.
علت محدودیت‌ها: حفاظت در برابر سلاح‌های بیولوژیکی
شرکت Anthropic اعلام کرده است که این محدودیت‌ها به منظور «حفاظت در برابر سلاح‌های بیولوژیکی» اعمال شده‌اند. این شرکت به The Verge گفته است که «حفاظت‌های بیش از حد محافظه‌کارانه» Fable، «اکثر پرسش‌های مرتبط با کارهای زیست‌شناسی» را مسدود می‌کند.
محدودیت‌های مدل Mythos-class
Fable یک مدل عمومی از کلاس Mythos است؛ خانواده‌ای از مدل‌ها که در وظایف امنیت سایبری بسیار توانمند هستند و Anthropic پیش از این اعلام کرده بود که به دلیل خطرناک بودن، آن‌ها را به صورت عمومی منتشر نخواهد کرد. با وجود اینکه Anthropic در طول معرفی مدل‌های Mythos بر خطرات امنیت سایبری تأکید کرده بود، این محدودیت‌ها در زمینه زیست‌شناسی هستند که بیشترین و آشکارترین مانع را ایجاد می‌کنند.
نمونه‌هایی از سوالات مسدود شده
در آزمایشات انجام‌شده، Fable از پاسخ به طیف وسیعی از سوالات پایه زیست‌شناسی که به نظر نمی‌رسید هیچ خطر ایمنی قابل قبولی داشته باشند، خودداری کرد. این مدل از پاسخ به سوالاتی مانند:
- «غشای سلولی چیست؟»
- «میتوکندری چیست؟» (همان نیروگاه معروف سلول)
- «پریون چیست؟» (ذرات پروتئینی عامل بیماری جنون گاوی)
- «واکسن‌های mRNA چگونه کار می‌کنند؟»
خودداری کرد.
محدودیت‌ها حتی شامل پرسش‌های پزشکی عادی و بی‌ضرر نیز می‌شد. Fable به سوالاتی مانند «چه چیزی باعث تب یونجه می‌شود؟»، «داروی آسم چگونه کار می‌کند؟»، «مقاومت آنتی‌بیوتیکی چگونه ایجاد می‌شود؟»، یا «ابولا چیست و چگونه گسترش می‌یابد؟» پاسخ نداد. با این حال، برخی از پرسش‌های پایه مانند «سرطان چیست؟» و «DNA چیست؟» گاهی اوقات پاسخ داده شدند.
«ما این مصالحه را انجام دادیم تا مشتریان بتوانند زودتر از قابلیت‌های مدل بهره‌مند شوند، بدون اینکه با خطرات مواجه شوند.»
این رویکرد نشان‌دهنده چالش‌های پیچیده در توسعه هوش مصنوعی و نیاز به تعادل میان قابلیت‌ها و ایمنی است، به ویژه در زمینه‌های حساس مانند زیست‌شناسی و پزشکی.
درباره هوش‌مصنوعی دست‌اول:
تمامی اخبار دست‌اول توسط دستیار هوش مصنوعی «هوشنگ» پردازش، صحت‌سنجی، خلاصه و بازنویسی شده است. هوشنگ هر روز با داده‌های جدید آموزش داده می‌شود و با نظارت دقیق انسانی و سردبیری دست‌اول در حال بهتر شدن است.
شما می‌توانید از چت‌بات و سایر ابزارهای هوشنگ به صورت رایگان استفاده کنید.
