افشای سند «روح» هوش مصنوعی کلود 4.5 اوپوس؛ چارچوب اخلاقی چت‌بات آنتروپیک

جزئیات یک سند داخلی و محرمانه از مدل هوش مصنوعی پیشرفته کلود ۴.۵ اوپوس (Claude 4.5 Opus) متعلق به شرکت آنتروپیک فاش شده است؛ سندی که از آن به عنوان «روح» چت‌بات یاد می‌شود و چارچوب شخصیتی، رفتاری و اخلاقی این مدل زبانی بزرگ را شکل می‌دهد. شرکت Anthropic نیز تأیید کرده که سند مذکور واقعاً وجود داشته و در مراحل یادگیری مدل مورد استفاده قرار گرفته است.

نحوه کشف سند محرمانه توسط محقق

«ریچارد وایس»، محققی که این سند را کشف کرده، در وب‌سایت LessWrong توضیح داد که چگونه توانسته با استفاده از یک پرامپت (دستور) خاص برای مشاهده دستورات سیستمی کلود، به مجموعه‌ای از اسناد داخلی مدل دست یابد. در میان این اسناد، اشاره‌ای به عنوان «Soul Overview» (نمای کلی روح) وجود داشته است.

وایس سپس از مدل خواسته تا محتوای این سند را بازتولید کند. نتیجه این درخواست، تولید فایلی حدوداً ۱۱ هزار کلمه‌ای بود که ظاهراً به‌طور کامل چارچوب شخصیتی و رفتاری مدل کلود را مشخص می‌کند. جالب توجه است که وایس مدعی شده سند را ۱۰ بار از کلود درخواست کرده و هر بار دقیقاً یک متن ثابت تولید شده است که این امر احتمال واقعی‌بودن سند را به‌شدت افزایش می‌دهد.

محتوای سند «روح» و اصول اخلاقی کلود

این سند محرمانه بر اصول ایمنی و تعهد مدل به تولید خروجی‌های سالم و بی‌خطر تمرکز دارد. محتوای آن به‌طور مداوم به Claude یادآوری می‌کند که:

«مفید بودن برای انسان‌ها یکی از مهم‌ترین مأموریت‌های مدل» است و نباید وارد حوزه‌هایی شود که با خطوط قرمز اخلاقی آنتروپیک در تضاد هستند.

این نوع اسناد برای تثبیت عناصر حیاتی یک مدل زبانی بزرگ به کار می‌روند. این عناصر شامل موارد زیر هستند:

• لحن و شخصیت: تعیین نحوه تعامل مدل با کاربران.
• اخلاق و مسئولیت‌پذیری: تعریف چارچوب‌های رفتاری و پاسخ‌گویی.
• حدود پاسخ‌گویی: مشخص کردن مرزهای محتوایی که مدل مجاز به تولید آن‌ها نیست.

تاییدیه رسمی شرکت آنتروپیک

در پی این افشاگری، «آماندا اَسکِل» (Amanda Askell)، فیلسوف و یکی از اعضای تیم فنی Anthropic، وجود این سند را تأیید کرد. او در پستی اعلام کرد که خروجی مدل «بر پایه یک سند واقعی» است که در طول دوره یادگیری از آن استفاده شده است.

خانم اَسکِل همچنین خاطرنشان کرد که این سند همچنان درحال بازبینی است و نسخه کامل آن به‌زودی منتشر خواهد شد. وی افزود که اگرچه مدل همیشه اسناد درونی را کاملاً دقیق بازتولید نمی‌کند، اما خروجی‌های اخیر که توسط کاربران مختلف از جمله وایس دریافت شده‌اند، «تا حد زیادی با نسخه اصلی مطابقت» داشته‌اند. همچنین چندین کاربر در پلتفرم Reddit نیز توانسته‌اند بخش‌هایی مشابه از همین سند را از کلود دریافت کنند، که نشان می‌دهد مدل احتمالاً به نسخه‌ای از آن در داده‌های داخلی یا حافظه آموزشی خود دسترسی دارد.