تزریق واترمارک نامرئی به متون تولیدی هوش مصنوعی کلاد توسط آنتروپیک

شرکت آنتروپیک از سامانه‌ی پیشرفته و نامرئی نشانه‌گذاری متون تولیدشده با هوش مصنوعی کلاد (Claude) پرده برداشت؛ گامی کلیدی که با هدف افزایش شفافیت و تطابق با قوانین نظارتی بین‌المللی برداشته شده است.

سازوکار نشانه‌گذاری پنهان در متون کلاد

سیستم جدید واترمارک متنی آنتروپیک بدون ایجاد کوچک‌ترین تغییر بصری یا افزودن نویسه‌های مخفی، متون هوش مصنوعی را قابل‌ردیابی می‌کند. این سازوکار به‌گونه‌ای طراحی شده است که کاربران و خوانندگان عادی متوجه تفاوتی در خروجی نمی‌شوند و متن تنها با داشتن کلید رمزگشایی اختصاصی قابل‌شناسایی خواهد بود.

مدل‌های زبانی بزرگ به‌طور معمول واژه‌ها را بر اساس توزیع احتمالاتی و با کمک تولیدکننده‌های اعداد تصادفی انتخاب می‌کنند. در روش جدید، مدل کلاد از یک کلید معین برای انتخاب واژگان بهره می‌برد تا الگویی آماری و نامحسوس در متن ایجاد شود.

فناوری نشانه‌گذاری پنهان آنتروپیک نسخه‌ای توسعه‌یافته بر پایه‌ی فناوری SynthID-Text است که پیش‌تر در نشریات معتبر علمی به چاپ رسیده بود.

عملکرد و محدودیت‌های سیستم جدید

طبق توضیحات ارائه‌شده، این نشانه‌گذاری پنهان هیچ‌گونه افت کیفیتی در متن ایجاد نمی‌کند، سرعت پاسخ‌دهی را کاهش نمی‌دهد و بدون هزینه اضافی در دسترس است. با این حال، محدودیت‌هایی نیز در این سامانه وجود دارد:

• تشخیص ویرایش: سامانه قادر به تفکیک متن بازنویسی‌شده از متن تولیدیِ اولیه نیست.
• کدهای برنامه‌نویسی: به‌دلیل حساسیت بالای کدها و محدودیت در جایگزینی واژگان تخصصی، اعمال نشانه‌گذاری روی کدها کمتر خواهد بود.
• نشانه‌گذاری تصاویر: تصاویر ایجادشده با کلاد با امضای دیجیتالیِ تعبیه‌شده در متادیتا محافظت می‌شوند.

دامنه پوشش و زمان‌بندی عرضه

قابلیت واترمارک پنهان برای تمامی مدل‌های ارائه‌شده پس از اوایل مردادماه به‌صورت پیش‌فرض فعال شده است و به‌مرور برای نسخه‌های قدیمی‌تر مدل‌های هوش مصنوعی کلاد نیز فعال خواهد شد.