آنتروپیک سازوکار ثبت واترمارک مخفی در متون هوش مصنوعی Claude را تشریح کرد

شرکت آنتروپیک با انتشار گزارشی تفصیلی، به تشریح سازوکار واترمارک‌گذاری بر متون تولیدشده توسط هوش مصنوعی Claude پرداخته و ابعاد فنی، نحوه شناسایی و تأثیر ویرایش بر این نشانه‌های نامرئی را تبیین کرده است.

پایبندی به مقررات بین‌المللی و قانون هوش مصنوعی

اجرای این سازوکار در راستای انطباق با منشور شفافیت قانون هوش مصنوعی اتحادیه اروپا صورت گرفته است؛ چارچوبی قانونی که شرکت‌های توسعه‌دهنده را به استفاده از سامانه‌های ردیابی و تفکیک محتوای ماشینی ملزم می‌کند. با وجود بازخوردهای متفاوت میان کاربران، آنتروپیک تأکید دارد که این فرایند هیچ‌گونه افتی در کیفیت نهایی متون ایجاد نخواهد کرد.

سازوکار فنی و ایجاد الگوهای نامرئی

فناوری واترمارک‌گذاری کلود با بهره‌گیری از رویکرد SynthID-Text پیاده‌سازی شده است. این سازوکار در زمان انتخاب واژگان و مترادف‌ها، الگویی ریاضیاتی و پنهان درون متن تعبیه می‌کند که برای چشم انسان غیرقابل تشخیص بوده اما از طریق کلید رمزگشایی شناسایی می‌شود.

تفاوت با ابزارهای سنتی تشخیص متن

برخلاف ابزارهای متداول که صرفاً متکی بر شناسایی الگوهای تکرار نگارشی هستند، این روش متکی بر کدگذاری دقیق ریاضی است. همچنین برنامه‌ریزی‌هایی برای ارائه رابط برنامه‌نویسی کاربردی (API) اختصاصی به‌منظور تشخیص این ردپاها در دستور کار قرار دارد.

تأثیر ویرایش متن و تغییرات بر ماندگاری واترمارک

میزان ماندگاری نشانه‌های پنهان هوش مصنوعی به سطح تغییرات اعمال‌شده روی متن وابسته است:

• ویرایش‌های سطحی و جزئی: تغییرات محدود قادر به حذف نشانه‌های ردیابی نخواهند بود.
• بازنویسی جامع متن: جایگزینی ساختاری و کامل کلمات، واترمارک را به‌طور کامل از بین می‌برد.
• کدهای برنامه‌نویسی: به‌دلیل حساسیت فنی کدها، واترمارک تنها در بخش توضیحات (کامنت‌ها) اعمال شده و اثری روی عملکرد اصلی برنامه نخواهد داشت.

آنتروپیک یادآور شده است که سایر بازیگران بزرگ حوزه هوش مصنوعی نیز با پیوستن به توافق‌های شفافیت، مکانیزم‌های مشابهی را در تولیدات متنی و چندرسانه‌ای خود به کار خواهند گرفت.