واترمارک متنی هوش مصنوعی؛ آنتروپیک قابلیت شناسایی Claude را گسترش می‌دهد

شرکت آنتروپیک در اقدامی استراتژیک اعلام کرد که فناوری واترمارک متنی خود را به طیف گسترده‌تری از مدل‌های هوش مصنوعی Claude تعمیم می‌دهد. این تصمیم با هدف افزایش شفافیت و پاسخ به الزامات نظارتی در سطح جهانی اتخاذ شده است.

گسترش قابلیت شناسایی محتوای هوش مصنوعی

تا پیش از این، فناوری واترمارک پنهان تنها در جدیدترین نسخه‌های این شرکت در دسترس بود. با این حال، طبق اعلام رسمی، از تاریخ ۱۲ آبان (۳ نوامبر)، این قابلیت برای مدل‌های زیر فعال خواهد شد:

• Opus 4.7
• Opus 4.6
• Sonnet 4.6
• Mythos 5

هدف اصلی از این حرکت، ایجاد نشانه‌های پنهانی در متون است تا بتوان میان محتوای تولیدشده توسط انسان و خروجی‌های ماشینی تمایز قائل شد.

سازوکار فنی و حفظ حریم خصوصی کاربران

برخلاف تصور عمومی، این واترمارک بر پایه تغییر در ساختار ظاهری متن نیست. این فناوری از یک الگوی نامحسوس در انتخاب کلمات استفاده می‌کند که باعث می‌شود:

• دقت و کیفیت متن خروجی کاهش نیابد.
• خوانایی مطالب برای کاربر نهایی تغییر نکند.
• هیچ‌گونه اطلاعات هویتی از کاربر یا سازمان استفاده‌کننده استخراج نشود.

این فناوری صرفاً برای شناسایی منشأ متن است و با حریم خصوصی کاربران تداخلی ندارد.

چالش‌های اخلاقی و ضرورت شفافیت

افزایش قدرت هوش مصنوعی با چالش‌های رفتاری جدیدی همراه بوده است. از جمله مواردی که باعث نگرانی قانون‌گذاران اتحادیه اروپا شده، استفاده از این ابزارها در موارد زیر است:

در نهایت، باید منتظر ماند و دید که آیا پیاده‌سازی گسترده واترمارک متنی می‌تواند به حفظ صداقت در فضای دیجیتال کمک کند یا تنها ابزاری برای محدودسازی بیشتر خواهد بود.

نتیجه‌گیری: حرکت آنتروپیک به سمت استانداردسازی شناسایی محتوای هوش مصنوعی، گامی مهم در جهت پاسخ به نیازهای امنیتی و نظارتی جهان است که تعادلی میان کارایی فناوری و شفافیت اجتماعی برقرار می‌کند.