چالش‌های جدید آنتروپیک؛ واترمارک‌های نامرئی هوش مصنوعی کلود راهی بازار می‌شوند

شرکت آنتروپیک در پی تطبیق با مقررات جدید اتحادیه اروپا، برنامه‌های خود را برای اعمال واترمارک روی تمامی محتواهای پردازش و تولیدشده توسط مدل‌های هوش مصنوعی خود اعلام کرد.

چالش‌های قانون‌گذاری و انطباق با قانون هوش مصنوعی اروپا

بر اساس اطلاعیه منتشر شده، شرکت آنتروپیک در حال آماده‌سازی سیستم خود برای درج واترمارک‌های ماشین‌خوان روی خروجی‌های مدل‌های هوش مصنوعی است. این اقدام به‌منظور انطباق با مفاد قانون هوش مصنوعی اتحادیه اروپا صورت می‌گیرد که ارائه‌دهندگان سیستم‌های هوش مصنوعی را ملزم می‌سازد تا تمامی خروجی‌های صوتی، تصویری، متنی و ویدیویی تولید یا دستکاری‌شده را نشانه‌گذاری کنند.

این قانون برای تمامی مدل‌های عرضه شده پس از دوم اوت لازم‌الاجراست و برای به‌روزرسانی مدل‌های قدیمی‌تر نیز مهلتی تا دسامبر ۲۰۲۶ در نظر گرفته است. با این حال، رویکرد آنتروپیک شامل اعمال فراگیر واترمارک بر روی تمامی محتواهای پردازش‌شده است؛ تصمیمی فراتر از الزامات حداقلی اتحادیه اروپا که حتی ویرایش‌های ساده متنی نظیر اصلاحات گرامری را نیز در بر می‌گیرد.

مکانیزم فنی و ابهامات عملکردی واترمارک‌ها

واترمارک‌های متنی به‌کاررفته به صورت نامرئی عمل کرده و با ایجاد تغییرات ظریف در الگوهای انتخاب واژگان در کل سند شکل می‌گیرند. این نشانه‌ها با کپی و پیست کردن متن نیز منتقل می‌شوند، اما آسیب‌پذیری‌هایی در برابر ویرایش‌های بعدی توسط چت‌بات‌های دیگر دارند.

• ماهیت نامرئی: واترمارک‌ها به گونه‌ای طراحی شده‌اند که خوانایی متن را مخدوش نکنند.
• ابهام در تشخیص: حضور واترمارک تنها نشان‌دهنده لمس شدن متن توسط هوش مصنوعی است و تفاوتی میان تولید کامل و ویرایش ساده قائل نمی‌شود.
• دور زدن آسان: ابزارهای ویرایش متادیتا یا ثبت اسکرین‌شات می‌توانند به راحتی این نشانه‌ها را در فایل‌های غیرمتنی حذف کنند.

پیامدهای احتمالی برای کاربران و چالش‌های قانونی

کارشناسان هشدار می‌دهند که اعمال این برچسب‌ها به صورت فراگیر ممکن است ابهاماتی جدی ایجاد کند. برای نمونه، اگر یک نویسنده انسانی مقاله خود را تنها برای اصلاح نگارشی به هوش مصنوعی بسپارد، متن نهایی با نشانه‌ای مشابه یک محتوای کاملاً خودکار مشخص خواهد شد. این امر در محیط‌های آموزشی و حرفه‌ای چالش‌برانگیز است.

«این واترمارک‌ها تنها این سیگنال را ارسال می‌کنند که محتوا ممکن است توسط کلود پردازش شده باشد، اما گویای کل واقعیت نیستند و مرز میان ویرایش انسانی و تولید ماشینی را محو می‌کنند.»

اتحادیه اروپا هدف از این قوانین را محافظت از یکپارچگی اطلاعات و جلوگیری از انتشار گسترده اطلاعات نادرست عنوان کرده است. با این حال، شرکت‌های فناوری همچنان با چالش‌های فنی فراوانی در ایجاد تعادل میان شفافیت و کارایی واقعی این ابزارها روبرو هستند.