آیا واترمارک‌های هوش مصنوعی می‌توانند جلوی انتشار اطلاعات نادرست را بگیرند؟

فناوری هوش مصنوعی مولد با سرعتی بی‌سابقه در حال تغییر چشم‌انداز محتوای دیجیتال است؛ به طوری که تنها در ۱۸ ماه، حجمی از تصاویر تولید شده که بشر برای رسیدن به آن پیش از این به ۱۴۹ سال زمان نیاز داشت.

چالش تشخیص واقعیت در عصر محتوای مصنوعی

گوگل با معرفی فناوری SynthID، گامی برای نشان‌گذاری محتوای تولید شده توسط هوش مصنوعی برداشته است. این فناوری که به صورت نامرئی در پیکسل‌های تصاویر یا امواج صوتی تعبیه می‌شود، برخلاف استانداردهای متاداده مانند C2PA، در برابر ویرایش‌های معمول مانند تغییر اندازه یا فشرده‌سازی مقاوم است.

نتایج آزمایش‌های فنی

بررسی‌های انجام شده نشان می‌دهد که SynthID حتی پس از صدها چرخه فشرده‌سازی و ویرایش، همچنان قابل شناسایی باقی می‌ماند. با این حال، این فناوری دارای نقاط ضعفی است:

• محدودیت‌های فیزیکی: برش‌های سنگین (بیش از ۲۰ درصد) می‌تواند منجر به حذف واترمارک شود.
• دسترسی محدود: گوگل برای جلوگیری از حملات احتمالی، دسترسی به ابزارهای تشخیص را محدود کرده است.
• عدم یکپارچگی: ابزارهای تشخیص شرکت‌های مختلف مانند گوگل و OpenAI با یکدیگر سازگار نیستند.

«مشکل بزرگتر، وجود مدل‌های متن‌باز است که می‌توانند بدون هیچ‌گونه برچسب‌گذاری، محتوای مصنوعی تولید کنند. در چنین شرایطی، نمی‌توان تنها به واترمارک‌ها برای تشخیص حقیقت تکیه کرد.» - آدام رز، مشاور ارشد آزمایشگاه استارلینگ

به سوی احراز اصالت

کارشناسان معتقدند به جای تلاش برای شناسایی تمامی محتواهای جعلی، باید بر احراز اصالت محتوای واقعی تمرکز کرد. استفاده از استانداردهایی مانند C2PA که به عنوان مهرهای دیجیتال ضد دستکاری عمل می‌کنند، می‌تواند راهکار موثرتری برای مقابله با پدیده «سود سهام دروغگو» (Liar's Dividend) باشد؛ جایی که افراد با ادعای جعلی بودن واقعیت، از پاسخگویی فرار می‌کنند.

در نهایت، اگرچه نشان‌گذاری محتوای هوش مصنوعی سیاستی مثبت برای شرکت‌های فناوری محسوب می‌شود، اما به تنهایی قادر به حل معضل اطلاعات نادرست در دنیای دیجیتال نخواهد بود.