گوگل قابلیت‌های تشخیص دیپ‌فیک و محتوای هوش مصنوعی را گسترش می‌دهد

گسترش ابزارهای تشخیص محتوای هوش مصنوعی توسط گوگل

گوگل در رویداد سالانه I/O خود از برنامه‌های گسترده‌ای برای شناسایی محتوای تولیدشده با هوش مصنوعی و دیپ‌فیک در سرویس‌های مختلف خود رونمایی کرد. هدف اصلی این ابتکارات، توانمندسازی کاربران برای تشخیص آسان‌تر اصالت تصاویر و ویدیوها و تمایز آن‌ها از محتوای دستکاری‌شده است. این به‌روزرسانی‌ها شامل پشتیبانی وسیع‌تر از فناوری SynthID، یک واترمارک نامرئی توسعه‌یافته توسط DeepMind، و همچنین اعتبارنامه‌های محتوایی C2PA می‌شود که اطلاعات دقیقی درباره نحوه ساخت یا ویرایش یک محتوا ارائه می‌دهند.

قابلیت‌های جدید در جستجو و کروم

از امروز، امکان بررسی تصاویر دارای نشان SynthID در بخش‌های مختلف جستجوی گوگل، از جمله Google Lens، AI Mode جستجوی گوگل و ویژگی Circle to Search، فعال شده است. کاربران می‌توانند با آپلود یا انتخاب تصاویر آنلاین، به اطلاعات بیشتری درباره منبع آن‌ها دست یابند. پشتیبانی از مرورگر کروم نیز در «ماه‌های آینده» اضافه خواهد شد؛ در کروم، کاربران با انتخاب یا کشیدن دایره دور یک تصویر می‌توانند در پنل کناری از هوش مصنوعی بودن آن سوال کنند.

در حال حاضر، بررسی SynthID برای تصویر، ویدیو و صدا از طریق اپلیکیشن جمینای در دسترس است، اما گسترش این قابلیت به کروم و جستجو فعلاً محدود به تصاویر است. گوگل اعلام کرده که قصد دارد این قابلیت را به انواع دیگر محتوا نیز گسترش دهد.

مرکز واحد برای بررسی اصالت محتوا

در این به‌روزرسانی، رابط‌های بررسی گوگل علاوه بر SynthID، اعتبارنامه‌های C2PA را نیز بررسی می‌کنند. این یکپارچگی به کاربران امکان می‌دهد هر دو سیستم را از یک نقطه واحد بررسی کنند و دیگر نیازی به جابه‌جایی بین جمینای و ابزارهای مستقل C2PA نخواهد بود. پشتیبانی از C2PA از امروز در اپلیکیشن جمینای فعال شده و طی ماه‌های آینده به جستجو و کروم نیز خواهد رسید.

گوگل همچنین در حال گسترش استفاده از C2PA است. این فراداده پیش‌تر بر روی تصاویر ثبت‌شده با سری پیکسل 10 قرار داشت و اکنون گوشی‌های پیکسل 8 و پیکسل 9 نیز در هفته‌های آینده این اطلاعات را به ویدیوها اضافه خواهند کرد. علاوه بر این، متا نیز قصد دارد محتوای ثبت‌شده با دوربین را در اینستاگرام با C2PA برچسب‌گذاری کند.

از سوی دیگر، واترمارک SynthID قرار است به محتوای تولیدشده توسط مدل‌های هوش مصنوعی شرکت‌هایی نظیر OpenAI، Kakao و ElevenLabs نیز اضافه شود، هرچند جزئیات دقیق مدل‌ها و انواع محتوای تحت پوشش هنوز مشخص نشده است.

API جدید تشخیص هوش مصنوعی برای سازمان‌ها

گوگل یک API جدید تشخیص محتوای هوش مصنوعی را برای پلتفرم Enterprise Agent در Google Cloud معرفی کرده است. این API به سازمان‌ها کمک می‌کند تا محتوای تولیدشده با هوش مصنوعی را راحت‌تر شناسایی کنند. این ابزار ابتدا با گروهی از «شرکای مورد اعتماد» عرضه شده و سپس بر اساس بازخورد آن‌ها بهبود خواهد یافت.

گوگل در بلاگ رسمی خود نوشته است: «قابلیت تشخیص دیپ‌فیک گوگل به کسب‌وکارها امکان می‌دهد محتوای تولیدشده با مدل‌های گوگل و دیگر مدل‌های محبوب را شناسایی کنند و تصمیم بگیرند چگونه رسانه‌ها را در پلتفرم‌های خود مدیریت کنند. چه برای عملیات پشت‌صحنه مانند جلوگیری از تقلب بیمه‌ای و چه برای محتوای کاربرمحور مانند برچسب‌گذاری رسانه‌های مصنوعی.»

گسترش این ابزارها می‌تواند تشخیص محتوای ساختگی را برای کاربران عادی و شرکت‌ها بسیار ساده‌تر کند. اضافه شدن این قابلیت‌ها به کروم، به عنوان محبوب‌ترین مرورگر جهان، اهمیت ویژه‌ای دارد، زیرا بسیاری از پلتفرم‌ها هنوز محتوای تولیدشده با هوش مصنوعی را برچسب‌گذاری نمی‌کنند و این ابزار راهی ساده‌تر از ذخیره و آپلود دستی تصاویر در سایت‌های بررسی‌کننده ارائه می‌دهد.

چالش‌ها و رویکردهای آینده

با این حال، «پوشمیت کوهلی»، معاون DeepMind، به ورج گفته است که گوگل برنامه‌های خود برای ساخت یک پورتال مستقل بررسی SynthID را کنار گذاشته است. این بدان معناست که کاربران برای شناسایی محتوای تولیدشده توسط مدل‌های گوگل باید از ابزارهای مبتنی بر جمینای استفاده کنند؛ موضوعی که شاید برای کسانی که مایل به تعامل مستقیم با سیستم‌های مولد هوش مصنوعی نیستند، چندان خوشایند نباشد.