جمنای گوگل ویدئوهای ساخته‌شده با هوش مصنوعی را تشخیص می‌دهد

مکانیسم تشخیص ویدئوهای تولید شده با هوش مصنوعی

اپلیکیشن جمنای اکنون می‌تواند فایل‌های ویدئویی را تحلیل کند؛ قابلیتی که پیش‌تر تنها برای تصاویر ارائه شده بود. کاربران برای استفاده از این امکان می‌توانند ویدئوهای خود را با محدودیت حجم ۱۰۰ مگابایت و زمان ۹۰ ثانیه در جمنای بارگذاری کرده و سؤال کنند: «آیا این ویدیو با هوش مصنوعی گوگل ساخته شده؟»

جمنای برای پاسخ به این پرسش، به طور همزمان بخش تصویر و صدای ویدئو را مورد بررسی قرار می‌دهد تا وجود یک کد اختصاصی که توسط گوگل در محتوای هوش مصنوعی جاسازی شده است، شناسایی شود.

فناوری SynthID: واترمارک نامرئی گوگل

کد اختصاصی مورد استفاده در این فرآیند، «SynthID» نام دارد. این امضای دیجیتال به‌گونه‌ای طراحی شده است که:

• برای چشم یا گوش انسان قابل‌مشاهده یا شنیدن نیست.
• باید بتواند در برابر ویرایش‌های معمول و رایج مقاومت کند.

در صورتی که کد SynthID در ویدئو شناسایی شود، اپلیکیشن جمنای تنها به یک پاسخ ساده «بله» یا «خیر» بسنده نمی‌کند، بلکه قسمت‌هایی از ویدئو که شامل این امضای دیجیتال هستند را نیز به کاربر نشان می‌دهد. با این حال، میزان دوام و مقاومت این واترمارک در برابر حذف یا تغییرهای پیچیده‌تر هنوز به طور کامل مشخص نیست.

گامی در جهت شفافیت محتوای هوش مصنوعی

معرفی این قابلیت جدید در اپلیکیشن جمنای، در چارچوب تلاش‌های گسترده‌تر شرکت گوگل برای افزایش شفافیت در مواجهه با محتوای تولید شده توسط هوش مصنوعی صورت می‌گیرد. مشابه این ویژگی برای تشخیص عکس‌های هوش مصنوعی نیز پیش‌تر در ماه نوامبر (آبان/آذر) راه‌اندازی شده بود و اکنون با توسعه آن به ویدئوها، گامی مهم در جهت اعتمادسازی و مبارزه با محتوای گمراه‌کننده برداشته شده است.