یوتیوب ابزار هوش مصنوعی جدیدی برای مقابله با دیپ‌فیک‌ها و حفظ هویت سازندگان محتوا معرفی کرد

سازوکار پیشرفته یوتیوب برای مقابله با دیپ‌فیک‌ها

سیستم تشخیص هوش مصنوعی یوتیوب به طور گسترده راه‌اندازی شده و قادر است محتوای تولیدشده با هوش مصنوعی را که چهره یا صدای یک تولیدکننده محتوا را بازسازی می‌کند، شناسایی و مدیریت کند. این ویژگی در حال حاضر برای اعضای تأییدشده برنامه شریک یوتیوب (YouTube Partner Program) در دسترس است.

تولیدکنندگان محتوا اکنون می‌توانند ویدئوهای دیپ‌فیک را که از چهره آن‌ها برای مقاصد تجاری یا گمراه‌کننده استفاده می‌کنند، بررسی کرده و درخواست حذف آن‌ها را ارائه دهند.

این فناوری تشخیص چهره و صدا، با بهره‌گیری از الگوریتم‌های هوش مصنوعی، رسانه‌های مصنوعی را در میان حجم عظیمی از ویدئوهای بارگذاری‌شده شناسایی می‌کند. این فرآیند مشابه سیستم کپی‌رایت Content ID است و ویدئوهای جدید را به‌طور مداوم با داده‌های مرجع ارائه‌شده توسط تولیدکنندگان مقایسه می‌کند. هدف اصلی این اقدام، جلوگیری از جعل هویت‌هایی است که می‌تواند مخاطبان را گمراه کند یا تأیید نادرستی را به افراد نسبت دهد.

فرآیند فعال‌سازی و احراز هویت سازندگان

برای استفاده از این قابلیت، تولیدکنندگان باید ابتدا هویت خود را تأیید کنند. این فرآیند چندمرحله‌ای شامل موارد زیر است:

• رضایت به پردازش داده‌های هویتی.
• اسکن یک کد QR.
• بارگذاری یک کارت شناسایی دولتی معتبر.
• ضبط یک ویدئوی سلفی کوتاه برای آموزش مدل تطبیق چهره و صدا.

سیستم‌های یوتیوب داده‌های سلفی و شناسایی را روی سرورهای گوگل تأیید می‌کنند و پس از چند روز، دسترسی کامل به این ابزار در YouTube Studio برای تولیدکننده فعال می‌شود.

گزینه‌های کنترل و مدیریت محتوای دیپ‌فیک

پس از تأیید هویت، تولیدکنندگان به یک داشبورد اختصاصی دسترسی پیدا می‌کنند که ویدئوهای منطبق با چهره آن‌ها را فهرست می‌کند. این لیست شامل اطلاعات کلیدی زیر است:

• عنوان ویدئو و کانال بارگذاری‌کننده.
• تعداد بازدید و اطلاعات مشترکین کانال.
• ارزیابی یوتیوب در مورد احتمال تولید محتوا با هوش مصنوعی.

در صورت تطابق، تولیدکنندگان سه گزینه اصلی برای مدیریت محتوای دیپ‌فیک پیش رو دارند:

۱. درخواست حذف: ثبت درخواست حذف بر اساس سیاست‌های حفظ حریم خصوصی یوتیوب.

۲. شکایت کپی‌رایت: ارائه شکایت کپی‌رایت در صورت استفاده بدون اجازه از محتوا یا صدای اصلی آن‌ها.

۳. آرشیو کردن: آرشیو کردن ویدئو برای مستندسازی و پیگیری‌های آتی.

یوتیوب اعلام کرده است که الگوریتم تشخیص هنوز در حال بهبود دقت خود است و ممکن است نتایج اولیه بین کلیپ‌های واقعی از کانال تولیدکننده و نسخه‌های مصنوعی تمایز قائل نشود. این سیستم از اواخر سال گذشته در همکاری با Creative Artists Agency و با مشارکت ۵ هزار تولیدکننده در فاز آزمایشی قرار داشت.