خبر کامل
چگونه ویدئوهای تولیدشده با هوش مصنوعی را تشخیص دهیم؟
در دنیای امروز که شبکه‌های اجتماعی مملو از محتوای تولیدشده با هوش مصنوعی است، تشخیص واقعیت از جعل به یک چالش بزرگ تبدیل شده است. ویدئوهای بی‌کیفیت و مبهم، نخستین نشانه‌هایی هستند که می‌توانند زنگ خطر را در ذهن مخاطب به صدا درآورند و به او هشدار دهند که شاید با محتوای ساختگی سروکار دارد.
نشانه‌های اولیه تشخیص ویدئوهای هوش مصنوعی
با پیشرفت خیره‌کننده ابزارهای تولید ویدئو با هوش مصنوعی طی شش ماه گذشته، نحوه نگاه ما به محتوای بصری در حال دگرگونی است. در بهترین حالت، ممکن است بارها فریب بخوریم تا جایی که خسته شده و به هر آنچه می‌بینیم، شک کنیم. اما در حال حاضر، هنوز چند نشانه هشداردهنده وجود دارد که می‌توانند به ما در تشخیص محتوای جعلی کمک کنند.
کیفیت پایین تصویر: زنگ خطر اصلی
یکی از بارزترین نشانه‌ها، کیفیت پایین تصویر است. ویدئوهای دانه‌دانه، تار و مبهم باید شما را به فکر فرو ببرند. هانی فرید، استاد علوم کامپیوتر در دانشگاه کالیفرنیا، برکلی و بنیان‌گذار شرکت شناسایی دیپ‌فیک «گت ریل سکیوریتی»، این را یکی از اولین نکاتی می‌داند که باید به آن توجه کرد.
با این حال، باید اذعان داشت که ابزارهای هوش مصنوعی به سرعت در حال بهبود هستند و این توصیه ممکن است در آینده‌ای نزدیک بی‌فایده شود. متیو استم، استاد دانشگاه درکسل، تأکید می‌کند که کیفیت پایین به خودی خود به معنای تقلبی بودن نیست، اما ویدئوهای تار و پیکسلی هوش مصنوعی فعلاً بیشتر احتمال دارد شما را فریب دهند.
ظرافت‌های فریبنده هوش مصنوعی
ابزارهای پیشرفته‌ای مانند «وئو» از گوگل و «سورا» از اوپن ای‌آی، دیگر اشتباهات فاحشی مانند شش انگشت یا متن‌های به‌هم‌ریخته ندارند. به گفته آقای فرید، ایرادها بسیار ظریف‌تر شده‌اند. حتی پیشرفته‌ترین مدل‌ها نیز ممکن است مشکلاتی نظیر:
- بافت بیش از حد صاف پوست
- الگوهای عجیب یا متغیر در مو و لباس
- حرکات غیرممکن یا غیرواقعی اشیای کوچک در پس‌زمینه
ایجاد کنند. این نشانه‌ها در تصاویر واضح‌تر، راحت‌تر قابل تشخیص هستند و همین امر ویدئوهای بی‌کیفیت را فریبنده‌تر می‌کند. هوش مصنوعی با شبیه‌سازی فیلم‌برداری با دوربین‌های قدیمی، می‌تواند این مصنوعات تصویری را پنهان کند.
نمونه‌های فریبنده اخیر
در ماه‌های اخیر، چندین ویدئوی هوش مصنوعی معروف، میلیون‌ها نفر را فریب داده‌اند. برای مثال:
- ویدئوی خرگوش‌های وحشی که روی ترامپولین می‌پریدند، بیش از ۲۴۰ میلیون بار در تیک‌تاک دیده شد.
- ویدئوی عاشق شدن دو نفر در متروی نیویورک نیز میلیون‌ها لایک گرفت، تا اینکه مشخص شد ساختگی است.
- یک کشیش آمریکایی که خطبه‌ای چپ‌گرایانه می‌داد و می‌گفت: «میلیاردرها تنها اقلیتی هستند که باید از آن‌ها ترسید!» نیز نمونه‌ای دیگر از فریب‌های هوش مصنوعی بود.
همه این ویدئوها یک ویژگی مشترک داشتند: به نظر می‌رسیدند با دوربینی قدیمی و بی‌کیفیت ضبط شده‌اند.
سه عامل کلیدی در تشخیص
آقای فرید سه عامل اصلی را برای تشخیص ویدئوهای هوش مصنوعی مطرح می‌کند:
- وضوح: تعداد یا اندازه پیکسل‌ها در تصویر.
- کیفیت: میزان فشرده‌سازی و حذف جزئیات.
- طول ویدئو: ویدئوهای هوش مصنوعی معمولاً بسیار کوتاه هستند (۶ تا ۱۰ ثانیه).
تولید ویدئوهای طولانی با هوش مصنوعی پرهزینه است و احتمال خراب‌کاری هوش مصنوعی در آن‌ها بیشتر است. متقلبان عمداً کیفیت ویدئوهای جعلی را پایین می‌آورند و فشرده‌سازی اضافه می‌کنند تا ردپاهای احتمالی هوش مصنوعی را مخفی کنند.
آینده تشخیص و راه‌حل‌های پیش رو
متأسفانه، به گفته آقای استم، نشانه‌های بصری فعلی برای تشخیص هوش مصنوعی به زودی ناپدید خواهند شد و پیش‌بینی می‌شود که ظرف دو سال دیگر، دیگر نمی‌توان به چشم اعتماد کرد. اما این به معنای تسلیم شدن در برابر دروغ نیست.
روش‌های پیشرفته و استانداردهای جدید
پژوهشگرانی مانند فرید و استم از روش‌های پیشرفته‌تری برای تأیید محتوا استفاده می‌کنند. آن‌ها به دنبال «ردپاهای آماری کوچکی» هستند که چشم انسان نمی‌تواند آن‌ها را ببیند، مانند اثر انگشت در صحنه جرم. شرکت‌های فناوری نیز روی استانداردهای جدیدی کار می‌کنند که دوربین‌ها بتوانند در لحظه ایجاد تصویر، اطلاعاتی را برای اثبات اصالت آن ثبت کنند. ابزارهای هوش مصنوعی نیز می‌توانند جزئیات مشابهی به تصاویر و ویدئوهای تولیدی خود اضافه کنند تا ساختگی بودنشان را اثبات کنند.
تغییر نگاه به محتوای آنلاین
مایک کالفیلد، کارشناس سواد دیجیتال، معتقد است که راه‌حل واقعی، تغییر نگاه ما به محتوای آنلاین است. او می‌گوید جست‌وجوی ردپاهای هوش مصنوعی توصیه‌ای پایدار نیست، زیرا این نشانه‌ها مدام تغییر می‌کنند. در عوض، باید این تصور را کنار بگذاریم که تصاویر یا ویدئوها بدون زمینه معنایی دارند.
کالفیلد می‌گوید: «دیدگاه من این است که در بلندمدت، ویدئو تقریباً مثل متن خواهد شد؛ جایی که اصل ماجرا منشأ ویدئو است، نه ظاهر آن. و بهتر است از حالا برای این تغییر آماده شویم.»
مانند متن، باید منبع، ناشر، زمینه و تأیید منابع قابل اعتماد را بررسی کنیم. این بزرگ‌ترین چالش امنیت اطلاعات در قرن بیست و یکم است که نیازمند ترکیبی از راه‌حل‌ها، آموزش، سیاست‌گذاری هوشمند و رویکردهای فناورانه است.
درباره هوش‌مصنوعی دست‌اول:
تمامی اخبار دست‌اول توسط دستیار هوش مصنوعی «هوشنگ» پردازش، صحت‌سنجی، خلاصه و بازنویسی شده است. هوشنگ هر روز با داده‌های جدید آموزش داده می‌شود و با نظارت دقیق انسانی و سردبیری دست‌اول در حال بهتر شدن است.
شما می‌توانید از چت‌بات و سایر ابزارهای هوشنگ به صورت رایگان استفاده کنید.
زمان انتشار:
۰۶:۰۰ - ۱۴۰۴/۱۰/۱۷