جنگ آمریکا و اسرائیل با ایران؛ موج بی‌سابقه اطلاعات نادرست هوش مصنوعی و پول‌سازی

افزایش محتوای جعلی و تاثیر آن

بررسی‌ها نشان می‌دهد که ویدئوهای تولیدشده با هوش مصنوعی و تصاویر ماهواره‌ای جعلی، برای انتشار ادعاهای گمراه‌کننده درباره این درگیری‌ها به کار رفته‌اند. این محتوا در مجموع صدها میلیون بار در فضای آنلاین دیده شده است.

تیموتی گراهام، کارشناس رسانه‌های دیجیتال در دانشگاه فناوری کویینزلند، بیان می‌کند: «مقیاس این مساله واقعاً نگران‌کننده است و این جنگ باعث شده دیگر نتوان آن را نادیده گرفت. کاری که پیش‌تر نیازمند یک تیم حرفه‌ای تولید ویدئو بود، حالا با ابزارهای هوش مصنوعی در چند دقیقه انجام می‌شود. عملاً سد تولید تصاویر ساختگی قانع‌کننده از صحنه‌های جنگ فرو ریخته است.»

درگیری‌ها از ۲۸ فوریه آغاز شد؛ ایالات متحده و اسرائیل حملاتی را به ایران انجام دادند و ایران نیز با حملات پهپادی و موشکی به اسرائیل، کشورهای حاشیه خلیج فارس و دارایی‌های نظامی آمریکا در منطقه پاسخ داد. در این میان، بسیاری از مردم برای کسب اطلاعات به شبکه‌های اجتماعی روی آورده‌اند.

واکنش پلتفرم‌ها و چالش‌های موجود

اقدامات پلتفرم X

پلتفرم ایکس اعلام کرده است که تولیدکنندگان محتوایی که ویدئوهای هوش مصنوعی مربوط به درگیری‌های نظامی را بدون برچسب منتشر کنند، به طور موقت از برنامه درآمدزایی خود تعلیق خواهند شد. این طرح به کاربران واجد شرایط که پست‌هایشان بازدید، لایک، بازنشر و نظر زیادی ایجاد کند، پرداخت‌هایی ارائه می‌دهد.

مهسا علیمردانی، پژوهشگر متخصص در امور ایران در موسسه اینترنت آکسفورد، این اقدام را «نشانه قابل توجهی» می‌داند که پلتفرم‌ها متوجه شده‌اند با یک مشکل بزرگ روبرو هستند.

نمونه‌های عینی از محتوای جعلی

• حملات موشکی به تل آویو: یک ویدیوی هوش مصنوعی که ظاهراً اصابت موشک به تل آویو را نشان می‌دهد، در بیش از ۳۰۰ پست منتشر شده و ده‌ها هزار بار به اشتراک گذاشته شده است. متاسفانه، چت‌بات هوش مصنوعی گروک در ایکس، در بسیاری از موارد به اشتباه این ویدئو را واقعی تائید کرده است.
• آتش‌سوزی برج خلیفه: ویدیوی جعلی دیگری که ده‌ها میلیون بار دیده شده، ادعا می‌کند برج خلیفه دبی در آتش می‌سوزد. این تصاویر در زمانی منتشر شد که نگرانی از حملات پهپادی و موشکی در منطقه بالا بود.

خانم علیمردانی تاکید می‌کند: «ویدئوهای جعلی مانند این‌ها تاثیر مخربی بر اعتماد مردم به اطلاعات تائیدشده آنلاین می‌گذارد و مستندسازی شواهد واقعی را بسیار دشوارتر می‌کند.»

تصاویر ماهواره‌ای جعلی

یکی دیگر از ویژگی‌های جدید این درگیری، ظهور تصاویر ماهواره‌ای تولیدشده با هوش مصنوعی است. به عنوان مثال، عکسی ساختگی که توسط روزنامه تهران تایمز در ایکس منتشر شد، ادعا می‌کرد آسیب گسترده‌ای به مقر ناوگان پنجم نیروی دریایی آمریکا در بحرین وارد شده است. این تصویر جعلی بر اساس تصاویر ماهواره‌ای واقعی یک پایگاه دریایی آمریکا در بحرین در فوریه ۲۰۲۵ ساخته شده بود و توسط ابزار هوش مصنوعی گوگل تولید یا ویرایش شده بود.

ابزارهای هوش مصنوعی مولد

ابزارهای هوش مصنوعی گوگل، از جمله تولیدکننده ویدیوی «ویو»، در کنار مدل سورا از شرکت اوپن ای‌آی، اپلیکیشن هوش مصنوعی چینی سیدنس و هوش مصنوعی گروک، در حال افزایش هستند.

هنری اجدر، کارشناس هوش مصنوعی مولد، می‌گوید: «تعداد ابزارهای مختلفی که اکنون برای ایجاد طیف گسترده‌ای از دستکاری‌های بسیار واقع‌گرایانه با هوش مصنوعی در دسترس است، بی‌سابقه است. ما هرگز این ابزارها را تا این اندازه در دسترس، آسان و ارزان برای استفاده ندیده‌ایم.»

ویکتوار ریو، مدیر اجرایی سازمان غیرانتفاعی «وات تو فیکس»، معتقد است که این موضوع باعث افزایش محتوای تولیدشده با هوش مصنوعی شده است، «زیرا اکنون روند انتشار به شبکه‌های اجتماعی می‌تواند تقریباً به طور کامل خودکار شود.»

رئیس بخش محصولات ایکس اظهار داشته که «۹۹ درصد» از حساب‌هایی که چنین ویدئوهای هوش مصنوعی را منتشر می‌کنند، به دنبال سوءاستفاده از سیستم درآمدزایی برای کسب پول از طریق برنامه «کریتور روینیو شیرینگ» هستند. آقای گراهام تخمین می‌زند ایکس ممکن است حدود «هشت تا ۱۲ دلار برای هر یک میلیون نمایش از سوی کاربران تائیدشده» پرداخت کند و این محتوای وایرال عملاً به یک «دستگاه چاپ پول» تبدیل شده است.

تنش میان درآمدزایی و دقت اطلاعات

کارشناسان تاکید می‌کنند که با وجود تلاش شرکت‌های شبکه‌های اجتماعی برای تغییر سیستم‌های نظارت و شناسایی محتوای هوش مصنوعی، راه‌حل ساده‌ای برای این مشکل وجود ندارد.

آقای گراهام نتیجه می‌گیرد: «مساله عمیق‌تر این است که درآمدزایی مبتنی بر تعامل و اطلاعات دقیق اساساً در تنش با یکدیگر قرار دارند و هیچ پلتفرمی این تنش را به طور کامل حل نکرده است. و شاید هرگز هم نتواند.»