جنجال تبلیغات ابزار برهنه‌ساز هوش مصنوعی در پلتفرم‌های فیسبوک و اینستاگرام

تبلیغات ابزار برهنه‌ساز هوش مصنوعی در شبکه‌های اجتماعی اینستاگرام و فیسبوک، جنجال تازه‌ای پیرامون سازوکارهای نظارتی شرکت متا و نقض صریح قوانین داخلی این غول فناوری برپا کرده است.

انتشار آگهی‌های غیراخلاقی دیپ‌فیک در پلتفرم‌های متا

پلتفرم‌های تحت مالکیت شرکت متا اخیراً آگهی‌هایی را به نمایش گذاشتند که کاربران را به تولید تصاویر و ویدیوهای دستکاری‌شده و غیراخلاقی از زنان فعال در عرصه سیاست آمریکا تشویق می‌کرد. این اتفاق در شرایطی رخ داده است که طبق قوانین رسمی این مجموعه، نشر هرگونه محتوای نامناسب و سوءاستفاده جنسی در بخش تبلیغات اکیداً ممنوع اعلام شده بود.

نرم‌افزار تبلیغ‌شده که با نام کرومیکس (Kromix) فعالیت می‌کند، در ظاهر خود را بستری برای تولید و ویرایش تصویر با فناوری‌های نوین معرفی کرده است، اما در عمل خدمات متفاوتی به مشترکان ارائه می‌دهد.

ابعاد کمپین و جزئیات انتشار در فیسبوک و اینستاگرام

بررسی داده‌های تبلیغاتی نشان می‌دهد که این کارزار شامل چندین بخش هدفمند بوده است که بدون نظارت کافی در بستر وب منتشر شدند:

• تعداد محتواهای تبلیغاتی: ثبت و اجرای ۳۲ آگهی مختلف در پلتفرم‌های زیرمجموعه متا
• مدت‌زمان فعال‌بودن: نمایش مداوم تبلیغات در بازه‌ای بین ۵ تا ۴۶ ساعت پیش از توقف
• جامعه هدف: طراحی و تمرکز کمپین به‌صورت اختصاصی برای نمایش به مخاطبان مرد

چالش‌های نظارتی فروشگاه‌های اپلیکیشن

این برنامه پیش‌تر در فروشگاه اپ استور شرکت اپل نیز عرضه شده بود؛ جایی که کاربران با پرداخت هزینه اشتراک، امکان دسترسی به قابلیت‌های پردازش تصویر را پیدا می‌کردند. دادستانی شهر سان‌فرانسیسکو پیش از این با ارسال درخواستی رسمی، خواستار حذف ۱۳ اپلیکیشن مشابه از این فروشگاه شده بود که نشان‌دهنده ابعاد گسترده‌تر این چالش در میان پلتفرم‌های دیجیتال است.

متا پس از استعلام رسانه‌ها و آشکار شدن نقض قوانین ایمنی، تمامی تبلیغات مرتبط با این سرویس را از شبکه‌های اجتماعی خود حذف کرد.

فرجام ماجرا و ضرورت اصلاح نظارت بر هوش مصنوعی

اگرچه متا پس از واکنش رسانه‌ای اقدام به توقف این کارزار کرد، اما انتشار آزادانه تبلیغات ابزار برهنه‌ساز هوش مصنوعی نشان می‌دهد که سیستم‌های پایش خودکار پلتفرم‌های بزرگ فناوری همچنان در شناسایی محتوای مخرب و نقض حریم خصوصی افراد با ضعف‌های جدی روبه‌رو هستند.