متا برای مبارزه با جعل هویت و محتوای بی‌کیفیت هوش مصنوعی در فیس‌بوک ابزارهای جدیدی معرفی کرد

در پی گلایه‌های گسترده از تبدیل شدن فیس‌بوک به «جهنمی از محتوای بی‌کیفیت هوش مصنوعی»، شرکت متا روز جمعه از ابزارهای جدیدی برای شناسایی جعل هویت و همچنین دستورالعمل‌های به‌روز شده‌ای برای تولیدکنندگان محتوا رونمایی کرد. این اقدامات با هدف تعریف دقیق‌تر «محتوای اصیل» در پلتفرم فیس‌بوک صورت می‌گیرد تا تجربه کاربری بهبود یابد و از اعتبار این شبکه اجتماعی محافظت شود.

اهمیت محتوای اصیل برای آینده فیس‌بوک

سال گذشته، متا اعلام کرده بود که با محتوای اسپم و غیراصیل، از جمله استفاده مکرر از عکس‌ها، ویدئوها یا متن دیگران، برخورد خواهد کرد. هدف اصلی این سیاست، ارتقای محتوای اصیل تولیدکنندگان در فیدها و مقابله با پست‌های بی‌کیفیت تولید شده توسط هوش مصنوعی بود که به اعتبار فیس‌بوک آسیب می‌زدند. این رویکرد برای موفقیت بلندمدت فیس‌بوک به عنوان پلتفرمی برای تولیدکنندگان محتوا حیاتی است؛ چرا که اگر محتوای غیراصیل و بی‌کیفیت هوش مصنوعی، محتواهای اصیل را تحت‌الشعاع قرار دهد و توانایی تولیدکنندگان برای کسب درآمد را کاهش دهد، فیس‌بوک جذابیت خود را از دست خواهد داد.

پیشرفت‌های اخیر متا در مبارزه با محتوای جعلی

متا اعلام کرده است که تلاش‌های قبلی‌اش نتایج مثبتی به همراه داشته است. بر اساس گزارش این شرکت، میزان بازدید و همچنین زمان صرف شده برای تماشای محتوای اصیل در فیس‌بوک در نیمه دوم سال ۲۰۲۵، در مقایسه با دوره مشابه سال قبل، تقریباً دو برابر شده است. علاوه بر این، متا در حذف حساب‌های جعلی نیز پیشرفت قابل توجهی داشته و در سال گذشته مجموعاً ۲۰ میلیون حساب را حذف کرده است. این اقدامات منجر به کاهش ۳۳ درصدی گزارش‌های جعل هویت شده که تولیدکنندگان بزرگ را هدف قرار داده بودند.

ابزارهای جدید حفاظت از محتوا و فرآیند گزارش‌دهی

فیس‌بوک در حال حاضر مشغول آزمایش بهبودهایی در ابزارهای حفاظت از محتوای خود است. این ابزارها به تولیدکنندگان امکان می‌دهند تا زمانی که ویدئوهای Reels آن‌ها توسط جاعلان هویت در پلتفرم‌های فیس‌بوک منتشر می‌شود، اقدامات لازم را انجام دهند. تولیدکنندگان می‌توانند از طریق یک داشبورد مرکزی، محتوای جعلی را علامت‌گذاری (flag) کنند. متا قصد دارد با به‌روزرسانی‌های آینده، فرآیند گزارش‌دهی را با فراهم کردن امکانی برای ثبت تمام گزارش‌ها در یک مکان واحد، حتی ساده‌تر کند. با این حال، باید توجه داشت که ابزار فعلی بیشتر بر تطبیق محتوای تکراری متمرکز است و هنوز به طور کامل به تشخیص استفاده غیرمجاز از چهره و هویت یک تولیدکننده نمی‌پردازد.

تلاش‌های مشابه در پلتفرم‌های دیگر

متا تنها شرکتی نیست که با چالش‌های ناشی از فناوری هوش مصنوعی دست و پنجه نرم می‌کند. در همین هفته، یوتیوب نیز اعلام کرد که ابزارهای تشخیص دیپ‌فیک (جعل عمیق) خود را برای سیاستمداران، چهره‌های عمومی و روزنامه‌نگاران گسترش خواهد داد که نشان‌دهنده نگرانی گسترده در صنعت فناوری است.

تعریف به‌روز شده «محتوای اصیل»

به عنوان بخشی از این تغییرات، متا دستورالعمل‌های محتوای فیس‌بوک را به‌روزرسانی کرده تا تعریف بهتری از «اصیل بودن» ارائه دهد. این تعریف اکنون شامل موارد زیر می‌شود:

• محتوایی که مستقیماً توسط تولیدکننده فیلم‌برداری یا تولید شده باشد.
• ویدئوهای Reels که محتوای دیگران را ریمیکس کرده یا از لایه‌های اضافی برای ارائه چیزی جدید – مانند تحلیل، بحث یا اطلاعات جدید – استفاده می‌کنند.

در مقابل، محتوایی که شامل ویرایش‌های جزئی روی کار یک تولیدکننده باشد یا تکراری باشد، غیراصیل تلقی شده و اولویت آن در فیدها کاهش می‌یابد. این بدان معناست که مواردی مانند بارگذاری مجدد یا سایر تغییرات کم‌ارزش، مانند افزودن حاشیه یا زیرنویس، برای متمایز کردن محتوای غیراصیل از منبع اصلی آن کافی نخواهد بود.