الگوریتم پیشنهاد محتوای تیک‌تاک تحت فشار اتهامات نقض قوانین اتحادیه اروپا

اتهام نقض قوانین دیجیتال علیه الگوریتم تیک‌تاک توسط اتحادیه اروپا

کمیسیون اروپا به‌طور رسمی الگوریتم پیشنهاد محتوای تیک‌تاک را به دلیل نقض قانون خدمات دیجیتال (DSA) مورد بازخواست قرار داد. این نهاد با اشاره به ماهیت شخصی‌سازی‌شده بخش For You، هشدار داد که این سیستم می‌تواند کاربران را در مسیرهای محتوایی آسیب‌زا گرفتار کند.

خطر سیاه‌چاله‌های محتوایی و سلامت روان کاربران

بر اساس بیانیه منتشر شده، طراحی فعلی این پلتفرم باعث می‌شود کاربران به‌صورت مداوم در معرض محتواهای مربوط به غم، انزوا یا تصاویر نامناسب از بدن قرار گیرند. این پدیده که به «سیاه‌چاله محتوایی» شهرت یافته است، می‌تواند پیامدهای جبران‌ناپذیری برای سلامت روان، به‌ویژه در میان نوجوانان و بزرگسالان آسیب‌پذیر داشته باشد.

"این طراحی زمانی آسیب‌زا است که کاربران به‌طور بی‌وقفه در معرض محتواهای منفی قرار می‌گیرند."

جزئیات تحقیقات و اصلاحات مورد نیاز

تحقیقات علیه این الگوریتم از ابتدای سال ۲۰۲۴ آغاز شده و کمیسیون معتقد است تیک‌تاک در ارزیابی اثرات خود بر سلامت کاربران و کاهش خطرات احتمالی، دچار کوتاهی بوده است. حتی استفاده از گزینه «علاقه‌مند نیستم» نیز برای اصلاح مسیر محتوایی کاربر کافی به نظر نمی‌رسد.

اتحادیه اروپا از شرکت تیک‌تاک خواسته است تا تغییرات زیر را در سیستم خود اعمال کند:

• اولویت‌دهی به ترجیحات صریح کاربران به جای تحلیل رفتار غیرارادی.
• حذف مدت‌زمان تماشای ویدیو از معیارهای اصلی پیشنهاد محتوا.
• افزایش شفافیت و سهولت در استفاده از تنظیمات کنترلی.
• انجام آزمایش‌های منظم بر روی عملکرد الگوریتم‌ها.

پیامدهای حقوقی و واکنش شرکت بایت‌دنس

در صورت عدم رعایت این الزامات، شرکت مادر تیک‌تاک یعنی بایت‌دنس (ByteDance) با جریمه‌ای سنگین روبرو خواهد شد که می‌تواند تا ۶ درصد از درآمد سالانه جهانی این شرکت باشد.

در مقابل، تیک‌تاک با رد این اتهامات، اعلام کرده است که ادعاهای کمیسیون اروپا نادرست بوده و ساختار امنیتی پلتفرم را به‌درستی نمایش نمی‌دهد. این شرکت بر تعهد خود به محافظت از کاربران تأکید ورزیده است.

نتیجه‌گیری: نبرد حقوقی میان اتحادیه اروپا و تیک‌تاک بر سر امنیت الگوریتم‌ها، نشان‌دهنده فشار فزاینده بر پلتفرم‌های اجتماعی برای مسئولیت‌پذیری در قبال سلامت روان کاربران است.