اتهام ارائه ویژگی‌های امنیتی کاذب توسط تیک‌تاک به کاربران در نیویورک

ایالت نیویورک در پرونده حقوقی جدید خود، تیک‌تاک را متهم کرده است که به جای ارائه ابزارهای واقعی برای حفظ سلامت کاربران، از ویژگی‌های امنیتی «پلاسبو» یا کاذب استفاده کرده است. بر اساس این ادعاها، هزاران کاربر، از جمله کودکان و نوجوانان، بدون آنکه بدانند، نسخه‌هایی از قابلیت‌های حفاظتی را دریافت کرده‌اند که در واقعیت کار نمی‌کردند.

آزمایش‌های پنهانی و دستکاری الگوریتم

طبق اسناد منتشر شده در نسخه به‌روزرسانی‌شده شکایت سال ۲۰۲۴ نیویورک، تیک‌تاک با انجام آزمایش‌هایی، دسترسی برخی کاربران به قابلیت‌های حیاتی را محدود کرده است. یکی از این موارد، گزینه بازنشانی الگوریتم (Algo Refresh) است که به کاربران اجازه می‌دهد محتوای نمایش داده شده را مدیریت کنند و از مواجهه با مطالب آسیب‌زا جلوگیری نمایند.

گزارش‌ها حاکی از آن است که:

• کاربران در گروه آزمایش، تصور می‌کردند قابلیت بازنشانی را فعال کرده‌اند.
• برخلاف کاربران عادی، فید محتوایی این افراد هیچ تغییری نکرد.
• این اقدام عملاً توانایی کنترل کاربر بر الگوریتم را از بین برده است.

واکنش تیک‌تاک به اتهامات

در پاسخ به این ادعاها، سخنگوی تیک‌تاک اعلام کرد که این شرکت به طور مستمر در حال بهبود پلتفرم خود است و انجام آزمایش روی محصولات جدید برای درک عملکرد آن‌ها در دنیای واقعی، امری رایج در میان شرکت‌های فناوری محسوب می‌شود.

"ما به طور مداوم در حال انجام بهبودها هستیم و مانند اکثر شرکت‌ها، به طور منظم محصولات و ویژگی‌های جدید را برای اعتبارسنجی تجربه کاربری آزمایش می‌کنیم."

تناقض با اصول سلامت دیجیتال

نکته قابل توجه در این پرونده، وجود نگرانی‌های داخلی در میان مدیران تیک‌تاک است. گفته می‌شود یکی از مدیران بخش سلامت دیجیتال (Digital Well Being)، این نوع آزمایش‌ها را با اصول شفافیت الگوریتم در تضاد دانسته و معتقد بوده که استفاده از گروه «پلاسبو» با هدف اصلی این ویژگی‌ها، یعنی کنترل کاربر، کاملاً مغایر است.

علاوه بر این، ادعا شده است که تیک‌تاک با معرفی قابلیت بازنشانی الگوریتم به عنوان یک ابزار دائمی (در حالی که ماهیت آن موقتی بوده)، کاربران را گمراه کرده است.

نتیجه‌گیری: این پرونده حقوقی نشان می‌دهد که چالش‌های مربوط به شفافیت الگوریتم و امنیت کاربران در پلتفرم‌های اجتماعی، فراتر از مسائل فنی، به حوزه‌های حقوقی و اخلاقی گسترده‌ای وارد شده است.