تغییر در الگوریتم هوش مصنوعی متا پس از پرسش‌های تهاجم‌آمیز درباره کاربران

تغییر در رویکرد هوش مصنوعی متا پس از جنجال حریم خصوصی

شرکت متا اعلام کرد که پس از بروز واکنش‌های شدید کاربران به پرسش‌های تهاجم‌آمیز چت‌بات خود، در حال بازنگری و تغییر در نحوه ارائه پیشنهادهای هوش مصنوعی است. این تصمیم پس از آن اتخاذ شد که یک ویدئوی وایرال، توانایی این فناوری در استخراج اطلاعات بسیار خصوصی از کاربران را به نمایش گذاشت.

جزئیات حادثه: وقتی هوش مصنوعی به دنبال اطلاعات شخصی است

ماجرا از زمانی آغاز شد که یکی از کاربران اینستاگرام، ویدئویی از خود و فرزندش منتشر کرد. هوش مصنوعی متا بلافاصله با پرسشی تحت عنوان "مسافر کودک کیست؟"، وارد حریم خصوصی او شد. این کاربر گزارش داد که پس از انتخاب این پیشنهاد، سیستم توانست اطلاعات دقیقی از سن فرزندان و محل زندگی خانواده او را از طریق پست‌های قدیمی و فعالیت‌های بستگانش استخراج کند.

"این ویژگی هرگز نباید با چنین سوالاتی کاربر را مواجه می‌کرد؛ ما در این مورد دچار اشتباه شدیم."

سخنگوی شرکت متا، دینا ال-کسابی، در پاسخ به گزارش‌های منتشر شده، ضمن پذیرش این خطا، تاکید کرد که شرکت در طراحی این بخش "هدف را گم کرده است" و در حال اصلاح روندها می‌باشد.

چالش‌های امنیتی در پلتفرم‌های متا

هوش مصنوعی متا اکنون در پلتفرم‌های گسترده‌ای نظیر فیس‌بوک، اینستاگرام، واتس‌اپ و مسنجر فعالیت می‌کند. با این حال، سوابق نشان می‌دهد که این شرکت پیش از این نیز با چالش‌های مشابه روبرو بوده است:

• حذف قابلیت ساخت ویدئوهای جعلی (Deepfake) از کاربران اینستاگرام در ماه جولای.
• انتقادات مداوم از نحوه استفاده از داده‌های کاربران برای آموزش مدل‌های زبانی.
• نیاز به ایجاد تعادل بین شخصی‌سازی تجربه کاربری و حفظ حریم خصوصی.

نتیجه‌گیری

حادثه اخیر نشان داد که مرز میان شخصی‌سازی هوشمند و نقض حریم خصوصی در دنیای هوش مصنوعی بسیار باریک است. اصلاحات جدید متا می‌تواند گامی در جهت بازگرداندن اعتماد کاربران باشد، اما سوال اصلی این است که آیا این تغییرات برای جلوگیری از دسترسی‌های غیرمجاز به داده‌های حساس کودکان کافی خواهد بود یا خیر.