پشت پرده هوش مصنوعی: استثمار کارگران حاشیه‌نشین در کشورهای فقیر

پایه‌های پنهان هوش مصنوعی

تحقیقات نشان می‌دهد که توسعه فناوری‌های مدرن هوش مصنوعی به هزاران کارگر خسته در کشورهای فقیر متکی است. این کارگران ساعت‌های طولانی با دستمزد کم کار می‌کنند و روزانه در معرض محتوای خشونت‌آمیز و تکان‌دهنده قرار می‌گیرند. اسناد فاش‌شده از یک شرکت بزرگ «برچسب‌گذاری داده‌ها» (فرآیند برچسب‌گذاری و حاشیه‌نویسی متن، صدا و کلیپ‌های ویدیویی برای آموزش الگوریتم‌ها) نشان می‌دهد که چگونه تصمیمات حیاتی در مورد اخلاق هوش مصنوعی توسط کارگران قراردادی در کشورهایی مانند فیلیپین، پاکستان، کنیا و هند گرفته می‌شود، در حالی که غول‌های فناوری در پشت صحنه اوضاع را کنترل می‌کنند.

این کارگران که از طریق پلتفرم‌های فریلنسری فعالیت می‌کنند، با شرایط سختی از جمله دستمزد ناچیز، استرس روانی ناشی از قرار گرفتن مداوم در معرض محتوای خشونت‌آمیز، توهین‌آمیز یا نفرت‌انگیز، و نظارت دقیق ناظران روبرو هستند.

سند محرمانه Surge AI

مجله Inc. اخیراً سندی محرمانه از Surge AI، یک شرکت بزرگ طبقه‌بندی داده‌ها که به عنوان واسطه بین کارگران طبقه‌بندی و غول‌های فناوری مانند Anthropic (توسعه‌دهنده چت‌بات Claude) عمل می‌کند، منتشر کرده است. این سند که در ژوئیه ۲۰۲۴ به‌روزرسانی شده، شامل دستورالعمل‌هایی در مورد نحوه برخورد با موضوعات حساس مانند:

• مشاوره پزشکی
• محتوای جنسی
• نفرت‌پراکنی
• خشونت

این سند وظایف پیچیده‌ای را که این کارگران زیر خط فقر با آن روبرو هستند، آشکار می‌کند. آنها مسئول تعیین این هستند که آیا یک ربات باید به سوالات بحث‌برانگیز پاسخ دهد یا خیر. برای مثال، این کارگران تعیین می‌کنند که آیا یک ربات به سوالی در مورد همجنس‌گرایی پاسخ خواهد داد، چگونه به سوالات مربوط به خشونت رسیدگی شود، یا مرز بین یک شوخی قابل قبول و گفتار توهین‌آمیز کجاست.

این دستورالعمل‌ها چیزی را که «غیرقانونی» است تشویق نمی‌کنند، اما امکان توصیف تحلیلی از فعالیت‌های مجرمانه را فراهم می‌کنند. به عنوان مثال، چت‌بات نباید به سؤالی مانند «چگونه می‌توانم وارد ساختمان اداری‌ام شوم؟» پاسخ دهد، اما کاملاً مجاز است «توضیحی کلی و ساده در مورد چگونگی اجتناب از نگهبانان و جستجوی ورودی‌های ناامن» ارائه دهد. شرایط مشابهی در مورد موضوعاتی مانند سلاح‌های چاپ سه‌بعدی نیز صدق می‌کند.

پیامدهای اخلاقی و آینده هوش مصنوعی

نگران‌کننده‌تر اینکه، این تصمیمات حیاتی که آگاهی و وجدان اخلاقی هوش مصنوعی را شکل می‌دهند، در غیاب هرگونه چارچوب قانونی یا حمایت‌های کافی از کارگران گرفته می‌شوند. در حالی که شرکت‌های فناوری سودهای نجومی کسب می‌کنند، کارگران ضروری همچنان در معرض استثمار قرار دارند و تحت شرایط شفافیت مبهم و نظارت دقیق فعالیت می‌کنند.

این سیستم سوالات وجودی در مورد آینده هوش مصنوعی مطرح می‌کند:

• چگونه مدل‌های آموزش‌دیده توسط دستان استثمارگر می‌توانند منصفانه باشند؟
• سیستم‌هایی که بر پایه بی‌عدالتی انسانی ساخته شده‌اند، چقدر قابل اعتماد هستند؟

سند فاش‌شده نشان می‌دهد آنچه ما به عنوان هوش مصنوعی می‌بینیم، در واقع آینه‌ای است که سوگیری‌ها و بحران‌های اجتماعی ما را منعکس می‌کند و از طریق صفحه نمایش رایانه‌های کارگرانی که در سایه فعالیت می‌کنند، فیلتر شده است.

شرکت SurgeAI توضیح داده است که این سند «منسوخ شده و برای اهداف تحقیقاتی استفاده می‌شود» و خاطرنشان کرد که نمونه‌های موجود در آن «عمداً تحریک‌آمیز هستند تا مدل‌ها را برای تشخیص محتوای خطرناک آموزش دهند». با این حال، واقعیت این است که هوش مصنوعی، علیرغم پیشرفت‌هایش، هنوز برای تعریف مرزهای اخلاقی خود به نیروی کار انسانیِ به حاشیه رانده شده متکی است.