تبعیض جنسیتی آشکار در داستان‌های تولیدشده توسط هوش مصنوعی

پژوهشگران با آزمایش ۶ مدل معروف هوش مصنوعی دریافتند که این سامانه‌ها در تولید داستان‌های حیوانات، شخصیت‌های مونث را به‌کلی نادیده می‌گیرند و تنها ۲ درصد از نزدیک به ۲۴ هزار داستان تولیدشده به جنس ماده اختصاص دارد.

حذف هویت‌های غیرمذکر در سایه بی‌طرفی

پژوهشگران دانشگاه واشینگتن در بررسی‌های خود روی شش مدل پیشرفته هوش مصنوعی متوجه شدند که این سامانه‌ها در خلق داستان‌های حیوانی، نقش شخصیت‌های ماده را به حاشیه می‌رانند. این دستاوردها که در همایش بین‌المللی انصاف، پاسخگویی و شفافیت در مونترال کانادا مطرح شد، نشان می‌دهد تلاش برای دستیابی به بی‌طرفی در هوش مصنوعی گاه به حذف کامل هویت‌های غیرمذکر منجر می‌شود.

پیش‌تر نیز مطالعات مشابهی نشان داده بود که در ادبیات کودکان نیز شخصیت‌های حیوانی نظیر قورباغه‌ها و گرگ‌ها در بیش از ۹۰ درصد موارد نر هستند.

نتایج آماری آزمایش مدل‌های زبانی

در این پژوهش، مدل‌های زبانی بزرگی همچون کلود، جمینای و جی‌پی‌تی-۴ او با دستورهای یکسانی برای تکمیل داستان‌های نیمه‌تمام روبه‌رو شدند. ارزیابی دقیق ۲۳ هزار و ۸۰۰ پاسخ تولیدشده نشان داد:

• ۵۷ درصد شخصیت‌ها خنثی یا فاقد جنسیت مشخص بودند.
• ۴۱ درصد شخصیت‌ها به شکل مذکر توصیف شدند.
• تنها ۲ درصد از شخصیت‌ها ماده بودند.

سوگیری مدل‌ها و دیدگاه پژوهشگران

بررسی مدل‌های گوناگون مشخص کرد که سامانه‌هایی مانند جمینای و جی‌پی‌تی-۵.۱ بیشترین گرایش را به شخصیت‌های مذکر داشته‌اند، در حالی که مدل اولمو بیشترین میزان شخصیت‌های خنثی را به ثبت رسانده است. پژوهشگران تأکید می‌کنند که این فناوری‌ها سوگیری‌های انسانی را بازتولید کرده و ابعاد تازه‌ای به آن می‌بخشند.