ممنوعیت استفاده از کلمات «گابلین» و «گرملین» در ChatGPT

ریشه مشکل: افزایش غیرمنتظره واژگان

ماجرا از زمانی آغاز شد که یکی از مهندسان OpenAI از مدل GPT-5.1 خواست تا در یک تحقیق پیرامون دایره واژگان چت‌بات، از کلمات «گابلین» و «گرملین» استفاده کند. این درخواست، به طور غیرمنتظره‌ای منجر به افزایش شدید استفاده از این واژه‌ها در چت‌های هوش مصنوعی شد. پس از انتشار مدل GPT-5.5، کاربران متوجه شدند که OpenAI دستورالعملی جدید به اپلیکیشن Codex اضافه کرده است که به صراحت از GPT-5.5 می‌خواهد از اشاره به موجوداتی مانند گابلین‌ها و گرملین‌ها خودداری کند.

«هیچ‌گاه درباره گابلین‌ها، گرملین‌ها، راکون‌ها، ترول‌ها، اوگرها، کبوترها یا سایر حیوانات و موجودات مشابه صحبت نکن، مگر اینکه اشاره به آن‌ها باتوجه‌به پرسش کاربران ضروری باشد.»

واکنش OpenAI به وسواس ChatGPT

به نظر می‌رسد حجم صحبت‌های کاربران در مورد «وسواس» ChatGPT نسبت به این موجودات به حدی رسیده بود که OpenAI را مجبور به مداخله کرد. این شرکت در پستی رسمی توضیح داد که پس از انتشار GPT-5.1، استفاده از واژه گابلین حدود ۱۷۵ درصد و استفاده از گرملین حدود ۵۲ درصد افزایش یافته است.

OpenAI تاکید می‌کند که اگرچه استفاده از کلمه گابلین در یک پاسخ ممکن است بی‌ضرر به نظر برسد، اما تکرار مداوم این عادت نمی‌تواند نادیده گرفته شود. تحقیقات داخلی این شرکت نشان داده که «شخصیت نرد» (Nerd) ChatGPT بیش از سایر بخش‌ها از این کلمات استفاده کرده است.

نقش یادگیری تقویتی در این پدیده

این پدیده به دلیل استفاده از تکنیکی به نام یادگیری تقویتی (Reinforcement Learning) رخ داده است. این تکنیک باعث شده تا علاقه شخصیت نرد ChatGPT به گابلین‌ها به سایر بخش‌های مدل نیز منتقل شود. با توجه به اینکه ابزار Codex نیز ماهیتی «نردی» دارد، OpenAI احساس کرده که برای اصلاح رفتار این ابزار، نیاز به صدور یک دستورالعمل صریح دارد.