ممنوعیت استفاده از کلمات «گابلین» و «گرملین» در ChatGPT توسط OpenAI

ریشه مشکل: افزایش ناخواسته واژگان

ماجرا از زمانی آغاز شد که یکی از مهندسان OpenAI در یک تحقیق پیرامون دایره واژگان چت‌بات، از مدل GPT-5.1 خواست تا از کلمات «گابلین» و «گرملین» استفاده کند. این درخواست به طور غیرمنتظره‌ای منجر به افزایش شدید و مداوم استفاده از این کلمات در مکالمات هوش مصنوعی شد.

دستورالعمل جدید در GPT-5.5

با انتشار مدل GPT-5.5، کاربران متوجه تغییر جالبی در دستورالعمل‌های OpenAI شدند. این شرکت در اپلیکیشن Codex خود، دستورالعملی را اضافه کرده که به صراحت از GPT-5.5 می‌خواهد از اشاره به موجوداتی همچون گابلین‌ها، گرملین‌ها، راکون‌ها، ترول‌ها، اوگرها، کبوترها یا سایر حیوانات و موجودات مشابه خودداری کند، مگر اینکه اشاره به آن‌ها باتوجه‌به پرسش کاربران ضروری باشد.

«هیچ‌گاه درباره گابلین‌ها، گرملین‌ها، راکون‌ها، ترول‌ها، اوگرها، کبوترها یا سایر حیوانات و موجودات مشابه صحبت نکن، مگر اینکه اشاره به آن‌ها باتوجه‌به پرسش کاربران ضروری باشد.»

مقابله با وسواس ChatGPT به گابلین‌ها

OpenAI در پستی توضیح داده است که پس از انتشار GPT-5.1، استفاده از واژه «گابلین» حدود ۱۷۵ درصد و استفاده از «گرملین» حدود ۵۲ درصد افزایش یافته است. این شرکت اذعان دارد که اگرچه استفاده از کلمه گابلین در یک پاسخ ممکن است بی‌ضرر به نظر برسد، اما تکرار مداوم این عادت قابل چشم‌پوشی نیست.

نقش یادگیری تقویتی و شخصیت «نرد»

تحقیقات OpenAI نشان داده است که شخصیت «نرد» ChatGPT بیش از سایر بخش‌ها از این کلمات استفاده کرده است. این پدیده به دلیل استفاده از تکنیکی موسوم به یادگیری تقویتی رخ داده است. این تکنیک باعث شده علاقه‌مندی شخصیت «نرد» ChatGPT به گابلین‌ها به سایر بخش‌های مدل نیز منتقل شود.

با توجه به اینکه ابزار Codex نیز ماهیتی بسیار «نردی» دارد، OpenAI احساس کرده که با صدور یک دستورالعمل صریح، رفتار این ابزار را اصلاح کند تا از این وسواس واژگانی جلوگیری شود.