OpenAI استفاده از «گابلین» و «گرملین» را در ChatGPT ممنوع کرد

در پی افزایش چشمگیر استفاده از کلمات خاصی مانند «گابلین» و «گرملین» در مکالمات هوش مصنوعی، شرکت OpenAI تصمیم به اعمال محدودیت‌های جدیدی در مدل‌های خود گرفته است. این اقدام پس از آن صورت می‌گیرد که یک مهندس OpenAI در تحقیقی پیرامون دایره واژگان چت‌بات، از مدل GPT-5.1 خواسته بود تا این کلمات را به کار ببرد و از آن زمان، شیوع استفاده از آن‌ها در چت‌های هوش مصنوعی به شدت بالا رفته بود.

دستورالعمل‌های جدید در GPT-5.5 و Codex

با انتشار مدل GPT-5.5، کاربران متوجه تغییرات مهمی در دستورالعمل‌های OpenAI شدند. در اپلیکیشن Codex، دستورالعملی جدید اضافه شده که به صراحت از GPT-5.5 می‌خواهد از اشاره به موجوداتی نظیر گابلین‌ها و گرملین‌ها خودداری کند. این دستورالعمل چنین بیان می‌کند:

«هیچ‌گاه درباره گابلین‌ها، گرملین‌ها، راکون‌ها، ترول‌ها، اوگرها، کبوترها یا سایر حیوانات و موجودات مشابه صحبت نکن، مگر اینکه اشاره به آن‌ها باتوجه‌به پرسش کاربران ضروری باشد.»

افزایش چشمگیر استفاده و واکنش OpenAI

به نظر می‌رسد وسواس ChatGPT نسبت به این موجودات تا حدی زیاد شده بود که OpenAI را مجبور به مداخله و کاهش نرخ استفاده از این واژه‌ها با دستورالعمل‌های جدید کرده است. این شرکت در پستی توضیح داده که پس از انتشار GPT-5.1، استفاده از واژه «گابلین» حدود ۱۷۵ درصد و استفاده از «گرملین» حدود ۵۲ درصد افزایش یافته است.

OpenAI اذعان دارد که اگرچه استفاده از کلمه گابلین در یک پاسخ ممکن است بی‌ضرر به نظر برسد، اما تکرار مداوم این عادت نمی‌تواند نادیده گرفته شود. تحقیقات این شرکت نشان داده است که شخصیت «نرد» ChatGPT بیش از سایر بخش‌های مدل از این کلمه استفاده می‌کرده است.

ریشه مشکل: یادگیری تقویتی و شخصیت «نرد»

این پدیده به دلیل استفاده از تکنیکی به نام یادگیری تقویتی رخ داده است. این تکنیک باعث شده تا علاقه‌مندی شخصیت «نرد» ChatGPT به گابلین‌ها به سایر بخش‌های مدل نیز منتقل شود. از آنجایی که ابزار Codex نیز ماهیتی بسیار «نردی» دارد، OpenAI احساس کرده که با یک دستورالعمل مشخص، رفتار این ابزار را اصلاح کند تا از تکرار این الگوهای ناخواسته جلوگیری به عمل آید.