رونمایی OpenAI و NVIDIA از مدل‌های زبان بزرگ متن‌باز پیشرفته gpt-oss

شرکت‌های پیشرو OpenAI و NVIDIA از دو مدل زبان بزرگ (LLM) متن‌باز و پیشرفته با نام‌های gpt-oss-۱۲۰b و gpt-oss-۲۰b پرده‌برداری کردند. این مدل‌ها با هدف ارائه قابلیت‌های استدلال پیشرفته به توسعه‌دهندگان، محققان، استارت‌آپ‌ها و شرکت‌ها در سراسر جهان طراحی شده‌اند و نقطه عطفی در توسعه هوش مصنوعی باز محسوب می‌شوند.

این مدل‌ها که بر روی پردازنده‌های گرافیکی H۱۰۰ انویدیا آموزش دیده‌اند و برای استقرار در اکوسیستم گسترده CUDA بهینه‌سازی شده‌اند، بهترین عملکرد را بر روی سیستم‌های GB۲۰۰ NVL۷۲ مجهز به Blackwell ارائه می‌دهند و به سرعت استنتاج بی‌نظیر ۱.۵ میلیون توکن در ثانیه دست می‌یابند.

معماری و عملکرد بی‌نظیر

هر دو مدل تحت مجوز آپاچی ۲.۰ منتشر شده‌اند که امکان استفاده کامل تجاری و تحقیقاتی را فراهم می‌کند. جنسن هوانگ، بنیانگذار و مدیرعامل انویدیا، بر اهمیت این همکاری تأکید کرد و اظهار داشت: «OpenAI به جهانیان نشان داد که چه چیز‌هایی را می‌توان بر اساس هوش مصنوعی انویدیا ساخت و اکنون آن‌ها در حال پیشبرد نوآوری در نرم‌افزار‌های متن‌باز هستند.»

مدل‌های gpt-oss به توسعه‌دهندگان در سراسر جهان این امکان را می‌دهند تا برنامه‌های خود را بر روی این بنیاد متن‌باز پیشرفته بسازند و رهبری فناوری ایالات متحده در هوش مصنوعی را تقویت کنند.

• gpt-oss-۱۲۰b: این مدل در معیار‌های استدلال اصلی تقریباً به برابری با o۴-mini شرکت OpenAI دست می‌یابد و می‌تواند بر روی یک پردازنده گرافیکی ۸۰ گیگابایتی اجرا شود.
• gpt-oss-۲۰b: مدل کوچکتر، عملکردی مشابه o۳-mini دارد و برای اجرا بر روی دستگاه‌های لبه‌ای با تنها ۱۶ گیگابایت حافظه بهینه شده است.

هر دو مدل در استدلال زنجیره فکری (CoT)، استفاده از ابزار و خروجی‌های ساختاریافته عملکرد قوی دارند و برای وظایف با تأخیر کم و بلادرنگ ایده‌آل هستند.

انعطاف‌پذیری و سازگاری با چارچوب‌های توسعه

این مدل‌ها کاملاً با چارچوب‌های پیشرو مانند FlashInfer، Hugging Face، llama.cpp، Ollama و vLLM، در کنار پشته TensorRT-LLM انویدیا، سازگار هستند. این انعطاف‌پذیری به توسعه‌دهندگان اجازه می‌دهد تا از ابزار‌های مورد علاقه خود استفاده کنند و در عین حال از بهینه‌سازی سرتاسری NVIDIA بهره‌مند شوند.

از نظر معماری، هر دو مدل از رویکرد ترکیبی از متخصصان (MoE) استفاده می‌کنند:

• gpt-oss-۱۲۰b: شامل ۱۱۷ میلیارد پارامتر است که تنها ۵.۱ میلیارد از آن‌ها به ازای هر توکن فعال هستند.
• gpt-oss-۲۰b: از مجموع ۲۱ میلیارد پارامتر فعال، ۳.۶ میلیارد پارامتر را استفاده می‌کند.

هر دو مدل از طول متن ۱۲۸ هزارتایی پشتیبانی می‌کنند، از جاسازی‌های موقعیتی چرخشی استفاده می‌کنند و از تکنیک‌های توجه پیشرفته‌ای برخوردارند که قدرت و کارایی حافظه را متعادل می‌کنند.

نتایج بنچمارک و ایمنی

در آزمایش‌های بنچمارک، gpt-oss-۱۲۰b در وظایف مربوط به مراقبت‌های بهداشتی (HealthBench)، ریاضیات (AIME ۲۰۲۴ و ۲۰۲۵) و کدنویسی (Codeforces) از چندین مدل اختصاصی، از جمله o۱ و o۴-mini شرکت OpenAI، عملکرد بهتری داشت. مدل کوچک‌تر gpt-oss-۲۰b نیز با نیاز‌های زیرساختی بسیار سبک‌تر، عملکرد قابل مقایسه‌ای از خود نشان داد.

این مدل‌ها با استفاده از ترکیبی از تنظیم دقیق تحت نظارت، یادگیری تقویتی و تکنیک‌های سیستم‌های اختصاصی رده بالای OpenAI آموزش داده شدند. آن‌ها از تنظیمات تلاش استدلال متغیر (کم، متوسط، زیاد) پشتیبانی می‌کنند و به توسعه‌دهندگان اجازه می‌دهند عملکرد را با تأخیر متعادل کنند.

برای اطمینان از ایمنی، مدل‌ها با استفاده از چارچوب آمادگی OpenAI و آزمایش‌های تنظیم دقیق رقابتی ارزیابی شدند. کارشناسان مستقل این روش را بررسی کرده و به ایجاد استاندارد‌های ایمنی قابل مقایسه با مدل‌های مرز بسته شرکت کمک کردند.

همکاری‌های گسترده و آینده هوش مصنوعی

OpenAI و NVIDIA همچنین با پلتفرم‌های اصلی استقرار مانند Azure، AWS، Vercel و Databricks و رهبران سخت‌افزار از جمله AMD، Cerebras و Groq همکاری کرده‌اند. مایکروسافت از طریق ONNX Runtime امکان استنتاج محلی gpt-oss-۲۰b را در دستگاه‌های ویندوز فراهم می‌کند.

با انتشار عمومی این مدل‌ها، OpenAI قصد دارد هوش مصنوعی پیشرفته را در دسترس‌تر کند و در عین حال نوآوری و توسعه مسئولانه را تشویق کند. gpt-oss هوش مصنوعی نسل بعدی را مستقیماً در اختیار سازندگانی قرار می‌دهد که آینده آن را شکل می‌دهند.