رکوردشکنی انویدیا با Blackwell Ultra در MLPerf: عملکرد ۵ برابری GB300 NVL72 نسبت به Hopper

غلبه Blackwell Ultra بر تمامی بنچمارک‌های MLPerf

در رقابت برای ارائه برترین عملکرد در زمینه هوش مصنوعی، پردازنده‌های گرافیکی انویدیا همواره پیشتاز بوده‌اند. معماری Blackwell و پلتفرم جدید GB300 NVL72 نیز با نمایش پتانسیل باورنکردنی خود، این روند را ادامه داده‌اند.

پردازنده‌های گرافیکی هوش مصنوعی Blackwell Ultra در تمامی هفت تست آموزش هوش مصنوعی MLPerf جایگاه اول را از آن خود کردند. این نتایج به وضوح نشان می‌دهند که سیستم GB300 NVL72 انویدیا در مقیاس رک، همچنان بهترین انتخاب برای حجم کاری فشرده هوش مصنوعی و مدل‌های زبانی بزرگ (LLM) محسوب می‌شود.

انویدیا با انتشار نتایج همه آزمون‌های MLPerf، شکاف عملکردی خود را با رقبا به طرز چشمگیری افزایش داده است. پلتفرم GB300 تنها در سال ۲۰۲۵ صدها پیروزی در تست‌های آموزش و استنتاج MLPerf به دست آورده است. زمان‌های ثبت شده در جدیدترین تست‌ها به شرح زیر است:

• Llama 3.1 405B: ۱۰ دقیقه
• Llama 2 70B LoRA: ۰.۴ دقیقه
• Llama 3.1 8B: ۵.۲ دقیقه
• FLUX.1: ۱۲.۵ دقیقه
• DLRM-dcnv2: ۰.۷۱ دقیقه
• R-GAT: ۱.۱ دقیقه
• RetinaNet: ۱.۴ دقیقه

مقایسه بنچمارک‌ها نشان می‌دهد که با استفاده از تعداد مشابهی از پردازنده‌های گرافیکی Blackwell Ultra در سیستم رک، نتایج به‌مراتب بهتری نسبت به سیستم مبتنی بر معماری Hopper حاصل شده است:

• عملکرد GB300 در پیش‌آموزش Llama 3.1 40B، بیش از ۴ برابر بهتر از H100 (معماری Hopper) بوده است.
• این عملکرد در مقایسه با Blackwell GB200 تقریباً ۲ برابر بهبود یافته است.
• در تنظیم دقیق (Fine-Tuning) مدل Llama 2 70B، هشت پردازنده گرافیکی GB300 موفق شدند عملکردی پنج برابر بهتر از H100 ارائه دهند.

ظرفیت حافظه ۴۰ ترابایتی و شبکه پرسرعت

علاوه بر قدرت سخت‌افزاری، انویدیا به اکوسیستم نرم‌افزاری CUDA خود که برتری قابل توجهی نسبت به رقبا دارد، افتخار می‌کند. در بخش سخت‌افزار، سیستم رک GB300 NVL72 به همراه Quantum-X800 InfiniBand با سرعت شبکه ۸۰۰ گیگابایت بر ثانیه، یک ترکیب بی‌نظیر را ایجاد کرده است.

پلتفرم GB300 NVL72 به ازای هر پردازنده گرافیکی، ۲۷۹ گیگابایت حافظه HBM3e در اختیار دارد. مجموع حافظه پردازنده‌های گرافیکی و پردازنده مرکزی، ظرفیت باورنکردنی ۴۰ ترابایت را فراهم می‌کند. این پیکربندی عظیم حافظه، سرعت بار کاری هوش مصنوعی را به شدت افزایش می‌دهد. نکته کلیدی در دستیابی به این عملکرد عالی، استفاده از دقت محاسباتی FP4 برای آموزش است.

آموزش مدل Llama 3.1 405B در تنها ۱۰ دقیقه

انویدیا می‌گوید برای آموزش مدل‌های زبان بزرگ (LLM) در هر لایه، دقت FP4 را تضمین کرده است تا سرعت محاسبات در مقایسه با FP8 دو برابر شود. معماری Blackwell Ultra این دقت را تا ۳ برابر افزایش می‌دهد. این عامل باعث شده است انویدیا بتواند بدون افزایش تعداد پردازنده‌های گرافیکی، عملکردی فوق‌العاده بهتر از رقبا به نمایش بگذارد.

نتایج جدید با استفاده از ۵۱۲۰ پردازنده گرافیکی Blackwell به دست آمده و آموزش پارامتر Llama 3.1 405B تنها ۱۰ دقیقه به طول انجامیده است که یک رکورد جدید در این زمینه محسوب می‌شود.

مقایسه فنی معماری‌های انویدیا

جدول زیر مقایسه‌ای جامع بین مشخصات فنی معماری‌های Hopper، Blackwell و Blackwell Ultra را ارائه می‌دهد: