توافق استراتژیک انویدیا با Groq؛ شاهکار جنسن هوانگ برای تسلط بر تراشه‌های استنتاجی

توافق استراتژیک انویدیا با Groq؛ شاهکار جنسن هوانگ برای تسلط بر تراشه‌های استنتاجی

توافق اخیر انویدیا با شرکت Groq، تولیدکننده سخت‌افزارهای تخصصی هوش مصنوعی، که ابتدا به عنوان بزرگ‌ترین خرید تاریخ جنسن هوانگ با ارزش ۲۰ میلیارد دلار گزارش شد، در واقع یک شاهکار استراتژیک برای دور زدن نظارت‌های قانونی و تضمین سلطه سخت‌افزاری بر بارهای کاری حیاتی استنتاج است. این توافق‌نامه که شامل دسترسی به فناوری‌های کلیدی Groq است، مسیر انویدیا را برای تسلط بر پردازش‌های استنتاجی هموار می‌کند.

قابل ذکر است که انویدیا همچنین قصد دارد تراشه‌های هوش مصنوعی H200 خود را با قیمت رقابتی به بازار چین عرضه کند.

گزارش اولیه تصاحب و واقعیت قرارداد غیر انحصاری

شبکه CNBC نخستین رسانه‌ای بود که این تحول بزرگ را گزارش داد و ادعا کرد انویدیا شرکت Groq Inc را در یک معامله عظیم ۲٠ میلیارد دلاری خریداری می‌کند. این خبر با سرعت زیادی در صنعت منتشر شد و گمانه‌زنی‌هایی مبنی بر دخالت تحقیقات نظارتی یا پایان کار Groq را به وجود آورد. با این حال، Groq با انتشار بیانیه‌ای رسمی، اعلام کرد که تنها یک قرارداد مجوز غیر انحصاری با انویدیا امضا کرده است تا غول هوش مصنوعی به فناوری استنتاج آن دسترسی یابد.

ما قصد داریم پردازنده‌های کم‌تاخیر Groq را در معماری کارخانه هوش مصنوعی انویدیا ادغام کنیم تا پلتفرم را برای پوشش طیف گسترده‌تری از استنتاج هوش مصنوعی و بارهای کاری بلادرنگ گسترش دهیم. در حالی که ما کارمندان بااستعداد را به صفوف خود اضافه می‌کنیم و لیسانس مالکیت معنوی Groq را به دست می‌آوریم؛ شرکت Groq را به عنوان یک مجموعه تصاحب نمی‌کنیم.

استراتژی «تصاحب معکوس» برای فرار از نظارت

حرکت انویدیا نمونه‌ای کلاسیک از استراتژی «تصاحب معکوس استخدامی» (Acqui-hiring) است که پیش‌تر توسط شرکت‌هایی مانند مایکروسافت نیز به کار گرفته شده بود. مایکروسافت در سال ۲۰۲۴ معامله‌ای ۶۵۳ میلیون دلاری با Inflection انجام داد که منجر به پیوستن افراد کلیدی آن به تیم هوش مصنوعی مایکروسافت شد.

تصاحب معکوس استخدامی به معنای استخدام استعدادهای کلیدی یک استارتاپ و به دست آوردن مالکیت معنوی آن، در عین حال باقی گذاشتن یک ساختار شرکتی حداقلی است که مانع از تبدیل شدن این حرکت به یک ادغام رسمی می‌شود. این شگرد به انویدیا اجازه داد تا با قالب‌بندی معامله Groq به عنوان یک قرارداد مجوز غیر انحصاری و استخدام، از بازرسی قانون Hart-Scott-Rodino (HSR) و نظارت سازمان‌هایی نظیر FTC خارج شود و معامله را در عرض چند روز اجرا کند. GroqCloud نیز به فعالیت خود ادامه می‌دهد اما تنها به عنوان یک ساختار حداقلی باقی خواهد ماند.

معماری LPU؛ قطعه گمشده پازل استنتاج انویدیا

صنعت هوش مصنوعی به سرعت در حال تکامل است و تمرکز از مرحله آموزش مدل‌ها به سمت مرحله استنتاج (Inference) که بخش عمده درآمد را تشکیل می‌دهد، تغییر یافته است. در حالی که شرکت‌هایی مانند OpenAI، متا و گوگل به دنبال پشته‌های استنتاجی قدرتمند هستند، انویدیا با بهره‌گیری از فناوری Groq، جایگاه خود را در این حوزه تثبیت می‌کند.

برتری SRAM بر HBM در بارهای کاری استنتاجی

در پردازش استنتاج، برخلاف آموزش مدل‌ها که نیازمند توان عملیاتی بالا و HBM است، تقاضای اصلی بر تاخیر کم و پاسخگویی سریع و قابل پیش‌بینی متمرکز است. تاخیر در پاسخگویی، گلوگاه اصلی در محیط‌های بلادرنگ استنتاج به شمار می‌رود. گوگل پیش‌تر تراشه‌های Ironwood TPU را به عنوان جایگزینی برای انویدیا معرفی کرده بود که بر استنتاج متمرکز بودند.

رمزگشایی (Decoding)، مرحله تولید توکن در استنتاج مدل‌های ترنسفورمر، نیازمند رفتار قطعی و تاخیر بسیار کم است. به دلیل محدودیت‌های تاخیر و مصرف انرژی ناشی از استفاده از HBM در محیط‌های استنتاج، Groq با معرفی معماری LPU (واحدهای پردازش زبان) و استفاده از SRAM (رم استاتیک)، یک مزیت منحصر‌به‌فرد را ارائه می‌دهد.

ویژگی‌های کلیدی LPU و مزایای SRAM

واحدهای LPU توسط جاناتان راس، مدیرعامل سابق Groq و از طراحان TPUهای گوگل، توسعه یافته‌اند که اکنون به تیم انویدیا پیوسته است. این واحدها برای بارهای کاری کلاس استنتاج طراحی شده‌اند و بر دو اصل کلیدی استوارند: اجرای قطعی و استفاده از SRAM روی تراشه به عنوان ذخیره‌ساز اصلی وزن‌ها برای تضمین پیش‌بینی‌پذیری و سرعت.

• حافظه SRAM روی تراشه: تراشه‌های Groq دارای ۲۳٠ مگابایت SRAM روی تراشه با پهنای باند حافظه تا ۸٠ ترابایت بر ثانیه هستند.
• تاخیر بسیار پایین: استفاده از SRAM تاخیر را چندین برابر کاهش می‌دهد، زیرا محدودیت‌های دسترسی به DRAM و کنترل‌کننده‌های حافظه HBM حذف می‌شوند.
• بهره‌وری انرژی بالا: دسترسی به SRAM انرژی بسیار کمتری در هر بیت نیاز دارد و سربار PHY را حذف می‌کند، که منجر به بهبود چشمگیر انرژی مصرفی به ازای هر توکن در عملیات رمزگشایی می‌شود.

چگونگی ادغام LPU در محصولات انویدیا

اگرچه جزئیات دقیق ادغام LPUها در محصولات انویدیا هنوز مشخص نیست، اما محتمل‌ترین راهکار، استفاده از آن‌ها به عنوان بخشی از سیستم‌های استنتاج در مقیاس رک (مشابه Rubin CPX) در کنار زیرساخت شبکه است. در این سناریو، پردازنده‌های گرافیکی انویدیا بخش پیش‌پر کردن (Pre-filling) یا بافت‌های طولانی را مدیریت می‌کنند، در حالی که LPUها به طور خاص بر روی رمزگشایی (Decoding) تمرکز خواهند کرد.

این اقدام استراتژیک به انویدیا اجازه می‌دهد تا در وظایف استنتاجی، راهکار جامعی ارائه دهد و LPUها را از یک گزینه آزمایشی به یک روش استاندارد استنتاج تبدیل کرده و پذیرش گسترده آن‌ها را تضمین کند. این معامله بدون شک یکی از بزرگ‌ترین دستاوردهای انویدیا در پیشبرد سبد محصولات خود و تثبیت سلطه بر تمام جنبه‌های بارهای کاری هوش مصنوعی خواهد بود.