AMD از مدل هوش مصنوعی Gemma 4 گوگل در طیف وسیعی از پردازنده‌ها پشتیبانی می‌کند

معرفی مدل‌های Gemma 4 و گستره پشتیبانی AMD

گوگل اخیراً خانواده مدل‌های هوش مصنوعی Gemma 4 را معرفی کرده است که در اندازه‌های متنوعی از 2 میلیارد تا 31 میلیارد پارامتر (2B تا 31B) عرضه شده‌اند. AMD با درک اهمیت این مدل‌ها، به سرعت پشتیبانی از آن‌ها را در تمامی پردازنده‌های گرافیکی سری Radeon و خانواده پردازنده‌های مرکزی Ryzen AI خود آغاز نموده است.

این پشتیبانی گسترده شامل سه دسته اصلی از محصولات AMD می‌شود:

• پردازنده‌های گرافیکی AMD Instinct: برای دیتاسنترهای ابری و سازمانی.
• پردازنده‌های گرافیکی AMD Radeon: برای ایستگاه‌های کاری (Workstations) هوش مصنوعی.
• پردازنده‌های AMD Ryzen AI: برای کامپیوترهای شخصی مبتنی بر هوش مصنوعی (AI PCs).

روش‌های اجرای Gemma 4 روی سخت‌افزارهای AMD

اجرای مدل‌های Gemma 4 روی پردازنده‌های AMD از طریق چندین ابزار و پلتفرم مختلف امکان‌پذیر است که هر یک ویژگی‌های خاص خود را دارند:

LM Studio و llama.cpp: راه‌حلی ساده و سریع

یکی از ساده‌ترین روش‌ها برای اجرای مدل‌های Gemma 4، استفاده از پروژه منبع‌باز llama.cpp و اپلیکیشن محبوب LM Studio است. با دانلود LM Studio و نصب جدیدترین درایورهای گرافیکی AMD، کاربران می‌توانند به سرعت این مدل‌ها را روی سخت‌افزارهای پشتیبانی‌شده مانند پردازنده‌های Ryzen AI و Ryzen AI Max و همچنین کارت‌های گرافیک Radeon و Radeon PRO راه‌اندازی کنند.

Lemonade Server: استقرار محلی با API سازگار با OpenAI

برنامه Lemonade Server نیز امکان استقرار مدل‌های Gemma 4 را روی سخت‌افزار AMD از طریق یک سرور محلی منبع‌باز (برای مدل‌های زبانی بزرگ) با APIهای سازگار با OpenAI فراهم می‌کند. این ابزار برای توسعه‌دهندگانی که به دنبال انعطاف‌پذیری و کنترل بیشتر هستند، گزینه‌ای ایده‌آل است.

vLLM و SGLang: ابزارهای پیشرفته برای استقرار

برای کاربران حرفه‌ای‌تر و توسعه‌دهندگان، ابزارهای دیگری نظیر vLLM و SGLang نیز برای اجرای مدل‌های Gemma 4 روی پردازنده‌های AMD در دسترس هستند.

• vLLM: این ابزارها به صورت یک ایمیج Docker یا یک پکیج قابل نصب پایتون ارائه می‌شوند و با استفاده از دستورالعمل‌های موجود در وب‌سایت مربوطه قابل نصب هستند. برای تمامی پردازنده‌های گرافیکی AMD، می‌توان vLLM را با بک‌اند TRITON_ATTN فراخوانی کرد:

docker pull vllm/vllm-openai-rocm:gemma4
vllm serve vllm/vllm-openai-rocm:gemma4 --attention-backend TRITON_ATTN

• SGLang: این ابزار برای استقرار مدل‌های Gemma 4 روی پردازنده‌های گرافیکی AMD MI300X/MI325X/MI35X طراحی شده است. SGLang از خانواده کامل مدل‌های Gemma 4، شامل مدل‌های متراکم (E2B, E4B, 31B) و نسخه MoE (با مشخصات 26B-A4B) پشتیبانی می‌کند و قابلیت‌های پیشرفته‌ای را برای بهینه‌سازی عملکرد ارائه می‌دهد.