B300 بر پایه معماری NVIDIA Blackwell Ultra ساخته شده و نسبت به نسل Blackwell، تمرکز بیشتری بر پردازش مدل‌های Reasoning، Contextهای بسیار طولانی و اجرای همزمان تعداد بالایی از درخواست‌های هوش مصنوعی دارد.

مهم‌ترین ویژگی این GPU، حافظه عظیم 288 گیگابایت HBM3e با پهنای باند تا 8 ترابایت بر ثانیه است؛ مشخصاتی که B300 را برای مدل‌های چندصد میلیارد و حتی زیرساخت‌های مدل‌های تریلیون پارامتری به گزینه‌ای فوق‌حرفه‌ای تبدیل می‌کنند.

مشخصات فنی NVIDIA B300 SXM6 288GB

288GB HBM3e؛ حافظه عظیم برای مدل‌های نسل جدید

یکی از بزرگ‌ترین ارتقاهای NVIDIA B300 افزایش ظرفیت حافظه GPU به 288GB HBM3e است.

ظرفیت بالای حافظه به مدل‌های بزرگ اجازه می‌دهد وزن‌های مدل، KV Cache و داده‌های پردازشی بیشتری را مستقیماً در حافظه سریع GPU نگهداری کنند.

این موضوع در مدل‌های Reasoning، Long-Context LLM، Mixture-of-Experts و Agentic AI که حافظه زیادی مصرف می‌کنند اهمیت ویژه‌ای دارد.

پهنای باند 8TB/s؛ انتقال داده با سرعت فوق‌العاده

حافظه B300 علاوه بر ظرفیت بالا، پهنای باندی تا 8 ترابایت بر ثانیه ارائه می‌دهد.

این پهنای باند بالا باعث می‌شود Tensor Coreها بتوانند با سرعت بسیار زیادی به وزن‌های مدل و داده‌های موردنیاز دسترسی داشته باشند و گلوگاه حافظه در بسیاری از Workloadهای AI کاهش یابد.

ساخته‌شده برای AI Reasoning

Blackwell Ultra به‌طور ویژه برای نسل جدید مدل‌های هوش مصنوعی استدلالی توسعه یافته است.

مدل‌های Reasoning هنگام پاسخ‌دهی مقدار بسیار بیشتری Compute مصرف می‌کنند و ممکن است چندین مرحله داخلی برای رسیدن به پاسخ نهایی اجرا کنند.

B300 با حافظه بزرگ، Tensor Coreهای قدرتمند و شتاب‌دهی پیشرفته Attention، برای این نوع Workloadها طراحی شده است.

تا دو برابر شتاب بیشتر در Attention

NVIDIA در Blackwell Ultra بخش Attention را بهبود داده است و شتاب محاسبات Attention نسبت به نسل Blackwell می‌تواند تا 2 برابر افزایش پیدا کند.

این ارتقا مخصوصاً برای Contextهای بسیار طولانی، Agentic AI، مدل‌های Reasoning و سرویس‌های LLM پرترافیک اهمیت دارد.

NVFP4؛ توان بیشتر برای Inference نسل جدید

نسل پنجم NVIDIA Tensor Core از فرمت NVFP4 پشتیبانی می‌کند.

FP4 امکان کاهش حجم داده‌های محاسباتی و افزایش Throughput مدل‌های سازگار را فراهم می‌کند و Blackwell Ultra برای دستیابی به عملکرد بسیار بالا در این Precision بهینه شده است.

معماری Blackwell Ultra می‌تواند تا حدود 15 PetaFLOPS توان Dense NVFP4 در سطح GPU ارائه کند.

NVIDIA B300 برای LLMهای بسیار بزرگ

ظرفیت 288GB حافظه باعث می‌شود B300 بتواند مدل‌های بسیار بزرگ‌تری را با وابستگی کمتر به Memory Offloading اجرا کند.

NVIDIA اعلام کرده Blackwell Ultra ظرفیت حافظه موردنیاز برای میزبانی مدل‌های دارای بیش از 300 میلیارد پارامتر روی یک GPU را در سناریوهای مناسب فراهم می‌کند.

در پلتفرم‌های چند GPU، B300 برای مدل‌های بسیار بزرگ‌تر، Mixture-of-Experts و مدل‌های تریلیون پارامتری مقیاس‌پذیر است.

Agentic AI و سرویس‌های هوش مصنوعی پرترافیک

Agentهای هوش مصنوعی معمولاً نیازمند چندین مرحله Reasoning، فراخوانی ابزار، Context طولانی و پردازش همزمان تعداد زیادی درخواست هستند.

B300 با افزایش حافظه و قدرت Attention برای چنین محیط‌هایی طراحی شده و می‌تواند در AI Factoryهای سازمانی و Cloud AI مورد استفاده قرار گیرد.

NVLink نسل پنجم با پهنای باند 1.8TB/s

NVIDIA B300 از NVLink نسل پنجم استفاده می‌کند.

پهنای باند GPU-to-GPU تا 1.8 ترابایت بر ثانیه امکان تبادل سریع داده میان GPUها را در سیستم‌های چند GPU فراهم می‌کند.

این ویژگی برای Distributed Training، Tensor Parallelism و اجرای مدل‌هایی که میان چند GPU تقسیم شده‌اند اهمیت بسیار زیادی دارد.

NVIDIA HGX B300؛ هشت Blackwell Ultra GPU

NVIDIA HGX B300 از 8 عدد NVIDIA Blackwell Ultra SXM GPU استفاده می‌کند.

NVIDIA DGX B300؛ AI Factory آماده برای استقرار

NVIDIA از همین Blackwell Ultra GPUها در سیستم DGX B300 استفاده می‌کند.

DGX B300 دارای هشت GPU Blackwell Ultra است و در سطح سیستم تا 144 PFLOPS توان FP4 Tensor Core ارائه می‌کند.

پهنای باند تجمعی NVLink در این سیستم به 14.4TB/s می‌رسد.

کاربردهای NVIDIA B300 Blackwell Ultra

• AI Reasoning
• Agentic AI
• Large Language Models
• Long-Context LLM
• LLM Inference
• Generative AI
• AI Training و Fine-Tuning
• Mixture-of-Experts Models
• RAG
• AI Agents
• Multimodal AI
• Data Analytics
• AI Factory
• Cloud AI Infrastructure

تفاوت NVIDIA B300 با B200

سوالات متداول NVIDIA B300

NVIDIA B300 چقدر حافظه دارد؟

NVIDIA B300 Blackwell Ultra دارای 288GB حافظه HBM3e برای هر GPU است.

پهنای باند حافظه B300 چقدر است؟

پهنای باند حافظه Blackwell Ultra B300 تا 8TB/s برای هر GPU می‌رسد.

B300 برای LLM مناسب است؟

بله. حافظه 288GB HBM3e، Tensor Coreهای نسل پنجم، NVFP4 و شتاب‌دهی پیشرفته Attention این GPU را برای LLM، Long-Context Models، Reasoning AI و Agentic AI بسیار مناسب می‌کنند.

تفاوت B300 و GB300 چیست؟

B300 خود GPU مبتنی بر Blackwell Ultra است، در حالی که GB300 یک Grace Blackwell Ultra Superchip است که GPUهای Blackwell Ultra را با پردازنده NVIDIA Grace در یک معماری یکپارچه ترکیب می‌کند.

آیا B300 داخل PCIe معمولی نصب می‌شود؟

خیر. B300 یک GPU با فرم فاکتور SXM6 است و باید در پلتفرم سازگار نصب شود.

* عملکردهای Peak بسته به SKU، پلتفرم، Precision، حالت Dense/Sparse و تنظیمات توان متفاوت هستند. مشخصات نهایی سرور باید با پیکربندی OEM بررسی شود.