توضیحات محصول
سرور گرافیکی انویدیا NVIDIA DGX H100 8-GPU یک سیستم پیشساخته، یکپارچه و فوقپیشرفته برای محاسبات هوش مصنوعی (AI)، یادگیری عمیق (Deep Learning)، مدلهای زبانی بزرگ (LLM) و محاسبات با کارایی بالا (HPC) است. این سرور شامل ۸ عدد کارت گرافیک NVIDIA H100 (معماری Hopper) است که از طریق NVLink Switch System به یکدیگر متصل شدهاند و عملکردی بینظیر را در یک شاسی ۸ واحدی (8U) ارائه میدهد.
سرور گرافیکی انویدیا NVIDIA DGX H100 8-GPU با معماری یکپارچه DGX H100: قدرت بیرقابت در یک جعبه
برخلاف سیستمهای سفارشی، NVIDIA DGX H100 به عنوان یک راهحل آماده و بهینهشده عرضه میشود. این سرور شامل همه چیز از پردازندههای مرکزی (CPU)، حافظه رم، ذخیرهسازی NVMe، شبکه بیدرنگ و نرمافزار NVIDIA AI Enterprise است. با ۸ GPU از نوع H100، مجموع حافظه ۶۴۰ گیگابایت HBM3 (۸×۸۰GB) یا ۷۵۲ گیگابایت در نسخه ۹۴ گیگابایتی را ارائه میدهد.
سرور گرافیکی انویدیا NVIDIA DGX H100 8-GPU با قابلیت کلیدی: NVLink Switch System – اتصال کامل همه GPUها
دستاورد بزرگ در DGX H100، استفاده از سیستم سوئیچ NVLink نسل سوم است که هر ۸ کارت H100 را با پهنای باند ۹۰۰ گیگابایت بر ثانیه (در هر جهت) به یکدیگر متصل میکند. این یعنی:
ارتباط همهبههمه بدون گلوگاه
کاهش زمان آموزش مدلهای بزرگ تا ۲ برابر نسبت به اتصال معمولی (مانند InfiniBand خارجی)
اجرای یک مدل واحد روی ۸ GPU به صورت یکپارچه
مشخصات فنی سرور گرافیکی انویدیا NVIDIA DGX H100 8-GPU
| مشخصه | جزئیات |
| تعداد GPU | ۸ × NVIDIA H100 (Hopper) |
| معماری GPU | Hopper با Transformer Engine (FP8) |
| حافظه کل GPU | ۶۴۰ گیگابایت HBM3 (نسخه پایه) یا ۷۵۲ گیگابایت (نسخه ۹۴GB) |
| ارتباط بین GPU | NVLink Switch System با پهنای باند ۹۰۰ گیگابایت بر ثانیه |
| پردازنده مرکزی (CPU) | ۲ × Intel Xeon Platinum 8480C (۵۶ هستهای) |
| حافظه رم (CPU) | ۲ ترابایت DDR5 |
| ذخیرهسازی داخلی | ۳۰.۷۲ ترابایت NVMe SSD (نسل ۴) |
| شبکه داخلی | ۴ × ConnectX-7 InfiniBand 400Gb/s (یا Ethernet) |
| شبکه مدیریت | ۲ × ConnectX-7 400Gb/s و ۲ × Ethernet 10Gb/s |
| توان مصرفی (حداکثر) | حدود ۱۰.۲ کیلووات (۱۰,۲۰۰ وات) |
| شاسی | ۸U (رکمونت) |
| نرمافزار همراه | NVIDIA AI Enterprise، Base Command، NGC Catalog |
Transformer Engine و کارایی فوقالعاده در مدلهای زبانی
هر کارت H100 دارای Transformer Engine است که محاسبات با دقت FP8 را بهینه میکند. در نتیجه، سیستم DGX H100 در آموزش مدلهایی مانند GPT-3 175B تا ۹ برابر سریعتر از نسل قبل (DGX A100) عمل میکند. همچنین برای استنتاج (Inference) مدلهای عظیم با میلیاردها پارامتر، این سرور گزینهای ایدهآل است.
سرعت شبکه بینظیر: ۴ پورت InfiniBand 400Gb/s
DGX H100 مجهز به ۴ عدد آداپتور NVIDIA ConnectX-7 VPI است که هر کدام سرعت ۴۰۰ گیگابیت بر ثانیه را پشتیبانی میکنند. این شبکه فوقسریع امکان کلاستر کردن چندین سرور DGX را برای رسیدن به ابررایانههای عظیم فراهم میکند. با ترکیب NVLink داخل سرور + InfiniBand بین سرورها، مقیاسپذیری خطی خواهید داشت.
نرمافزار و ابزارهای همراه DGX H100
یکی از مزیتهای بزرگ DGX H100، همراه بودن نرمافزار NVIDIA AI Enterprise است که شامل:
CUDA (جدیدترین نسخه)
cuDNN، TensorRT، NCCL
NVIDIA Base Command (مدیریت بار کاری)
NVIDIA NGC (کاتالوگ کانتینرهای آماده هوش مصنوعی)
با این نرمافزارها، میتوانید بلافاصله پس از روشن کردن سرور، شروع به آموزش مدلهای پیشرفته کنید.
کاربردهای اصلی سرور NVIDIA DGX H100
آموزش مدلهای زبانی بزرگ (LLM) مانند GPT-4، Llama 3، Gemini
پردازش ویدئو و تراکنشهای بیدرنگ با هوش مصنوعی
شبیهسازیهای علمی (پیشبینی آب و هوا، کشف دارو، ژنومیک)
یادگیری تقویتی (Reinforcement Learning) و رباتیک پیشرفته
محاسبات ساختار پروتئین (مانند AlphaFold)
هوش مصنوعی مولد (Generative AI) برای تصویر، صدا و متن
مزایای خرید سرور گرافیکی انویدیا NVIDIA DGX H100 8-GPU نسبت به ساخت سیستم سفارشی
| ویژگی | DGX H100 | سیستم سفارشی مشابه |
| زمان نصب و راهاندازی | چند ساعت | چند هفته تا ماه |
| گارانتی و پشتیبانی | یکپارچه از NVIDIA | پراکنده (تامینکنندگان مختلف) |
| نرمافزار بهینه شده | دارد (NVIDIA AI Enterprise) | باید جداگانه نصب و بهینه شود |
| اتصال NVLink بین GPUها | دارد (پهنای باند ۹۰۰ گیگابایت بر ثانیه) | در سیستمهای معمولی وجود ندارد |
| مصرف انرژی بهینه | بهینه شده توسط NVIDIA | نیاز به بهینهسازی دستی دارد |
نکات مهم قبل از خرید سرور DGX H100
فضای فیزیکی: این سرور ۸U است و به رک سروری با عمق کافی نیاز دارد (حدود ۱ متر عمق).
برق و خنککنندگی: توان مصرفی بیش از ۱۰ کیلووات است. نیاز به ۳ فاز ۴۰۰ ولت یا دو مدار مجزای ۲۲۰ ولت ۶۰ آمپر دارید. خنککنندگی مایع توصیه میشود (نسخه DGX H100 با خنککنندگی مایع نیز موجود است).
نویز: این سرور بسیار پرصدا است و فقط برای مراکز داده مناسب است، نه دفتر کار معمولی.
سرمایهگذاری سنگین: قیمت پایه حدود ۴۰۰,۰۰۰ دلار است. بهتر است ابتدا ابری (Cloud) مانند NVIDIA DGX Cloud را تست کنید.
گارانتی: حتماً از نماینده رسمی NVIDIA خرید کنید تا گارانتی ۳ ساله و پشتیبانی فنی داشته باشید.
مقایسه DGX H100 با DGX A100 (نسل قبل)
| ویژگی | DGX H100 | DGX A100 |
| معماری GPU | Hopper | Ampere |
| حافظه کل GPU | ۶۴۰ گیگابایت HBM3 | ۳۲۰ گیگابایت HBM2e |
| پهنای باند ارتباط GPU | ۹۰۰ گیگابایت بر ثانیه | ۶۰۰ گیگابایت بر ثانیه |
| Transformer Engine | دارد (FP8) | ندارد |
| سرعت آموزش GPT-3 (نسبی) | ۱ برابر (مرجع) | ~۹ برابر کندتر |
| شبکه داخلی | ۴×۴۰۰Gb/s | ۴×۲۰۰Gb/s |
نقد و بررسیها
هنوز بررسیای ثبت نشده است.