کارت گرافیک

معماری: مبتنی بر معماری پیشرفته NVIDIA Hopper

اتصال: رابط PCIe Gen5 x16 با سرعت انتقال بسیار بالا

خنک‌سازی: طراحی Passive (بدون فن)، متکی به خنک‌کننده سرور

عملکرد: بهره‌گیری از Tensor Coreهای نسل چهارم برای شتاب‌دهی محاسبات

کاربرد: بهینه‌شده برای استنتاج LLM و مدل‌های عظیم

اتصال بین GPU: پشتیبانی از NVLink برای ارتباط چند GPU

مقیاس‌پذیری: قابلیت Multi-Instance GPU (MIG) نسل دوم

مصرف انرژی: توان قابل تنظیم ۳۵۰ تا ۴۰۰ وات

• ریز معماری: معماری هوپر انویدیا – NVIDIA Hooper
• نام چیپ پردازنده گرافیکی: GH100
• تعداد هسته موازی کودا: 16896Shading Units
• هسته تانسور: 528Tensor Cores(Gen4)
• حافظه VRAM گرافیک: 94GB HBM3
• پهنای باند حافظه: 3.9TB/s
• رابط حافظه: 5120bit
• عملکرد 30TF :FP64
• عملکرد 60TF :FP64 Tensor Core
• عملکرد 60TF :FP32
• عملکرد 835TF* :FP32 Tensor Core
• عملکرد 1671TF* :BFLOAT16 Tensor Core
• عملکرد 1671TF* : FP16 Tensor Core
• عملکرد 3341TF* :FP8 Tensor Core
• عملکرد 3341TF* :INT8 Tensor Core
• سیستم خنک کننده: Passive
• اتصال داخلی: NVLink (600GB/s) / PCIe Gen5 (128GB/s)
• هوش‌مصنوعی سازمانی انویدیا: دارد. (NVIDIA AI Enterprise) *با پراکندگی (بدون Sparsity نصف این عدد)