NVIDIA DGX H100 : MDS테크

: AI 인프라의 최적화된 표준

NVIDIA DGX H100



  • AI 혁신 센터의 표준

    • 새로운 NVIDIA AI 소프트웨어 솔루션 제품군을 지원 풍부한 3rd-party 지원 에코시스템, 최적화된 HW, SW 플랫폼을 제공

  • AI의 한계를 뛰어넘는 성능

    • DGX H100은 NVIDIA DGX SuperPOD을 위한 6배 더 빠른 성능, 2배 더 빠른 네트워킹, 고속 확장성 지원

AI 인프라의 최적화된 표준
NVIDIA DGX H100



가장 완벽한 AI 플랫폼
NVIDIA H100 둘러보기



가장 완벽한 AI 플랫폼,
NVIDIA H100으로 차세대 AI 데이터센터의 성능을 경험해보세요.

DATASHEET 다운로드
  • > 총 640GB의 GPU 메모리를 탑재한 NVIDIA H100 GPU 8개GPU당 NVIDIA® NVLink® 18개, 900GB/s의 GPU 간 양방향 대역폭
  • > NVSWITCH 6개양방향 대역폭 4.8TB/s
  • > NVIDIA NVSWITCH™ 4개초당 7.2 테라바이트의 양방향 GPU 간 대역폭으로 이전 세대 대비1.5배 향상
  • > NVIDIA CONNECTX®-7 8개 및 NVIDIA BLUEFIELD®
    DPU 400Gb/s 네트워크 인터페이스 2개
    1TB/s의 최대 양방향 네트워크 대역폭
  • > 듀얼 x86 CPU 및 2TB 시스템 메모리초고도 AI 작업을 위한 강력한 CPU
  • > 30TB NVME SSD최고의 성능을 위한 고속 스토리지
NVIDIA DGX H100
GPU8x NVIDIA H100 Tensor Core GPUs
GPU memory640GB total
Performance32 petaFLOPS FP8
NVIDIA® NVSwitch™4x
System power usage~10.2kW max
CPUDual Intel Sapphire Rapids Xeon
System memory2TB
Networking4x OSFP ports serving 8x single-port NVIDIA ConnectX-7
400Gb/s InfiniBand/Ethernet
2x dual-port NVIDIA BlueField-3 DPUs VPI
1x 400Gb/s InfiniBand/Ethernet
1x 200Gb/s InfiniBand/Ethernet
Management network10Gb/s onboard NIC with RJ45
50Gb/s Ethernet optional NIC
Host baseboard management controller (BMC) with RJ45
2x NVIDIA BlueField-3 DPU BMC (with RJ45 each)
StorageOS: 2x 1.9TB NVMe M.2
Internal storage: 8x 3.84TB NVMe U.2
System softwareDGX H100 systems come preinstalled with DGX OS,
which is based on Ubuntu Linux and includes the DGX software stack
 (all necessary packages and drivers optimized for DGX).
Optionally, customers can install Ubuntu Linux or Red Hat Enterprise Linux
 and the required DGX software stack separately
Operating temperature range5–30°C (41–86°F)
제 품문 의
top