DGX H200 특 징
DGX H200은 NVIDIA가 직접 설계 및 제조한 AI 전용 GPU 서버입니다.
Hopper 아키텍처 기반 H200 GPU 8장 탑재, 총 1.1TB GPU 메모리 용량과 초 당 38.4 TB/s의 GPU 메모리 대역폭을 제공하여 단기간 내 초 거대 모델 학습과 실시간 추론 및 서비스를 현실화합니다.
총 112 코어 듀얼 CPU 및 2TB 시스템 메모리를 탑재, 최신 4세대 NVLink와 NVSwitch 기술을 통해 초 당 7.2TB/s의 막대한 대역폭으로 AI 추론 및 서비스에서 데이터 처리를 가속화합니다.
또한, 32PFLOPS의 FP8 연산 성능을 제공하여, 초 거대 모델 학습과 추론 및 서비스를 지연 없이 가속화합니다.
DGX H200 가격
DGX H200은 대략 10억 원(부가세 별도) 정도로 공급됩니다.
본 가격은 대략적인 평균 가격으로 실제 견적 및 계약 시, 달라질 수 있습니다.
NVIDIA 프로그램에 가입하면 DGX 시리즈(DGX Rubin NVL8, DGX B300, DGX B200 등) 제품 구매 시, 최대 30% 까지 할인을 받을 수 있습니다.
최근, 글로벌하게 AI 비지니스 확산되고 있고, 국내 또한 기업 및 공공기관의 AI R&D, 프로젝트 및 정부 지원 과제가 폭발적으로 증가함에 따라 GPU 서버 수요가 증가하고 가격 또한 가파르게 상승하고 있습니다.
퀀텀브릭스는 합리적인 가격으로 GPU 서버를 공급, 고객사 / 파트너의 AI 비지니스를 지원합니다.
H200 탑재 GPU 서버 구매 가이드
NVIDIA H200 GPU 단품 가격은 대략 5,000 ~ 6,000만원(부가세 별도) 정도로 공급되며, 단품으로 판매 및 공급이 가능합니다.
또한, B200, B300과 달리, 원하는 만큼 수량을 HPE, Dell 등 서버에 탑재하여 GPU 서버를 구매할 수 있습니다.
구매 옵션 2가지 (x8장 탑재 시)
DGX H200은 GPU x 8장이 탑재됩니다.
NVIDIA가 직접 설계 및 제조한 NVIDIA DGX H200 서버 구매 또는, HPE, Dell, 슈퍼마이크로 등 서버에 8장 탑재 GPU 서버 구매, 2가지 중 선택할 수 있습니다.
NVIDIA DGX H200 사양
항목
사양
GPU 탑재 수량
H200 (141GB) X 8장
CPU 코어 수
총 112 코어 / 인텔 8480C
FP4 연산 성능
미 지원
FP8 연산 성능
32 PFLOPS
GPU 메모리
총 1,128 GB (개당 141GB)
메모리 대역폭
총 38.4TB/s (개당 4.8TB/s)
NVLink 대역폭
총 7.2 TB/s
시스템 메모리
2TB (최대 4TB)
스토리지(OS)
2x 1.9TB NVMe M.2
스토리지(내부)
8x 3.84TB NVMe U.2
네트워킹
ConnectX-7 (~400Gb/s)
전력 소비
~10.2 kW
폼 팩터
8U Rackmount
<참고 사항>
-
FP, TF 등 연산 성능은 희소성(Sparsity)을 적용한 기준이며, 밀집(Dense) 기준에서는 약 50% 수준의 성능을 보입니다.
-
NVIDIA GPU 서버 및 제품 선택을 위해, 연산 성능 비교표, 추론 성능 비교표, 메모리 용량 및 대역폭 비교표 등을 참고 바랍니다.
-
본 도표는 NVIDIA 홈페이지 및 데이터시트를 기준으로 작성했습니다.