NVIDIA DGX H200 특징
엔비디아 DGX H200은 NVIDIA가 직접 설계 및 제조한 AI 전용 GPU 서버입니다.
Hopper 아키텍처 기반 H200 GPU 8장 탑재, 총 112 코어 듀얼 CPU 및 2TB 시스템 메모리가 탑재됩니다.
총 1,128GB GPU 메모리 용량, 초 당 38.4TB/s(개당 4.8TB/s)의 GPU 메모리 대역폭을 제공합니다.
최신 4세대 NVLink 기술을 통해 이전 세대보다 1.5배 더 빠른 초 당 7.2TB/s(개 당 900GB/s)의 GPU간 대역폭 및 데이터 처리 속도를 지원합니다.
FP8 연산 성능은 32PFLOPS, FP16은 16PFLOPS 입니다.
퀀텀브릭스는 합리적인 가격으로 GPU 서버를 공급합니다.
#이미지: H200 8장이 탑재된 NVIDIA 직접 제조 DGX H200 전면
NVIDIA DGX H200 가격
엔비디아 DGX H200 및 Hopper 아키텍처 기반 H200 탑재수량별 GPU 서버의 가격 정보를 제공합니다.
(단위: 원 / 부가세 별도)
구분
공급 가격
제조사
Tip : 항목을 클릭하면 CPU, 메모리, 스토리지 등 상세 사양 페이지로 이동합니다.
엔비디아가 직접 설계 및 제조한 DGX H200은 대략 10억 원(부가세 별도) 정도로 공급됩니다.
본 가격은 대략적인 평균 가격으로 실제 견적 및 계약 시, 달라질 수 있습니다.
NVIDIA 프로그램에 가입 시,
NVIDIA가 직접 설계 및 제조한 DGX 시리즈, DGX Rubin NVL8, DGX B300, DGX B200 등 제품 구매 시, 최대 30% 까지 할인을 받을 수 있습니다.
최근, 메모리 / 반도체 가격 상승 및 전 세계적인 AI 비지니스 확산으로 인하여 GPU 서버 가격 또한 상승하는 추세에 있습니다.
퀀텀브릭스는 합리적인 가격으로 GPU 서버를 공급, 고객사 / 파트너의 AI 비지니스를 지원합니다.
최단 24시간, 최대 48시간 내 견적서를 보내드립니다.
NVIDIA H200 탑재 GPU 서버 구매 가이드
엔비디아 H200 GPU 단품 가격은 대략 5,000 ~ 6,000만원(부가세 별도) 정도로 공급됩니다.
H200은 단품으로 판매 및 공급이 가능하며, B200, B300과 달리, 원하는 만큼 수량을 HPE, Dell 등 서버에 탑재하여 GPU 서버를 구매할 수 있습니다.
구매 옵션 2가지 (x8장 탑재 시)
DGX H200은 GPU x 8장이 탑재됩니다.
NVIDIA가 직접 제조한 NVIDIA DGX H200 구매 또는, HPE, Dell 등 서버에 8장 탑재 GPU 서버 구매, 2가지 중 선택할 수 있습니다.
퀀텀브릭스는 합리적인 가격으로 GPU 서버를 공급합니다.
#이미지: NVIDIA 직접 제조 DGX 시리즈로 구축한 AI 데이터센터
#이미지: NVIDIA H200 x 8장 탑재된 HGX GPU 보드
엔비디아 H200, 어떤 서버에 탑재할 수 있나요?
NVIDIA가 인증한 서버 제조사, HPE, Dell, Supermicro, Gigabyte, ASUS 등 서버에 탑재할 수 있습니다.
HPE ProLiant DL380 시리즈 서버
HPE ProLiant DL380 시리즈 서버는 전 세계적으로 가장 많이 팔리는 베스트셀러 서버 제품 중 하나로, NVIDIA GPU를 탑재할 수 있는 AI 최적화 서버입니다.
탑재할 수 있는 NVIDIA GPU 제품:
H200 141GB, H100 94GB, L40S 48G, A100 80GB, RTX Pro 6000 Blackwell 등
Dell PowerEdge R770 시리즈 서버
Dell PowerEdge R770은 전 세계적으로 가장 많이 팔리는 베스트셀러 서버 제품 중 하나로, NVIDIA GPU를 탑재할 수 있는 AI 최적화 서버입니다.
탑재할 수 있는 NVIDIA GPU 제품:
H200 141GB, H100 94GB, L40S 48G, A100 80GB, RTX Pro 6000 Blackwell 등
엔비디아 GPU, 어떤 제품을 선택해야 하나요?
NVIDIA GPU 1장에 올릴 수 있는 LLM 모델의 크기는 메모리 용량을 기준으로 계산됩니다.
메모리 용량 / 대역폭 비교표
파인튜닝 가능 LLM 크기
전력소모량 비교표
추론 성능(TPS) 비교표
학습 가능 LLM 크기
RAG 시스템 구축
연산 성능(FLOPS) 비교표
추론 가능 LLM 크기
2가지 타입 GPU 비교
B200 성능, H200 대비 얼마나 더 좋아졌나요?
엔비디아 B200(Blackwell 아키텍 처)의 성능 및 사양은 H200(Hopper 아키텍처) 대비 대폭 향상 됐습니다. 기존 Hopper 아키텍처의 한계를 넘어 메모리 용량은 물론, 차세대 데이터 포맷(FP4)을 도입하여 연산과 추론 성능이 비약적으로 상승했습니다.
메모리 용량: 141GB -> 180GB/192GB로 약 27% ~ 36% 증가
메모리 대역폭: 4.8 TB/s -> 7.7 TB/s ~ 8.0 TB/s로 약 60% ~ 66% 증가
기본 AI 연산 성능 (Dense FP8): 3,958 TFLOPS -> 4,500 TFLOPS로 약 14% 향상
새로운 FP4 도입 시 AI 연산 성능: H200에 없던 FP4 데이터 포맷 지원으로 최대 9,000 TFLOPS(Dense 기준)를 지원하여, H200 FP8 대비 연산 처리량 약 127% 증가 (2.27배)
실질 AI 추론 처리량 (Throughput): Llama 3 70B 등 대형 언어 모델 추론 시, 8.0 TB/s 대역폭과 FP4 미세 텐서 스케일링을 활용해 H200 대비 최대 2.5배 ~ 4배 향상
인터커넥트 대역폭 (NVLink 5): 양방향 900 GB/s -> 1.8 TB/s로 100% 증가 (2배 더 빠름)
소비 전력 (TDP): 700W -> 1,000W로 약 43% 증가, 토큰당 소모 에너지 효율은 압도적으로 개선됨
NVIDIA 직접 설계 및 제조, DGX 시리즈 가격 및 구매 가이드
NVIDIA가 직접 설계 및 제조한 DGX 시리즈는 AI 전용 완제품 GPU 서버로 엔비디아 스타트업 프로그램 가입 시, 최대 30% 까지 할인을 받을 수 있습니다.
NVIDIA DGX Rubin NVL8
탑재수량별 GPU 서버 사양 및 가격표
퀀텀브릭스는 합리적인 가격으로 GPU 서버를 공급하여 고객사 및 파트너의 AI 비지니스를 지원합니다.
파트 #A. NVIDIA 직접 제조 제품
* Tip: 항목을 클릭하면 사양 및 가격으로 이동합니다.
NVIDIA DGX B200, B300 시리즈 등은 엔비디아가 직접 설계 및 제조한 AI 전용 완제품 GPU 서버입니다.
엔비디아 스타트업 프로그램에 가입하면, DGX 시리즈 구매 시, 최대 30%까지 할인을 받을 수 있습니다.
자세한 사항은 각 제품 상세 페이지, 최대 48시간 내 견적서 제공 및 실시간 문의하기를 참고 바랍니다.
파트 #B. HPE, Dell 등 벤더 제조 제품
* Tip: 항목을 클릭하면 사양 및 가격으로 이동합니다.
* RTX 6K : RTX Pro 6000 Blackwell Server Edition
NVIDIA GPU 서버 2가지 타입 비교
엔비디아 GPU 서버는 제조사 기준으로 크게 2가지 타입으로 분류됩니다.
하나는 NVIDIA가 직접 제조하는 완제품 GPU 서버이고, 또 하나는 HPE, Dell 등 벤더가 제조하는 제품입니다.
두 가지 타입의 GPU 서버는 가격, 확장성, 기술지원 등 여러가지 부분에서 상당한 차이를 보입니다.
최근, NVIDIA는 운영체제(OS), CPU 등 주요한 부품을 직접 제조하는 AI 풀 스택기업으로 도약하고 있습니다.
퀀텀브릭스는 GPU 서버를 합리적인 가격으로 공급합니다.
자주 묻는 질문(FAQs)
문의하기
메세지를 남겨주시면 빠르게 답변 드립니다.
대략적인 가격은 탑재수량별 GPU 서버 가격 페이지를 참고 바랍니다.
퀀텀브릭스는 합리적인 가격으로 GPU 서버를 공급합니다.
퀀텀브릭스는 고객사 및 파트너의 AI 비지니스 확산을 빠르게 지원합니다.
NVIDIA DGX H200 사양
항목
사양
GPU 탑재 수량
H200 (141GB) X 8장
CPU 코어 수
총 112 코어 / 인텔 8480C
FP4 연산 성능
미 지원
FP8 연산 성능
32 PFLOPS
FP16 연산 성능
16 PFLOPS
GPU 메모리
총 1,128 GB (개당 141GB)
메모리 대역폭
총 38.4TB/s (개당 4.8TB/s)
NVLink 대역폭
총 7.2 TB/s (개당 900GB/s)
시스템 메모리
2TB (최대 4TB)
스토리지(OS)
2x 1.9TB NVMe M.2
스토리지(내부)
8x 3.84TB NVMe U.2
네트워킹
ConnectX-7 (~400Gb/s)
전력 소비
~10.2 kW
폼 팩터
8U Rackmount
<참고 사항>
-
FP, TF 등 연산 성능은 희소성(Sparsity)을 적용한 기준이며, 밀집(Dense) 기준에서는 약 50% 수준의 성능을 보입니다.
-
NVIDIA GPU 서버 및 제품 선택을 위해, 연산 성능 비교표, 추론 성능 비교표, 메모리 용량 및 대역폭 비교표 등을 참고 바랍니다.
-
본 도표는 NVIDIA 홈페이지 및 데이터시트를 기준으로 작성했습니다.