생성형 AI와 고성능 컴퓨팅 워크로드를 위한, NVIDIA H200
2023년 11월 13일, NVIDIA 이안 벅(Ian Buck) 부사장이 덴버에서 열린 SC23(슈퍼컴퓨팅 컨퍼런스)에서 H200을 최초 발표했습니다.
Hopper 아키텍처 기반 H200 GPU는 1장 당 141GB의 고용량 메모리와 4.8 TB/s의 메모리 대역폭을 제공합니다.
FP8 연산 성능은 3.3 PFLOPS, FP16은 1.6 PFLOPS, FP32는 60 TFLOPS 까지 지원합니다.
멀티 인스턴스 GPU (MIG) 기능으로 1장의 물리적인 GPU를 논리적으로 7개까지 분할하여 사용할 수 있습니다.
NVLink 대역폭은 최대 900GB/s으로 데이터 처리 속도를 높였습니다.
1장 당 전력 소모량은 600~700W 입니다.
퀀텀브릭스는 합리적인 가격으로 GPU 서버를 공급합니다.
#이미지: Grace CPU와 H200 GPU가 탑재된 NVIDIA GH200 Grace Hopper 슈퍼칩
H200 탑재 GPU 서버 가격
Hopper 아키텍처 기반의 엔비디아 H200 탑재수량별 GPU 서버 가격 정보를 제공합니다.
(단위: 원 / 부가세 별도)
참고사항 : 본 가격은 대략적인 평균 가격으로, 실제 견적 및 계약 시, 더 낮을 수도, 더 높을 수도 있습니다. 항목 클릭 시, 사양 및 가격 섹션으로 이동합니다.
Q1. H200은 언제 출시됐나요?
2023년 11월 13일, 덴버에서 열린 SC23(슈퍼컴퓨팅 컨퍼런스)에서 이안 벅(Ian Buck) 부사장이 호퍼(Hopper) 아키텍처 H200을 최초 발표했고, 2024년 하반기부터 본격적으로 공급을 시작했습니다.
NVIDIA SC23 | NVIDIA 이안 벅 부사장 H200 발표 동영상 보기
2023년 11월 13일, 덴버에서 열린 SC23(슈퍼컴퓨팅 콘퍼런스)에서, 이안 벅(Ian Buck) 부사장, 호퍼(Hopper) 아키텍처 기반 H200 최초 발표 / 이미지 출처: 엔비디아 블로그
Q2. H200 가격은 얼마인가요?
H200 탑재 GPU 서버 가격은,
GPU 탑재수량, CPU, 메모리, 스토리지 등 각 부품의 사양 및 스펙에 따라 수 천 만원에서 수 억 원까지 차이가 발생합니다.
상기 가격은 대략적인 평균 가격으로 실제 견적 및 계약 시, 더 낮을 수도, 더 높을 수도 있으며, 제조사, 환율 등에 따라 달라질 수 있습니다.
Q3. H200은 단품으로 구매 가능한가요?
네. 가능합니다!
H100, A100, L40S, RTX Pro 6000 Blackwell 등 H200 및 이전 버전의 제품들은 모두 단품으로 구매할 수 있으며, 최초 구매 및 도입 시, 원하는 만큼의 수량을 탑재할 수 있습니다.
그러나, H200 이후 출시된 차기 버전, B200, B300, Rubin 등은 단품 구매가 불가능하고, 최초 도입 및 구매 시, 8장 탑재가 기본입니다.
따라서, NVL 타입의 H200 GPU는 단품 구매 및 원하는 만큼의 수량을 탑재하는 것이 가능한 마지막 버전이 될 듯 합니다.
참고로, A100의 판매 유지 기간은 대략 4년, H100의 판매 유지 기간은 대략 3년으로 상위 버전으로 갈 수록 짧아지고 있습니다.
Q4. H200을 1장만 탑재해서 GPU 서버를 구매할 수 있나요? 가격은 얼마인가요?
네. 가능합니다.
딱 1장만 탑재해서 GPU 서버를 구매할 수 있으며, 추후 GPU를 추가로 탑재할 수 있습니다.
LLM 크기가 작거나, 단순 적재만 할 경우, 경량 모델로 AI 서비스를 제공할 경우 등 다양한 환경에 따라, 원하는 만큼 수량을 탑재하여 GPU 서버를 구매할 수 있습니다.
H200 x 1장 탑재 GPU 서버 가격은 2장 탑재 GPU 서버 가격을 참고로 추산할 수 있으며, 실시간 문의하기 또는 48시간 이내 견적서 제공 서비스를 참고 바랍니다.
Q5. H200 단품, 1장 당 가격은 얼마인가요?
2026년 상반기 기준으로, H200 PCIe(NVL) 타입의 GPU 1장 당 가격은 대략 5,000~6,000만원(부가세별도) 정도로 공급됐습니다.
반도체 및 메모리 가격 상승 등으로 NVIDIA GPU 가격도 꾸준히 상승하는 추세에 있습니다.
Q6. 서버에 탑재된 H200을 묶어서 사용할 수 있나요?
NVIDIA NVLink 브릿지로 묶어서 사용할 수 있습니다.
H200 GPU를 총 4장 탑재할 경우, 2장을 각각 하나로 묶어서(2+2) 사용할 수 있고, 4장을 하나로 묶어서 사용할 수도 있습니다.
HGX 타입의 H200 GPU는 8장이 하나로 묶여서 보드에 탑재되어 있습니다.
H200 1장 당 메모리 용량은 141GB 이므로, 4장을 한 장으로 묶었을 경우, 총 메모리 용량은 564GB이며, 4배나 더 큰 AI LLM 모델을 적재할 수 있습니다.
Q7. DGX H200과 HGX H200은 가격 차이가 있나요?
네. 가격 차이가 있습니다!
DGX 와 HGX GPU 서버는 서로 가격 차이가 있고, 같은 타입의 GPU 서버도 제조사, 사양 등에 따라 가격 편차가 매우 클 수 있습니다.
DGX H200은 NVIDIA가 직접 설계 및 제조하는 B200 x 8장이 탑재된 완제품 GPU 서버입니다.
HGX H200은 NVIDIA가 8장이 묶여있는 HGX 보드를 설계하고, HPE, Dell 등 벤더가 자사 서버에 CPU, 메모리, 스토리지 등 각 부품들과 함께 탑재하는 GPU 서버 제품입니다.
실제로 구매 및 도입 시, 여러가지 요인에 따라 DGX H200 가격이 더 높을 수도, HGX 200 가격이 더 높을 수도 있습니다.
NVIDIA 스타트업 프로그램에 가입하면,
DGX Rubin NVL8, DGX B300, DGX B200, DGX H200 등 DGX 시리즈 구매 시, 최대 30% 까지 할인을 받을 수 있습니다.
Q8. H200 탑재 GPU 서버 견적 요청은 어떻게 하나요?
최근, 대규모 AI 데이터 센터 투자, AI LLM 서비스 개발 및 확산 등 다양한 요인에 의해 반도체, 메모리 등 부품 가격이 상승함에 따라, GPU 서버 가격 또한 상승하는 추세에 있습니다.
대략적인 가격은 탑재수량별 GPU 서버 가격표를 참고 바라며, 문의 및 요청은 실시간 문의하기를 이용 바랍니다.
퀀텀브릭스는 합리적인 가격으로 GPU 서버를 공급합니다.
무상부품교체(Warranty, 워런티) 및 기술지원은 기본적으로 3년간 무상으로 제공됩니다.
최단 24시간, 최대 48시간 내 견적서를 보내드립니다.
H200 탑재 GPU 서버 구매 가이드 및 Tip
가이드 #01. H200 x 8장 탑재 GPU 서버를 구매하려면 DGX, HGX 중 어떤 것을 선택해야 하나요?
2가지 옵션을 제공합니다.
첫번째 옵션은,
NVIDIA가 직접 제조한 H200 x 8장이 탑재된 DGX H200을 선택하는 것인데요,
각 부품 및 SW의 테스트 및 검증을 거쳤고 초기 세팅이 완료된 상태로 공급되므로 즉시 프로젝트에 투입됩니다.
두번째 옵션은,
벤더가 제조한 HGX H200 x 8 GPU 서버를 구매하는 것으로,
AI 개발 및 운영 특성에 맞춰 CPU, 메모리 및 스토리지 등 사양을 선택할 수 있습니다.
가이드 #02. H200 x 2장 또는 4장을 탑재한 GPU 서버를 구매하려면 어떻게 해야 하나요?
옵션은 한가지!
HPE, Dell 등 벤더의 서버에 NVL(PCIe) 타입의 H200을 원하는 만큼 탑재할 수 있습니다.
단, 각 제조사별로 공급 가격이 다르로, 동일한 사양이라도 가격의 편차가 적지 않고, 필요한 사양을 모두 충족하려면 상당한 예산이 필요할 수 있습니다.
최근, AI 비지니스 확산, 반도체 가격 상승 등으로 인하여 1년 전 가격과 현재의 가격의 편차가 적지 않습니다.
H200 탑재 수량별 사양 및 가격, 지금 바로 확인할 수 있습니다.
가이드 #03. 납기 / 딜리버리는 얼마나 소요됩니까?
2026년 상반기 기준으로, 대략 4주에서 12주 정도 소요됩니다.
납기 및 딜리버리 기간은 실시간으로 변동되고 있지만, 계약 및 발주 시점에 대략적인 기간은 예상할 수 있습니다.
납품에 상당한 기간이 소요되는 이유:
대규모 AI 인프라 투자 등으로 인하여, GPU 서버에 탑재할 부품의 공급이 막대한 수요를 따라가지 못하기 때문입니다.
따라서, AI 프로젝트 시작 전, 최소 2~3개월 전에는 계약 및 발주를 진행해야 문제가 발생하는 것을 피할 수 있습니다.
H200 탑재 수량별 GPU 서버 가격이 알고 싶으세요?
HPE, Dell 등 벤더가 제조한 HGX H200 x 8 GPU 서버 그리고 NVL(PCIe) 타입의 H200 탑재수량별(2장, 4장) GPU 서버의 사양 및 가격, 지금 바로 확인할 수 있습니다.
H200 x 8장 탑재, NVIDIA DGX H200
DGX H200은,
NVIDIA가 직접 설계 및 제조한 AI 전용 GPU 서버입니다.
Hopper 아키텍처 기반 H200 GPU 8장 탑재, 총 112 코어 듀얼 CPU 및 2TB 시스템 메모리가 탑재됩니다.
총 1,128GB GPU 메모리 용량, 38.4TB/s(개당 4.8TB/s)의 GPU 메모리 대역폭을 제공합니다.
최신 4세대 NVLink를 통해 이전 세대 대비 1.5배 더 빠른 7.2TB/s의 GPU간 대역폭 및 데이터 처리 속도를 지원합니다.
FP8 연산 성능은 32 PFLOPS, FP16은 16 PFLOPS 입니다.
퀀텀브릭스는 합리적인 가격으로 GPU 서버를 공급합니다.
#이미지: 엔비디아 GPU H200 8장이 탑재된 NVIDIA 직접 제조 완제품 GPU 서버, DGX H200
DGX B200(B200 x 8장 탑재), DGX B300(B300 x 8장 탑재)및 DGX Rubin NVL8(루빈 x 8장 탑재)의 사양 및 가격도 알아볼까요?
B200 x 8장 탑재 DGX B200, B300 x 8장 탑재 DGX B300, Rubin x 8장 탑재 DGX Rubin NVL8의 사양 및 가격을 지금 바로 확인할 수 있습니다.
H200 탑재 GPU 서버, 질문이 더 있으실까요?
메세지를 남겨주시면 빠르게 답변 드립니다.
대략적인 예산 추산, 가격은 탑재수량별 GPU 서버 가격 페이지를 참고 바랍니다.
퀀텀브릭스는 고객사 및 파트너의 AI 비지니스를 지원합니다.