4세대 Tensor 코어와 트랜스포머 엔진 탑재, NVIDIA H100
Hopper 아키텍처 기반의 엔비디아 H100 GPU는 2022년 3월 22일, GTC 2022 키노트에서 젠슨 황 CEO가 최초 공개했습니다.
차세대 메모리 HBM3e를 탑재한 H100은 1장 당 NVL 타입은 94GB, SXM 타입은 80GB의 메모리 용량을 제공합니다.
메모리 대역폭은 3.9TB/s, 3세대 NVLink 기반으로 GPU 간 대역폭은 900 GB/s 입니다.
4세대 Tensor 코어와 FP8 정밀도를 갖춘 트랜스포머 엔진을 탑재, 이전 세대보다 최대 4배까지 속도와 성능을 높였습니다.
FP8 연산 성능은 3.3PFLOPS, FP16은 1.6PFLOPS 입니다.
1장 당 전력 소모량은 400 ~ 700W입니다.
퀀텀브릭스는 합리적인 가격으로 GPU 서버를 공급합니다.
#이미지: 4세대 Tensor 코어와 FP8 정밀도를 갖춘 트랜스포머 엔진을 탑재한 엔비디아 H100 GPU
NVIDIA H100 탑재 GPU 서버 가격
엔비디아 H100은 2025년 하반기 단종됐습니다. 따라서 H100 대체 및 업그레이드 제품의 탑재수량별 GPU 서버 가격 정보를 제공합니다.
(단위: 원 / 부가세 별도)
구분
탑재수량
가격
제조사
참고사항 : 본 가격은 대략적인 평균 가격으로, 실제 견적 및 계약 시, 더 낮을 수도, 더 높을 수도 있습니다. 항목 클릭 시, 사양 및 가격 섹션으로 이동합니다.
Q1. 엔비디아 H100, 언제 발표, 출시됐나요?
2022년 3월 22일, 온라인으로 열린 GTC 2022 키노트에서, NVIDIA 젠슨 황 CEO가 차세대 호퍼(Hopper) 아키텍처와 함께 H100을 최초 공개했고, 하반기부터 본격적으로 공급을 시작했습니다.
GTC 2022 Spring | NVIDIA CEO 젠슨 황 키노트 동영상 보기
2022년 3월 22일, 온라인으로 열린 GTC 2022 키노트에서 젠슨 황 CEO가 차세대 호퍼(Hopper) 아키텍처 H100 최초 공개 / 이미지 출처: 엔비디아 블로그
Q2. H100은 단종됐나요?
네. H100은 2025년 3분기 쯤에 단종됐습니다.
2022년 상반기에 출시했으므로 대략 3년 정도 판매됐습니다.
엔비디아의 GPU 제품의 판매 유지 기간이 조금씩 짧아지고 있습니다.
A100 80GB는 4년 정도 판매됐고, H200 141GB 는 2023년 하반기 출시 및 발표됐습니다.
Q3. H100이 단종됐다면, 이제 어떤 제품을 구매해야 합니까?
엔비디아 H100을 대체하거나 업그레이드 제품은 하기와 같습니다.
H200 141GB, L40S 48GB, RTX Pro 6000 Blackwell 96GB 등
Q4. H100 가격은 얼마인가요?
단종되기 전, H100 8장 탑재 GPU 서버는 대략 4~6억 원(부가세 별도), 4장 탑재는 2~3억 원(부가세 별도), 2장 탑재는 1~2억 원(부가세 별도) 정도로 공급이 가능했습니다.
엔비디아 H100은 LLM 모델 개발, 학습 및 추론 등 AI 플랫폼 개발, AI 인프라 구축, 데이터 센터 투자 등 전 세계적인 AI 비지니스 확산을 이끈 주력 제품이었습니다.
Q5. H100 대비, H200은 얼마나 더 성능이 좋아졌나요?
메모리 용량은, H100은 80GB, H200은 141GB로, GPU 1장에 더 큰 LLM 모델을 적재, 학습 및 추론을 할 수 있습니다.
메모리 대역폭은, H100은 3.35 TB/s, H200은 4.8 TB/s로, 데이터 처리 및 전송 및 AI 서비스에 대한 실시간 사용자 응답 속도(tps)가 더 빨라졌습니다.
연산 성능은, FP8 기준으로 H100과 H200 모두, 3.3PFLOPS로 동일하며, FP16 또한 1.6PFLOPS로 동일합니다.
추론 속도는, FP16 및 30B 모델 기준으로, H100은 대략 60tps, H200은 80tps 입니다.
Q6. 견적 요청은 어떻게 하나요?
퀀텀브릭스는 합리적인 가격으로 GPU 서버를 공급, 고객사 / 파트너의 AI 비지니스를 지원합니다.
대략적인 가격은 탑재수량별 GPU 서버 가격표 또는 실시간 문의하기를 참고 바랍니다.
최단 24시간, 최대 48시간 내 견적서를 보내드립니다.
H100 탑재 GPU 서버 구매 가이드 및 Tip
가이드 #01. H100 단품 가격은 얼마인가요? 단품 구매 가능한가요?
엔비디아 H100은 2025년 하반기에 단종됐습니다.
따라서, 현재, H100이 탑재된 모든 GPU 서버는 사실 상 공급이 불가능합니다.
단종되기 전, H100 단품 가격은 대략 4,000 ~ 5,000만원(부가세 별도) 정도로 판매 및 공급됐습니다.
또한, H100은 단품으로 판매 및 공급이 가능했었고, 루빈(Rubin), B200, B300과 달리, 원하는 만큼 수량을 탑재할 수 있었습니다.
더불어, 기존 서버에 추가 탑재도 가능했었습니다.
단품구매 가능여부 비교표
가이드 #02. H100 대비, H200의 가격은 얼마나 올랐나요?
단품 가격 기준으로 H100 대비, H200의 단가는 크게 오르지 않았습니다.
다만, 글로벌한 AI 비지니스 확산, 대규모 데이터 센터 투자 등으로 인하여, GPU를 포함한 반도체, CPU, 메모리 등 부품 가격의 상승으로 인하여 완제품 GPU 서버 가격이 크게 상승했습니다.
예를 들어, H100 x 2장을 탑재한 GPU 서버 1대의 가격이 2022년 상반기 출시 시점에 1억 이었다면, 현재 H200 x 2장을 탑재한 GPU 서버 1대의 가격이 두 배 가까이 상승했습니다.
퀀텀브릭스는 합리적인 가격으로 GPU 서버를 공급합니다.
가이드 #03. H100이 단종됐다면, 어떤 제품을 구매해야 하나요?
엔비디아 베스트셀러 GPU 였던, H100이 단종된 이후, 대안으로는 H200 141GB, B200 180GB, B300 288GB 등 고성능 제품이 가장 많이 공급되고 있습니다.
또한, H100 대체 제품으로는 L40S, RTX 6000 등이 가장 많이 판매되고 있습니다.
H100 기준으로, 각 제품별 메모리 용량, 대역폭, 연산 및 추론 성능 등 다양한 비교표를 통해 적합한 GPU 를 선택 바랍니다.
H100을 대체 또는 상위 버전의 GPU 서버의 가격이 알고 싶으신가요?
H200 x 2장 탑재 GPU 서버, 가성비가 뛰어난 L40S x 2장 탑재 GPU 서버, RTX Pro 6000 x 2장 탑재 GPU 서버의 사양 및 가격, 지금 바로 확인할 수 있습니다.
H100 x 8장 탑재, NVIDIA DGX H100
DGX H100은,
NVIDIA가 직접 설계 및 제조한 AI 전용 GPU 서버입니다.
H100 x 8장 탑재, 총 640GB GPU 메모리가 제공되며, 총 112 코어 듀얼 CPU(intel 8480c), 시스템 메모리 총 2TB, 스토리지는 OS 1.92TB x 2장, 데이터 저장용으로 3.84TB x 8장이 탑재됩니다.
NVLink 4세대 기반으로 GPU 간 양방향 대역폭은 7.2TB/s를 지원합니다.
FP8 연산 성능은 32PFLOPS, FP16은 16PFLOPS 입니다.
최대 전력 소모량은 10.2kW, 공냉이며, 폼 팩터는 8U Rackmount 입니다.
퀀텀브릭스는 합리적인 가격으로 GPU 서버를 공급합니다.
#이미지: H100 x 8장이 탑재된 NVIDIA 직접 제조 DGX H100 전면 모습
DGX H100의 상위버전, DGX H200(H200 x 8장 탑재), DGX B200(B200 x 8장 탑재) 및 DGX B300(B300 x 8장 탑재)의 사양 및 가격도 알아볼까요?
H200 x 8장 탑재 DGX H200, B200 x 8장 탑재 DGX B200, B300 x 8장 탑재 DGX B300의 사양 및 가격, 지금 바로 확인할 수 있습니다.
H100 GPU 서버 가격, 질문이 더 있으실까요?
메세지를 남겨주시면 빠르게 답변 드립니다.
대략적인 예산 추산, 가격은 탑재수량별 GPU 서버 가격 페이지를 참고 바랍니다.
퀀텀브릭스는 고객사 및 파트너의 AI 비지니스를 지원합니다.