엔비디아 H200, 전력 소모량은 얼마인가요?
NVIDIA H200은 GPU 1 개 당 최대 700W 정도를 소모합니다.
B200 1 장은 최대 1,000W ~ 1,200W 까지 전력을 사용할 수 있도록 설계되었습니다.
가정용 에어컨 한 대가 보통 1,000~2,000W 정도입니다.
손바닥만 한 칩 하나가 에어컨 1 대 분의 전기를 쓰는 셈이고 24시간 풀 가동 됩니다.
H200 x 8장 탑재 GPU 서버 1대가 대략 5kW 를 사용할 수 있는데, 에어콘 8대가 24시간 풀 가동된다는 것을 뜻 합니다.
퀀텀브릭스는 합리적인 가격으로 GPU 서버를 공급합니다.
#이미지: Blackwell 아키텍처 기반의 B200 GPU 2장과 Grace CPU 1장이 탑재된 슈퍼칩 이미지
비교표 목록
* Tip: 목록을 클릭하면 해당 비교표로 이동, TOP 버튼을 클릭하면 상단으로 올라옵니다.
#01. NVIDIA GPU 제품별 1장 당 전력 소모량 비교표
본 도표에서는 HGX(SXM) 및 NVL(PCIe) 타입의 엔비디아 GPU 제품별 전력 소모량을 비교합니다.
구분
HGX / SXM
PCIe / NVL
Rubin
2,300W
해당없음
B300
1,400W
해당없음
B200
1,200W
해당없음
H200
700W
600W
H100
700W
400W
A100
400W
300W
L40S
해당없음
350W
RTX 6K*
해당없음
300~600W
<참고사항>
-
SXM / HGX 타입은 TDP를, PCIe / NVL 타입은 TBP를 적용했습니다.
-
SXM / HGX 는 '열 배출' 에, PCIe / NVL 은 '공급 한계' 에 더 집중합니다.
-
TDP (Thermal Design Power): 측정시간 / 기준은 지속적 (Sustained)이고 서버 쿨링 설계의 핵심 기준입니다.
-
TBP/TGP (Total Board/Graphics Power): 측정시간 / 기준은 평균적 (Average) 보드 전체가 사용하는 실질적인 전력량입니다.
-
Peak Power / Excursion: 측정시간 / 기준은 찰나 (Microseconds), 연산이 폭발적으로 일어나는 0.0001초(100µs) 내외의 순간 스파이크 전력입니다.
-
RTX 6K* : RTX Pro 6000 Blackwell Server Edition (96GB) : 서버 및 웍스테이션 에디션은 600W, Max-Q는 300W입니다.
-
전체 GPU 서버 가격 페이지 또는 견적 요청 시 48시간 내 제공 페이지를 참고 바랍니다.
#02. NVIDIA GPU 제품별 최대 전력 소모량 비교표
엔비디아 GPU 8장이 탑재된 서버 1대의 최대 전력 소모량을 비교합니다.
구분
최 대 전력 소모량
DGX Rubin NVL8 (8장 탑재)
24kW
DGX B300 (8장 탑재)
14.3kW
DGX B200 (8장 탑재)
14.3kW
DGX H200 (8장 탑재)
10.2kW
DGX H100 (8장 탑재)
10.2kW
B300 (8장 탑재)
8.8kW
B200 (8장 탑재)
8.0kW
H200 (8장 탑재)
5.6kW
H100 (8장 탑재)
5.6kW
A100 (8장 탑재)
3.2kW
L40S (8장 탑재)
2.8kW
RTX 6K* (8장 탑재)
4.8kW
<참고사항>
-
본 도표의 수치는 GPU 1장 당 전력 소모량을 합산(x8장)한 값입니다.
-
NVIDIA가 직접 설계 / 제조한 DGX B300, DGX B200, DGX H200, DGX H100 은 데이터 시트 기준입니다.
-
HPE, Dell 등 벤더 제조, GPU 서버의 수치는 GPU 1 장 당 전력 소모량을 합산 (x8장) 한 수치입니다.
-
RTX 6K* : RTX Pro 6000 Blackwell Server Edition (96GB)
-
전체 GPU 서버 가격 페이지 또는 견적 요청 시 48시간 내 제공 페이지를 참고 바랍니다.
#03. NVIDIA GPU 제품별 냉각 방식 비교표
본 도표에서는 엔비디아 GPU 제품별로 냉각 방식을 비교합니다.
구분
냉각방식
Rubin
수냉 전용
B300
수냉 / 공냉 선택 가능
B200
수냉 / 공냉 선택 가능
H200
수냉 / 공냉 선택 가능
H100
수냉 / 공냉 선택 가능
A100
수냉 / 공냉 선택 가능
L40S
공냉 우선
RTX 6K*
공냉 우선
<참고사항>
-
HPE, Dell, Supermicro 등 각 제조사별로 수냉과 공냉 지원이 가능한지 여부는 별도 확인이 필요합니다.
-
엔비디아가 직접 설계 및 제조하는 DGX 시리즈, DGX H200, DGX B200, DGX B300은 공냉입니다.
-
RTX 6K* : RTX Pro 6000 Blackwell Server Edition (96GB) : 서버 및 웍스테이션 에디션은 600W, Max-Q는 300W입니다.
-
전체 GPU 서버 가격 페이지 또는 견적 요청 시 48시간 내 제공 페이지를 참고 바랍니다.
엔비디아 GPU, 어떤 제품을 선택해야 하나요?
NVIDIA GPU 1장에 올릴 수 있는 LLM 모델의 크기는 메모리 용량을 기준으로 계산됩니다.
메모리 용량 / 대역폭 비교표
파인튜닝 가능 LLM 크기
전력소모량 비교표
추론 성능(TPS) 비교표
학습 가능 LLM 크기
RAG 시스템 구축
연산 성능(FLOPS) 비교표
추론 가능 LLM 크기
2가지 타입 GPU 비교
탑재수량별 GPU 서버 사양 및 가격표
퀀텀브릭스는 합리적인 가격으로 GPU 서버를 공급하여 고객사 및 파트너의 AI 비지니스를 지원합니다.
파트 #A. NVIDIA 직접 제조 제품
* Tip: 항목을 클릭하면 사양 및 가격으로 이동합니다.
NVIDIA DGX B200, B300 시리즈 등은 엔비디아가 직접 설계 및 제조한 AI 전용 완제품 GPU 서버입니다.
엔비디아 스타트업 프로그램에 가입하면, DGX 시리즈 구매 시, 최대 30%까지 할인을 받을 수 있습니다.
자세한 사항은 각 제품 상세 페이지, 최대 48시간 내 견적서 제공 및 실시간 문의하기를 참고 바랍니다.
파트 #B. HPE, Dell 등 벤더 제조 제품
* Tip: 항목을 클릭하면 사양 및 가격으로 이동합니다.
* RTX 6K : RTX Pro 6000 Blackwell Server Edition
문의하기
메세지를 남겨주시면 빠르게 답변 드립니다.
대략적인 가격은 탑재수량별 GPU 서버 가격 페이지를 참고 바랍니다.
퀀텀브릭스는 합리적인 가격으로 GPU 서버를 공급하여, 고객사 및 파트너의 AI 비지니스 확산을 빠르게 지원합니다.