NVIDIA GPU 1장의 전력 소모량은 얼마인가요?
H100 / H200 GPU 1 개당 최대 700W 정도를 소모하고, B200 1 장은 최대 1,000W~1,200W까지 전력을 사용할 수 있도록 설계되었습니다.
가정용 에어컨 한 대가 보통 1,000~2,000W 정도임을 감안하면, 손바닥만 한 칩 하나가 에어컨 한 대 분의 전기를 쓰는 셈이고 24시간 풀 가동 된다는 점을 감안하면 상당합니다.
H200 x 8장 탑재 GPU 서버 1대가 대략 5kW 를 사용할 수 있는데, 에어콘 8대가 24시간 풀 가동된다는 것을 뜻 합니다.
한 여름에 24시간 내내, 한 달 동안 에어콘 1대를 사용하면 전기세가 얼마나 나올까요?
퀀텀브릭스는 합리적인 가격으로 GPU 서버를 공급합니다.
#01. NVIDIA GPU 1장 당 전력 소모량
본 도표에서는 SXM / HGX 및 PCIe / NVL 타입의 NVIDIA GPU 제품의 전력 소모량을 비교합니다.
구분
HGX / SXM
PCIe / NVL
B300
1,400W
해당없음
B200
1,200W
해당없음
H200
700W
600W
H100
700W
400W
A100
400W
300W
L40S
해당없음
350W
RTX 6K
해당없음
300~600W
<참고사항>
-
SXM / HGX 타입은 TDP를, PCIe / NVL 타입은 TBP 적용.
-
SXM / HGX 는 '열 배출' 에, PCIe / NVL 은 '공급 한계' 에 더 집중.
-
TDP (Thermal Design Power): 측정시간 / 기준은 지속적 (Sustained)이고 서버 쿨링 설계의 핵심 기준입니다.
-
TBP/TGP (Total Board/Graphics Power): 측정시간 / 기준은 평균적 (Average) 보드 전체가 사용하는 실질적인 전력량입니다.
-
Peak Power / Excursion: 측정시간 / 기준은 찰나 (Microseconds), 연산이 폭발적으로 일어나는 0.0001초(100µs) 내외의 순간 스파이크 전력입니다.
-
전체 GPU 서버 가격 페이지 또는 견적 요청 시 48시간 내 제공 페이지를 참고 바랍니다.
#02. 최대 전력 소모량(GPU 8장 장착 기준)
NVIDIA GPU 8장이 탑재된 서버 1대의 최대 전력 소모량을 비교합니다.
구분
최대 전력 소모량
DGX B300 (8장 탑재)
14.3kW
DGX B200 (8장 탑재)
14.3kW
DGX H200 (8장 탑재)
10.2kW
DGX H100 (8장 탑재)
10.2kW
B300 (8장 탑재)
8.8kW
B200 (8장 탑재)
8.0kW
H200 (8장 탑재)
5.6kW
H100 (8장 탑재)
5.6kW
A100 (8장 탑재)
3.2kW
L40S (8장 탑재)
2.8kW
RTX 6K (8장 탑재)
4.0kW
<참고사항>
-
본 도표의 수치는 GPU 1장 당 전력 소모량을 합산(x8장)한 값입니다.
-
NVIDIA가 직접 설계 / 제조한 DGX B300, DGX B200, DGX H200, DGX H100 은 데이터 시트 기준입니다.
-
OEM GPU 서버의 수치는 GPU 1 장 당 전력 소모량을 합산(x8장)한 수치입니다.
-
전체 GPU 서버 가격 페이지 또는 견적 요청 시 48시간 내 제공 페이지를 참고 바랍니다.