B200 GPU 특징
B200 1장 당 180GB의 고용량 메모리를 제공하여, 초 거대 모델의 학습 및 추론 서비스를 극대화했습니다.
B200 x 8장이 하나로 연결된 HGX 는 총 1.4TB의 GPU 메모리 용량, 대역폭은 62TB/s까지 끌어올렸고, NVLink 대역폭은 총 14.4TB/s 까지 높였습니다.
FP4 연산 성능은 144PFLOPS, FP8 연산 성능은 72PFLOPS, FP16 연산 성능은 36PFLOPS를 제공, 한 달이 걸리던 학습과 데이터 분석이 단 몇 시간만에 완료됩니다.
B200x8장 탑재 GPU 서버 가격
B200 x 8장 탑재 GPU 서버 1대는 대략 12억 원(부가세 별도) 정도로 공급됩니다.
대략적인 평균 가격으로 실제 견적 및 계약 시, 달라질 수 있습니다.
NVIDIA 프로그램에 가입하면, NVIDIA가 직접 설계 및 제조한 DGX 시리즈 (DGX Rubin NVL8, DGX B300, DGX B200, DGX H200 등) 구매 시, 최대 30% 까지 할인을 받을 수 있습니다.
최근, 글로벌하게 AI 비지니스 확산되고 있고, 국내 또한 기업 및 공공기관의 AI R&D, 프로젝트 및 정부 지원 과제가 폭발적으로 증가함에 따라 GPU 서버 수요가 증가하고 가격 또한 가파르게 상승하고 있습니다.
퀀텀브릭스는 합리적인 가격으로 GPU 서버를 공급, 고객사 / 파트너의 AI 비지니스를 지원합니다.
B200 탑재 GPU 서버 구매 가이드
NVIDIA B200 GPU 단품 가격은 대략 6,000 ~ 7,000만원(부가세 별도) 정도로 예상되나, 단품으로 판매 및 공급되지 않으며, 기본적으로 8장이 탑재됩니다.
구매 옵션 2가지 (x8장 탑재 시)
B200 x 72장 탑재된 제품은 NVIDIA GB200 NVL72입니다.
8장이 탑재된 DGX B200 GPU 서버 구매 또는, HPE, Dell, 슈퍼마이크로 등 서버 벤더에 8장을 탑재하여 GPU 서버를 구매할 수 있습니다.
퀀텀브릭스는 합리적인 가격으로 GPU 서버를 공급합니다.
HGX B200x8장 사양
항목
사양
GPU 탑재 수량
B200 X 8개
GPU 메모리
1.4 TB (개당 180GB)
메모리 대역폭
62 TB/s (개당 7.7 TB/s)
FP4 연산 성능
144 PFLOPS
FP8 연산 성능
72 PFLOPS
FP16 연산 성능
36 PFLOPS
TF32 연산 성능
18 PFLOPS
상호 연결
NVLink 5세대 (1.8 TB/s)
NVLink 대역폭
총 14.4 TB/s
MIG 기술*
7개까지 분할
호스트 보조 연결
PCIe 5.0 (128GB)
전력 소모량
~1,000W (개당)
<참고 사항>
-
FP, TF 등 연산 성능은 희소성(Sparsity)을 적용한 기준이며, 밀집(Dense) 기준에서는 약 50% 수준의 성능을 보입니다.
-
MIG(Multi-Instance GPU): 하나의 물리적인 GPU를 최대 7개의 인스턴스로 분할하여 사용하는 기능입니다.
-
본 사양표는 B200 8장이 탑재된 HGX / SXM 보드(패키지)의 수치이며, NVIDIA 홈페이지 및 데이터 시트를 기준으로 작성했습니다.
-
NVIDIA GPU 서버 및 제품 선택을 위해, 연산 성능 비교표, 추론 성능 비교표, 메모리 용량 및 대역폭 비교표 등을 참고 바랍니다.