GB200 NVL72 특징
GB200 NVL72는 NVIDIA가 직접 설계 및 제조한 AI 랙 시스템입니다.
Blackwell B200 GPU 72장 탑재 및 Grace CPU 36장 탑재, GPU 메모리는 13.4TB 이며, 대역폭은 초 당 576TB/s의 속도, NVLink 대역폭은 초 당 130TB/s의 막대한 성능을 제공합니다.
CPU 코어 수는 2,592개에 달하며, FP4 연산 성능은 1,440 PFLOPS, FP8 연산 성능은 720 PFLOPS의 성능을 자랑하는 Blackwell 아키텍처 기반의 최고의 AI 플랫폼입니다.
산술적으로 계산하면 B200 x 8장 탑재된 GPU 서버 9대가 하나로 연결된 거대한 AI 시스템입니다.
GB200 NVL72 가격
GB200 NVL72는 대략 50억 원(부가세 별도) 정도로 예상됩니다.
공식적으로 공개된 적이 없으며 언론 기사 및 B200, B300 가격 등을 참고로 추산한 금액입니다.
B200 x 8장 탑재된 NVIDIA가 직접 설계 및 제조한 DGX B200 GPU 서버 1대가 대략 12억 원 정도인데, B200이 72장이 탑재되어 있으니까 총 9대의 GPU 서버의 가격을 합산해보면 가격을 예상해 볼 수 있습니다.
최근, 글로벌하게 AI 비지니스 확산되고 있고, 국내 또한 기업 및 공공기관의 AI R&D, 프로젝트 및 정부 지원 과제가 폭발적으로 증가함에 따라 GPU 서버 수요가 증가하고 가격 또한 가파르게 상승하고 있습니다.
퀀텀브릭스는 합리적인 가격으로 GPU 서버를 공급, 고객사 / 파트너의 AI 비지니스를 지원합니다.
B200 탑재 GPU 서버 구매 가이드
NVIDIA B200 GPU 단품 가격은 대략 6,000 ~ 7,000만원(부가세 별도) 정도로 예상되나, 단품으로 판매 및 공급되지 않으며, 기본적으로 8장이 탑재됩니다.
구매 옵션 2가지 (x8장 탑재 시)
B200 x 72장 탑재된 제품은 NVIDIA GB200 NVL72입니다.
8장이 탑재된 NVIDIA가 직접 설계 및 제조한 DGX B200 GPU 서버 구매 또는, HPE, Dell, 슈퍼마이크로 등 서버에 8장을 탑재하여 GPU 서버 구매, 2가지 중 선택할 수 있습니다.
퀀텀브릭스는 합리적인 가격으로 GPU 서버를 공급합니다.
GB200 NVL72 사양
항목
사양
GPU 탑재 수량
B200 GPU x 72개
CPU 탑재 수량
Grace CPU 36개
FP4 연산 성능
1,440 PFLOPS
FP8 연산 성능
720 PFLOPS
FP16 연산 성능
360 PFLOPS
TF32 연산 성능
180 PFLOPS
GPU 메모리
최대 13.4 TB HBM3e
GPU 대역폭
최대 576 TB/s (개당 8TB/s)
NVLink 대역폭
130 TB/s (5세대 NVLink)
CPU 코어
2,592 코어
<참고 사항>
-
FP, TF 등 연산 성능은 희소성(Sparsity)을 적용한 기준이며, 밀집(Dense) 기준에서는 약 50% 수준의 성능을 보입니다.
-
NVIDIA GPU 서버 및 제품 선택을 위해, 연산 성능 비교표, 추론 성능 비교표, 메모리 용량 및 대역폭 비교표 등을 참고 바랍니다.
-
본 도표는 NVIDIA 홈페이지 및 데이터시트를 기준으로 작성했습니다.