GB300 NVL72 특징
NVIDIA GB300 NVL72는 NVIDIA가 직접 설계 및 제조한 랙 시스템입니다.
Blackwell Ultra B300 GPU 72장 탑재 및 Grace CPU 36장 탑재, GPU 메모리는 최대 20TB 이며, 대역폭은 초 당 576TB/s의 속도, NVLink 대역폭은 초 당 130TB/s의 막대한 성능을 제공합니다.
CPU 코어 수는 2,592개에 달하며, FP4 연산 성능은 1,440 PFLOPS, FP8 연산 성능은 720 PFLOPS의 성능을 자랑하는 지구상에 현존하는 Blackwell Ultra 아키텍터 기반의 최고의 AI 플랫폼입니다.
Blackwell Ultra B300 GPU 2장 및 Grace CPU 1장이 탑재된 B300 슈퍼칩이 36장 탑재되어 있습니다.
산술적으로 계산하면 B300 x 8장 탑재된 GPU 서버 9대가 하나로 연결된 거대한 AI 시스템입니다.
GB300 NVL72 가격
GB300 NVL72는 대략 70억 원(부가세별도) 정도로 예상됩니다.
공식적으로 공급 가격이 공개된 적이 없으며 언론 기사 및 B200, B300 가격을 참고로 추산한 금액입니다.
B300 x 8장 탑재된 DGX B300 GPU 서버 1대가 대략 15억 원 정도이고 GB300 NVL72에는 72장이 탑재되어 있으니까 총 9대의 GPU 서버의 가격을 합산해보면 공급 가격을 예상해 볼 수 있습니다.
최근, 글로벌하게 AI 비지니스 확산되고 있고, 국내 또한 기업 및 공공기관의 AI R&D, 구축 프로젝트 및 정부 지원 과제가 폭발적으로 증가함에 따라 GPU 서버 수요가 증가하고 있고 가격 또한 가파르게 상승하고 있습니다.
퀀텀브릭스는 합리적인 가격으로 GPU 서버를 공급, 고객사 / 파트너의 AI 비지니스를 지원합니다.
B300 탑재 GPU 서버 구매 가이드
NVIDIA B300 GPU 단품 가격은 대략 7,000 ~ 8,000만원(부가세 별도) 정도로 예상되지만, B300은 단품으로 판매 및 공급되지 않으며, 기본적으로 8장이 탑재됩니다.
구매 옵션 2가지 (x8장 탑재 시)
B300 x 72장 탑재된 제품은 NVIDIA GB300 NVL72입니다.
NVIDIA가 직접 설계 및 제조한 8장이 탑재된 NVIDIA DGX B300 서버 구매 또는, HPE, Dell, 슈퍼마이크로 등 서버 벤더가 제조한 B300 x 8장 탑재 GPU 서버 구매, 2가지 중 선택할 수 있습니다.
GB300 NVL72 사양
항목
사양
GPU 탑재 수량
B300 (288GB) GPU 72개
CPU 탑재 수량
Grace CPU 36개
NVLink 대역폭
130 TB/s
GPU 메모리
최대 20TB
GPU 대역폭
최대 576 TB/s (개당 8TB/s)
CPU 코어
2,592 코어
FP4 연산 성능
1,440 PFLOPS
FP8 연산 성능
720 PFLOPS
FP16 연산 성능
360 PFLOPS
TF32 연산 성능
180 PFLOPS
<참고 사항>
-
FP, TF 등 연산 성능은 희소성(Sparsity) 기준이며, 밀집(Dense) 기준에서는 약 50% 수준의 성능을 보입니다.
-
NVIDIA GPU 서버 및 제품 선택을 위해, 연산 성능 비교표, 추론 성능 비교표, 메모리 용량 및 대역폭 비교표 등을 참고 바랍니다.
-
본 도표는 NVIDIA 홈페이지 및 데이터시트를 기준으로 작성했습니다.