DGX B300 특징
DGX B300은 NVIDIA가 직접 설계 및 제조한 AI 전용 GPU 서버입니다.
Blackwell Ultra B300 GPU 8장 탑재, 총 2.1TB GPU 메모리 용량과 초 당 62TB/s에 달하는 GPU 대역폭을 제공, 초 거대 언어 모델 학습 및 추론 서비스를 완벽하게 실행합니다.
총 2TB의 시스템 메모리 및 128코어 듀얼 CPU를 기반으로 초거대 언어 모델 학습 및 추론에서 압도적인 성능을 제공합니다.
최신 5세대 NVLink와 NVSwitch 기술을 통해 GPU 간 대역폭은 초 당 14.4 TB/s까지 최대로 끌어올려 데이터 처리를 가속화 합니다.
FP4 연산 성능은 144PFLOPS까지 지원, 수조 개의 파라미터를 가진 거대 언어 모델(LLM)을 초 단기간 내에 학습을 완료시키고 막강한 추론 속도로 AI 비지니스를 혁신합니다.
DGX B300 가격
DGX B300은 대략 15억 원(부가세 별도) 정도로 공급됩니다.
대략적인 평균 가격으로 실제 견적 및 계약 시, 달라질 수 있습니다.
NVIDIA 프로그램에 가입하면 DGX 시리즈 (DGX Rubin NVL8, DGX B200, DGX H200 등) 제품 구매 시, 최대 30% 까지 할인을 받을 수 있습니다.
최근, 글로벌하게 AI 비지니스 확산되고 있고, 국내 또한 기업 및 공공기관의 AI R&D, 프로젝트 및 정부 지원 과제가 폭발적으로 증가함에 따라 GPU 서버 수요가 증가하고 가격 또한 가파르게 상승하고 있습니다.
퀀텀브릭스는 합리적인 가격으로 GPU 서버를 공급, 고객사 / 파트너의 AI 비지니스를 지원합니다.
B300 탑재 GPU 서버 구매 가이드
NVIDIA B300 GPU 단품 가격은 대략 7,000 ~ 8,000만원(부가세 별도) 정도로 예상됩니다.
단, B300은 단품으로 공급되지 않으며, 기본적으로 8장이 탑재됩니다.
구매 옵션 2가지 (x8장 탑재 시)
B300 GPU이 72장 탑재된 제품은 NVIDIA GB300 NVL72입니다.
NVIDIA가 직접 설계 및 제조한 8장이 탑재된 NVIDIA DGX B300 서버 구매 또는, HPE, Dell, 슈퍼마이크로 등 서버 벤더가 제조한 B300 x 8장 탑재 GPU 서버 구매, 2가지 중 선택할 수 있습니다.
NVIDIA DGX B300 사양
항목
사양
GPU 탑재 수량
B300 X 8장
CPU 코어 수
총 128 코어 / 인텔 6776P
GPU 메모리
총 2.1 TB
FP4 연산 성능
144 PFLOPS
FP8 연산 성능
72 PFLOPS
GPU 대역폭
총 62 TB/s
NVLink 대역폭
총 14.4 TB/s (5세대)
시스템 메모리
2TB (최대 4TB)
스토리지(OS)
2× 1.9TB NVMe M2
스토리지(내부)
8× 3.84TB NVMe M2
네트워킹
ConnectX-8 (~800Gb/s)
전력 소비
~15.1 kW (PSU)
폼 팩터
10U Rackmount
<참고 사항>
-
FP, TF 등 연산 성능은 희소성(Sparsity)을 적용한 기준이며, 밀집(Dense) 기준에서는 약 50% 수준의 성능을 보입니다.
-
전력 소모량 Busbar 기준으로 14.5kW, PSU 기준으로 15.1kW입니다.
-
NVIDIA GPU 서버 및 제품 선택을 위해, 연산 성능 비교표, 추론 성능 비교표, 메모리 용량 및 대역폭 비교표 등을 참고 바랍니다.
-
본 도표는 NVIDIA 홈페이지 및 데이터시트를 기준으로 작성했습니다.