B300 GPU 특징
B300 1장 당 288GB의 메모리 용량 및 개당 7.7 TB/s의 대역폭을 제공, 초 거대 모델(LLM)의 학습 시간을 획기적으로 단축하고 실시간 추론 시 병목 현상을 근본적으로 해결했습니다.
B300 x 8장이 하나로 연결된 HGX 는 총 2.1TB의 GPU 메모리 용량, 대역폭은 62TB/s까지 끌어올렸고, NVLink 대역폭은 총 14.4TB/s라는 빛의 속도를 제공합니다.
FP4 연산 성능은 144PFLOPS, FP8 연산 성능은 72PFLOPS, FP16 연산 성능은 36PFLOPS를 제공, AI 비지니스의 혁신의 이끄는 최첨단 AI 인프라의 핵심입니다.
B300x8장 탑재 GPU 서버 가격
HPE, Dell, 슈퍼마이크로 등 서버에 B300 x 8장 탑재한 GPU 서버 1대는 대략 15억 원(부가세 별도) 정도 가격으로 공급됩니다.
본 가격은 대략적인 평균 가격으로 실제 견적 및 계약 시, 달라질 수 있습니다.
NVIDIA 프로그램에 가입하면, NVIDIA가 직접 설계 및 제조한 DGX 시리즈 (DGX Rubin NVL8, DGX B300, DGX B200, DGX H200 등) 구매 시, 최대 30% 까지 할인을 받을 수 있습니다.
최근, 글로벌하게 AI 비지니스 확산되고 있고, 국내 또한 기업 및 공공기관의 AI R&D, 프로젝트 및 정부 지원 과제가 폭발적으로 증가함에 따라 GPU 서버 수요가 증가하고 가격 또한 가파르게 상승하고 있습니다.
퀀텀브릭스는 합리적인 가격으로 GPU 서버를 공급, 고객사 / 파트너의 AI 비지니스를 지원합니다.
B300 탑재 GPU 서버 구매 가이드
NVIDIA B300 GPU 단품 가격은 대략 7,000 ~ 8,000만원(부가세 별도) 정도로 예상됩니다.
단, B300은 단품으로 공급되지 않으며, 기본적으로 8장이 탑재됩니다.
구매 옵션 2가지 (x8장 탑재 시)
B300 x 72장 탑재된 제품은 NVIDIA GB300 NVL72입니다.
8장이 탑재된 NVIDIA DGX B300 서버 구매 또는, HPE, Dell, 슈퍼마이크로 등 서버 벤더가 제조한 B300 x 8장 탑재 GPU 서버 구매, 2가지 중 선택할 수 있습니다.
HGX B300x8장 사양
항목
사양
GPU 탑재 수량
B300 X 8개
GPU 메모리
총 2.1 TB (개당 270 GB)
메모리 대역폭
62 TB/s (개당 7.7 TB/s)
FP4 연산 성능
144 PFLOPS
FP8 연산 성능
72 PFLOPS
FP16 연산 성능
36 PFLOPS
TF32 연산 성능
18 PFLOPS
GPU간 대역폭
1.8 TB/s
NVLink 대역폭
총 14.4 TB/s
IMIG 기술*
7개까지 분할
상호 연결
NVLink 5세대
호스트 보조 연결
PCIe 6.0 (256GB/s)
전력 소모량
~1,100W (개당)
네트워킹
ConnectX-8
<참고 사항>
-
FP, TF 등 연산 성능은 희소성(Sparsity)을 적용한 기준이며, 밀집(Dense) 기준에서는 약 50% 수준의 성능을 보입니다.
-
MIG(Multi-Instance GPU): 하나의 물리적인 GPU를 최대 7개의 인스턴스로 분할하여 사용하는 기능입니다.
-
본 도표는 B300 GPU 8장이 탑재된 HGX / SXM 보드(패키지)의 수치이며, NVIDIA 홈페이지 및 데이터시트를 기준으로 작성했습니다.
-
NVIDIA GPU 서버 및 제품 선택을 위해, 연산 성능 비교표, 추론 성능 비교표, 메모리 용량 및 대역폭 비교표 등을 참고 바랍니다.