NVIDIA B300 특징
Blackwell Ultra 아키텍처 기반 NVIDIA B300 GPU는 1장 당 288GB의 메모리 및 초 당 7.7TB/s의 대역폭을 제공합니다.
이전 세대 대비 초 거대 모델(LLM)의 학습 시간을 획기적으로 단축하고 실시간 추론 시 병목 현상을 근본적으로 해결했습니다.
B300 x 8장이 하나로 연결된 HGX는 총 2.1TB의 GPU 메모리 용량과 62TB/s GPU 대역폭, NVLink 대역폭은 총 14.4TB/s를 지원합니다.
FP4 연산 성능은 144PFLOPS, FP8 연산 성능은 72PFLOPS 입니다.
퀀텀브릭스는 합리적인 가격으로 GPU 서버를 공급합니다.
#이미지: B300 8장이 탑재된 HGX B300 8 GPU 보드
NVIDIA B300 탑재 GPU 서버 가격
엔비디아 Blackwell Ultra B300 8장 탑재 GPU 서버 및 72장 탑재된 랙 시스템의 가격 정보를 제공합니다.
(단위: 원 / 부가세 별도)
구분
공급 가격
제조사
Tip : 항목을 클릭하면 CPU, 메모리, 스토리지 등 상세 사양 페이지로 이동합니다.
엔비디아 B300 HGX x 8장 탑재한 GPU 서버 1대는 대략 15억 원(부가세 별도) 정도 가격으로 공급됩니다.
본 가격은 대략적인 평균 가격으로 실제 견적 및 계약 시, 달라질 수 있습니다.
NVIDIA 프로그램에 가입 시,
NVIDIA가 직접 설계 및 제조한 DGX 시리즈, DGX Rubin NVL8, DGX B300, DGX B200, DGX H200 등 구매 시, 최대 30% 까지 할인을 받을 수 있습니다.
최근, 메모리 / 반도체 가격 상승 및 전 세계적인 AI 비지니스 확산으로 인하여 GPU 서버 가격 또한 상승하는 추세에 있습니다.
퀀텀브릭스는 합리적인 가격으로 GPU 서버를 공급, 고객사 / 파트너의 AI 비지니스를 지원합니다.
최단 24시간, 최대 48시간 내 견적서를 보내드립니다.
NVIDIA B300 탑재 GPU 서버 구매 가이드
엔비디아 B300 GPU 단품 가격은 대략 7,000 ~ 8,000만원(부가세 별도) 정도로 예상되지만, 단품으로 공급되지 않으며, 기본적으로 8장이 탑재됩니다.
구매 옵션 2가지 (x8장 탑재 시)
B300 x 72장 탑재된 제품은 NVIDIA GB300 NVL72입니다.
8장이 탑재된 NVIDIA DGX B300 구매 또는, HPE, Dell 등 서버 벤더가 제조한 B300 x 8장 탑재 GPU 서버 구매, 2가지 중 선택할 수 있습니다.
퀀텀브릭스는 합리적인 가격으로 GPU 서버를 공급합니다.
#이미지: NVIDIA B300을 탑재할 수 있는 Dell 의 XE 시리즈 서버가 랙에 마운트 된 모습
#이미지: NVIDIA B300을 탑재할 수 있는 HPE 의 XD 시리즈 서버 전면 모습
NVIDIA GPU 1장에 얼마나 큰 LLM 모델을 올릴 수 있나요?
엔비디아 GPU 1장에 올릴 수 있는 LLM 모델의 크기는 메모리 용량을 기준으로 계산됩니다.
메모리 용량 / 대역폭 비교표
파인튜닝 가능 LLM 크기
추론 성능(TPS) 비교표
학습 가능 LLM 크기
연산 성능(FLOPS) 비교표
추론 가능 LLM 크기
NVIDIA 직접 설계 및 제조, DGX 시리즈 가격 및 구매 가이드
엔비디아 가 직접 설계 및 제조한 DGX 시리즈는 AI 전용 완제품 GPU 서버입니다.
NVIDIA DGX Rubin NVL8
탑재수량별 GPU 서버 사양 및 가격표
퀀텀브릭스는 합리적인 가격으로 GPU 서버를 공급하여 고객사 및 파트너의 AI 비지니스를 지원합니다.
파트 #A. NVIDIA 직접 제조 제품
* Tip: 항목을 클릭하면 사양 및 가격으로 이동합니다.
NVIDIA DGX B200, B300 시리즈 등은 엔비디아가 직접 설계 및 제조한 AI 전용 완제품 GPU 서버입니다.
엔비디아 스타트업 프로그램에 가입하면, DGX 시리즈 구매 시, 최대 30%까지 할인을 받을 수 있습니다.
자세한 사항은 각 제품 상세 페이지, 최대 48시간 내 견적서 제공 및 실시간 문의하기를 참고 바랍니다.
파트 #B. HPE, Dell 등 벤더 제조 제품
* Tip: 항목을 클릭하면 사양 및 가격으로 이동합니다.
* RTX 6K : RTX Pro 6000 Blackwell Server Edition
NVIDIA GPU 서버 2가지 타입 비교
엔비디아 GPU 서버는 제조사 기준으로 크게 2가지 타입으로 분류됩니다.
하나는 NVIDIA가 직접 제조하는 완제품 GPU 서버이고, 또 하나는 HPE, Dell 등 벤더가 제조하는 제품입니다.
두 가지 타입의 GPU 서버는 가격, 성능, 확장성, 기술지원 등 여러가지 부분에서 상당한 차이를 보입니다.
이제, NVIDIA는 GPU 포함, 운영체제(OS), CPU 등 부품을 직접 제조 및 생산하여 AI 풀 스택기업으로 도약하고 있습니다.
퀀텀브릭스는 GPU 서버를 합리적인 가격으로 공급합니다.
자주 묻는 질문(FAQs)
NVIDIA B300 HGX 성능 및 사양
항목
사양
GPU 탑재 수량
B300 X 8개
GPU 메모리
총 2.1 TB (개당 270 GB)
메모리 대역폭
62 TB/s (개당 7.7 TB/s)
FP4 연산 성능
144 PFLOPS
FP8 연산 성능
72 PFLOPS
FP16 연산 성능
36 PFLOPS
TF32 연산 성능
18 PFLOPS
GPU간 대역폭
1.8 TB/s
NVLink 대역폭
총 14.4 TB/s
IMIG 기술*
7개까지 분할
상호 연결
NVLink 5세대
호스트 보조 연결
PCIe 6.0 (256GB/s)
전력 소모량
~1,100W (개당)
네트워킹
ConnectX-8
<참고 사항>
-
FP, TF 등 연산 성능은 희소성(Sparsity)을 적용한 기준이며, 밀집(Dense) 기준에서는 약 50% 수준의 성능을 보입니다.
-
MIG(Multi-Instance GPU): 하나의 물리적인 GPU를 최대 7개의 인스턴스로 분할하여 사용하는 기능입니다.
-
본 도표는 B300 GPU 8장이 탑재된 HGX / SXM 보드(패키지)의 수치이며, NVIDIA 홈페이지 및 데이터시트를 기준으로 작성했습니다.
-
NVIDIA GPU 서버 및 제품 선택을 위해, 연산 성능 비교표, 추론 성능 비교표, 메모리 용량 및 대역폭 비교표 등을 참고 바랍니다.