거대 언어 모델(LLM) 학습 및 추론 가속화, NVIDIA B300
B300 Blackwell Ultra는,
2025년 3월 18일, 산호세에서 열린 GTC 2025 키노트에서 젠슨 황 CEO가 최초 공개했습니다.
Blackwell Ultra 아키텍처 기반 NVIDIA B300 GPU는 1장 당 288GB(HBM3e)의 메모리 용량 및 8.0TB/s의 메모리 대역폭을 제공합니다.
최신 5세대 NVLink 기반으로 GPU 간 대역폭은 총 1.8TB/s를 지원합니다.
이전 세대에서 지원하지 않았던 차세대 FP4 연산 성능은 18 PFLOPS, FP8 연산 성능은 9 PFLOPS 입니다.
GPU 1장 당 전력 소모량은 1,400W 입니다.
퀀텀브릭스는 합리적인 가격으로 GPU 서버를 공급합니다.
#이미지: 엔비디아 B300 8장이 탑재된 HGX B300 x 8 GPU 보드
B300 탑재 GPU 서버 가격
엔비디아 Blackwell Ultra B300 8장 탑재 GPU 서버 및 72장 탑재된 랙 시스템의 가격 정보를 제공합니다.
(단위: 원 / 부가세 별도)
참고사항 : 본 가격은 대략적인 평균 가격으로, 실제 견적 및 계약 시, 더 낮을 수도, 더 높을 수도 있습니다. 항목 클릭 시, 사양 및 가격 섹션으로 이동합니다.
Q1. B300은 언제 출시됐나요?
2025년 3월 18일, 산호세에서 열린 GTC 2025 키노트에서 NVIDIA 젠슨 황 CEO가 B300 Blackwell Ultra를 최초 공개했으며, 하반기부터 본격적으로 공급을 시작했습니다.
GTC March 2025 | NVIDIA CEO 젠슨 황 키노트 동영상 보기
2025년 3월 18일, 산호세에서 열린 GTC 2025 키노트에서 젠슨 황 CEO, B300 Blackwell Ultra 최초 공개 / 이미지 출처: 엔비디아 블로그
Q2. B300 가격은 얼마인가요?
B300이 탑재된 GPU 서버 가격은,
GPU 탑재 수량, CPU, 메모리, 스토리지 등 각 부품의 사양에 따라, 제조사에 따라 수 천 만원에서 수 억원, B300 x 72장이 탑재된 랙 시스템, GB300 NVL72의 경우, 수십 억원 또는 수 백 억원 까지 차이가 발생합니다.
상기 가격표의 B300 x 8장 탑재 GPU 서버의 공급 가격은 대략적인 평균 가격으로, 실제 견적 및 계약, 납품 시, 더 높을 수도, 더 낮을 수도 있습니다.
B300 x 72장 탑재 GB300 NVL72는 랙 1대의 대략적인 단가입니다.
Q3. B300, 단품으로 구매할 수 있나요?
아니오!
B300은, H200 141GB, H100 94GB, A100 80G 등 이전 버전과 달리, 단품으로 판매 및 공급되지 않습니다.
기본적으로 8장이 탑재되며, NVIDIA 직접 제조 DGX B300 구매 또는 HPE, Dell 등 벤더가 제조한 HGX B300 x 8장 GPU 서버를 구매할 수 있습니다.
Q4. DGX B300 가격은 얼마인가요?
상기 가격표 또는 하기 링크, DGX B300 사양 및 가격을 참고 바랍니다.
DGX B300은 NVIDIA가 직접 설계 및 제조한 B300 x 8장이 탑재된 완제품 GPU 서버입니다.
운영체제, CPU, 메모리, 스토리지 등 모든 부품과 소프트웨어를 테스트하여 최적화했으며, 모든 환경이 세팅된 상태로 공급됩니다.
따라서, 설치 및 도입 즉시, AI R&D 및 프로젝트에 투입됩니다.
더불어, NVIDIA 스타트업 프로그램에 가입하면,
DGX Rubin NVL8, DGX B300, DGX B200, DGX H200 등 DGX 시리즈 구매 시, 최대 30% 까지 할인을 받을 수 있습니다.
Q5. DGX B300 가격과 벤더 제조 HGX B300 x 8 GPU 서버, 가격 차이가 있나요?
네!
두 가지 타입은 서로 가격 차이가 있고, 같은 타입도 제조사, 사양 등에 따라 가격 차이가 있습니다.
여러가지 요인에 따라, DGX B300 가격이 더 높을 수도, HGX B300 x 8GPU 서버 가격이 더 높을 수도 또는 낮을 수도 있습니다.
참고로, DGX B300은 사양 및 스펙이 고정되어 있어서 가격 편차가 크지 않지만, HGX B300 x 8GPU 서버는 운영체제도 선택할 수 있고, CPU 코어 수, 시스템 메모리 용량 등을 선택할 수 있으므로, 가격 편차가 큽니다.
Q6. GB300 NVL72로 AI 인프라를 구축하려면, 비용이 얼마나 소요되나요?
DGX GB300 NVL72는 B300 x 72장 탑재된 AI 랙 시스템인데요, 이 랙은 AI 학습, 연산 및 추론을 위한 메인 GPU 랙입니다.
GB300 NVL72 기반으로 AI 인프라(AI 팩토리) 구축 시,
메인 GPU 연산 랙 외에,
AI 프로젝트 및 서비스, 워크 로드의 유형과 성격에 따라 네트워크, 스위치, 스토리지, 관리 서버 등 필수 또는 부대 장비들이 필요하므로 구축 비용은 수 십억원 또는 수 백억원까지 달라집니다.
더 자세한 문의는 실시간 문의하기를 참고 바랍니다.
Q7. GB300 NVL72 랙 1대를 구성하는 장비 / 요소는 무엇이고, 가격은 얼마인가요?
GB300 NVL72 랙 1대는, 총 4개의 용도가 다른 장비 / 트레이가 탑재되며 각 수량과 역할은 다음과 같습니다.
1. Top of the Rack Switches (스위치) x 2개 : 랙 시스템 전체를 관리 및 모니터링하기 위한 네트워크 스위치.
2. Power Shelves (전원 공급 장치) x 8개 : 상단에 4개, 하단에 4개 탑재.
3. Compute Trays (컴퓨트 트레이) x 18 개 :
B300 GPU x 72장 및 Grace CPU x 36장이, 18개 컴퓨트 트레이에 탑재됩니다. 각 트레이 1개 당 GB300 슈퍼칩 2장 탑재, 슈퍼칩 1장 당 B300 GPU 2장 및 Grace CPU 1장이 탑재됩니다.
4. NVLink Switch Fifth-Generation (5세대 NVLink 스위치) x 9개 : GPU 컴퓨트 트레이 10개와 8개 사이에 위치하며, GPU 72장을 하나로 묶어주는 스위치로, 마치 단 1장 처럼 사용할 수 있습니다.
GB300 NVL72 랙 1대의 대략적인 가격은 아래를 참고 바랍니다.
B300 x 72장, Grace CPU 36장이 탑재된 AI GPU 랙 시스템, NVIDIA GB300 NVL72를 구성하는 GPU 트레이 및 기타 장비들 / 이미지 출처: 엔비디아 홈페이지
Q8. 견적 요청은 어떻게 하나요?
퀀텀브릭스 탑재수량별 GPU 서버 가격표를 참고하면, 빠르게 가격에 대한 '감'을 잡을 수 있습니다.
또는, 실시간 문의하기에 메세지를 남겨주시면, 빠르게 답을 드립니다.
퀀텀브릭스는 합리적인 가격으로 GPU 서버를 공급합니다.
최단 24시간, 최대 48시간 내 견적서를 보내드립니다.
B300 탑재 GPU 서버 구매 가이드 및 Tip
가이드 #01. B300 x 2장 또는 4장만 탑재해서 구매할 수 있습니까?
아니오!
B300 GPU 단품 가격은 대략 7,000 ~ 8,000만원(부가세 별도) 정도로 예상됩니다.
다만, B300은 단품으로 공급되지 않으며, 기본적으로 8장이 탑재됩니다.
B300 이전 버전인 H200, A100, H100, L40S, RTX 6000 등은 단품으로 공급이 가능합니다.
단품 구매 가능한 GPU는 NVL(PCIe) 타입이고, 불가능한 타입은 HGX(SXM) GPU 타입입니다.
가장 중요한 구매 팁 중에 하나입니다.
가이드 #02. B300 탑재 GPU 서버, 공냉인가요? 수냉인가요?
DGX B300은 공냉입니다.
벤더 제조 HGX B300 x 8 GPU 서버도 공냉이 기본이며, 수냉 지원 여부는, 각 제조사별로 수냉 지원 서버 제품을 공급하는지 확인이 필요합니다.
B300 GPU 1장 당 전력 소모량은 1,400W 이며, 8장이 탑재된 DGX B300의 최대 전력 소모량은 14.3kW 입니다.
GPU 서버의 최대 전력 소모량은 서버룸 구축 및 외부 IDC 입주(코로케이션) 등 인프라 설계 및 운영 시 가장 중요한 요소 중에 하나입니다.
하기 전력 소모량 비교표를 참고 바랍니다.
가이드 #03. B300 x 8장 탑재 GPU 서버, 어떻게 구매 / 도입해야 하나요?
2가지 옵션 중, 하나를 선택할 수 있습니다.
첫번째 옵션,
엔비디아가 직접 제조한 DGX B300을 구매 및 도입하는 것입니다.
사양이 고정되어 있어, 가격 편차가 크지 않으며, 초기 세팅이 완료된 상태로 공급 받습니다.
두번째 옵션,
HPE, Dell 등 벤더가 제조한 HGX B300 x 8GPU 서버를 구매하는 것으로, 운영체제, CPU, 메모리 등 사양을 선택할 수 있습니다.
B300 및 H200 성능 비교표 : B300 성능, H200 대비 얼마나 더 좋아졌나요?
H200과 B300의 GPU 1장 당 메모리 용량, 대역폭, 연산 성능 등 항목별로 비교하여 성능이 얼마나 더 향상됐는지 지금 바로 확인할 수 있습니다.
구분
H200
B300
최초 공개
2023년 11월
2026년 1월
메모리 용량
141GB
288GB
메모리 타입
HBM3e
HBM3e
메모리 대역폭
4.8TB/s
8.0TB/s
NVLink 대역폭
0.9TB/s
1.8TB/s
FP8 연산 성능
3.3 PFLOPS
9 PFOLPS
FP4 연산 성능
미 지원
18 PFOLPS
추론 성능(30B/FP8)
160TPS
260TPS
전력소모랑
600W
1,400W
냉각 방식
공냉
공냉
* 연산 성능 수치는 Dense(밀집) 기준입니다.
메모리(VRAM) 용량: H200의 메모리 용량은 141GB로 HBM3e 타입의 메모리 탑재, B300은 메모리 타입은 HBM3e로 동일하지만, 메모리 용량은 288GB로 대략 2배 정도 더 늘어났습니다.
메모리 대역폭: H200은 4.8TB/s, B300은 8.0TB/s로 대략 2배 정도 빨라졌습니다.
연산 성능: H200은 FP8 포맷까지 지원하지만, B300은 FP4 연산을 지원합니다.
추론 성능: 모델 30B 및 FP8 기준으로 H200은 대략 160tps, B300은 260tps 입니다.
NVLink 대역폭: H200은 4세대 NVLink를 통해 900GB/s, B300은 5세대 NVLink 기반으로 2배 넓어진 1.8TB/s의 대역폭을 제공합니다.
전력 소모량: H200 1장 당 600W, B300은 1,400W로 증가했지만, 메모리 용량, 대역폭 등이 대략 2배 정도 증가하여 전력 효율성은 더 좋습니다.
B300 x 8장 탑재, NVIDIA DGX B300
DGX B300은,
NVIDIA가 직접 설계 및 제조한 AI 전용 GPU 서버입니다.
Blackwell Ultra B300 GPU 8장 탑재, 총 2TB의 시스템 메모리 및 128코어 듀얼 CPU 탑재, 총 2.1TB GPU 메모리 용량과 62TB/s의 GPU 메모리 대역폭을 제공합니다.
최신 5세대 NVLink와 NVSwitch 기술을 통해 GPU 간 대역폭은 초 당 14.4 TB/s까지 지원합니다.
FP4 연산 성능은 144PFLOPS, FP8은 72PFLOPS 입니다.
퀀텀브릭스는 합리적인 가격으로 GPU 서버를 공급합니다.
#이미지: B300 8장이 탑재된 NVIDIA 직접 제조 DGX B300 GPU 서버
DGX B200(B200 x 8장 탑재) 및 DGX Rubin NVL8(루빈 x 8장 탑재)의 사양 및 가격도 알아볼까요?
B200 x 8장 탑재 DGX B200, Rubin x 8장 탑재 DGX Rubin NVL8의 사양 및 가격, 지금 바로 확인할 수 있습니다.
B300 x 72장 탑재, NVIDIA DGX GB300 NVL72
DGX GB300 NVL72는,
NVIDIA가 직접 설계 및 제조한 AI 랙 시스템입니다.
Blackwell Ultra B300 GPU 72장 및 Grace CPU 36장 탑재, GPU 메모리 최대 20TB, 대역폭은 초 당 576TB/s, NVLink 대역폭은 초 당 130TB/s 입니다.
CPU 코어 수는 2,592개, FP4 연산 성능은 1,440 PFLOPS, FP8 연산 성능은 720 PFLOPS 입니다.
산술적으로 계산하면 B300 x 8장 탑재된 GPU 서버 9대가 하나로 연결된 거대한 AI 시스템입니다.
퀀텀브릭스는 합리적인 가격으로 GPU 서버를 공급합니다.
#이미지: NVIDIA B300 72장이 탑재된 DGX GB300 NVL72 AI 랙 시스템
자주 묻는 질문(FAQs)
B300 탑재 GPU 서버, 질문이 더 있으세요?
B300 탑재 GPU 서버 포함, 질문이나 메세지를 남겨주시면, 빠르게 답변 드립니다.
대략적인 금액 추산은 탑재수량별 GPU 서버 가격 페이지를 참고 바랍니다.
퀀텀브릭스는 고객사 및 파트너의 AI 비지니스를 지원합니다.