초거대 AI 시대를 위한 새로운 표준, NVIDIA B200
NVIDIA B200은,
2024년 3월 18일 산호세에서 열린 GTC 2024 키노트에서 젠슨 황 CEO가 B200 블랙웰(Blackwell) 아키텍처를 최초 공개했습니다.
Blackwell 아키텍처 기반 NVIDIA B200 GPU는 1장 당 180GB의 고용량 메모리를 탑재하여, 초 거대 모델의 학습 및 추론 서비스를 극대화했습니다.
고대역폭 HBM3e 메모리를 탑재, 1장 당 GPU 대역폭은 8.0TB/s, 최신 5세대 NVLink 기반으로 GPU 간 대역폭은 1.8TB/s 까지 끌어 올렸습니다.
이전 세대에서 지원하지 않았던 차세대 FP4 연산 성능은 18 PFLOPS, FP8 은 9PFLOPS, FP16 은 4.5 PFLOPS까지 지원합니다.
B200 1장 당 전력 소모량은 1,200W 입니다.
퀀텀브릭스는 합리적인 가격으로 GPU 서버를 공급합니다.
#이미지: NVIDIA B200 8장이 탑재된 HGX B200 8 GPU 보드
B200 탑재 GPU 서버 가격
엔비디아 Blackwell B200 8장 탑재 GPU 서버 및 72장 탑재된 랙 시스템의 가격 정보를 제공합니다.
(단위: 원 / 부가세 별도)
참고사항 : 본 가격은 대략적인 평균 가격으로, 실제 견적 및 계약 시, 더 낮을 수도, 더 높을 수도 있습니다. 항목 클릭 시, 사양 및 가격 섹션으로 이동합니다.
Q1. B200은 언제 출시 및 발표됐나요?
2024년 3월 18일, 산호세에서 열린 GTC 2024 키노트에서 NVIDIA 젠슨 황 CEO가 B200 블랙웰(Blackwell) 아키텍처를 최초 공개했고, 하반기부터 본격적으로 공급을 시작했습니다.
GTC March 2024 | NVIDIA CEO 젠슨 황 키노트 동영상 보기
2024 년 3월 18일, 산호세에서 열린 GTC 2024 키노트에서 젠슨 황 CEO, 블랙웰(Blackwell) 아키텍처 최초 공개 / 이미지 출처: 엔비디아 블로그
Q2. B200 가격은 얼마인가요?
B200 탑재 GPU 서버 가격은 제조사에 따라, 각 부품 사양에 따라, 수 천만원에서 수억원, GB200 NVL72의 경우, 수 십억원 또는 수 백억원까지 차이가 있습니다.
상기 가격표에서 B200 x 8장 탑재 GPU 서버(DGX & HGX) 가격은 대략적인 평균 가격으로, 실제 견적 및 계약 시, 더 높을 수도, 더 낮을 수도 있습니다.
Q3. B200은 단품으로 구매할 수 있나요?
아니오!
B200은, H200 141GB, H100 94GB, A100 80G 등 이전 버전과 달리, 단품으로 판매 및 공급되지 않습니다.
기본적으로 8장이 탑재되며, NVIDIA 직접 제조 DGX B200 구매 또는 HPE, Dell 등 벤더가 제조한 HGX B200 x 8장 GPU 서버를 구매할 수 있습니다.
Q4. DGX B200 가격은 얼마인가요?
상기 가격표 또는 DGX B200 사양 및 가격을 참고 바랍니다.
DGX B200은, B200 x 8장이 탑재된 엔비디아가 직접 설계 및 제조한 완제품 GPU 서버입니다.
하드웨어 부품 및 소프트웨어까지 검증 및 테스트를 거쳐 최적화 되어 있으며, 운영체제 등 세팅이 완료된 상태로 공급됩니다. 따라서, 즉시, AI 프로젝트 및 서비스에 투입할 수 있습니다.
NVIDIA 스타트업 프로그램에 가입하면,
DGX Rubin NVL8, DGX B300, DGX B200, DGX H200 등 DGX 시리즈 구매 시, 최대 30% 까지 할인을 받을 수 있습니다.
Q5. DGX B200 과 HGX B200 x 8GPU 서버, 가격 차이가 있나요?
2가지 타입 서로 가격 차이가 있고, 동일한 타입에서도 제조사 및 사양에 따라 가격 차이가 있습니다.
여러가지 요인에 따라, DGX B200 가격이 더 높을 수도, 벤더가 제조한 HGX B200 x 8 GPU 서버 가격이 더 높을 수도 또는 낮을 수도 있습니다.
DGX B200은 각 부품의 사양 및 스펙을 변경하는 것이 제한되지만, HGX B200 x 8GPU 서버는 원하는대로 각 부품의 사양 및 제조사를 선택할 수 있으므로 가격 편차가 클 수 있습니다.
Q6. GB200 NVL72 기반으로 AI 인프라 구축은 어떻게 하고 비용은 얼마나 소요되나요?
DGX GB200 NVL72는 B200 x 72장 및 Grace CPU 36장이 탑재된 랙 1대 인데요,
GPU 연산 및 추론을 위한 메인 랙 외에, AI 인프라의 규모, 성격, 워크로드의 유형 등에 따라, 네트웍 장비, 스위치, 스토리지 등 다양한 장비가 필수 또는 선택적으로 필요합니다.
따라서, GPU 연산 랙 대수에 따라, 부대 장비들의 가격에 따라 수 십억원 또는 수 백원까지 달라집니다.
좀 더 상세한 내용은 실시간 문의하기를 참고 바랍니다.
Q7. GB200 NVL72 랙 1대는 어떤 장비와 요소들도 구성되어 있고 가격은 얼마입니까?
B200 GPU x 72장 및 Grace CPU x 36장이 탑재된 GB200 NVL72는 하기와 같은 장비와 요소들로 구성됩니다.
1. 네트워크 스위치(Top of the Rack Switches) x 2개 : 랙 시스템 전체를 관리 및 모니터링하는 네트워크 스위치.
2. 전력공급장치(Power Shelves) x 8개 : 상단에 4개, 하단에 4개가 각각 탑재됩니다.
3. GPU 연산 컴퓨트 트레이(Compute Tray) x 18개 : 상단에 트레이 10개, 하단에 8개가 탑재되며 랙 1대에 총 B200 GPU x 72장 및 Grace CPU x 36장이 탑재됩니다.
각 컴퓨트 트레이 1대 당 GB200 슈퍼칩 2장이 탑재되고, 슈퍼칩 1장 당 B200 GPU 2장 및 Grace CPU 1장이 탑재됩니다.
4. 5세대 NVLink 스위치(NVLink Switch Fifth-Generation) x 9개 : GPU 72장(GB200)을 하나로 묶어주는 스위치로, GPU 72개를 마치 GPU 1장처럼 사용하게 됩니다.
DGX GB200 NVL72 랙 1대 가격은 하기를 참고 바랍니다.
B200 x 72장, Grace CPU 36장이 탑재된 AI GPU 랙 시스템, NVIDIA GB200 NVL72를 구성하는 GPU 트레이 및 기타 장비들(각 트레이 및 장비 숫자는 1개 랙 기준) / 이미지 출처: 엔비디아 홈페이지
Q8. 견적 요청은 어떻게 하나요?
최근, 글로벌한 AI 비지니스 확산 및 반도체 / 메모리 가격 상승으로, GPU 서버 가격 또한 상승하는 추세에 있습니다.
퀀텀브릭스는 합리적인 가격으로 GPU 서버를 공급, 고객사 / 파트너의 AI 비지니스를 지원합니다.
대략적인 가격은 탑재수량별 GPU 서버 가격표 또는,
실시간 문의하기를 참고 바랍니다.
최단 24시간, 최대 48시간 내 견적서를 보내드립니다.
B200 탑재 GPU 서버 구매 가이드 및 Tip
가이드 #01. B200 GPU를 2장 또는 4장만 탑재해서 구매할 수 있습니까?
아니오!
B200 GPU 단품 가격은 대략 6,000 ~ 7,000만원(부가세 별도) 정도로 예상됩니다.
다만, B200은 단품으로 판매 및 공급되지 않으며, 기본적으로 8장이 탑재됩니다.
H200, A100, H100, L40S, RTX 6000 등은 단품으로 판매 및 공급이 가능하며, 최초 구매 시, 원하는 수량을 탑재할 수 있습니다.
단품으로 구매 가능한 GPU 타입은 NVL(PCIe), 불가능한 타입은 HGX(SXM) GPU 입니다.
가이드 #02. B200 탑재 GPU 서버, 공냉인가요? 수냉인가요?
DGX B200은 공냉입니다.
벤더가 제조한 HGX B200 x 8 GPU 서버도 기본적으로 공냉이며, 각 제조사별로 수냉이 가능한 서버를 제조 및 공급하는지 확인이 필요합니다.
B200 1장 당 전력 소모량은 1,200W입니다.
B200 x 8장이 탑재된 DGX B200의 최대 전력 소모량은 14.3kW 입니다.
젼력 소모량 및 냉각 방식 등에 대한 더 자세한 내용은 하기 페이지를 참고 바랍니다.
가이드 #03. DGX B200, HGX x 8 GPU 서버, 어떤 것을 선택해야 하나요?
DGX B200은 엔비디아가 각 부품 및 소프트웨어를 직접 테스트 및 검증하여 최적화된 상태로 공급되므로, 즉시, 프로젝트를 시작할 수 있습니다.
다만, 사양 변경은 제한됩니다.
HGX B200 x 8 GPU 서버는, 운영체제도 선택할 수 있고, CPU도 AMD, Intel 등 선택할 수 있고, 코어 수도 맞출 수 있으며, 메모리 및 스토리지 용량도 원하는 대로 결정할 수 있습니다.
HPE, Dell 등 제조사와 탑재할 서버도 선택할 수 있습니다.
B200 및 H200 성능 비교표 : B200 성능, H200 대비 얼마나 더 향상됐나요?
H200과 B200 GPU 1장 당 기준으로, 메모리 용량, 대역폭, 연산 성능, 추론 성능 등 등 항목별로 비교하여 성능이 얼마나 더 향상됐는지 지금 바로 확인할 수 있습니다.
구분
H200
B200
최초 공개
2023년 11월
2024년 3월
메모리 용량
141GB
180GB
메모리 타입
HBM3e
HBM3e
메모리 대역폭
4.8TB/s
8.0TB/s
NVLink 대역 폭
0.9TB/s
1.8TB/s
FP8 연산 성능
3.3 PFLOPS
9 PFOLPS
FP4 연산 성능
미 지원
18 PFOLPS
추론 성능(30B/FP8)
160TPS
260TPS
전력소모랑
600W
1,200W
냉각 방식
공냉
공냉
* 연산 성능 수치는 Dense(밀집) 기준입니다.
메모리(VRAM) 용량: H200 메모리 용량은 141GB, B200은 180GB로, 약 20~30% 증가했습니다.
메모리 대역폭: H200 GPU 1장 당 메모리 대역폭은 4.8TB/s, B200은 8.0TB/s로 약 2배 정도 넓어졌습니다.
연산 성능(flops): H200은 차세대 FP4 연산을 지원하지 않고 FP8은 3.3PFLOPS 입니다.
B200은 FP4 연산을 지원하며, 성능은 18PFLOPS, FP8은 9PFLOPS 입니다. FP8 기준으로 B200이 H200 성능 대비, 약 3배 정도 향상됐습니다.
추론 성능(tps): FP8 및 모델 30B 기준으로, H200은 160tps, B200은 260tps 입니다.
NVLink 대역폭: GPU 간 데이터 처리 속도를 담당하는 NVLink 대역폭은 H200은 900GB/s이고, B200은 1.8TB/s로 딱 2배 증가했습니다.
전력 소모량: H200 1장 당 전력소모량은 600W이며, 공냉입니다.
B200 1장 당 전력 소모량은 1,200W이고 역시 공냉입니다. B200의 전력 소모량이 2배 증가 했습니다. 다만, 연산 및 추론 처리량이 훨씬 더 커졌기 때문에 전력 효율성은 더 향상되었습니다.
B200 x 8장 탑재, NVIDIA DGX B200
DGX B200은,
NVIDIA가 직접 설계 및 제조한 AI 전용 GPU 서버입니다.
Blackwell 아키텍처 기반 B200 GPU 8장 탑재, 총 112 코어 듀얼 CPU와 2TB 시스템 메모리 탑재, 총 1.4TB GPU 메모리 용량을 제공합니다.
차세대 메모리 HBM3e를 탑재 64TB/s의 GPU 메모리 대역폭을 제공하고, 최신 5세대 NVLink 기술을 통해 GPU 간에 총 14.4TB/s의 압도적인 데이터 처리 속도를 지원합니다.
이전 세대에서 지원하지 않았던 최신 정밀도 FP4 연산 성능은 144 PFLOPS, FP8은 72 PFLOPS 입니다.
최대 전력 소모량은 14.3kw 이며, 냉각 방식은 공냉입니다.
퀀텀브릭스는 합리적인 가격으로 GPU 서버를 공급합니다.
#이미지: B200 8장이 탑재된 NVIDIA 직접 제조 DGX B200 내부 및 전면
DGX B300(B300 x 8장 탑재) 및 DGX Rubin NVL8(Rubin x 8장 탑재)의 사양과 가격도 알아볼까요?
B300 x 8장 탑재 DGX B300, Rubin x 8장 탑재 DGX Rubin NVL8 사양과 가격, 지금 바로 확인할 수 있습니다.
B200 x 72장 탑재, NVIDIA DGX GB200 NVL72
DGX GB200 NVL72는,
B200 x 72장이 탑재된 랙 시스템입니다.
Grace CPU 36장 탑재, GPU 메모리는 총 13.4TB, GPU 대역폭은 576TB/s, 5세대 NVLink 대역폭은 130TB/s 까지 지원합니다.
CPU 코어 수는 2,592개, FP4 연산 성능은 720 PFLOPS, FP8 연산 성능은 360 PFLOPS 입니다.
산술적으로 계산하면 B200 x 8장 탑재된 GPU 서버 9대가 하나로 연결된 거대한 AI 시스템입니다.
DGX GB200 NVL72는 AI 데이터 센터 구축 기간을 획기적으로 단축할 수 있는 최적의 솔루션입니다.
퀀텀브릭스는 합리적인 가격으로 GPU 서버를 공급합니다.
#이미지: NVIDIA B200 72장이 탑재된 DGX GB200 NVL72 AI 랙 시스템
DGX GB300 NVL72(B300 x 72장 탑재)와 DGX Vera Rubin NVL72(루빈 x 72장 탑재)의 사양 및 가격도 필요하십니까?
B300 x 72장 탑재 DGX GB300 NVL72 및 루빈 x 72장 탑재 DGX Vera Rubin NVL72 사양 및 가격, 지금 바로 확인할 수 있습니다.
자주 묻는 질문(FAQs)
B200 탑재 GPU 서버, 질문이 더 있으실까요?
B200 탑재 GPU 서버 가격에 대한 질문, 메세지를 남겨주시면, 빠르게 답변 드립니다.
대략적인 가격에 대한 '감' 은 탑재수량별 GPU 서버 가격 페이지를 참고 바랍니다.
퀀텀브릭스는 고객사 및 파트너의 AI 비지니스를 지원합니다.