NVIDIA RTX Pro 6000 Blackwell 특징
엔비디아 RTX Pro 6000 Blackwell GPU는 96GB GDDR7 고대역폭 메모리 용량을 제공합니다.
GPU 메모리 대역폭은 1,792 GB/s로 빠른 데이터 처리 속도를 지원합니다.
FP4 연산 성능은 4PFLOPS, FP8 연산 성능은 2PFLOPS, FP16은 1PFLOPS입니다.
CUDA 코어 수는 24,064개 입니다.
MIG 기술을 통해 1개의 물리적인 GPU를 최대 4개까지 분할해서 사용할 수 있습니다.
퀀텀브릭스는 합리적인 가격으로 GPU 서버를 공급합니다.
#이미지: NVIDIA RTX PRO 6000 Blackwell 서버 에디션 2장 및 ConnectX-7 또는 BlueField-3 SuperNIC 및 BlueField-3 DPU가 탑재된 GPU 서버(MGX 시스템)
NVIDIA RTX Pro 6000 Blackwell 탑재 GPU 서버 가격
엔비디아 RTX Pro 6000 Blackwell Server Edition (96GB) 제품의 탑재수량별 GPU 서버 가격 정보를 제공합니다.
(단위: 원 / 부가세 별도)
구분
공급 가격
제조사
Tip : 항목을 클릭하면 CPU, 메모리, 스토리지 등 상세 사양 페이지로 이동합니다. *RTX 6K: RTX Pro 6000 Blackwell 서버 에디션
엔비디아 RTX Pro 6000 Blackwell x 8장 탑재 GPU 서버 1대 가격은 대략 2억 원(부가세 별도), 4장 탑재는 1억 원(부가세 별도), 2장 탑재는 8천만 원(부가세 별도) 정도의 가격으로 공급됩니다.
대략적인 평균 가격으로, 실제 견적 및 계약 시, 제조사, 사양 등에 따라 달라질 수 있습니다.
최근, 메모리 / 반도체 가격 상승 및 전 세계적인 AI 비지니스 확산으로 인하여 GPU 서버 가격 또한 상승하는 추세에 있습니다.
퀀텀브릭스는 합리적인 가격으로 GPU 서버를 공급, 고객사 / 파트너의 AI 비지니스를 지원합니다.
최단 24시간, 최대 48시간 내 견적서를 보내드립니다.
NVIDIA RTX Pro 6000 Blackwell 탑재 GPU 서버 구매 가이드
엔비디아 RTX Pro 6000 Blackwell GPU 단품 가격은 대략 1,500 ~ 2,000만원(부가세 별도) 정도로 공급됩니다.
RTX Pro 6000 Blackwell 은 단품으로 구매가 가능하며, 원하는 수량만큼 서버에 탑재하여 GPU 서버를 구매할 수 있습니다.
NVIDIA RTX Pro 6000 Blackwell GPU는 이미 단종된 A100 GPU를 대체하는 제품으로 인기가 높으며, 가장 많이 팔리는 NVIDIA GPU 제품들 중 하나입니다.
퀀텀브릭스는 합리적인 가격으로 GPU 서버를 공급합니다.
H200 성능, RTX Pro 6000 Blackwell 대비 얼마나 더 좋은가요?
메모리 용량: 96GB (GDDR7) -> 141GB (HBM3e)로 약 47% 증가 (약 1.47배)
메모리 대역폭: 1.6 TB/s -> 4.8 TB/s 200% 증가 (3배 더 넓음)
AI 연산 성능 (FP8): RTX Pro 6000 Blackwell은 2,000 TFLOPS(Dense 기준) 수준이며, H200은 3,958 TFLOPS로 연산 성능이 약 98% 증가 (약 2배)
상호 연결 대역폭 (통신 속도): RTX Pro 6000 Blackwell은 NVLink 미 지원, H200의 NVLink 대역폭은 900GB/s, 거대 모델 분산 컴퓨팅 시 통신 대역폭이 약 1,300% 증가 (14배 더 빠름)
소비 전력 (TDP): 600W -> 700W 약 16.6% 증가 (약 1.16배)
NVIDIA RTX Pro 6000 Blackwell 3가지 에디션 비교표
엔비디아 RTX Pro 6000 Blackwell GPU는 Server, 웍스테이션, Max-Q, 3가지 에디션으로 제공됩니다.
RTX Pro 6000 Blackwell Server Edition, GPU 카드에 팬이 달려 있지 않은 패시브 타입, 서버 내 고압 시스템으로 냉각을 처리함
RTX Pro 6000 Blackwell Workstation Edition, GPU 카드에 달려 있는 팬 2개가 냉각을 직접하는 액티브 타입
RTX Pro 6000 Max-Q Edition, GPU 카드에 달려 있는 팬 1개가 냉각을 직접하는 액티브 타입
항목
서버
웍스테이션
Max-Q
아키텍처
Blackwell
동일
동일
CUDA
24,064
동일
동일
Tensor
752
동일
동일
RT
188
동일
동일
메모리
96GB
동일
동일
대역폭
1.7TB/s
동일
동일
전력
600W
600W
300W
냉각
패시브
액티브
액티브
장비
서버
웍스테이션
웍스테이션
주요고객
기업
소비자
소비자
<참고 사항>
-
쿨링 방식: Server 에디션은 패시브 (Passive) 방식, 웍스테이션 및 Max-Q는 액티브 (Active) 방식입니다.
-
패시브 (Passive) 방식: GPU 카드 위에 팬이 달려있지 않고, 서버 내부의 고압 시스템 팬으로 냉각합니다.
-
액티브 (Active) 방식: GPU 카드 위에 달려 있는 팬이 냉각합니다.
-
NVIDIA GPU 서버 및 제품 선택을 위해, 연산 성능 비교표, 추론 성능 비교표, 메모리 용량 및 대역폭 비교표 등을 참고 바랍니다.
엔비디아 RTX Pro 6000, A100을 대체할 수 있습니까?
더 큰 VRAM 용량: A100(80GB) 보다 큰 96GB 메모리를 탑재하여 더 큰 모델을 단일 카드에 올릴 수 있습니다.
추론 성능: 최신 FP4 정밀도를 지원, AI 추론 시 A100 대비 약 2~3배 이상 빠른 속도를 보여줍니다.
NVLink 대역폭: A100은 NVLink를 지원하여 수십 대를 묶어 학습할 때 유리합니다.
RTX Pro 6000 Blackwell GPU는 물리적 NVLink를 지원하지 않지만 ConnectX-8 SuperNIC 및 BlueField-3 DPU 기반의 초고속 네트워크 아키텍처로 대규모 클러스터가 가능합니다.
메모리 대역폭: A100은 대역폭이 1.9TB/s 정도, RTX 6000 Blackwell은 약 1.7TB/s 수준입니다.
#이미지: NVIDIA ConnectX-8 SuperNIC 및 BlueField-3 DPU가 탑재된 8x RTX PRO 6000 Blackwell 서버 에디션 GPU 서버(MGX 시스템)
NVIDIA GPU 1장에 얼마나 큰 LLM 모델을 올릴 수 있나요?
NVIDIA GPU 1장에 올릴 수 있는 LLM 모델의 크기는 메모리 용량을 기준으로 계산됩니다.
메모리 용량 / 대역폭 비교표
파인튜닝 가능 LLM 크기
추론 성능(TPS) 비교표
학습 가능 LLM 크기
연산 성능(FLOPS) 비교표
추론 가능 LLM 크기
NVIDIA 직접 설계 및 제조, DGX 시리즈 가격 및 구매 가이드
엔비디아가 직접 설계 및 제조한 DGX 시리즈는 AI 전용 완제품 GPU 서버입니다.
NVIDIA DGX Rubin NVL8
탑재수량별 GPU 서버 사양 및 가격표
퀀텀브릭스는 합리적인 가격으로 GPU 서버를 공급하여 고객사 및 파트너의 AI 비지니스를 지원합니다.
파트 #A. NVIDIA 직접 제조 제품
* Tip: 항목을 클릭하면 사양 및 가격으로 이동합니다.
NVIDIA DGX B200, B300 시리즈 등은 엔비디아가 직접 설계 및 제조한 AI 전용 완제품 GPU 서버입니다.
엔비디아 스타트업 프로그램에 가입하면, DGX 시리즈 구매 시, 최대 30%까지 할인을 받을 수 있습니다.
자세한 사항은 각 제품 상세 페이지, 최대 48시간 내 견적서 제공 및 실시간 문의하기를 참고 바랍니다.
파트 #B. HPE, Dell 등 벤더 제조 제품
* Tip: 항목을 클릭하면 사양 및 가격으로 이동합니다.
* RTX 6K : RTX Pro 6000 Blackwell Server Edition
NVIDIA GPU 서버 2가지 타입 비교
NVIDIA GPU 서버는 제조사 기준으로 크게 2가지 타입으로 분류됩니다.
하나는 엔비디아가 직접 제조하는 완제품 GPU 서버이고, 또 하나는 HPE, Dell 등 벤더가 제조하는 제품입니다.
두 가지 타입의 GPU 서버는 가격, 성능, 확장성, 사양변경 및 선택, 기술지원 등 여러가지 부분에서 상당한 차이를 보입니다.
이제, NVIDIA는 GPU 포함, 운영체제(OS), CPU 등 주요한 부품을 직접 제조하는 AI 풀 스택 기업으로 도약하고 있습니다.
퀀텀브릭스는 GPU 서버를 합리적인 가격으로 공급합니다.
자주 묻는 질문(FAQs)
NVIDIA RTX Pro 6000 Blackwell 성능 및 사양
항목
사양
아키텍처
Blackwell
GPU 메모리
96 GB GDDR7
CUDA 코어 수
24,064
메모리 대역폭
1,597 GB/s
FP4 연산 성능
4 PFLOPS
FP8 연산 성능
2 PFLOPS
FP16 연산 성능
1 PFLOPS
TF32 연산 성능
234 TFLOPS
RT 코어
188 (4세대)
MIG 기술*
4개 까지 분할(개당 24 GB)
상호 연결
NVLink 미 지원
호스트 보조 연결
PCIe 5.0x16
전력 소모량
300 ~ 600W
네트워킹
ConnectX-7 (~400Gbps)
<참고 사항>
-
FP, TF 등 연산 성능은 희소성(Sparsity)을 적용한 기준이며, 밀집(Dense) 기준에서는 약 50% 수준의 성능을 보입니다.
-
MIG(Multi-Instance GPU): 하나의 물리적인 GPU를 최대 4~7개의 인스턴스로 분할하여 사용할 수 있습니다.
-
본 사양표는 RTX Pro 6000 Blackwell Server Edition 1개 당 수치이며, NVIDIA 홈페이지 및 데이터시트를 기준으로 작성했습니다.
-
NVIDIA GPU 서버 및 제품 선택을 위해, 연산 성능 비교표, 추론 성능 비교표, 메모리 용량 및 대역폭 비교표 등을 참고 바랍니다.