엔비디아 GPU, 단품으로 구매할 수 있습니까?
단품으로 구매가 가능하고, GPU 서버를 구매 시, 탑재수량을 선택할 수 있는 타입은 NVL(PCIe) 입니다.
반대로, 단품으로 구매가 불가능하고, GPU 서버를 구매할 때, 탑재 수량을 선택할 수 없는 타입이 HGX(SXM) 입니다.
RTX 6000, L40S, A100, H100, H200 은 NVL 타입으로 단품 구매가 가능하며 및 탑재 수량 선택이 가능합니다.
B200, B300, Rubin(루빈) 은 HGX 타입만 공급되므로, 단품 구매도 할 수 없고, 탑재 수량도 선택할 수 없습니다.
B200, B300, Rubin 은 8장 탑재가 기본입니다.
퀀텀브릭스는 합리적인 가격으로 GPU 서버를 공급합니다.
#이미지: NVIDIA H200 8장이 탑재된 HGX H200 8 GPU 보드
비교표 목록
* Tip: 목록을 클릭하면 해당 비교표로 이동, TOP 버튼을 클릭하면 상단으로 올라옵니다.
#01. NVIDIA GPU 2가지 타입 비교표
엔비디아 GPU 제품의 2가지 타입, HGX(SXM) 및 NVL(PCIe) GPU 제품을 비교합니다.
구분
HGX(SXM)
NVL(PCIe)
장착 방식
보드에 8장 기본 장착
PCIe 슬롯에 개별 장착
GPU 클러스터링
8장을 하나로 묶어서 사용
2장 또는 4장을 묶어서 사용
서버 클러스터링
서버 간 묶어서 사용 가능
서버 간 클러스터링 불가
NVLink 대역폭
NVL 보다 조금 높음
HGX와 크게 다르지 않음
전력 소비(TDP)
NVL 보다 조금 높음
HGX와 크게 다르지 않음
연상 성능 (FLOPS)
GPU 제품별로 다름
HGX와 크게 다르지 않음
냉각 방식
수냉 / 공냉 선택
보통 공냉
확장성
보드에 8장 고정 / 확장 불가
1장 씩 추가 가능 / 확장 가능
비용 / 예산
기본 8장 탑재 서버 구매 필요
1장 만 탑재 서버 구매 가능
<참고사항>
-
PCIe: Peripheral Component Interconnect Express / NVL: NVIDIA Link & Network
-
PCIe / NVL 타입은 낱장으로 구매 가능하며, 원하는 만큼 수량을 서버에 탑재하여 GPU 서버를 구매할 수 있습니다.
-
SXM: Server PCI Express Module / HGX: Hyperscale Graphics Extension
-
SXM / HGX 타입은 낱장 및 단품 구매가 불가능하며, 기본적으로 4장 또는 8장이 탑재됩니다.
-
SXM / HGX는 고성능 컴퓨팅용 폼 팩터로, 보드에 직접 GPU를 장착해, 더 높은 전력 공급과 빠른 데이터 전송 대역폭을 지원합니다.
-
SXM / HGX는 4개 또는 8개 GPU를 하나의 보드에 미리 조립해둔 패키지입니다.
-
RTX 6K* : RTX Pro 6000 Blackwell Server Edition (96GB)
-
HPE 등 서버 제조사가 이 SXM / HGX 보드를 가져다가 서버 본체에 탑재하면 AI GPU 서버가 완성됩니다.
-
전체 GPU 서버 가격 페이지 또는 견적 요청 시 48시간 내 제공 페이지를 참고 바랍니다.
#02. NVIDIA GPU 단품 구매 가능 여부 비교표
엔비디아 GPU 제품별 단품 구매 가능여부 및 탑재수량 선택 가능 여부를 비교합니다.
구분
단품 구매
탑재 수량 선택
Rubin(루빈)
불가
불가 (기본 8장)
B300
불가
불가 (기본 8장)
B200
불가
불가 (기본 8장)
H200
가능
가능
H100
가능
가능
A100
가능
가능
L40S
가능
가능
RTX 6K*
가능
가능
<참고사항>
-
RTX 6K* : RTX Pro 6000 Blackwell Server Edition (96GB), L40S, H100, H200 은 낱장 및 단품으로 구매가 가능하며 및 서버에 원하는 수량 만큼 탑재가 가능합니다.
-
NVL(PCIe) 타입은 낱장으로 GPU 카드 구매 가능하며, 원하는 만큼 수량을 서버에 탑재하여 GPU 서버를 구매할 수 있습니다.
-
HGX(SXM) 타입은 낱장 및 단품 구매가 불가능하며, 기본적으로 4장 또는 8장이 탑재됩니다.
-
RTX 6K* : RTX Pro 6000 Blackwell Server Edition (96GB)
-
GPU 탑재 수량별, 전체 GPU 서버 가격 페이지 또는 견적 요청 시 48시간 내 제공 페이지를 참고 바랍니다.
#03. NVIDIA GPU 최대 MIG 분할 수 비교표
엔비디아 GPU 제품별 MIG 논리적 분할 사용 수량을 비교합니다.
구분
MIG 분할 수*
분할 시 메모리 용량
Rubin
최대 7개
대략 41GB
B300
최대 7개
대략 41GB
B200
최대 7개
대략 25GB
H200
최대 7개
대략 20GB
H100
최대 7개
대략 13GB
A100
최대 7개
대략 11GB
L40S
미 지원
미 지원
RTX 6K
최대 4개
대략 13GB
<참고사항>
-
RTX 6K* : RTX Pro 6000 Blackwell Server Edition (96GB), L40S, H100, H200 은 낱장 및 단품으로 구매가 가능하며 및 서버에 원하는 수량 만큼 탑재가 가능합니다.
-
NVL(PCIe) 타입은 낱장으로 GPU 카드 구매 가능하며, 원하는 만큼 수량을 서버에 탑재하여 GPU 서버를 구매할 수 있습니다.
-
HGX(SXM) 타입은 낱장 및 단품 구매가 불가능하며, 기본적으로 4장 또는 8장이 탑재됩니다.
-
MIG(Multi-Instance GPU): 하나의 물리적인 GPU를 최대 4~7개의 인스턴스로 분할하여 사용하는 기능입니다.
-
GPU 탑재 수량별, 전체 GPU 서버 가격 페이지 또는 견적 요청 시 48시간 내 제공 페이지를 참고 바랍니다.
엔비디아 GPU, 어떤 제품을 선택해야 하나요?
NVIDIA GPU 1장에 올릴 수 있는 LLM 모델의 크기는 메모리 용량을 기준으로 계산됩니다.
메모리 용량 / 대역폭 비교표
파인튜닝 가능 LLM 크기
전력소모량 비교표
추론 성능(TPS) 비교표
학습 가능 LLM 크기
RAG 시스템 구축
연산 성능(FLOPS) 비교표
추론 가능 LLM 크기
2가지 타입 GPU 비교
탑재수량별 GPU 서버 사양 및 가격표
퀀텀브릭스는 합리적인 가격으로 GPU 서버를 공급하여 고객사 및 파트너의 AI 비지니스를 지원합니다.
파트 #A. NVIDIA 직접 제조 제품
* Tip: 항목을 클릭하면 사양 및 가격으로 이동합니다.
NVIDIA DGX B200, B300 시리즈 등은 엔비디아가 직접 설계 및 제조한 AI 전용 완제품 GPU 서버입니다.
엔비디아 스타트업 프로그램에 가입하면, DGX 시리즈 구매 시, 최대 30%까지 할인을 받을 수 있습니다.
자세한 사항은 각 제품 상세 페이지, 최대 48시간 내 견적서 제공 및 실시간 문의하기를 참고 바랍니다.
파트 #B. HPE, Dell 등 벤더 제조 제품
* Tip: 항목을 클릭하면 사양 및 가격으로 이동합니다.
* RTX 6K : RTX Pro 6000 Blackwell Server Edition
문의하기
메세지를 남겨주시면 빠르게 답변 드립니다.
대략적인 가격은 탑재수량별 GPU 서버 가격 페이지를 참고 바랍니다.
퀀텀브릭스는 합리적인 가격으로 GPU 서버를 공급하여, 고객사 및 파트너의 AI 비지니스 확산을 빠르게 지원합니다.