NVIDIA A100 특징
Ampere 아키텍처 기반의 엔비디아 A100 GPU는 1장 당 80GB의 HBM2e 메모리 용량을 제공합니다.
대역폭은 초 당 1,935GB/s, NVLink 3세대 기술을 기반으로 GPU 간 양방향 대역폭은 초 당 600GB/s 입니다.
AI 연산과 딥러닝에 특화된 Tensor(텐서) 코어를 탑재, 이전 세대 NVIDIA Volta 보다 최대 20배 높은 성능을 제공합니다.
A100 GPU 1장 당 전력 소모량은 300W 이며, INT8 연산 성능은 624 TOPS, FP16은 312TFLOPS 입니다.
멀티 인스턴스 GPU (MIG) 기능으로 1장의 물리적인 GPU를 7개까지 분할하여 사용할 수 있습니다.
퀀텀브릭스는 합리적인 가격으로 GPU 서버를 공급합니다.
#이미지: A100 x 8장이 탑재된 NVIDIA A100 8 GPU 서버 내부 구조
NVIDIA A100 탑재 GPU 서버 가격
엔비디아 A100은 단종으로, 대체 및 업그레이드 제품의 탑재수량별 GPU 서버 가격 정보를 제공합니다.
(단위: 원 / 부가세 별도)
구분
공급 가격
제조사
Tip : 항목을 클릭하면 CPU, 메모리, 스토리지 등 상세 사양 페이지로 이동합니다. *RTX 6K: RTX Pro 6000 Blackwell 서버 에디션
엔비디아 A100 GPU 제품은 단종으로, 26년 7월 현재, A100이 탑재된 모든 GPU 서버는 사실 상 공급이 불가능합니다.
대체 및 업그레이드 제품: H200, L40S, RTX 6000 등
A100 8장 탑재 GPU 서버 가격은 대략 3~4억 원(부가세 별도), 4장 탑재는 2억 원(부가세 별도), 2장 탑재는 1억 원(부가세 별도) 정도로 공급됐습니다.
H100 및 H200 GPU가 출시되기 전, A100은 AI 비지니스를 가속화하는 제품으로 최고의 위치에 있었으며, 가격 또한 합리적으로 공급이 가능했습니다.
최근, 메모리 / 반도체 가격 상승 및 전 세계적인 AI 비지니스 확산으로 인하여 GPU 서버 가격 또한 상승하는 추세에 있습니다.
퀀텀브릭스는 합리적인 가격으로 GPU 서버를 공급, 고객사 및 협력사의 AI 비지니스를 지원합니다.
최단 24시간, 최대 48시간 내 견적서를 보내드립니다.
NVIDIA A100 탑재 GPU 서버 구매 가이드
엔비디아 A100 GPU 제품은 단종으로, 26년 7월 현재, A100이 탑재된 모든 GPU 서버는 사실 상 공급이 불가능합니다.
단종 되기 전에, NVIDIA A100 GPU 단품 가격은 대략 2,000 ~ 3,000만원(부가세 별도) 정도로 공급되었고, 단품으로 판매 및 공급이 가능했습니다.
또한, B200, B300과 달리, 원하는 만큼 수량을 HPE, Dell 등 서버에 탑재하여 GPU 서버를 구매할 수 있었습니다.
대체 및 업그레이드 제품: H200, L40S, RTX 6000 등
퀀텀브릭스는 합리적인 가격으로 GPU 서버를 공급합니다.
H200 성능, A100 대비 얼마나 더 좋아졌나요?
엔비디아 A100(80GB SXM 기준) 대비 H200의 성능과 사양은 아키텍처 세대교체(Ampere -> Hopper)를 통해 폭발적으로 성장했습니다.
메모리 용량: 80GB -> 141GB로 76% 증가 (약 1.76배)
메모리 대역폭: 2.0 TB/s -> 4.8 TB/s로 140% 증가 (약 2.4배)
연산 속도 (FP16): 312 TFLOPS -> 1,979 TFLOPS로 약 534% 증가 (약 6.3배)
AI 대형 언어 모델(LLM) 추론 속도: Transformer Engine 및 FP8 도입으로 최대 30배 향상
소비 전력: 400W -> 700W로 75% 증가 (약 1.75배)
NVIDIA GPU 1장에 얼마나 큰 LLM 모델을 올릴 수 있나요?
엔비디아 GPU 1장에 올릴 수 있는 LLM 모델의 크기는 메모리 용량을 기준으로 계산됩니다.
메모리 용량 / 대역폭 비교표
파인튜닝 가능 LLM 크기
추론 성능(TPS) 비교표
학습 가능 LLM 크기
연산 성능(FLOPS) 비교표
추론 가능 LLM 크기
NVIDIA 직접 설계 및 제조, DGX 시리즈 가격 및 구매 가이드
엔비디아가 직접 설계 및 제조한 DGX 시리즈는 AI 전용 완제품 GPU 서버입니다.
NVIDIA DGX Rubin NVL8
탑재수량별 GPU 서버 사양 및 가격표
퀀텀브릭스는 합리적인 가격으로 GPU 서버를 공급하여 고객사 및 파트너의 AI 비지니스를 지원합니다.
파트 #A. NVIDIA 직접 제조 제품
* Tip: 항목을 클릭하면 사양 및 가격으로 이동합니다.
NVIDIA DGX B200, B300 시리즈 등은 엔비디아가 직접 설계 및 제조한 AI 전용 완제품 GPU 서버입니다.
엔비디아 스타트업 프로그램에 가입하면, DGX 시리즈 구매 시, 최대 30%까지 할인을 받을 수 있습니다.
자세한 사항은 각 제품 상세 페이지, 최대 48시간 내 견적서 제공 및 실시간 문의하기를 참고 바랍니다.
파트 #B. HPE, Dell 등 벤더 제조 제품
* Tip: 항목을 클릭하면 사양 및 가격으로 이동합니다.
* RTX 6K : RTX Pro 6000 Blackwell Server Edition
NVIDIA GPU 서버 2가지 타입 비교
엔비디아 GPU 서버는 제조사 기준으로 크게 2가지 타입으로 분류됩니다.
하나는 NVIDIA가 직접 제조하는 완제품 GPU 서버이고, 또 하나는 HPE, Dell 등 벤더가 제조하는 제품입니다.
두 가지 타입의 GPU 서버는 가격, 성능, 확장성, 사양변경 및 선택, 기술지원 등 여러가지 부분에서 상당한 차이를 보입니다.
이제, NVIDIA는 GPU 포함, 운영체제(OS), CPU 등 주요한 부품을 직접 제조 / 생산하는 AI 풀 스택 기업으로 도약하고 있습니다.
퀀텀브릭스는 GPU 서버를 합리적인 가격으로 공급합니다.
자주 묻는 질문(FAQs)
NVIDIA A100 성능 및 사양
항목
사양
아키텍처
Ampere
GPU 메모리
80 GB HBM2e
메모리 대역폭
1.935 GB/s
FP4 연산 성능
미 지원
INT8 연산 성능
624 TOPS
FP16 연산 성능
312 TFLOPS
TF32 연산 성능
156 TFLOPS
상호 연결
NVLink 3세대 (600 GB/s)
MIG 기술*
~7 MIGs @ 10GB
호스트 보조 연결
PCIe 4.0 (64GB/s)
전력 소모량
300W
<참고 사항>
-
FP, TF 등 연산 성능은 희소성(Sparsity)을 적용한 기준이며, 밀집(Dense) 기준에서는 약 50% 수준의 성능을 보입니다.
-
MIG(Multi-Instance GPU): 하나의 물리적인 GPU를 최대 7개의 인스턴스로 분할하여 사용할 수 있는 기능입니다.
-
A100은 HGX(SXM) 타입과 NVL(PCIe) 타입의 메모리 용량이 80GB로 동일 합니다.
-
본 사양표는 PCIe / NVL 타입 A100 GPU 1개 당 수치이며, NVIDIA 홈페이지 및 데이터시트를 기준으로 작성했습니다.
-
NVIDIA GPU 서버 및 제품 선택을 위해, 연산 성능 비교표, 추론 성능 비교표, 메모리 용량 및 대역폭 비교표 등을 참고 바랍니다.