NVIDIA H200 NVL vs NVIDIA A40 PCIe

GPU · 사양 비교

제품
GPU NVIDIA H200 NVL NVIDIA · 2024-11
GPU NVIDIA A40 PCIe NVIDIA · 2020-10
그래픽 카드
출시일
Nov 2024
Oct 2020
세대
Server Hopper
Tesla
유형
AI GPU
Desktop
버스 인터페이스
PCIe 5.0 x16
PCIe 4.0 x16
클럭 속도
기본 클럭
1365 MHz
1305 MHz
부스트 클럭
1785 MHz
1740 MHz
메모리 클럭
1593 MHz
1812 MHz
메모리
메모리 크기
141GB
48GB
메모리 타입
HBM3e
GDDR6
메모리 버스
6144bit
384bit
대역폭
4.89TB/s
695.8GB/s
렌더링 설정
스트림 프로세서 개수
132
84
새딩 유닛
16896
10752
텍스처 매핑 유닛
528
336
렌더 출력 파이프라인
24
112
텐서 코어
528
336
L1 캐시
256 KB (per SM)
128 KB (per SM)
L2 캐시
50 MB
6 MB
레이 트레이싱 코어
—
84
이론적 성능
픽셀 속도
42.84 GPixel/s
194.9 GPixel/s
텍스처 속도
942.5 GTexel/s
584.6 GTexel/s
FP16 (반 정밀도)
241.3 TFLOPS
37.42 TFLOPS
FP32 (단 정밀도)
60.32 TFLOPS
37.42 TFLOPS
FP64 (배 정밀도)
30.16 TFLOPS
584.6 GFLOPS
그래픽 프로세서
GPU 이름
GH100
GA102
아키텍처
Hopper
Ampere
파운드리
TSMC
Samsung
제조 공정 크기
5 nm
8 nm
트랜지스터
80 billion
28.3 billion
다이 크기
814 mm²
628 mm²
보드 디자인
TDP
600W
300W
권장 전원 공급 장치
1000 W
700 W
출력 포트
No outputs
3x DisplayPort 1.4a
전원 연결자
8-pin EPS
8-pin EPS
그래픽 기능
DirectX
N/A
12 Ultimate (12_2)
OpenGL
N/A
4.6
OpenCL
3.0
3.0
Vulkan
N/A
1.3
CUDA
9.0
8.6
쉐이더 모델
N/A
6.6
▲ 사양 비교 공식 사양 및 벤치마크 테스트 데이터 기반.