NVIDIA H200 NVL vs NVIDIA GeForce RTX 3070 TiM

GPU · 사양 비교

제품
GPU NVIDIA H200 NVL NVIDIA · 2024-11
GPU NVIDIA GeForce RTX 3070 TiM NVIDIA · 2022-11
그래픽 카드
출시일
Nov 2024
Nov 2022
세대
Server Hopper
GeForce 30
유형
AI GPU
Desktop
버스 인터페이스
PCIe 5.0 x16
PCIe 4.0 x16
클럭 속도
기본 클럭
1365 MHz
915 MHz
부스트 클럭
1785 MHz
1410 MHz
메모리 클럭
1593 MHz
1750 MHz
메모리
메모리 크기
141GB
8GB
메모리 타입
HBM3e
GDDR6
메모리 버스
6144bit
256bit
대역폭
4.89TB/s
448.0GB/s
렌더링 설정
스트림 프로세서 개수
132
46
새딩 유닛
16896
5888
텍스처 매핑 유닛
528
184
렌더 출력 파이프라인
24
96
텐서 코어
528
184
L1 캐시
256 KB (per SM)
128 KB (per SM)
L2 캐시
50 MB
4 MB
레이 트레이싱 코어
—
46
이론적 성능
픽셀 속도
42.84 GPixel/s
135.4 GPixel/s
텍스처 속도
942.5 GTexel/s
259.4 GTexel/s
FP16 (반 정밀도)
241.3 TFLOPS
16.60 TFLOPS
FP32 (단 정밀도)
60.32 TFLOPS
16.60 TFLOPS
FP64 (배 정밀도)
30.16 TFLOPS
259.4 GFLOPS
그래픽 프로세서
GPU 이름
GH100
GA104
아키텍처
Hopper
Ampere
파운드리
TSMC
Samsung
제조 공정 크기
5 nm
8 nm
트랜지스터
80 billion
17.4 billion
다이 크기
814 mm²
392 mm²
보드 디자인
TDP
600W
220W
권장 전원 공급 장치
1000 W
550 W
출력 포트
No outputs
1x HDMI 2.13x DisplayPort 1.4a
전원 연결자
8-pin EPS
1x 8-pin
그래픽 기능
DirectX
N/A
12 Ultimate (12_2)
OpenGL
N/A
4.6
OpenCL
3.0
3.0
Vulkan
N/A
1.3
CUDA
9.0
8.6
쉐이더 모델
N/A
6.6
▲ 사양 비교 공식 사양 및 벤치마크 테스트 데이터 기반.