NVIDIA H200 NVL vs NVIDIA A40 PCIe
GPU · 规格对比
基本信息
发布日期
Nov 2024
Oct 2020
产品系列
Server Hopper
Tesla
类型
AI GPU
Desktop
总线接口
PCIe 5.0 x16
PCIe 4.0 x16
时钟速度
基础频率
1365 MHz
1305 MHz
最大睿频
1785 MHz
1740 MHz
显存频率
1593 MHz
1812 MHz
显存
显存容量
141GB
48GB
显存类型
HBM3e
GDDR6
显存位宽
6144bit
384bit
显存带宽
4.89TB/s
695.8GB/s
渲染规格
GPU大核数量
132
84
流处理器数量
16896
10752
纹理单元
528
336
光栅单元
24
112
张量核心
528
336
一级缓存
256 KB (per SM)
128 KB (per SM)
二级缓存
50 MB
6 MB
光追核心
—
84
理论性能
像素填充率
42.84 GPixel/s
194.9 GPixel/s
纹理填充率
942.5 GTexel/s
584.6 GTexel/s
FP16性能
241.3 TFLOPS
37.42 TFLOPS
FP32性能
60.32 TFLOPS
37.42 TFLOPS
FP64性能
30.16 TFLOPS
584.6 GFLOPS
图形处理器
GPU型号
GH100
GA102
架构
Hopper
Ampere
芯片厂
TSMC
Samsung
芯片工艺
5 nm
8 nm
晶体管数量
80 billion
28.3 billion
芯片面积
814 mm²
628 mm²
板卡设计
功耗
600W
300W
建议电源功率
1000 W
700 W
输出接口
No outputs
3x DisplayPort 1.4a
电源接口
8-pin EPS
8-pin EPS
图形特性
DirectX
N/A
12 Ultimate (12_2)
OpenGL
N/A
4.6
OpenCL
3.0
3.0
Vulkan
N/A
1.3
CUDA
9.0
8.6
Shader Model
N/A
6.6
▲ 规格对比
数据来源于官方规格和基准测试。