NVIDIA H100 SXM5 94 GB vs NVIDIA GRID K2

GPU · 规格对比

产品
GPU NVIDIA H100 SXM5 94 GB NVIDIA · 2023-03
GPU NVIDIA GRID K2 NVIDIA · 2013-05
基本信息
发布日期
Mar 2023
May 2013
产品系列
Server Hopper
GRID
类型
AI GPU
Professional
总线接口
PCIe 5.0 x16
PCIe 3.0 x16
时钟速度
基础频率
1350 MHz
—
最大睿频
1980 MHz
—
显存频率
1313 MHz
1250 MHz
显存
显存容量
94GB
4GB
显存类型
HBM3
GDDR5
显存位宽
5120bit
256bit
显存带宽
3.36TB/s
160.0GB/s
渲染规格
GPU大核数量
132
—
流处理器数量
16896
1536
纹理单元
528
128
光栅单元
24
32
张量核心
528
—
一级缓存
256 KB (per SM)
16 KB (per SMX)
二级缓存
50 MB
512 KB
理论性能
像素填充率
47.52 GPixel/s
23.84 GPixel/s
纹理填充率
1045.4 GTexel/s
95.36 GTexel/s
FP16性能
267.6 TFLOPS
—
FP32性能
66.91 TFLOPS
2.289 TFLOPS
FP64性能
33.45 TFLOPS
95.36 GFLOPS
图形处理器
GPU型号
GH100
GK104
架构
Hopper
Kepler
芯片厂
TSMC
TSMC
芯片工艺
5 nm
28 nm
晶体管数量
80 billion
3.54 billion
芯片面积
814 mm²
294 mm²
GPU规格
—
GK104-895-A2
板卡设计
功耗
700W
225W
建议电源功率
1100 W
550 W
输出接口
No outputs
No outputs
电源接口
8-pin EPS
1x 6-pin + 1x 8-pin
图形特性
DirectX
N/A
12 (11_0)
OpenGL
N/A
4.6
OpenCL
3.0
3.0
Vulkan
N/A
1.2.175
CUDA
9.0
3.0
Shader Model
N/A
6.5 (5.1)
▲ 规格对比 数据来源于官方规格和基准测试。