NVIDIA H100 PCIe 是 NVIDIA 公司推出的最新一代数据中心GPU，专为加速人工智能、高性能计算 (HPC) 和数据分析等工作负载而设计。它搭载了 Hopper 架构，提供了前所未有的性能和效率。
核心特点
- Hopper 架构： Hopper 架构带来了显著的性能提升，特别是针对大型语言模型 (LLM) 和生成式 AI 等新兴工作负载。
- HBM3e 高带宽内存： 提供了巨大的内存带宽，加速数据传输和计算。
- PCIe Gen5 接口： 充分利用 PCIe Gen5 的高带宽，实现更快的系统级 I/O。
第四代 Tensor Cores： 加速矩阵乘法和卷积等计算，显著提升 AI 训练和推理性能。
- FP8 支持： 支持 FP8 精度计算，进一步提高训练效率。
产品规格
| 特性 | H100 PCIe |
|---|---|
| 架构 | Hopper |
| CUDA Cores | 14,592 |
| Tensor Cores | 456 |
| 内存 | 80GB HBM2e |
| 内存带宽 | 2TB/s |
| PCIe 接口 | PCIe Gen5 x16 |
