A100 和 V100 跨越了一代中间架构（Volta → Turing → Ampere），在数据中心 GPU 路线上属于隔代升级，A100 在算力、显存、带宽、互联和功能特性上全面领先；老 V100 集群是否值得升级，取决于当前任务瓶颈和升级成本——如果任务受限于显存容量、Tensor Core 算力或互联带宽，升级到 A100 收益明显；如果现有 V100 已满足吞吐且折旧已完成，短期未必需要更换。
H20 显存为 96GB HBM3、带宽 4.0 TB/s（第三方口径）。按裸权重估算，单卡 FP16/BF16 约可容纳 48B 参数、INT8 约 96B、INT4 约 192B；实际可部署规模还需扣除 KV Cache、量化元数据与运行时开销，需留余量。
H20 和 L20 是两条完全不同的产品线。H20 基于 Hopper 架构，走数据中心路线：96GB HBM3、4.0 TB/s 带宽，Tensor Core 算力（FP16/BF16 稠密约 148 TFLOPS）和 FP8 路径更适合大模型推理；L20 基于 Ada Lovelace 架构，走工作站/图形虚拟化路线：48GB GDDR6、864 GB/s 带宽，FP32（59.8 TFLOPS）和第四代 Tensor Core 更均衡，功耗仅 275W，且有显示输出与 vGPU 支持。推理选型关键看模型是否装得下：48GB 装不下的模型只能选 H20；两者都能装的小模型，H20 的带宽和显存余量占优，L20 的功耗和规格透明度更优。
H20 和 A800 是两代"方向相反"的合规特供卡。A800（Ampere 架构）保留 A100 级算力——FP16 Tensor Core 稠密 312 TFLOPS、INT8 624 TOPS，只把 NVLink 从 600 GB/s 降到 400 GB/s；H20（Hopper 架构）反其道而行——显存升级为 96GB HBM3、4.0 TB/s，Tensor 算力只剩约 148 TFLOPS（第三方口径），约为 A800 的一半。
H20 是 Hopper 架构的降算力型号：单卡 FP16 Tensor Core 稠密算力约 148 TFLOPS、FP32 约 44 TFLOPS（均为第三方口径），Tensor Core 算力约为 H100 的 15%，FP32 约为 H100 的 66%；但显存为 96GB HBM3、带宽 4.0 TB/s，容量和带宽均高于 H100 SXM5。看 H20 的规格要把算力和显存分开评估：算力决定计算密集任务的速度，显存容量和带宽决定能装下多大的模型、访存受限时数据搬运有多快。
H100 SXM 和 PCIe 基于同一颗 GH100 芯片，区别在封装形态和规格取舍：SXM（常写作 SXM5）是贴装在服务器基板上的高功耗模组，132 个 SM、80GB HBM3、3.35 TB/s 显存带宽、900 GB/s NVLink、最高 700W；PCIe 是标准双槽风冷显卡，114 个 SM、80GB HBM2e、2 TB/s 带宽、600 GB/s NVLink、300-350W，算力约为 SXM 版的 76%、显存带宽约 60%。大规模训练优先 SXM，推理和灵活部署可考虑 PCIe
H100 SXM5 配备 80GB HBM3 显存，带宽 3.35 TB/s，L2 缓存 50MB，每 SM 共享内存最高 228KB。相比 A100 的 HBM2e（2,039 GB/s），H100 的显存带宽提升约 1.64 倍，能更高效地搬运模型权重、激活值和梯度，适合显存访问密集的大模型训练任务。
H200 SXM 与 H100 SXM 的计算核心完全相同（同为 GH100 满规），Tensor Core 算力一致；H200 的主要优势在显存系统，包括更大的显存容量和更高的显存带宽——容量从 80GB 提升到 141GB（约 1.76 倍），带宽从 3.35 TB/s 提升到 4.8 TB/s（约 1.43 倍）。训练和推理是否选 H200，取决于任务是计算受限还是显存受限。
H100 SXM5 单卡 FP32 算力为 67 TFLOPS，FP16 Tensor Core 稀疏峰值约 1,979 TFLOPS；8 卡集群理论峰值约为单卡的 8 倍，但实际吞吐受通信开销、显存带宽、框架效率和模型规模等因素影响，通常低于理论峰值。
MIG（Multi-Instance GPU）是 NVIDIA 从 Ampere 架构（A100）开始引入的硬件级 GPU 分区技术，可将一张 A100 最多划分为 7 个独立实例，每个实例拥有隔离的计算核心、显存和缓存，互不干扰——适合多租户推理共享、开发测试和资源利用率提升场景。
A100 的算力因精度不同差异很大——FP32 为 19.5 TFLOPS（CUDA 核心），FP16 Tensor Core 为 312/624\* TFLOPS，INT8 Tensor Core 为 624/1,248\* TOPS；看 A100 算力的关键是区分 CUDA 核心性能和 Tensor Core 性能，并理解稀疏模式对峰值的影响。
A100 的算力因精度不同差异很大——FP32 为 19.5 TFLOPS（CUDA 核心），FP16 Tensor Core 为 312/624\* TFLOPS，INT8 Tensor Core 为 624/1,248\* TOPS；看 A100 算力的关键是区分 CUDA 核心性能和 Tensor Core 性能，并理解稀疏模式对峰值的影响。
A100 40GB和 80GB 基于同一颗 GA100 芯片，核心级理论计算规格相同；差异在显存——80GB 版本容量翻倍、带宽更高、MIG 单实例显存更大，适合大模型和高并发场景；40GB 版本在模型能装入显存时性价比更高。
H100 和 H200 共享 Hopper 架构和相同的计算核心，H200 的优势在显存更大更快；H20 是同架构的降算力版本，算力大幅削减但保留大显存和高带宽，定位推理优先。
A100 是 NVIDIA Ampere 架构的数据中心 GPU，H100 是 Hopper 架构的继任者；H100 在算力、显存带宽、FP8 支持和 Transformer Engine 上全面领先 A100，适合大模型训练和高吞吐推理，A100 在成本敏感场景下仍有竞争力。