如果你在比较 H20 vs H100，简短结论是：只要你能合法采购、稳定获取并持续高效利用，H100 通常是更强的默认选择。只有在出口管制限制、中国市场可用性或本地采购规则使 H100 变得不切实际时，H20 才会变得有吸引力。
这让 NVIDIA H20 vs H100 与其说是常规的规格表对比，不如说是一个需要考虑合规的算力决策。H100 是更广为人知的 Hopper GPU，用于训练和推理。H20 则是 Hopper 家族中受约束的采购路径，买家会在出口许可、中华人民共和国市场规则以及供应商特定 SKU 可用性的背景下评估它。
对于企业 AI 团队来说，真正有用的 h20 vs h100 问题不是“哪块 GPU 更快？”，而是：在显存适配、排队时间、合规审批和可用性都纳入考虑后，哪条路径能以最低的总体风险交付可接受的推理结果？
H20 vs H100：快速答案
在以下情况下选择 H100：
- 你可以在部署区域内采购或租用 H100 算力，而不会遇到出口管制阻碍。
- 你的工作负载需要一个成熟的 Hopper 基线，用于训练、微调或高吞吐推理。
- 你需要强大的软件成熟度、广泛的云支持以及可预测的基准参考。
- 你的模型不需要中国特定的 GPU 采购路径。
仅在以下情况下选择 H20：
- 部署必须适配受限市场或客户所在地，在那里 H100 不可用或难以获得许可。
- 供应商能够明确给出 H20 的具体 SKU、显存容量、互连、驱动镜像和商业条款。
- 合规、客户所在地、转售和最终用途检查本来就是采购流程的一部分。
- 你是在对真实的推理工作负载进行基准测试，而不是依赖第三方的峰值规格表。
对于大多数团队来说，H20 vs H100 的决定因素在于可用性和合规性，而不是原始推理性能。如果两者都能在可接受的法律和商业条款下获得，H100 是更安全的默认选择。
NVIDIA H20 vs H100：关键规格
进行 NVIDIA H20 vs H100 specs 对比的难点在于：H100 有公开产品页面，而 H20 的公开数据更为零散。NVIDIA 的公开 H100 页面将 H100 Tensor Core GPU 列为一款 Hopper 数据中心 GPU，配有 HBM 显存选项和公开的 AI/HPC 峰值指标。NVIDIA AI Enterprise 文档在 Hopper vGPU 支持矩阵中公开列出了 H20 变体，包括带有 96GB 和 141GB 帧缓冲条目的 H20 SXM5 配置文件。
请把下表视为采购清单，而不是最终报价单。
| 规格项 | H100 | H20 |
|---|---|---|
| 公开定位 | 用于 AI、HPC、训练和推理的主流 Hopper 数据中心 GPU | 在受限采购场景下评估的 Hopper 家族数据中心 GPU 路径 |
| 公开 NVIDIA 产品页 | 有，H100 有专门的产品页面 | 没有可供最终买家用于规格确认的同等广泛的公开 H20 产品页 |
| 公开显存信号 | H100 SXM 通常评估为约 80GB HBM3；H100 NVL 在大语言模型服务场景中出现，且显存更大 | NVIDIA AI Enterprise vGPU 文档列出 H20 SXM5 96GB 和 141GB 帧缓冲配置文件 |
| 推理结论 | 在原始性能、生态支持、训练和通用推理方面是更强的默认选择 | 只应结合准确的 SKU 基准进行评估；显存容量可能有吸引力，但合规和可用性更重要 |
| 采购风险 | 可用性和云价格会变化，但该产品受到广泛支持 | 出口许可、中华人民共和国市场规则以及供应商特定供货情况，可能决定报价是否可用 |
解读 nvidia h20 vs h100 specs 的正确方式，是将其分为三个层次：
- 已确认的公开 NVIDIA 事实，例如 H100 产品文档和 NVIDIA AI Enterprise 中的 H20 支持条目。
- 供应商报价事实，例如 H20 的确切显存、互连、驱动、节点形态、区域和保修。
- 你的工作负载事实，例如每秒 token 数、首 token 时间、排队延迟、失败率以及每次可接受输出的成本。
不要把这些层次混合成一个人为的“赢家”分数。
NVIDIA H20 vs H100 性能：推理方面会有什么变化
对于 nvidia h20 vs h100 performance，应分两个阶段对推理做基准测试：prefill 和 decode。
Prefill 对提示词长度、批处理策略、注意力实现和内存带宽很敏感。Decode 对并发、KV cache 压力、调度器行为以及服务栈效率很敏感。只询问峰值 tensor-core 数字的采购团队，会错过真正的成本驱动因素。
在以下情况下，将 H100 作为基准：
- 你在使用成熟的 vLLM、TensorRT-LLM、SGLang 或托管 Kubernetes 镜像提供 7B 到 70B 模型服务。
- 你需要与现有 H100、H200 或 B200 云算力进行干净的对比。
- 你计划复用更大规模 H100 集群中的基准测试成果。
- 训练或微调仍是工作负载组合的一部分。
仅在通过实测之后再使用 H20，前提是：
- H100 无法为目标环境采购、进口、部署或获批。
- H20 节点具有足够的显存，可在不强行牺牲质量的情况下承载模型和上下文长度。
- 供应商能够证明驱动、容器镜像以及对你的服务框架的支持是稳定的。
- 合规审查接受最终用户、最终用途、地区和转移路径。
在实践中，H20 vs H100 很少是一个公平的实验室基准。它通常是“一个不受限制地区的 H100”对“受限采购环境中的 H20 或其他本地选项”。这就是为什么基准必须包含法律可用性和排队时间，而不只是每秒 token 数。
显存：H20 何时会显得有吸引力
显存是 H20 值得仔细验证的唯一一个领域。NVIDIA AI Enterprise 文档列出了 H20 SXM5 vGPU 配置，包含 96GB 和 141GB 的帧缓冲条目。这些公开条目很有用，因为它们表明讨论 H20 时不应假设只有单一固定的显存大小。
对于 LLM 推理，显存会影响：
- 模型能否在不进行激进量化的情况下装入显存。
- 每个副本可保留多少 KV cache。
- 更长上下文或更高并发是否可行。
- 工作负载是否需要跨多块 GPU 做张量并行。
- 生产提示词触发显存不足重试的频率。
这意味着更大显存的 H20 配置在运营上有时会很有吸引力，即使 H100 是更强的通用加速器。但更大的显存数值并不会自动让 H20 更快或更便宜。节点仍然必须通过推理基准、可用性检查、合规审查和总拥有成本建模。
如果工作负载受显存限制且 H100 可用，也请将 H100 与 H200 进行比较。更广泛的 H200 vs H100 决策，往往比依赖一个围绕出口限制构建的 H20 供应路径更像是一条更清晰的显存升级路线。
可用性与合规是第一序要求
对于 NVIDIA H20 vs H100，合规不是附注。NVIDIA 最新的公开 SEC 文件描述了一系列影响 A100、H100、H20、H200、B200、GB200 级产品及相关系统的出口管制限制。文件指出，H100 产品曾受到此前与中国相关的限制影响，H20 向中国和 D:5 国家/地区的出口在 2025 年 4 月开始需要许可证，而且后续许可证并不意味着 H20 销售不受限制，因为中国侧限制也影响了销售。
对买家而言，这带来了三条实用规则：
- 不要把 H20 可用性当作一个普通库存问题来看待。
- 不要以为许可证、报价或市场列表就足以交付给你的最终客户。
- 不要在没有备用路径的情况下建模 H20 容量。
在接受 H20 报价前，向供应商提出这些问题：
- 报价的具体 H20 SKU 是什么？
- GPU 将部署在哪个国家、地区、数据中心和法律实体下？
- 买方、最终用户、工作负载、母公司或客户所在地是否受到任何出口管制审查？
- 转售、转移、远程访问或云服务限制是否相关？
- GPU 是现货可用、已预留、等待许可证、等待进口，还是依赖未来配额？
- 如果在部署前许可证、关税、检查或政府规则发生变化，会怎样？
- 如果 H20 延迟，同样的工作负载能否运行在 H100、H200、L40S、本地替代方案，或模型 API 上？
这份清单比另一份合成的 nvidia h20 vs h100 performance comparison 更重要。
H20 vs H100 vs H200
许多团队搜索 h20 vs h100 vs h200，因为真正的决策并不是二元的。可以用更简单的方式来理解：
| GPU 路线 | 最佳默认用途 | 买家最关键的问题 |
|---|---|---|
| H100 | 用于训练、微调和推理的成熟 Hopper 基线 | 我们能否以可接受的价格和地区获得足够容量？ |
| H200 | 重显存推理、更长上下文、更大 batch、显存受限的 HPC | 更大的 HBM3e 显存是否足以减少 GPU 数量、切分或重试，从而证明溢价合理？ |
| H20 | H100/H200 不容易采购的受限采购场景 | 这套特定的 H20 部署能否通过合规、可用性和工作负载基准？ |
如果团队只需要模型输出，再加第四条路径：托管模型 API。当你需要私有权重、自定义内核、固定专属容量或底层服务控制时，拥有硬件才有意义。如果不需要，将闲置时间、队列管理、驱动工作和失败任务都算进去后，模型 API 基线可能比 GPU 租赁更划算。
Flatkey 对这种基线很有用：一个 key、一个余额、兼容 OpenAI 的路由、使用情况可见性，以及无需运营 GPU 服务器即可访问众多官方模型 API。它不能替代那些必须拥有硬件层的团队所需的 H20 或 H100，但它能为采购提供一个现实的“我们到底需不需要 GPU？”对比。
相关规划指南：
H20 vs H100 推理基准检查清单
在你计划购买的准确部署形态上运行同一工作负载。对于 h20 vs h100 推理，请使用生产形态的提示词并衡量可接受输出。
| 指标 | 重要原因 |
|---|---|
| 首个 token 的时间 | 反映用户可见延迟和预填充行为 |
| token 间延迟 | 展示真实并发下的解码速度 |
| 每张 GPU 每秒输出的 token 数 | 有用，但若没有利用率和接受率就不完整 |
| 最大稳定并发 | 暴露 KV cache 和调度器压力 |
| 已分配和已保留的显存 | 显示模型是否真的能装下生产提示词 |
| 排队延迟 | 把稀缺容量转化为真实的用户延迟 |
| OOM 和重试率 | 把显存限制转化为成本和可靠性影响 |
| 每个被接受输出的成本 | 对 GPU 小时、利用率、失败和工程时间进行归一化 |
| 合规审批时间 | 对 H20 以及任何受限地区部署至关重要 |
| 回退路径 | 在供应或许可变化时保护上线日期 |
重要的采购指标不是 "H20 vs H100 peak performance." 而是在把可用性、失败尝试、排队、合规审查和运维都计入后，完成工作负载的成本。
采购决策矩阵
在采购会议中使用这张矩阵。
| 如果这点成立 | 优先选择 | 原因 |
|---|---|---|
| H100 在法律上可用，容量真实，且价格可接受 | H100 | 它是更干净的 Hopper 基线，支持范围更广 |
| 工作负载受显存限制，且 H200 可用 | 对比 H200 与 H100 | 显存升级可能比使用 H20 更直接 |
| 部署必须服务于一个受限市场，而 H100/H200 被阻止 | 测试 H20 加回退方案 | 合规路径可能决定硬件选择 |
| 模型较小或中等，且流量具有突发性 | 模型 API 或 serverless GPU | 避免闲置的专用 GPU 容量 |
| 团队需要自定义 kernel、私有权重和持续利用率 | 直接 GPU 容量 | 对硬件的控制可能足以证明运维负担是合理的 |
| 在上线前供应、许可或地缘政治规则可能变化 | 同时保留两条路径 | 不要把产品路线图押在一个受限 SKU 上 |
NVIDIA H20 vs H100 规划中的常见错误
第一个错误是把 H20 当成 "只是更慢的 H100." 真正的差异在于采购环境。如果你的法律、合规和可用性约束并不要求 H20，那么 H100 基线通常更简单。
第二个错误是在没有核对准确 SKU 的情况下直接照搬公开的 nvidia h20 vs h100 specs。H20 的说法可能因显存大小和部署形态而不同。你的报价单应写明 GPU、显存、互连、节点设计、驱动镜像、服务条款和区域。
第三个错误是忽视 H200。如果问题是 H100 的显存压力，那么 H200 可能是更自然的对比对象。只有当采购环境迫使你走这条路时才使用 H20，而不是仅仅因为某个显存数字看起来更诱人。
第四个错误是忘记模型 API 基线。如果工作负载只需要可靠的模型输出，而不需要直接 GPU 控制，那么更简单的路线可能是带有用量跟踪、回退和按次计费经济性的 API。
最终建议
对于 H20 vs H100，如果 H100 对你的部署可用且合规，就选择 H100。对于大多数训练、微调和推理工作，它仍然是更安全的 Hopper 基线。
只有在采购环境使其变得必要，并且具体的 H20 部署通过以下三项测试时，才选择 H20：模型能够放下、推理基准在生产形态负载下可工作，以及合规可以批准最终用户、地区和传输路径。
然后再把两者都与 H200 和模型 API 基线进行比较。最终胜出的路径，是能够稳定地产出被接受的输出，而不是拥有最有趣的规格表。
FAQ
H20 对推理来说比 H100 更好吗？
通常不是。当 H100 可用且合规时，它通常是更强的默认选择。H20 在 H100 受到采购、出口管制或地区可用性限制时才可能相关。不要在没有基准测试准确 H20 SKU 的情况下，假设它是一个好的推理替代方案。
NVIDIA H20 与 H100 的主要区别是什么？
主要区别在于采购环境。H100 是广泛支持的 Hopper 数据中心 GPU。H20 则是在受限采购场景中评估的，其是否可用取决于出口许可、PRC 市场规则、具体 SKU 的可用性以及合规审查。
我应该如何比较 NVIDIA H20 vs H100 规格？
比较准确 SKU、显存、互连、节点形态、驱动镜像、地区、保修和合规状态。不要只依赖第三方规格表。对于生产环境，用真实提示词、目标并发和每个被接受输出的成本来验证。
我应该比较 H20 vs H100 vs H200 吗？
应该。如果工作负载受显存限制且 H200 可用，那么 H200 可能是从 H100 升级更清晰的选择。H20 则在合规或地区采购阻止 H100/H200 时更相关。
什么时候我应该使用模型 API，而不是 H20 或 H100？
当你不需要自定义 kernel、私有权重或固定专用容量时，就使用模型 API。对于突发型产品流量，模型 API 可以在保留使用可见性和路由灵活性的同时，减少闲置 GPU 支出和运维工作。
