Cost, Billing, and Ops2026年10月13日Flatkey Team

AMD MI455X 和 Helios:架构、内存与可用性追踪

一份面向买家的 AMD MI455X 与 Helios 追踪指南,涵盖架构、HBM4 内存、带宽、可用性、vLLM 就绪情况、供应商问题以及模型/API 备用策略。

AMD MI455X 和 Helios:架构、内存与可用性追踪

AMD MI455X 是如果你的 GPU 路线图依赖开放式机架级 AI 基础设施,而不是单块 PCIe 卡或一次性的云实例,那么最值得关注的加速器。AMD 将 Instinct MI455X 定位为 Helios 机架平台中的 GPU:这是一个基于 HBM4 的 72 GPU 系统,面向大规模训练、后训练和高吞吐推理。

对于买家来说,真正有用的问题不仅是“AMD MI455X 的规格是什么?”还包括:机架暴露了多少 HBM4 内存,应以什么带宽数值建模,什么时候才能真正拿到容量,以及在生产镜像中,AMD Instinct MI455X GPU 是否已启用 vLLM?

本追踪器总结了截至 2026 年 10 月 13 日 的公开记录,并将 AMD 已确认的声明与买家的假设区分开来。

快速答案:AMD MI455X 是什么?

AMD MI455X 是一款基于 AMD CDNA Next 架构的 AMD Instinct 数据中心 GPU。AMD 的公开产品页面列出了每个 MI455X 加速器拥有 432 GB HBM4 内存和 23.3 TB/s 峰值内存带宽。在 AMD Helios 机架中,72 块 MI455X GPU 合计约拥有 31 TB HBM4 内存和约 1.67 PB/s 的 GPU 内存总带宽。

AMD 将 Helios 描述为面向开放 AI 基础设施的机架级平台,而不是独立的加速器 SKU。这一点很重要,因为大多数团队会通过云容量、机架预留、托管集群和软件镜像来评估 AMD MI455X,而不是单独购买一块 GPU。

AMD MI455X 追踪器

字段当前公开状态买家要点
GPUAMD Instinct MI455X将其视为 Helios 规划中的旗舰 MI400 系列加速器。
架构AMD CDNA Next新一代 AMD AI 架构;应重视软件栈验证。
内存容量每 GPU 432 GB HBM4为 KV cache、长上下文、MoE 专家和大模型服务提供更大余量。
内存带宽每 GPU 峰值 23.3 TB/s在进行带宽建模时应使用这一当前 AMD 数值,而不是更早的预发布数字。
机架平台AMD Helios实际采购单位很可能是机架或集群容量。
每个 Helios 机架中的 GPU 数量72 块 MI455X GPU相关决策应在机架拓扑层面进行,而不只是 GPU 卡层面。
机架内存约 31 TB HBM4适用于大模型推理、后训练和多租户调度模型。
机架内存带宽总计约 1.67 PB/s对带宽敏感的工作负载应要求真实的 tokens/sec 和 step-time 基准测试。
软件栈ROCm、AMD 开发者栈以及框架支持vLLM 可在 AMD ROCm 平台上运行,但 MI455X 生产镜像仍需要提供商验证。
可用性AMD 将 MI400/Helios 定位于 2026 年基础设施周期实际可用性取决于提供商库存、区域、预览计划和预留条款。

AMD MI455X 架构:为什么 CDNA Next 很重要

对于已经运行 MI300X 的团队来说,AMD MI455X 不只是一次小幅内存升级。它属于 AMD 的下一代 Instinct 产品,而随之而来的 Helios 系统把采购讨论从“我应该租哪种 GPU 实例?”变成了“哪种机架拓扑、软件栈和供应商承诺能够通过我们的工作负载测试?”

最重要的架构问题很实际:

  1. 每 GPU 内存:432 GB HBM4 改变了多少模型状态、KV cache 和批处理余量可以保持在加速器附近。
  2. 内存带宽:每块 AMD MI455X 23.3 TB/s 的峰值带宽,是对内存受限推理和后训练工作负载进行基准测试时应关注的规格。
  3. 扩展拓扑:Helios 将 72 块 MI455X GPU 放在一个机架级系统中,因此布局、互连、故障域和调度器感知都很重要。
  4. 软件成熟度:只有当内核、ROCm 镜像、vLLM/SGLang 支持、可观测性和编排对你的模型足够稳定时,CDNA Next 的容量才真正有用。
  5. 供应商打包方式:在普通按需实例出现之前,云买家可能会先看到整机架、部分机架、私有集群、托管推理或基准预览。

这也是为什么 AMD MI455X 应该和你的 GPU 集群 TCO 模型并列考虑,而不仅仅是放在原始加速器对比表中。

AMD MI455X 规格:已确认内容

今天应放入规划表的核心数据如下:

规格AMD MI455X 公开数值
产品系列AMD Instinct MI400 系列
GPUAMD Instinct MI455X
架构AMD CDNA Next
内存432 GB HBM4
峰值内存带宽23.3 TB/s
主要平台AMD Helios 机架
Helios GPU 数量72 块 AMD Instinct MI455X GPU
Helios 内存约 31 TB HBM4
Helios 总内存带宽约 1.67 PB/s,基于 72 x 23.3 TB/s

次要关键词“amd mi455x memory bandwidth”尤其重要,因为一些早期讨论可能落后于当前产品页面上的数值。如果供应商报价、幻灯片或基准测试提到 19.6 TB/s,请询问来源日期,以及该数值是否反映当前 MI455X 产品指引。

AMD Helios:机架本身就是产品

AMD Helios 是围绕 AMD MI455X 构建的机架级平台。对于基础设施买家来说,这意味着最重要的规格不仅仅是单卡指标。机架必须作为一个系统来评估:

Helios 规划领域需要询问的问题
机架拓扑供应商提供的是完整的 Helios 机架、分区机架,还是更高层的托管服务?
GPU 布局你的任务能否预留连续的 MI455X 拓扑,还是布局会被分散?
内存可见性在框架、张量并行和调度器开销之后,标称 31 TB HBM4 中有多少可实际使用?
网络 fabric暴露的是怎样的 scale-up 和 scale-out 网络,客户能看到哪些计数器?
存储路径检查点、数据集和嵌入存储能否向机架供给而不造成 GPU 空闲时间?
故障域当一个托盘、NIC、交换机或供电/散热组件在运行中失效时会发生什么?
软件镜像支持哪些 ROCm、Linux、Kubernetes、Slurm、vLLM、SGLang、PyTorch 和监控版本?
验收测试在签约前,能否运行你自己的模型、序列长度、批次组合和 SLO?

Helios 还应与竞争的机架级系统以及托管模型 API 基线进行比较。如果你的产品只需要可靠的模型输出,而不需要直接硬件控制,请在预留机架容量之前,结合阅读 GPU 云与模型 API。

为什么 HBM4 是值得关注的 AMD MI455X 规格

之所以会有“amd mi455x memory capacity hbm4”这样的查询,是因为内存如今已成为 AI 基础设施的主要采购筛选项之一。HBM4 同时影响容量和速度:

  • 长上下文推理:更大的 HBM 在必须削减 batch size 或上下文长度之前,可提供更大的 KV cache 余量。
  • 大规模 MoE 模型:更多本地内存有助于支持活跃专家、路由状态,并减少激进的卸载。
  • 后训练:SFT、偏好优化和强化学习流水线可能会受激活和优化器内存限制。
  • 租户密度:如果隔离设计得当,更多内存可以支持在一个预留拓扑内承载更多模型变体、副本或客户。
  • 每个被接受输出的成本:只有当延迟、质量、重试和故障恢复都保持在产品 SLO 之内时,更大的 batch size 才会带来收益。

不要只看内存容量就下单。向供应商索取工作负载级证据:在你的上下文长度下的 tokens/sec、首 token 时间、batch 延迟、模型质量接受率、排队时间、失败运行成本以及运维恢复时间。

vLLM 是否已在 AMD Instinct MI455X GPU 上启用?

准确的回答是:vLLM 支持运行在 AMD ROCm 平台上,AMD 也将其 AI 软件栈定位为支持开放框架,但在把它视为可生产环境使用之前,你应向实际云供应商的镜像确认 MI455X 级别的 vLLM 启用情况。

这个区别很重要。“ROCm 支持 vLLM”并不等于“这个 MI455X 区域、这个驱动、这个内核集合、这个容器镜像、这个模型以及这个服务拓扑都由我的供应商支持用于生产。”

使用以下 vLLM 验证清单:

  1. 确认供应商的 ROCm 版本,以及 MI455X 是否列在镜像发布说明中。
  2. 询问 vLLM 是预装、由供应商支持,还是由社区支持。
  3. 使用你预期在生产中采用的相同量化、张量并行、序列长度和并发度运行目标模型。
  4. 测量 prefill、decode、首 token 时间、吞吐量、错误率和 GPU 内存压力。
  5. 检查是否有 SGLang、Triton 或供应商托管推理等备用服务选项。
  6. 在签署预留容量合同之前,确认升级策略、回滚流程、可观测性和内核兼容性。

如果供应商目前还无法回答这些问题,就应将 AMD MI455X 的 vLLM 支持视为评估项,而不是已经完成的生产承诺。

AMD MI455X 发布日期与可用性追踪

围绕“amd mi455x release date”的搜索需求通常意味着买家想知道何时可以租用、基准测试或预留容量。更清晰的追踪方式是按里程碑,而不是单一日期:

里程碑公开可见的有用信息买家仍然需要什么
产品披露AMD 已公开列出 MI455X 产品规格和 Helios 平台细节。在供应商报价中确认规格修订日期。
软件启用ROCm 和 AMD AI 软件支持是平台故事的核心。确认 MI455X 级镜像支持、框架版本以及 vLLM/SGLang 状态。
系统可用性AMD 将 Helios 定位于 2026 年 AI 基础设施周期。确认首批供应商区域、分配模型和容量窗口。
云预览早期容量可能以基准测试访问或私有预览的形式出现。要求提供代表性拓扑,而不是孤立的营销基准。
全面租用按需容量可能会晚于系统级可用性出现。比较按需、预留、私有集群和托管服务条款。

实际规则是:不要把 AMD 的硬件路线图等同于你团队可用的容量。供应商库存、区域、电力、散热、网络、软件镜像和商业条款共同决定了 AMD MI455X 容量何时可用。

何时等待 AMD MI455X

等待 AMD MI455X 或 Helios 容量是有意义的,当:

  • 你的工作负载受内存限制,而每个 GPU 432 GB 的 HBM4 会改变经济性。
  • 你需要机架级控制来进行训练、后训练、大规模 MoE 推理或自定义服务。
  • 你可以在与生产环境相似的提示、上下文窗口和并发条件下进行基准测试。
  • 你的团队已经准备好运营 ROCm 镜像、调度器策略、网络计数器、存储和故障恢复。
  • 你的采购窗口可以容忍供应商预览、配额分配和区域不确定性。

以下情况继续等待则有风险:

  • 你现在就需要面向用户的生产容量。
  • 你的工作负载可以通过 API 使用托管模型,而不需要直接控制 GPU。
  • 你的利用率不足以摊销预留机架或私有集群的成本。
  • 你的主要瓶颈是路由、可靠性、评估、支出归因或用户工作流,而不是原始加速器访问。
  • 在做出期限承诺之前,你无法运行验收基准测试。

对于许多团队来说,务实的路径是混合式:现在先用模型 API 进行生产,当 MI455X 或 Helios 容量出现时进行基准测试,并且只在它在已接受输出成本上击败你的模型/API 基线后再预留硬件。

AMD MI455X 容量的供应商问题

在预留 AMD MI455X 容量之前,向供应商发送这份检查清单:

  1. 你们提供的是 AMD MI455X、AMD Helios,还是其他 MI400 系列配置?
  2. 该容量是整机架、部分机架、私有集群、托管推理、预览,还是按需实例?
  3. 哪些区域有实物库存,分配窗口是多久?
  4. 支持哪些 ROCm、kernel、驱动、固件、Slurm/Kubernetes、PyTorch、vLLM 和 SGLang 版本?
  5. 在签约前,我们能否运行自己的模型、提示词组合、上下文长度、并发和评估框架?
  6. 排队时间、重试、失败作业、出站流量、存储和支持费用分别是多少?
  7. 可以暴露哪些遥测数据,用于 GPU 利用率、HBM 压力、内存带宽、网络计数器和作业失败情况?
  8. 如果公开规格、交付时间或基准结果在合同签署后发生变化,会怎样处理?
  9. 针对租户隔离、数据处理和审计证据,有哪些安全控制?
  10. 价格与当前的 GPU 租赁价格、无服务器 GPU 与专用 GPU 以及托管模型/API 替代方案相比如何?

Flatkey 观点:跟踪 MI455X,但保留生产基线

AMD MI455X 很重要,因为它为下一轮 AI 基础设施周期的买家提供了一个严肃的 HBM4 和机架级替代方案。任何计划进行大模型推理、后训练或私有 AI 工厂容量建设的人都应该关注它。

但它并不是每个 AI 产品团队都自动适合作为第一步的选择。如果你的产品需要可靠访问模型输出、成本可见性、故障转移路由以及单一计费界面,那么托管模型/API 层可以在 MI455X 供应和软件镜像成熟期间继续推动生产。

Flatkey 正是为这条路径而构建:一个密钥、一个余额,并在官方模型和工具 API 之间进行路由。在你的 AMD MI455X 分析中,把 Flatkey 作为生产基线,这样你比较的是机架级硬件与可工作的部署路径,而不是与空白表格进行比较。

常见问题

什么是 AMD MI455X?

AMD MI455X 是一款基于 AMD CDNA Next 架构的 AMD Instinct MI400 系列数据中心加速器。AMD 列出的 GPU 规格为 432 GB HBM4 内存和 23.3 TB/s 峰值内存带宽。

什么是 AMD Helios?

AMD Helios 是一个围绕 72 块 AMD Instinct MI455X GPU 构建的机架级 AI 平台。在这个规模下,该机架暴露出约 31 TB 的 HBM4 内存和约 1.67 PB/s 的 GPU 总内存带宽。

AMD MI455X 的内存容量是多少?

公开的 AMD MI455X 内存容量为每个 GPU 432 GB HBM4。因而,72 GPU 的 Helios 机架在考虑实际软件和调度开销之前,约可达到 31 TB 的 HBM4 内存。

AMD MI455X 的内存带宽是多少?

AMD 当前公开的 MI455X 指标是每个 GPU 23.3 TB/s 峰值内存带宽。对于 72 GPU 的 Helios 机架,这意味着约 1.67 PB/s 的总内存带宽。

AMD MI455X 的发布日期是什么时候?

AMD 已公开披露 MI455X,并将 Helios 定位于 2026 年 AI 基础设施周期。买家应跟踪供应商特定的库存、区域、预览访问、软件镜像和预留条款,而不是假设存在单一通用的租用日期。

AMD Instinct MI455X GPU 上启用了 vLLM 吗?

vLLM 支持 AMD ROCm 平台,但 MI455X 级别的生产可用性取决于供应商镜像、ROCm 版本、内核、模型、服务配置和支持政策。在投入生产流量之前,请先与供应商确认。

已检查来源