成本、计费与运维2026年10月23日Flatkey Team

主权 AI 基础设施：模型、数据驻留与算力控制（2026 年指南）

2026 年主权 AI 基础设施实用指南：涵盖算力、数据、模型、运维四个层面，相关法规、五个主权等级、开放权重模型的推理服务部署，以及 70B 模型在境内 GPU 上运行的成本示例。

主权 AI 基础设施：模型、数据驻留与算力控制（2026 年指南）

主权 AI 基础设施是由国家或组织依据自身适用的法律控制的算力、数据、模型和运维体系，无需依赖受境外主体控制的服务。 落到实践中，它包含四项要求：GPU 位于选定的司法管辖区，数据留在当地，模型可以自行运行和审计（通常为开放权重模型），运营方受当地法律约束。大多数企业无需实现完全自主可控，而是需要为每类工作负载选择合适的控制程度。

本指南面向接到“让我们的 AI 实现自主可控”任务的企业 AI、基础设施和采购团队。我们将界定这一概念，解释截至 2026 年 10 月推动其发展的法规，介绍从公共 API 到物理隔离集群的五级控制方案，并提供境内 GPU 部署的容量规划和成本示例。

什么是主权 AI？

NVIDIA 将主权 AI 描述为各国“利用本国的基础设施、数据、人才和商业网络，以符合本国语言、文化和法规的方式”构建 AI，模型“托管并运行于本地基础设施，仅受当地法律管辖”（NVIDIA）。Red Hat 则从企业角度阐述这一概念：掌控 AI 在哪里运行、谁可以访问，以及哪些组件可以检查和替换。

这一术语涵盖两个相互关联的目标：

国家主权 AI：国家建设本土算力、发展本地语言模型并培养人才，使关键服务不依赖境外供应商。
企业主权 AI：组织将受监管的数据、模型和 AI 运维置于自己选择的司法管辖和合同框架之下。

两者都建立在相同的基础设施层面之上。

主权 AI 基础设施的四个层面

层面	“主权”的含义	常见控制措施
算力	GPU 位于选定国家，由受该国法律管辖的实体运营	境内数据中心、专用或私有 GPU 集群、主权云区域
数据	训练数据、提示词、输出、日志和备份均留在该司法管辖区内	数据驻留合同、区域存储、由客户持有密钥的加密机制
模型	无需境外供应商同意，即可运行、检查、微调并持续使用模型	自托管开放权重模型（Llama、Mistral、Qwen、DeepSeek）；或通过合同保障闭源模型的使用权利
运维	管理员、支持人员和分包处理方均在本地，且可接受审计	本地支持人员、访问日志、独立审计权、退出方案

部署的自主可控程度取决于最薄弱的环节。如果提示词被记录到境外的监控服务，GPU 放在境内也无济于事；如果只能通过境外供应商的支持团队获得管理访问权限，模型部署在本地同样无法解决问题。

为什么主权 AI 在 2026 年成为重要议题

三股力量让它从政策讨论变成了采购必须考虑的问题：

欧盟《人工智能法案》的合规期限。 根据《人工智能法案》实施时间表（最后更新于 2026 年 8 月 31 日），大部分尚未实施的条款已于 2026 年 8 月 2 日开始适用；2025 年 8 月 2 日之前已上市的通用 AI 模型，其提供商必须在 2027 年 8 月 2 日前达到合规要求；附件 III 所列高风险系统的相关义务则从 2027 年 12 月 2 日起适用。组织需要掌握可自行控制的审计记录和文档。
跨境数据规则。 根据 GDPR，个人数据只有向获得欧盟充分性认定的国家传输时，才能自由流动；其他跨境传输需要相应的保障措施。与此同时，美国 CLOUD Act（2018 年 3 月）为美国当局索取美国供应商持有的数据提供了法律途径。因此，欧盟买家不仅关心服务在哪里运行，也关心由谁运营。
供应商与供应风险。 模型停用、价格调整、使用政策变更和 GPU 出口管制，都可能影响依赖单一境外 API 构建的产品。

云服务商已相应推出主权云产品：AWS 推出了面向欧洲的独立云 AWS European Sovereign Cloud；Microsoft 的 EU Data Boundary 承诺在欧盟境内存储和处理其企业服务的客户数据；Oracle 则提供具备位置、访问和运维控制能力的主权云方案。

AI 主权的五个等级

应为每类工作负载分别选择等级，而不是全公司统一采用一个等级。

等级	部署方式	数据驻留	模型控制权	运维控制权	适用场景
1. 公共 API	模型供应商的全球端点	由供应商决定	无	供应商	公开内容、原型开发
2. 区域 API	同一供应商提供区域内或境内处理服务（例如 Claude 仅限美国的推理价格为 1.1x，OpenAI 区域数据驻留端点加价 +10%）	合同约定的区域	无	供应商	大多数内部业务数据
3. 主权云	模型托管于由本地实体运营的主权云区域	境内	有限（限目录内模型）	本地运营方	受监管行业、公共部门
4. 境内专用 GPU	在选定国家租用或预留 GPU 集群，运行自行部署的开放权重模型	境内，使用自己的存储	完全控制	自己与数据中心运营方	医疗、金融、国防供应商、国家级 LLM
5. 本地部署或物理隔离	自有硬件，无外部网络连接	自有场所	完全控制	自己	涉密或受到严格限制的工作负载

第 2 级的价格数据来自截至 2026 年 10 月的官方 Claude 定价页面和 OpenAI 定价页面：区域处理通常比全球处理贵约 10%。第 4 级和第 5 级省去了这部分溢价，但需要自行承担 GPU 容量成本，并确保其得到充分利用。

设计主权 AI 技术栈

算力

对于自托管推理和微调，2026 年 10 月的实用选择包括 NVIDIA H100、H200、B200 和 B300，以及 AMD MI300 系列加速器。显存决定了每张 GPU 能容纳多大的模型；可参阅我们的 H200 与 H100 对比和 LLM GPU 显存需求。有关集群设计（网络、存储、调度），请参阅 GPU 集群架构和私有 GPU 云。

为主权 AI 部署选择 GPU 供应商时，应向每家供应商确认以下问题：

数据中心由哪个法律实体运营，受哪个国家的法律管辖？
能否在合同中明确具体设施和区域？
谁拥有物理访问和远程管理权限，是否记录访问日志？
备份、日志和监控数据流向哪里？
退出服务时，能否带走自己的数据和磁盘？

模型

开放权重模型是第 4 级和第 5 级主权 AI 的基础，因为你可以在任何地点托管它们，并在供应商变更条款后继续使用。常见选择包括在法国开发的 Mistral 模型、Meta 的 Llama 系列，以及 Qwen 和 DeepSeek 的开放版本。应逐一检查许可证中的商业使用限制，并用自己的数据评估模型的本地语言表现。

推理服务

兼容 OpenAI 的推理服务器让应用只需修改一个 URL，就能在主权自托管模型与公共 API 之间切换。使用 vLLM 时：

docker run --gpus all -p 8000:8000 \
  -v /data/models:/models \
  vllm/vllm-openai:latest \
  --model /models/your-open-weight-model \
  --tensor-parallel-size 2 \
  --max-model-len 32768

from openai import OpenAI

# Sovereign endpoint inside your in-country cluster
client = OpenAI(base_url="http://inference.internal:8000/v1", api_key="local-token")
r = client.chat.completions.create(
    model="/models/your-open-weight-model",
    messages=[{"role": "user", "content": "Summarize this contract clause."}],
)
print(r.choices[0].message.content)

将基础 URL 放在配置中，让非敏感工作负载可以使用区域或公共 API，而受监管的工作负载始终使用主权端点。我们的兼容 OpenAI 的推理服务器指南对比了 vLLM、SGLang 等方案。

数据与运维

将提示词、输出、向量数据库和日志保留在与模型相同的司法管辖区内。
使用由客户管理、存储于境内的加密密钥。
将可观测性数据发送到本地托管的系统，而非境外 SaaS。
记录分包处理方；我们的 AI 网关 DPA 检查清单列出了应要求写入的条款。

成本示例：70B 级模型的主权推理服务

根据 2026 年 10 月 23 日的 Flatkey Compute 市场指数（于 UTC 02:01 更新），H200 的按需参考价格为每 GPU 小时 $3.65，1 年期价格为 $2.74；H100 对应价格分别为 $2.64 和 $1.98。

70B 级开放权重模型采用 FP8 时，权重约需占用 70GB 显存。一张 H200（141GB）还能留出空间存放 KV 缓存；为实现冗余，至少需要运行两个副本。

方案	GPU 数量	每小时费用（指数）	每月费用（730 小时）
2x H200，按需	2	$7.30	约 $5,329
2x H200，1 年期	2	$5.48	约 $4,000
4x H100（2 个副本 x 2 张 GPU），1 年期	4	$7.92	约 $5,782

还需计入存储、网络、监控和人员工时；我们的 GPU 集群 TCO 指南提供了完整的测算表。将这一成本与第 2 级方案的预期 API 支出比较：如果区域 API 的成本低于集群，且满足法律要求，通常就是更好的选择。指数价格仅供参考；实际境内价格因国家和租期而异，以报价确认为准。

主权 AI 就绪检查清单

按数据敏感程度和法律要求对工作负载分类，再为每类分配主权等级。
梳理所有数据流：提示词、输出、嵌入向量、日志、备份和遥测数据。
选择可在目标司法管辖区合法运行的模型，并测试其本地语言表现。
选择明确设施、运营方和退出条款的算力服务。
为每个模型配置兼容 OpenAI 的端点，方便应用在不同等级之间迁移。
自行掌控审计证据（访问日志、模型版本、评估结果），以应对《人工智能法案》和行业审计。
每六个月复查一次方案；区域 API 选项和 GPU 价格变化很快。

常见问题

什么是主权 AI？

主权 AI 是利用国家或组织依据自身适用法律控制的基础设施、数据和模型构建并运行的 AI。它涵盖境内算力、数据驻留、可自行运行和审计的模型（通常为开放权重模型），以及受本地法律问责的运维体系。

什么是主权 AI 基础设施？

它是支撑主权 AI 的物理设施和软件体系：境内 GPU 数据中心、区域存储和网络、模型推理服务栈，以及确保访问权限始终受本地司法管辖的运维控制措施和合同。

哪些国家开展了主权 AI 计划？

很多国家都有。NVIDIA 列举的案例包括法国（为经济与财政部提供公共服务 AI 智能体）、印度（Sarvam 在本土基础设施上运行多语言模型，以及政府的 IndiaAI 计划）和巴西（南里奥格兰德州的法律服务 AI）。欧洲、中东和亚洲的多个国家都在投入资金，建设国家算力和本地语言模型。

领先的 AI 基础设施公司有哪些？

经常被提及的领先企业包括：加速器领域的 NVIDIA 和 AMD；云及主权云区域领域的 AWS、Microsoft Azure、Google Cloud 和 Oracle；以及提供专用算力的 GPU 专业服务商，如 CoreWeave 和 Lambda。对于主权 AI 项目，运营方所属的司法管辖区与品牌同样重要。