Enterprise Controls and Trust2026年7月13日Flatkey Team

SOC 2 AI API 网关范围:报告应证明什么,不应证明什么

使用这份 SOC 2 AI API 网关范围清单,区分报告可以证明的内容与路由、提供商、日志、保留以及由买方负责的后续证据。

SOC 2 AI API 网关范围:报告应证明什么,不应证明什么

SOC 2 AI API 网关范围审查不应从徽章开始。它应从一个简单的问题开始:报告实际涵盖了什么系统、什么期间、哪些控制、哪些依赖项,以及哪些买方自担责任?

这种区分对于模型路由很重要。AI API 网关可以位于你的应用程序与多个模型提供商、端点家族、日志、支持工作流、计费记录以及回退路径之间。SOC 2 Type 2 报告可以作为证据,证明网关供应商所描述的系统以及其涵盖的信任服务准则。它不应被视为证明每一个上游模型提供商、每一条路由、每一个提示保留设置、每一个买方账户配置,或每一次未来的模型变更都已获批。

当采购、安全、法务和平台工程需要决定报告应证明什么、不应证明什么,以及哪些后续证据应放入审批包时,请使用这份SOC 2 AI API 网关范围清单。

Flatkey 与此次审查相关,因为其当前公开网站将 flatkey.ai 定位为一个 AI API 网关和模型运维平台,通过一个密钥路由官方 GPT、Claude、Gemini 及其他模型流量,并提供仪表板、计费、路由、使用情况和运营证据界面。Flatkey 的公开页面和证书查询页面仅可作为日期筛选证据。对于生产环境审批,请索取私有 SOC 2 报告、适用时签署的合同/DPA、账户设置、路由配置,以及针对你将运行的工作负载的支持确认。

如需更广泛的采购背景,请将本文与 SOC 2 AI API 网关证据清单AI 网关采购证据包以及 AI API 供应商风险评估结合使用。

SOC 2 AI API 网关范围:快速决策表

审查的第一页应将报告证据与买方后续补充证据区分开来。

审查领域 SOC 2 报告应帮助证明什么 它本身不应证明什么
法律实体 审查的是哪一家服务机构 每个关联方、转售商或上游模型提供商都在涵盖范围内
系统边界 所描述系统中包含哪些平台、服务、地点、基础设施、人员和流程 每个仪表板功能、端点家族、客户路由或未来集成都在范围内
报告期间 Type 2 审查所涵盖的期间 期末之后当前控制未发生变化
信任服务类别 涵盖了哪些准则,例如安全性、可用性、保密性、处理完整性或隐私 未选择的类别也被审查过
已测试控制 审计师测试了哪些控制以及该期间内的结果 买方配置、路由策略或工作负载数据类别已被测试
例外项 是否记录了控制例外以及管理层如何回应 例外项对你的特定工作负载不重要
次级服务机构 主要依赖项是否被纳入、剔除,或由其他报告处理 上游模型提供商的保留、训练、日志记录或区域行为已被涵盖
CUECs 买方必须运行哪些补充用户实体控制 供应商负责买方密钥存储、脱敏、提供商白名单或应用层数据分类

这是SOC 2 AI API 网关范围的核心规则:报告是关于在定义期间内某个已描述服务机构系统的证据。它不是对你的团队未来可能创建的每一条 AI 路由的全面批准。

在阅读控制之前先锁定这五个范围字段

不要一开始就寻找无保留意见。先看五个字段。

字段 买方问题 应保存的证据
实体 被审计的服务机构是谁? 报告封面、法律实体、合同相对方,如公开可查则保存证书查询结果
系统 包含哪些服务、基础设施、团队、流程和数据流? 系统描述、产品/服务清单、系统边界图
期间 报告涵盖了什么 Type 2 期间? 开始日期、结束日期,如需要则保存桥接函
准则 包含了哪些信任服务类别? 安全性、可用性、处理完整性、保密性、隐私范围
依赖项 哪些次级服务机构和 CUECs 会影响意见? 纳入/剔除方法、次级服务机构清单、买方控制清单

对于 AI 网关,系统字段最值得关注。“API 网关”可能仅表示基础 URL 路由,也可能还包括仪表板访问、模型目录、账户余额、使用计量、请求日志、告警、支持工作流、事件响应和密钥管理。私有报告应告诉你系统描述中包含了什么。如果没有,请要求供应商将报告范围映射到你计划使用的确切路由。

SOC 2 报告应为 AI 网关证明什么

一份有明确范围的 SOC 2 Type 2 报告应帮助买方回答以下问题。

证明范围 有用的 SOC 2 证据 AI 网关中的对应含义
控制设计与运行 报告期间内已测试的控制 访问、变更管理、监控、事件响应、供应商管理以及相关控制是否在所述网关系统中运行
可用性范围 可用性标准、与 SLA 相邻的监控、如有包含则包含事件流程 所涵盖服务是否具有明确的监控和响应控制,而不是每个模型提供商是否都会保持可用
保密性与隐私范围 如包含这些类别,则需有相应标准和控制 是否对所述系统的客户数据处理控制进行了审查,而不是每个提供商功能是否都具有相同的保留设置
变更管理 已测试的发布、审批和变更控制 网关代码/配置变更是否受到控制,而不是买方批准的路由之后是否绝不可能再被买方更改
访问控制 员工访问、特权访问、管理员审查、账户管理控制 供应商一侧的访问是否受到控制,而不是买方是否安全地存储 API 密钥
逻辑安全 身份验证、授权、日志记录、漏洞和监控控制 网关中所述的安全控制是否存在,而不是买方应用是否在发送提示词前对机密信息进行脱敏
供应商管理 子服务组织和供应商监控控制 是否管理了供应商依赖关系,而不是每个上游提供商的 SOC 2、DPA 或保留设置是否覆盖你的路由

这就是 SOC 2 AI API 网关范围 变得实用的地方。该报告可能有助于供应商风险筛查。但它仍然必须被转化为路由事实:端点族、数据类别、提供商白名单、回退策略、提示词/输出日志、元数据保留、支持访问以及删除路径。

报告不应证明什么

最常见的采购错误,是让 SOC 2 报告替代其本不旨在做出的决定。

不要仅凭该报告就证明以下事项:

主张 为什么需要进一步核实
“所有模型提供商都在覆盖范围内。” 上游提供商可能是子服务组织、被排除在外,或不在网关报告范围内。请索要提供商映射及适用的提供商证据。
“任何地方都不会存储提示词或输出。” 网关日志、提供商滥用监控日志、应用状态、支持工单和备份可能具有不同的保留行为。
“没有训练适用于每条路由。” 训练和保留承诺通常与提供商、账户、端点和功能相关。请保留账户级证明。
“回退已获批准。” 回退路由可能会将数据发送到不同的提供商或地区。批准记录应列明允许的回退提供商。
“买方的应用是合规的。” SOC 2 关注的是服务组织的控制。买方的脱敏、密钥存储、数据分类和应用访问控制属于买方责任。
“隐私或 DPA 审查已经完成。” SOC 2 不是已签署的 DPA、数据传输评估、隐私声明、BAA 或区域处理承诺。
“当前状态与报告期间完全一致。” 报告期间可能已在数月前结束。请索要过渡证明函、当前政策、当前路由配置和最新证据。
“定价、模型可用性和 SLA 结果都得到保证。” 模型目录、价格、提供商限流以及第三方可用性都可能在 SOC 2 报告之外发生变化。

如果供应商说“SOC 2 已覆盖该项”,请让他们指出确切章节、系统边界措辞、所涵盖的标准、控制、测试结果,以及任何 CUEC 或子服务组织说明。

在批准提供商之前先阅读子服务组织

AI 网关可能依赖云托管、支付系统、分析、支持工具、可观测性供应商、安全工具以及上游模型提供商。SOC 2 报告应说明如何处理子服务组织。买方通常会看到两种方法之一:

方法 对买方意味着什么
纳入法 子服务组织的相关控制包含在报告范围内。请审查包含了哪些控制。
排除法 子服务组织被排除在报告范围之外。请审查单独证据以及补充的子服务组织控制。

对于模型路由而言,排除项很重要。网关的 SOC 2 报告可能涵盖网关的供应商管理控制,而将 OpenAI、Anthropic、Google 或其他上游提供商排除在经审计系统之外。这并不意味着该报告没有用。它意味着 SOC 2 AI API 网关范围 审查必须为每条已批准路由包含一行提供商证据。

提供商文档表明,为什么不能据此推断。OpenAI 的 API 数据控制将滥用监控日志、应用状态、零数据保留(Zero Data Retention)、修改后的滥用监控(Modified Abuse Monitoring)以及特定端点行为区分开来。Anthropic 的 API 数据保留文档解释了不同的 API 和功能有不同的存储需求,并且 ZDR 是客户为符合条件的使用场景请求的一种安排。Cloudflare 的 AI Gateway 日志文档显示,网关可以暴露提示、响应、提供商、时间戳、令牌使用量、成本、持续时间、DLP 操作以及载荷级日志控制。这些都是买家在审查任何网关路由时应检查的控制面示例,而不是对 Flatkey 私有报告的断言。

将 CUEC 视为买方工作,而不是套话

互补用户实体控制并非填充内容。它们是买方必须执行的控制,只有这样服务组织的控制才有意义。

对于 AI 网关,买方侧常见的 CUEC 工作包括:

买方拥有的控制 需保留的证据
密钥存储与轮换 密钥管理器路径、负责人、轮换日期、紧急轮换操作手册
路由批准 已批准的端点族、提供商允许列表、回退策略、数据类别
提示脱敏 应用层脱敏规则、测试转录、被阻止字段示例
访问审查 管理员名单、密钥负责人、离职记录、仪表板访问审查
日志策略 是否存储提示和输出、仅保留元数据规则、保留期限
使用监控 预算负责人、配额设置、告警阈值、财务审查频率
事件流程 请求 ID、支持升级路径、证据包、通知负责人
续期触发条件 针对新提供商、端点族、数据类别或日志变更的审查日期和触发条件

一份好的 SOC 2 AI API 网关范围备忘录应将 CUEC 清单附到工程工作中。如果买方在发送提示前必须脱敏机密信息,审批就应指向脱敏测试。如果买方必须批准模型提供商,路由配置就应显示允许列表。

请求并保存 Flatkey 特定的筛选证据

截至 2026 年 7 月 11 日核查的当前 Flatkey 公共页面支持在此采购工作流中使用 Flatkey,但它们不能替代账户级证据。

证据 公开核查显示的内容 如何使用
主页 Flatkey 公开将服务定位为通过一个密钥连接官方 GPT、Claude 和 Gemini API,提供模型路由、仪表板审查、使用量、成本、路由和错误可见性。 作为带日期的产品筛选证据使用。不要将其视为私有 SOC 2 报告范围。
定价页和定价 API 公开的定价/目录界面返回了一个实时定价页面,以及一个包含 158 行模型的定价 API 响应,端点族包括 openaiopenai-responseanthropicimage-generationopenai-video 仅作为带日期的目录快照使用。模型和端点可用性可能会变化。
SLA 页面 SLA 说明其适用于 Flatkey 运营的托管仪表板、API 网关、路由、计量和账户服务,并排除第三方 AI 模型提供商及其他外部系统。 用于界定 Flatkey 直接运营的内容与第三方依赖之间的区别。
隐私与条款页面 公共政策页面讨论了 API 访问、模型路由、使用记录、计费、支持、第三方模型提供商以及可变更的模型/提供商规则。 作为筛选证据使用;最终批准仍需要签署的条款以及路由级数据处理证明。
证书查询 公开的 CAI 查询显示 VOC AI Inc. 证书 USA-SOC2-220513,SOC 2 Type II,状态有效,期间为 2025 年 7 月 15 日至 2026 年 7 月 14 日。 仅作为公开查询使用。需索取实际的 SOC 2 报告,并确认覆盖系统、标准、期间、例外、CUEC 和子服务处理方式。

对于 Flatkey 或任何 AI API 网关,审批应写明:“已检查公共页面;已请求私有报告;已附路由证据;已列出不支持的假设。”

构建一份从范围到路由的证据包

这次审查的输出应当是一份小型证据包,而不是含糊的批准。

打包项 保存文件 负责人
SOC 2 报告 私密报告、报告期间、准则、意见、例外事项、必要时的桥接函 采购/安全
范围图 将报告系统边界映射到仪表盘、网关、API、计量、日志、支持和路由配置 平台工程
供应商图 已批准的供应商、故障切换顺序、子服务处理、单独的供应商证据 安全/平台
数据图 提示、输出、文件、元数据、计费记录、日志、支持工单、备份 安全/法务
保留矩阵 按端点家族划分的网关、供应商、应用、支持和备份保留策略 安全/法务
CUEC 记录 买方控制及其已实施的证明 平台/安全
测试证据 一条成功的低风险请求和一条预期失败的请求,附请求 ID 和已脱敏日志 平台工程
批准备忘录 范围、限制、未决风险、审阅人姓名、续期触发条件 业务负责人/采购

这份材料包也是 SOC 2 审查与工程运营之间的桥梁。当新增供应商、模型类别、日志模式或数据类别时,团队应知道哪些文件需要更新。

应暂停批准的红旗

如果以下任一问题未解决,请暂停批准:

  • 无法提供 SOC 2 报告,只提供徽章或证书查询。
  • 报告期间已结束,且没有桥接函或当前证据可用。
  • 系统描述未清楚包含你计划使用的网关路径。
  • 报告排除了相关的子服务机构,且未附上单独的供应商证据。
  • 所选信任服务类别与买方声明的风险不匹配,例如隐私或保密性。
  • CUEC 要求买方实施尚未落实的控制措施。
  • 默认认为提示/输出日志记录已关闭,但没有账户或路由证据证明这一点。
  • 故障切换可能会将数据发送到未批准的供应商。
  • 支持人员可以查看请求内容,但支持访问、工单保留和脱敏未有文档说明。
  • 批准没有负责人、到期日期或路由变更触发条件。

这些红旗并不一定表示供应商不合格。它们意味着 SOC 2 AI API 网关范围 审查尚未完成。

实用的批准声明

一个有用的批准声明应当简短、具体且可测试:

字段 示例措辞
报告证据 “已审阅供应商 X 的 SOC 2 Type 2 报告,期间 A 至 B,安全与可用性准则,此路由无未接受的例外。”
批准范围 “通过已批准的网关基础 URL 和聊天端点的生产文本客服工作流。”
供应商 “供应商 A 为主,供应商 B 为故障切换;不使用图像、视频、文件、网页搜索或批处理端点。”
数据类别 “经应用层脱敏后的客户支持文本;不包含支付数据、密钥、PHI 或受监管记录。”
日志记录 “允许网关元数据日志;原始提示/输出日志已禁用或单独获批;已附供应商保留证据。”
买方控制 “密钥存放在秘密管理器中、季度访问审查、路由允许列表、月度使用审查、已分配事件负责人。”
续期触发 “在新增供应商、启用新的端点家族、更改日志、路由受监管数据或 SOC 2 期间到期前刷新。”

这就是“已批准”应当意味着的内容。开发人员知道可以使用哪条路由。采购知道审查了哪些证据。安全团队知道要监控什么。法务知道哪些假设仍需要合同条款。

结论

SOC 2 AI API 网关范围 审查保持精确时,它才有价值。报告应有助于证明经审计服务组织所描述的系统、涵盖的准则、控制措施运行情况、报告期间、例外事项、子服务处理以及买方责任。它不应被扩展为证明每条路由、每个供应商、保留设置、故障切换行为、DPA 条款、数据驻留声明或买方配置。

对于 Flatkey,先从当前公开证据开始,然后请求私密 SOC 2 报告,并将其映射到你团队实际运行的路由。如果你想用一个 API key 和一个仪表盘访问多个模型,获取一个 key,将 SOC 2 AI API 网关范围 清单附到采购包中,并在批准每条生产路由时提供明确的供应商、日志、保留和 CUEC 证据。

常见问题

什么是 SOC 2 AI API 网关范围?

SOC 2 AI API 网关范围是 SOC 2 报告在 AI API 网关上的适用边界。它包括被审计实体、所述系统、报告期间、信任服务类别、已测试控制、子服务组织、排除项以及买方拥有的 CUEC。

SOC 2 是否证明每个 AI 模型供应商都被覆盖?

不能。SOC 2 可以显示网关供应商如何管理所述系统及其依赖项,但上游模型提供商可能被纳入、被排除,或由单独的证据覆盖。买家应为每条已批准路由保存一份供应商映射。

SOC 2 Type 2 报告是否能证明不会保留提示词?

不能单靠它证明。提示词和输出的保留情况可能因网关、上游提供商、应用状态、支持工单、日志和备份而不同。买家应核实按端点、账户和路由划分的保留证据。

采购在看到 SOC 2 徽章后应要求什么?

索取私有的 SOC 2 报告、报告期间、涵盖的标准、系统描述、例外项、子服务组织处理方式、CUECs、如有需要的桥接函、供应商映射、路由配置、日志设置、保留矩阵,以及适用情况下已签署的合同/DPA 证据。

范围审查应多久更新一次?

当报告期到期、供应商提供新报告、在添加新的提供商或端点系列之前、在路由新的数据类别之前、日志或保留策略发生变化时,以及发生重大事件之后,都应更新 SOC 2 AI API 网关范围审查。

待审查来源