AI API 供应商风险评估在供应商是多模型网关而不是单一模型提供商时会变得复杂。买方批准的不仅仅是一个 API 端点。买方批准的是一条请求路径,其中可能包括网关账户、API 密钥、模型路由、回退行为、使用日志、计费记录、支持工作流以及下游模型提供商。
本指南面向在生产流量接入前审查 AI API 网关的采购、安全、平台、合规和供应商风险团队。本文不构成法律、审计或合规建议。请将其作为一份实用的问题库:该问什么、该索取哪些证据、该在预发环境中测试什么,以及该在采购档案中保留什么。
Flatkey 与此相关,因为 flatkey.ai 目前将其产品定位为面向生产级 AI 团队的单一 API 网关,提供一个 key、模型访问、路由、计费、使用分析、运营控制和控制台。2026 年 6 月 19 日获取的定价 API 快照返回了 638 条模型记录、23 个列出的供应商,以及包括 OpenAI-compatible、Anthropic、Gemini、图像生成、Responses 和视频在内的端点类别。Flatkey 的公开页脚还链接到了 VOC AI Inc. 的 SOC 2 Type II 和 ISO 27001:2022 证书查询页面。应将这些视为带日期的公开初筛证据,而不是私有报告、签署协议、DPA、账户配置、路由测试或支持确认的替代品。
快速回答:AI API 供应商风险评估应证明什么
AI API 供应商风险评估应证明四件事:数据流向何处、谁可以更改该流向、流向变化时存在哪些证据,以及哪些责任仍由买方承担。对于可以跨多个提供商进行路由的网关,通用的供应商问卷通常不够深入。
| 风险领域 | 应询问的问题 | 应索取的证据 | 停止条件 |
|---|---|---|---|
| 提供商暴露面 | 每个已批准工作流可由哪些下游模型提供商、端点类别、区域和账户接收? | 路由清单、模型目录、提供商策略、路由变更记录和当前可用性状态。 | 供应商无法说明哪些提供商可能处理提示词和输出。 |
| 数据流 | 会处理或保留哪些提示词、输出、元数据、错误、支持和计费数据? | 隐私政策、DPA 路径、保留政策、负载日志模式、删除/导出流程和提供商条款。 | 针对被路由的数据类别,其负载处理或保留方式不明确。 |
| 安全控制 | 控制证据是否覆盖你将使用的网关服务? | SOC 2 Type II 报告、ISO 27001 范围、必要时的 bridge letter、例外项、CUECs 和子服务处理方式。 | 报告范围无法与实际网关、密钥、日志、支持或路由工作流建立关联。 |
| 可审计性 | 买方能否重建是谁发送了流量、由哪条路由处理、花费是多少,以及发生了哪些变更? | 示例日志导出、管理事件轨迹、密钥所有者字段、路由尝试字段、使用单位和计费记录。 | 日志仅显示成功/失败,而没有所有者、路由、模型、提供商或成本上下文。 |
| 连续性 | 当提供商、模型、账户、区域或路由失败时会发生什么? | 回退策略、重试策略、提供商尝试元数据、事件运行手册、回滚路径和客户通知流程。 | 回退可能会在无提示的情况下将流量转移到未经批准的提供商或数据边界。 |
| 计费控制 | 能否将使用量归因到正确的团队、密钥、工作流、模型和成本负责人? | 使用仪表板、计费导出、配额/预算控制、充值记录、定价单位和异常审查流程。 | 采购无法将路由决策与支出证据关联起来。 |
先从请求路径映射开始
AI API 供应商风险评估中的第一个错误,是把网关当成直接接入提供商的黑盒替代品。只有当买方能够以足够精确的方式描述新的请求路径,以供安全和采购审查时,网关才能减少运营蔓延。
在给供应商评分之前,请针对每个生产工作流映射以下字段:
| 字段 | 应记录内容 | 为何重要 |
|---|---|---|
| 应用和环境 | 应用名称、所有者、预发/生产边界、数据类别和业务用例。 | 同一个网关对于公开内容生成可能是低风险,但对于客户支持或受监管数据则可能是高风险。 |
| 凭证边界 | 密钥所有者、轮换流程、撤销路径、服务账户以及谁可以创建或查看密钥。 | 一个共享密钥可能掩盖问责;分离密钥更有利于审计和事件隔离。 |
| 网关路由 | 端点类别、模型记录、提供商、组/层级、回退规则和路由所有者。 | 路由选择决定了谁可能看到该请求,以及适用哪些成本、可用性和提供商条款。 |
| 下游提供商 | 提供商名称、提供商账户模型、区域或处理位置(如可获得)以及数据使用条款。 | 批准网关并不自动等于批准每一个下游提供商。 |
| 证据面 | 日志、元数据、管理事件、计费记录、支持工单和导出路径。 | 采购批准应取决于买方日后可检查的证据。 |
NIST 的 AI Risk Management Framework 为此类审查提供了有用的语言,因为它区分了治理、映射、测量和管理。在网关审查中,这些概念会变得具体:谁拥有路由、映射了哪些上下文、如何衡量风险,以及批准后如何管理变更。
先问提供商暴露面问题,再问数据问题
多模型网关可以让 AI API 运营更简单,但它也改变了供应商风险的讨论方式。买方必须知道,网关究竟只是将流量传递给单一已批准提供商,还是会在多个提供商之间做选择,或者会应用可能改变下游接收方的回退/负载均衡行为。
针对提供商暴露面,请使用以下AI API 供应商风险评估问题:
| 问题 | 证据 | 审查备注 |
|---|---|---|
| 今天哪些提供商可以接收这个工作流? | 当前目录记录、端点类别、提供商、可用性状态和路由配置。 | 不要批准诸如“所有 GPT 模型”这样的类别,除非有明确命名的记录和所有者。 |
| 谁可以添加、删除或重排提供商? | 管理员权限、路由变更审计轨迹、审批工作流和通知设置。 | 提供商变更是风险变更,而不仅仅是工程优化。 |
| 网关是否可以自动切换到其他提供商? | 回退策略、尝试元数据、停止条件和回滚流程。 | 应针对每个工作流和数据类别预先批准回退。 |
| 回退路由之间的提供商特定条款是否不同? | 提供商数据使用条款、保留声明、训练条款、区域处理条款和支持路径。 | 回退路由可能跨越数据使用或保留边界。 |
| 不支持、不可用或失败的模型会如何表示? | 可用性状态、事件消息、当前路由测试和预期的客户侧行为。 | 目录条目并不等同于可用于生产的路由。 |
OWASP 的 GenAI 供应链风险指南在这里很有用,因为一个模型工作流通常依赖于买方代码库之外的组件和服务。对于网关来说,一份实用的供应链档案应包括网关供应商、云和支持系统、下游模型提供商、日志和分析系统、计费处理器,以及任何可能影响提示词、输出、元数据或密钥处理的服务。
把数据流变成清单
强有力的AI API 供应商风险评估不会只问一个宽泛的问题,比如“我们的数据安全吗?”它会把数据流拆分成不同记录,因为每种记录都可能具有不同的风险和保留特征。
| 数据类型 | 向网关供应商提出的问题 | 买方应保存的证据 |
|---|---|---|
| 提示词和输入 | 提示词是否会被存储、检查、脱敏、加密,或传递给下游提供商?能否关闭负载日志? | 日志设置、隐私政策、DPA 或数据处理条款,以及账户级确认。 |
| 输出 | 输出是否会与提示词一起存储?输出是否会用于调试、支持、质量审查、滥用审查或提供商改进? | 保留政策、支持数据政策,以及显示是否保存输出负载的测试日志。 |
| 请求元数据 | 会保留哪些元数据字段,例如 key、项目、模型、提供商、状态、token 数、成本、错误类别和时长? | 仅元数据日志导出样本和字段字典。 |
| 管理事件 | 密钥创建、撤销、路由变更、权限变更和计费变更是否可审计? | 管理事件样本、角色矩阵和访问审查流程。 |
| 支持材料 | 支持人员是否可以访问请求记录、错误跟踪、提示词、输出、截图或账户配置? | 支持访问策略、升级路径和数据最小化规则。 |
| 计费记录 | 为计费、退款、争议、税务、会计或欺诈审查会存储哪些使用字段? | 计费导出、发票或充值记录,以及保留声明。 |
Flatkey 的公开隐私页面称,输入和输出可能会经过 Flatkey 系统以及相关模型或技术服务,并且处理可能受不同提供商规则约束。它还提到请求元数据、错误记录、使用记录、必要日志、支持材料,以及因税务、会计、安全、风险控制、支付、争议、审计、合规或法律需要而保留的记录。这些公开声明是有用的起始证据,但仍需与买方的账户、数据类别、合同、DPA 路径和仪表板设置相匹配。
将 SOC 2、ISO、GDPR 和买方控制放在一起审查
安全认证有助于采购分流,但它们本身并不能完成AI API 供应商风险评估。公开徽章回答的是初筛问题。买方仍然需要范围、期间、标准、例外项、补充用户实体控制、子服务组织处理方式,以及账户特定配置。
| 证据 | 它可以帮助证明什么 | 仅凭它不能证明什么 |
|---|---|---|
| SOC 2 Type II 报告 | 在报告期间内,所描述系统针对所涵盖 Trust Services Criteria 的控制情况。 | 它不能证明每条模型路由、提供商、日志字段、数据类别或客户配置都已获批准。 |
| ISO 27001:2022 证书 | 信息安全管理体系范围和认证状态。 | 它不能替代 SOC 2 报告、DPA、路由测试或买方控制审查。 |
| GDPR 文件 | 当涉及个人数据时,角色映射、处理者审查、数据最小化、处理安全性、传输保障和权利工作流。 | 它不会因为供应商拥有安全徽章就自动满足要求。 |
| 网关日志和管理事件 | 关于谁使用了路由、由哪个模型/提供商处理、成本是多少以及发生了哪些变更的运营证据。 | 除非与策略绑定,否则它们不能证明合同条款、保留限制或提供商数据使用规则。 |
| 买方控制 | 已批准的用例、数据分级、密钥分类、路由审批、预算限制和审查节奏。 | 它们不能替代供应商控制;它们是让供应商证据在买方环境中可用的前提。 |
对于 Flatkey,2026 年 6 月 19 日检查的公开证书查询页面显示,VOC AI Inc. 有一条 SOC 2 Type II 记录,证书编号 USA-SOC2-220513,列示期间为 2025 年 7 月 15 日至 2026 年 7 月 14 日,状态为 active;ISO 页面显示证书编号 USA-I-270513,ISO 27001:2022,列示期间为 2024 年 5 月 1 日至 2027 年 4 月 30 日,状态为 active。请使用这些页面启动信任档案,然后在批准前直接向 Flatkey 索取私有报告和范围细节。
如需更深入的 GDPR 专项审查,请结合阅读GDPR AI API 网关清单。如需更深入的 SOC 2 证据审查,请使用SOC 2 AI API 网关证据清单。
要求能够重建决策的日志
对AI API 供应商风险评估最有用的日志不仅仅是调试日志,它们还是采购证据。它们应让审查人员能够在不过度暴露提示词或输出数据的前提下,重建请求所有者、路由、提供商、模型、状态、使用量、成本和管理变更。
公开网关文档展示了有用证据的形态。Cloudflare 的 AI Gateway 日志文档描述了带有 provider、timestamp、request status、token usage、cost、duration 以及可选 DLP 字段的日志,并提供一种负载日志控制,可在跳过原始请求和响应正文的同时保留元数据。Cloudflare 的自定义元数据文档展示了 user 或 team 标识符等请求标签,可用于过滤和分析。请将这些视为公开模式证据,而不是对 Flatkey 行为的声明。
| 日志字段 | 采购为何关心 | 隐私护栏 |
|---|---|---|
| 时间戳和请求 ID | 支持事件审查、计费争议审查和提供商故障重建。 | 避免在请求 ID 中放入个人数据。 |
| Key、项目、应用或所有者 | 将使用量关联到负责的团队和环境。 | 尽可能使用非敏感标识符而不是用户名。 |
| 模型、提供商和端点类别 | 显示是哪条下游路由处理了该请求。 | 不要假设可见的模型名称已涵盖所有提供商或账户细节。 |
| 状态、错误类别和回退尝试 | 解释网关是否进行了重试、失败,或切换到备用路由。 | 在不暴露原始负载内容的前提下提供回退尝试元数据。 |
| 输入/输出使用单位和成本 | 支持配额、预算、内部计费和异常审查。 | 使用元数据通常可以与提示词/输出负载分开保留。 |
| 管理变更 | 显示是谁创建了密钥、更改了权限、更改了路由或修改了计费控制。 | 应限制管理日志访问,并根据安全策略保留。 |
Flatkey 用户应核实这些字段中哪些在当前账户和导出路径中可见。公开营销文案和政策页面并不足够。请在采购资料包中保存一条预发测试记录、一条拒绝记录、一条路由变更记录和一条计费记录。
将可靠性与已批准回退分开
如果回退路由未获批准,可靠性声明可能会带来隐藏的供应商风险。Vercel 的公开 AI Gateway 回退文档描述了一种模式:当主模型失败时,可以按顺序尝试备用模型,而提供商元数据可以显示模型尝试过程。这是关于网关可暴露内容的有用模式证据,但并不能证明 Flatkey 在特定账户中的行为。
在生产前,针对AI API 供应商风险评估请先问以下回退问题:
- 什么故障会触发回退?提供商超时、速率限制、模型不可用、5xx 和网络错误,与格式错误请求、策略拦截、认证失败或预算耗尽是不同的。
- 哪些备用路由已预先批准?每个备用路由都应完成提供商、模型、端点类别、数据类别、成本和合规审查。
- 什么元数据能够显示尝试链?最终成功的响应不应掩盖失败的提供商尝试。
- 是否可以按工作流禁用回退?某些受监管或面向客户的流程应在失败时关闭,而不是切换到其他提供商。
- 谁会收到通知?采购、安全、平台和财务都可能需要路由变更或回退事件记录。
- 如何处理回滚?团队需要明确的负责人、运行手册和清晰的停止条件。
当可靠性与安全审查发生重叠时,请将AI API 密钥轮换工作流和AI API 审计日志清单作为相邻证据检查项一并使用。
尽早进行计费和配额审查
成本是AI API 供应商风险评估的一部分,因为路由变更也可能改变支出。网关可能会简化计费,但采购仍应询问使用量如何计量、归因、限制、争议处理、退款和保留。
| 计费问题 | 应索取的证据 | 缺失时的风险 |
|---|---|---|
| 每条已批准路由的定价单位是什么? | 目录记录、定价单位、模型比例、completion 比例、cache 比例,或在相关情况下按秒/按图像单位。 | 团队可能在不了解使用量如何转化为成本的情况下批准某个模型。 |
| 能否按密钥、项目、团队、工作流或环境归因支出? | 使用仪表板、导出字段、元数据标签和计费报告样本。 | 共享使用量会变成财务和问责问题。 |
| 预算或配额限制能否阻止失控使用? | 预算设置、配额配置、告警设置和超限行为。 | 提示词循环、回退循环或集成 bug 可能演变成成本事件。 |
| 充值、退款、争议和税务记录如何保留? | 条款、计费导出、发票或充值页面,以及保留声明。 | 采购无法将使用量与付款或争议证据对账。 |
Flatkey 的公开条款和主页描述了预付余额、模型访问、使用量、计费、密钥、团队设置、权限、预算、模型、日志和安全设置。在依赖这些内容进行买方批准之前,请先在当前控制台中核实确切标签和可用控制。
批准前应向 Flatkey 提出的采购问题
在通用网关问题得到解答后,请使用这份针对 Flatkey 的AI API 供应商风险评估清单。目标是区分公开证明与账户级证明。
| Flatkey 审查项 | 公开证据显示什么 | 应直接核实什么 |
|---|---|---|
| 网关定位 | Flatkey 公开文案称提供一个 key、模型访问、路由、计费、使用分析、运营控制和控制台上下文。 | 哪些账户、路由、端点类别和模型记录已为你的生产工作流启用。 |
| 目录范围 | 2026 年 6 月 19 日的定价 API 快照返回了 638 条模型记录和 23 个列出的供应商。 | 批准当天的当前记录、提供商、定价单位、路由状态和可用性。 |
| SOC 2 和 ISO 证据 | 公开页脚链接到 VOC AI Inc. 的 SOC 2 Type II 和 ISO 27001:2022 证书查询页面。 | 私有 SOC 2 报告、ISO 范围、报告期间、例外项、CUECs、子服务组织,以及必要时的 bridge letter。 |
| 数据处理 | Flatkey 隐私页面在公开政策层面描述了输入、输出、请求元数据、使用记录、日志、支持材料、保留以及提供商处理。 | 你账户的 DPA 路径、负载日志设置、保留期限、支持访问、提供商数据使用条款,以及删除/导出流程。 |
| 管理 | 条款提到组织管理员可控制权限、预算、模型、日志、密钥和安全设置。 | 准确的角色矩阵、管理事件日志、路由变更审批,以及谁可以修改回退或模型访问。 |
| 运营 | 公开文案描述了自动切换和负载均衡。 | 故障触发条件、回退停止条件、提供商尝试元数据、事件流程和买方通知。 |
完成这些检查后,请将买方引导至企业 AI API 网关清单以进行更广泛的架构审查,并访问Flatkey pricing查看当前目录。当路由可接受时,转化路径很简单:get a key、运行一次低风险预发测试、保存证据,然后再迁移已批准流量。
采购证据包模板
AI API 供应商风险评估的最终输出应是一个以后其他审查人员也能重新打开查看的资料包。它应足够简短以便维护,但也要足够具体以经受事件审查。
| 资料包部分 | 必需内容 | 负责人 |
|---|---|---|
| 用例摘要 | 工作流、环境、数据类别、业务负责人、技术负责人和批准日期。 | 产品或平台负责人 |
| 路由清单 | 网关账户、key/项目、模型记录、提供商、端点类别、回退路由和定价单位。 | 平台工程 |
| 安全档案 | SOC 2 报告、ISO 证据、例外项、bridge letter、CUECs、子服务组织,以及如有提供的渗透/安全说明。 | 安全或 GRC |
| 隐私档案 | DPA 路径、角色映射、数据类别、保留、负载日志、删除/导出、支持访问和提供商条款。 | 隐私或法务 |
| 运营档案 | 冒烟测试、拒绝测试、如启用则进行回退测试、路由变更测试、事件运行手册和回滚负责人。 | 平台工程 |
| 审计档案 | 日志字段样本、管理事件样本、计费样本、配额/预算截图或导出,以及访问审查流程。 | 安全和财务 |
| 决策记录 | 已批准路由、禁止路由、未解决风险、续期日期、审查触发条件和签字负责人。 | 采购或风险负责人 |
分步工作流
- 对工作流进行分类:注明应用、负责人、环境、数据类别、用户群体和预期请求量。
- 列出已批准路由:记录网关账户、端点类别、模型记录、提供商、回退路径、定价单位和路由负责人。
- 索取信任证据:收集 SOC 2、ISO 27001、隐私、DPA、子服务、事件、支持和保留相关证据。
- 运行预发冒烟测试:发送无害测试流量,然后保存日志记录、使用记录、计费记录和路由记录。
- 运行拒绝测试:尝试不允许的模型、过期密钥、超配额请求或被阻止的数据类别,并保存结果。
- 审查回退行为:按工作流批准或禁用回退;不要允许敏感流程发生无提示的提供商变更。
- 批准买方控制:定义密钥轮换、访问审查、路由审查、预算告警、事件响应和续审周期。
- 保存决策:记录哪些已批准、哪些被禁止、哪些需要续审,以及哪些情况会触发重新审查。
常见问题
什么是 AI API 供应商风险评估?
AI API 供应商风险评估是对 AI API 供应商的数据流、安全证据、提供商暴露面、运营控制、日志、计费控制、连续性流程和买方责任进行的采购与安全审查。对于多模型网关,它还应包括下游模型提供商和路由变更行为。
多模型网关风险评估与单一提供商审查有何不同?
单一提供商审查通常聚焦于一个提供商的合同、数据条款、安全证据和 API 行为。网关审查还必须覆盖路由选择、回退、目录变更、密钥所有权、网关日志、计费归因、下游提供商,以及谁可以更改由哪个提供商接收流量。
SOC 2 获批是否意味着 AI 网关已获准用于所有生产用例?
不是。SOC 2 证据可以帮助评估所描述系统及其覆盖标准的控制设计和运行情况,但它不会自动批准每一个买方工作流、数据类别、模型路由、回退路径、提供商条款或账户设置。应将该报告与具体路由和买方控制档案绑定。
在批准 AI 网关之前,采购应索取哪些日志?
应索取日志或导出样本,其中显示时间戳、密钥或项目、所有者、模型、提供商、端点类别、状态、错误类别、token 或使用单位、成本、路由尝试、管理变更以及负载日志模式。除非用例和政策要求,否则应避免存储原始提示词和输出。
Flatkey 买方在生产流量前应核实什么?
Flatkey 买方应核实当前模型记录、提供商、端点类别、定价单位、可用性、路由行为、日志、负载处理、保留、DPA 路径、SOC 2 报告范围、ISO 范围、管理员角色矩阵、回退行为、计费导出和预算控制。公开页面是有用的初筛证据,但生产批准应基于当前账户级证据。
最终 CTA
当AI API 供应商风险评估把供应商声明转化为路由级证据时,它才最有力。对于 Flatkey,应先查看公开的信任、定价和政策页面;然后在你自己的账户中核实确切的模型路由、日志、控制和合同路径。当该路由已准备好进行低风险预发测试时,get a key,并在生产流量迁移之前建立采购资料包。



