OpenRouter vs LiteLLM 不仅仅是模型目录的比较。实际的选择在于您的团队是想要一个托管路由器、一个自托管或高度可配置的代理,还是一个能减少供应商账户和计费工作的托管式一键网关。
此比较于 2026 年 7 月 1 日核对,参考了 Flatkey 公开页面、Flatkey 的实时定价 API 快照以及 OpenRouter 和 LiteLLM 的官方文档。请将供应商路由行为、模型列表、速率限制、定价单位和产品措辞视为特定时间点的证据。在生产部署前,请为您自己的账户验证当前的供应商控制台、网关仪表板、请求日志、配额和计费导出。
OpenRouter vs LiteLLM vs Flatkey:快速决策
如果您需要 OpenRouter vs LiteLLM 的简短版本:当您希望托管访问众多模型,并拥有供应商路由控制以及在 OpenRouter 积分和 BYOK 之间进行选择时,OpenRouter 是最强的。当您的平台团队希望运营一个代理层,拥有配置,并将预算、虚拟密钥、回调和供应商凭证接入您的基础设施时,LiteLLM 是最强的。当问题不在于构建代理,而更多在于获得一个密钥、统一的使用证据、请求日志、配额控制以及财务可以审查的计费路径时,Flatkey 值得考虑。
| 选择 | 最适合的场景 | 需要验证的主要权衡 |
|---|---|---|
| OpenRouter | 希望使用托管模型路由器、供应商偏好设置、备用模型、OpenRouter 积分或自带供应商密钥的团队。 | 哪个账户拥有每个请求的速率限制、成本、供应商选择、备用行为和数据策略偏好。 |
| LiteLLM | 希望使用一个可配置、自托管并能与内部预算、密钥和日志系统集成的 OpenAI 兼容代理/网关的平台团队。 | 谁将负责运营代理、数据库或 Redis 状态、供应商密钥、日志保留、升级和事件响应。 |
| Flatkey | 希望获得一个 API 密钥、模型访问、使用分析、请求日志、配额和统一计费审查的开发人员、AI 产品团队、自动化构建者和财务运营人员。 | 当前的 Flatkey 模型列表、端点系列、配额行为和请求日志是否与您的生产工作流程相匹配。 |
核心区别:托管路由器、代理或一键式网关
OpenRouter vs LiteLLM 的决策通常始于路由,但应终于所有权。托管路由、自托管代理和一键式网关访问解决的是不同的组织问题。
OpenRouter 的官方供应商路由文档描述了请求级别的供应商偏好,例如供应商顺序、允许的供应商、忽略的供应商、备用权限、按价格、吞吐量或延迟排序以及最高价格过滤。其模型备用文档描述了当所选模型返回错误(包括速率限制、停机、审核标志和上下文长度验证错误)时的备用模型。其 BYOK 文档还区分了 OpenRouter 积分和供应商密钥:OpenRouter 为积分管理供应商速率限制,而供应商密钥则通过供应商账户直接控制速率限制和成本。
LiteLLM 的官方文档将代理服务器(或 LLM 网关)描述为一个自托管的 OpenAI 兼容网关。同一文档还描述了用于重试、备用和负载均衡的路由器行为;带有按密钥、团队或用户预算的虚拟密钥;集中式日志记录、护栏和缓存;以及一个用于监控的管理 UI。LiteLLM 的架构文档指出,请求会经过虚拟密钥、速率限制和 LiteLLM 路由器的检查,该路由器负责处理 LLM API 部署的负载均衡、备用和重试。
Flatkey 当前的主页将 Flatkey 描述为面向生产 AI 团队的一站式 API 网关,它统一了模型访问、路由、计费、使用分析和运营控制。它指出,团队可以获得一个用于连接 AI 模型的 API 密钥,而无需单独申请每个供应商;可以跨多个上游账户进行路由,并实现自动切换和负载均衡;按实际使用量计费;设置配额限制;并保持团队消耗清晰可见。定价页面还描述了预付余额、按模型、令牌类型和请求日志计量的使用情况、使用分析、成本控制、企业发票、采购支持以及跨供应商的一张发票。
比较矩阵
请将此 OpenRouter vs LiteLLM 矩阵用作购买清单。它不是排名,因为正确答案取决于您的团队是优先考虑托管访问、基础设施控制还是统一运营。
| 决策领域 | OpenRouter | LiteLLM | Flatkey |
|---|---|---|---|
| 运营模式 | 由 OpenRouter 记录提供商和模型路由控制的托管路由器。 | 由您的团队运营的自托管或可配置的 OpenAI 兼容代理/网关。 | 为希望将访问、路由、使用、配额和计费集中管理于一处的团队提供的一键式托管网关。 |
| 提供商账户所有权 | 可以使用 OpenRouter 积分或 BYOK。提供商密钥将速率限制和成本控制与提供商账户绑定。 | 您的团队通常拥有提供商凭证和代理配置。 | 旨在为连接的模型减少独立的提供商账户工作;为您的工作流程验证确切的账户和支持边界。 |
| 账单审查 | 取决于使用积分还是 BYOK,以及最终使用的模型/提供商。 | 取决于您如何围绕代理连接提供商账单、成本跟踪和内部分摊。 | 公开页面描述了预付余额、按使用量计费、成本控制、企业发票、采购支持以及跨提供商的单一发票。 |
| 路由和回退 | 提供商路由、备用提供商、排序提供商、最高价格和模型回退控制都有文档记录。 | 路由器文档描述了负载均衡、回退、重试和感知速率限制的基础设施模式。 | 公开页面描述了跨上游账户的路由,具有自动切换和负载均衡功能;请在请求日志中确认确切的回退证据。 |
| 日志和配额 | 为您的账户验证响应归属、使用限制、剩余积分和 BYOK 请求行为。 | 文档描述了虚拟密钥、预算、RPM/TPM 限制、日志记录、回调和支出跟踪。 | 公开页面描述了请求日志、使用分析、配额限制和清晰的团队消耗。 |
| 迁移工作量 | 通常从基础 URL/API 集成和提供商路由规则开始。 | 需要代理部署、配置、密钥、数据存储决策、监控和升级所有权。 | 通常从一个密钥、定价/模型行验证和范围限定的请求日志验证运行开始。 |
账户所有权:从谁控制密钥开始
最重要的 OpenRouter vs LiteLLM 问题不是“哪一个支持该模型?”而是“谁拥有账户、提供商密钥、速率限制和账单?”
OpenRouter 在其 BYOK 文档中明确了这一界限。使用 OpenRouter 积分时,提供商的速率限制由 OpenRouter 管理。使用提供商密钥时,用户可以通过提供商账户直接控制速率限制和成本。OpenRouter 还记录了密钥优先级和回退部分,包括在 OpenRouter 端点之前或之后尝试的提供商密钥。当平台团队需要提供商账户控制权但仍希望有一个托管的路由层时,这非常有用。
LiteLLM 将更多所有权转移给您的团队。其文档将 LiteLLM Proxy 描述为一个自托管的 OpenAI 兼容网关。当您想要控制提供商凭证、路由配置、内部策略、数据库、Redis、回调和可观察性时,这可能是正确的架构。其权衡在于运营:必须有人负责部署、升级、密钥、日志、扩展和事件响应。
Flatkey 采取了不同的姿态。Flatkey 的公开页面强调一个 API 密钥、减少独立的提供商账户、统一路由、请求日志、使用分析、配额控制和账单可见性。当购买者希望通过网关减少账户泛滥,而不是在平台路线图中增加一个代理项目时,这就变得很有意义。
计费:比较积分、提供商账户和单一发票
计费是 OpenRouter vs LiteLLM 可能成为财务决策的地方。托管积分、BYOK 提供商计费、自托管代理内部分摊和托管网关发票会产生不同的审查路径。
对于 OpenRouter,实际的划分是积分与 BYOK。OpenRouter 的 BYOK 文档指出,提供商密钥可以通过您的提供商账户直接控制速率限制和成本,而 OpenRouter 积分则使提供商的速率限制由 OpenRouter 管理。其模型回退文档指出,请求按最终使用的模型定价,并且该模型会在响应体中返回。这意味着账单审查应追溯请求的模型、提供服务的模型以及实际处理请求的路由。
对于 LiteLLM,计费取决于您的团队如何配置跟踪。LiteLLM 文档描述了支出跟踪、预算、虚拟密钥、团队、用户和回调。这可以支持内部分摊,但并不能免除核对直接提供商账单、代理日志和您自己的会计模型的需要。
对于 Flatkey,其公开定价页面称,自助服务计划是预付充值,只有当 API 请求使用模型时才会消耗余额。它还描述了按模型、令牌类型和请求日志计量的使用情况,以及使用分析、成本控制、企业发票、采购支持和跨提供商的单一发票。在本文 2026 年 7 月 1 日的定价 API 快照中,Flatkey 返回了 success: true、214 个模型行、30 个独立供应商以及包括 anthropic、gemini、image-generation 和 openai 在内的端点系列。请将其视为一个过时的证据快照,而不是对每一行或价格单位都将保持不变的承诺。
路由和回退:定义触发器
在 OpenRouter 与 LiteLLM 的比较中,回退(Fallback)是通常最需要进行实时测试的部分。回退可以改善恢复能力,但它也可能改变所服务的模型、提供商、行为、价格单位、工具支持、数据处理方式或响应格式。
OpenRouter 的提供商路由文档描述了提供商排序和回退行为,包括默认的基于价格的负载均衡策略以及主路由不可用时的备用提供商。其模型回退文档指出,默认情况下任何错误都可能触发回退,包括上下文长度验证错误、审核标记、速率限制和停机时间。他们还指出,回退列表存在限制,因此不要假设有无限的恢复链。
LiteLLM 文档描述了路由器如何为 LLM API 部署处理负载均衡、回退和重试。其文档还指出了跨虚拟密钥、用户、团队和全局服务器限制的速率限制和预算检查。对于生产环境,这意味着应在您计划操作的相同 Redis、数据库、速率限制和提供商密钥设置下测试回退行为。
Flatkey 的公开页面描述了跨多个上游账户的路由,具有自动切换和负载均衡功能。在进行生产验证时,不要止步于该产品声明。应要求提供请求日志,其中显示您选择的模型和端点系列的尝试路由、最终路由、状态、单位用量以及成本或余额影响。
日志、配额和速率限制
一次有用的 OpenRouter 与 LiteLLM 评估应包括一次故意的配额失败测试。如果没有这个测试,团队常常会混淆提供商的 RPM/TPM、网关速率限制、应用密钥预算、预付余额和模型可用性。
| 验证字段 | 重要性 | 要求路由器显示什么 |
|---|---|---|
| 请求的模型和实际服务的模型 | 回退和提供商路由可能会改变实际服务请求的路由。 | 请求的模型、服务的模型、提供商、端点系列和响应归属。 |
| 凭证来源 | 积分、BYOK、提供商账户和托管网关余额会产生不同的所有权路径。 | 哪个密钥、账户、工作区、项目或余额授权了该请求。 |
| 配额来源 | 失败的限制可能是特定于应用、团队、网关、提供商、余额或模型的。 | 错误类型、限制名称、重置行为以及失败后是否尝试回退。 |
| 用量单位 | 文本、图像、音频、视频、缓存和请求单位的计量方式可能不同。 | 与状态记录在同一条记录中的输入/输出令牌或特定模态的单位。 |
| 计费凭证 | 财务部门需要与开发人员用于调试的相同的请求跟踪。 | 成本、余额扣减、积分使用、提供商账户费用、发票分组或导出记录。 |
OpenRouter 的限制文档描述了一个用于检查积分和用量的关键端点,其 BYOK 文档区分了外部 BYOK 用量和账户用量。LiteLLM 文档描述了跨代理、用户、团队、客户、密钥、模型、标签和代理的预算,以及对生成密钥的 RPM 和 TPM 控制。Flatkey 的公开页面描述了请求日志、配额限制和用量分析。正确的测试方法是设置一个小的限制,故意触发它,并确认是哪个系统解释了这次失败。
OpenRouter vs LiteLLM vs Flatkey 迁移清单
许多团队将 OpenRouter 与 LiteLLM 的迁移简化为基础 URL 的更改。这仅仅是第一步。在转移生产流量之前,路由器迁移应验证其行为、凭证和回滚方案。
- 选择一个工作流:挑选一个模型路由、提示类型、端点系列和预期的响应格式。
- 记录所有权:记录谁拥有提供商账户、网关密钥、计费、支持和事件响应的权限。
- 映射请求字段:请求的模型、服务的模型、提供商、端点、用户或应用密钥以及回退候选者。
- 运行正常请求:如果您的应用使用,则包括非流式、流式以及工具或结构化输出调用。
- 运行失败请求:以可控的方式触发配额失败、提供商失败或无效的模型路由。
- 比较日志:验证状态、路由、用量单位、回退尝试、最终模型和成本凭证。
- 审查计费:将这些相同的请求追溯到积分、提供商账户、预付余额、发票或内部费用分摊。
- 编写回滚计划:定义如何固定路由、禁用回退、切换网关或返回直接访问提供商。
- 设置监控阈值:决定哪个延迟、错误、支出或配额信号会中止部署。
要了解更多操作背景,请将本文与 OpenRouter 替代方案、LiteLLM 替代方案以及企业级 AI API 网关清单进行比较。
何时选择 OpenRouter
当 OpenRouter 与 LiteLLM 的决策倾向于托管路由、快速访问提供商/模型选项、提供商选择控制以及团队可以接受的积分或 BYOK 模型时,应选择 OpenRouter。当开发人员希望在不运营代理基础设施的情况下获得路由控制权时,它尤其适用。
在批准 OpenRouter 用于生产环境之前,请核实工作流是使用 OpenRouter 积分还是提供商密钥,速率限制如何应用,回退如何触发,最终服务的模型如何显示在响应中,以及财务部门将如何核对实际使用的模型/提供商。
何时选择 LiteLLM
当 OpenRouter vs LiteLLM 的决策倾向于基础设施所有权时,选择 LiteLLM。LiteLLM 非常适合那些需要 OpenAI 兼容代理、提供商凭证控制、可配置路由、虚拟密钥、预算、回调、日志记录和企业治理选项的平台团队。
在批准 LiteLLM 之前,请核实由谁负责部署、数据库和 Redis 的选择、提供商密钥存储、升级节奏、可观察性、支出核对、数据保留和待命响应。您获得的控制权越多,您承担的运营责任也越大。
何时将 Flatkey 列入候选名单
当 OpenRouter vs LiteLLM 的选择暴露出第三个问题时,应将 Flatkey 列入候选名单:团队不想运营代理,而财务部门不希望提供商账户分散。Flatkey 的公开页面支持一键式网关方案:一个 API 密钥即可用于连接模型、模型访问、路由、计费、使用分析、操作控制、请求日志、配额限制、预付余额、成本控制、采购支持,以及跨提供商的一张发票。
Flatkey 不能替代验证。请使用当前的 Flatkey 定价页面确认模型行和端点系列,然后获取密钥并运行上面的迁移清单。决策应基于您自己工作流的请求日志、配额行为、计费证据和回滚信心。
决策记录模板
在批准 OpenRouter vs LiteLLM 决策或添加 Flatkey 作为一键式网关路径之前,请使用此模板。
| 字段 | 记录 |
|---|---|
| 工作流所有者 | 团队、应用、环境和业务负责人。 |
| 所选模式 | 托管路由器、自托管代理或托管式一键网关。 |
| 凭证所有者 | 路由器积分、BYOK 提供商账户、自托管提供商密钥或 Flatkey 密钥。 |
| 计费路径 | 积分、直接提供商发票、预付余额、一张发票或内部转账。 |
| 路由策略 | 提供商顺序、允许的提供商、回退模型列表、负载均衡规则或固定路由。 |
| 配额来源 | 应用密钥、团队预算、全局服务器限制、提供商 RPM/TPM、余额或特定模型限制。 |
| 所需证据 | 请求日志、最终服务的模型、使用单位、成本/余额记录、回退跟踪和计费导出。 |
| 回滚规则 | 如何禁用回退、固定提供商、切换网关或返回直接提供商访问。 |
常见问题解答
OpenRouter 与 LiteLLM 的主要区别是什么?
OpenRouter vs LiteLLM 的主要区别在于运营模式。OpenRouter 是一个托管路由器,提供提供商和模型路由控制。LiteLLM 通常被评估为一个 OpenAI 兼容的代理/网关,您的团队可以自行托管或进行深度配置。
LiteLLM 是开源的吗?
LiteLLM 的官方企业文档区分了 LiteLLM OSS 和企业版功能,并指出 LiteLLM OSS 涵盖了 OpenAI 兼容网关、虚拟密钥、支出跟踪、预算、回退以及请求/响应日志记录。在基于许可证或功能假设进行采购之前,请查阅当前的 LiteLLM 文档和代码仓库。
OpenRouter 支持 BYOK 吗?
是的。OpenRouter 的 BYOK 文档描述了如何使用您自己的提供商密钥。文档指出,提供商密钥使您能够通过您的提供商账户直接控制速率限制和成本,而使用 OpenRouter 积分时,提供商速率限制由 OpenRouter 管理。
为什么在 OpenRouter 与 LiteLLM 的比较中包含 Flatkey?
Flatkey 回答了另一个购买者的问题。如果团队希望减少提供商账户数量,使用一个密钥,并需要请求日志、使用分析、配额控制、预付余额以及跨提供商的发票审查,那么与托管的市场路由器或自托管代理相比,Flatkey 可能是一个更实用的验证路径。
在选择之前我们应该如何测试回退功能?
触发一个受控的故障并检查跟踪记录。确认触发器、尝试顺序、最终服务的模型、提供商、状态、使用单位、成本或余额影响,以及响应的格式是否仍然与您的应用匹配。
在批准路由器之前,财务部门应该审查什么?
财务部门应审查谁拥有账户,请求如何计量,成本在哪里显示,回退是否会改变收费的模型或提供商,发票或积分如何分组,以及日志是否能将请求级的使用情况与计费记录进行核对。
获取密钥:从 Flatkey 定价开始,为您的工作流确认当前的模型行,然后获取密钥并运行一个小型验证,在投入生产前检查日志、配额、计费和回退行为。



