LLM API 指南(2026):概念、工作原理、价格与最佳服务商
LLM API 是一种 Web 端点,让你的代码可以向大语言模型发送提示词,并接收生成的文本、JSON 或工具调用,按 token 计费。 你通过 HTTP 请求调用它,请求中包含 API 密钥、模型名称和消息,无需自行运行 GPU,就能使用 GPT、Claude、Gemini、DeepSeek 或 Qwen 等模型。2026 年 10 月,每百万输入 token 的价格从小型模型的 $0.10 到最大型模型的 $10 不等。
本指南面向正在选择首个(或下一个)LLM API 的开发者和独立开发者。内容涵盖请求流程、可直接运行的 curl、Python 和 Node.js 代码、主流服务商当前的官方价格、免费方案、服务商选择方法,以及何时使用统一 API 比分别注册账号更合适。
LLM 中的 API 是什么?
API(应用程序编程接口)是程序与其他服务通信时遵循的约定。对于大语言模型,API 定义了以下内容:
- 端点:接收请求的 URL,例如
/v1/chat/completions或/v1/messages。 - 身份验证:在请求头中携带 API 密钥,关联你的账号与计费信息。
- 请求格式:模型 ID、消息列表(system、user、assistant),以及
max_tokens、temperature、工具和响应格式等选项。 - 响应格式:生成的文本或结构化输出,以及用于计费的 token 用量。
- 限制:每分钟请求数和 token 数、上下文窗口,以及最大输出长度。
模型本身运行在服务商的 GPU 上。你无需下载模型权重,而是按次租用推理服务。这是它与使用 vLLM 或 Ollama 等工具自行托管开放模型的主要区别。
LLM API 的工作流程
- 你的应用构建请求,其中包含模型名称和截至当前的对话内容。
- 服务商将文本切分为 token(一个 token 大约相当于 3 到 4 个英文字符)。
- 模型逐个生成输出 token,也可以通过服务器发送事件以流式方式返回。
- 响应包含文本和一个
usage对象,记录输入与输出 token 数。 - 按以下公式计费:输入 token 数 x 输入单价 + 输出 token 数 x 输出单价。
由于 API 是无状态的,每次调用都需要重新发送相关的对话历史。因此,对话越长,费用越高,提示词缓存折扣也就越重要。
LLM API 示例:发送第一个请求
如今,大多数服务商都支持 OpenAI 风格的聊天格式,因此它已成为事实标准。以下示例可直接调用 OpenAI:
curl https://api.openai.com/v1/chat/completions \
-H "Authorization: Bearer $OPENAI_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "gpt-6-luna",
"messages": [
{"role": "system", "content": "You are a concise assistant."},
{"role": "user", "content": "Explain what an LLM API is in one sentence."}
],
"max_tokens": 100
}'
下面使用官方 openai 包在 Python 中发送相同的请求。修改 base_url 和密钥,即可将请求发往任何兼容 OpenAI 的服务商,包括 Flatkey 这样的路由服务(快速入门):
from openai import OpenAI
client = OpenAI(
api_key="YOUR_KEY",
base_url="https://router.flatkey.ai/v1", # or https://api.openai.com/v1
)
resp = client.chat.completions.create(
model="claude-sonnet-5-5", # any model ID from the provider's catalog
messages=[{"role": "user", "content": "Give me 3 names for a todo app."}],
max_tokens=200,
)
print(resp.choices[0].message.content)
print(resp.usage) # prompt_tokens, completion_tokens -> what you pay for
下面是在 Node.js 18+ 中使用原生 fetch 和流式响应的示例:
const res = await fetch("https://router.flatkey.ai/v1/chat/completions", {
method: "POST",
headers: {
Authorization: `Bearer ${process.env.FLATKEY_API_KEY}`,
"Content-Type": "application/json",
},
body: JSON.stringify({
model: "gemini-4-argon",
stream: true,
messages: [{ role: "user", content: "Write a haiku about APIs." }],
}),
});
const decoder = new TextDecoder();
for await (const chunk of res.body) process.stdout.write(decoder.decode(chunk));
Anthropic 和 Google 也提供原生格式(Messages API 和 Gemini API),支持各自特有的功能,但也都可以通过兼容 OpenAI 的适配层访问。
2026 年最佳 LLM API 服务商(附官方价格)
以下价格均为每百万 token 的费用(输入 / 输出),采集自各服务商在 2026 年 10 月 23 日的官方定价页面。
| 服务商 | 高端模型 | 均衡型模型 | 经济型模型 | 备注 |
|---|---|---|---|---|
| OpenAI | gpt-6-astra $10 / $50 | gpt-6.1-sol $2 / $10 | gpt-6-luna $0.10 / $0.50 | Batch 和 Flex 档位可降低 50% 的价格 |
| Anthropic Claude | Opus 5.5 $4 / $20 | Sonnet 5.5 $2 / $10 | Haiku 5.5 $0.10 / $0.50(提示词不超过 100K) | 除 Haiku 5.5 外,4.6+ 模型的 1M 上下文按标准价格计费 |
| Google Gemini | Gemini 4 Argon $2 / $10,适用至 2026 年 11 月 30 日(12 月 1 日起为 $4 / $20) | Gemini 3.8 Flash 输入价格为 $0.75,适用至 2026 年 12 月 31 日 | Flash-Lite 模型 | Flash 模型提供免费额度;Argon 不提供免费额度 |
| DeepSeek | deepseek-v4-pro 高峰时段 $1.32 / $3.96,非高峰时段 $0.66 / $1.98 | 不适用 | deepseek-flash 高峰时段 $0.30 / $1.20,非高峰时段 $0.15 / $0.60 | 缓存命中价格低至 $0.003 |
| OpenRouter | 按服务商标价计费 | 购买额度时收取 5.5% 手续费(Standard 套餐) | ||
| Flatkey | 例如 Kimi K3 $1.80 / $9(标价 $3 / $15) | 例如 Claude Sonnet 5.5 $1.60 / $8 | 例如 gpt-6-luna $0.06 / $0.30 | 一个密钥可访问 80+ 个模型;价格来自模型页面 |
Flatkey 的价格采集自其 2026 年 10 月 23 日的模型页面,页面同时列出了 Flatkey 费率和服务商标价。如需查看更详细的各模型价格,包括缓存和批处理折扣,请阅读我们的 AI API 价格对比。
哪个 LLM API 最便宜?
在小型快速模型中,2026 年 10 月最低的官方标价是 OpenAI gpt-6-luna 和 Claude Haiku 5.5,每百万 token 的输入价格为 $0.10、输出价格为 $0.50;deepseek-flash 在 DeepSeek 非高峰时段的价格为 $0.15 / $0.60。例如,每天发送 10,000 次请求,每次包含 1,000 个输入 token 和 300 个输出 token,每月就是 300M 个输入 token 和 90M 个输出 token,按 gpt-6-luna 标价计算约为 $75。使用 Batch API、提示词缓存和非高峰时段,还可以让费用再减半。
有免费的 LLM API 吗?
有,但存在限制。Google 的 Gemini API 为 Flash 模型提供免费额度(相关使用数据可能用于改进 Google 产品),一些路由服务也提供有速率限制的免费模型。免费额度适合开发原型,但每日请求数上限较低。请参阅我们的 2026 年免费 LLM API 列表。
如何选择 LLM API
| 问题 | 为什么重要 | 需要检查什么 |
|---|---|---|
| 输出质量需要达到什么水平? | 高端模型的费用可能是经济型模型的 50 到 100 倍 | 在两到三个档位上测试 20 到 50 条真实提示词 |
| 提示词有多长? | 长上下文会成倍增加输入成本 | 上下文窗口和长提示词定价(例如 Haiku 5.5 超过 100K 时) |
| 响应速度需要多快? | 用户能感受到首个 token 的等待时间 | 是否支持流式输出,以及在你所在地区的延迟 |
| 流量有多大? | 限额按分钟和按天计算 | 各档位的 RPM/TPM;参阅我们的 LLM 速率限制指南 |
| 是否需要工具或 JSON? | 智能体依赖函数调用 | 工具调用和结构化输出支持 |
| 数据在哪里处理? | 涉及合规要求和客户合同 | 数据保留政策、区域端点(Claude 仅限美国境内推理的费用为 1.1x) |
| 以后会切换模型吗? | 价格和领先模型每隔几个月就会变化 | 兼容 OpenAI 的格式,或统一 API |
直接调用服务商与使用统一 LLM API
只使用一个模型系列时,直接调用一家服务商最简单。一旦混用多个模型,统一 API(也称为 LLM 路由器或 LLM 网关)就能省下不少工作:
- 一个密钥、一份余额,无需为每家服务商分别管理账号、账单和速率限制。
- 修改一个字符串即可切换模型,无需更换 SDK。
- 当一家服务商宕机或触发速率限制时,回退到其他模型。
- 统一的用量日志,便于按功能或客户核算成本。
可选方案包括托管路由服务(OpenRouter、Flatkey、Vercel AI Gateway),以及 LiteLLM 等自托管代理。托管路由服务的主要区别在于收费方式:OpenRouter 按服务商标价计费,并在 Standard 套餐中额外收取 5.5% 的额度购买手续费;Flatkey 的模型页面则为许多模型列出了低于服务商标价的费率。可在我们的 OpenRouter 替代方案指南和统一 AI API 详解中查看对比。
何时需要 LLM API,何时不需要
当真实用户依赖模型输出、需要使用多个模型、需要按功能或客户核算成本,或正在构建调用工具的智能体时,应使用 LLM API。如果必须将数据保留在自己的硬件上、需要以稳定的高调用量运行微调后的开放模型,或必须离线运行,则应选择自托管。我们的一个 API 密钥访问多个 AI 模型指南介绍了小团队如何在没有平台团队的情况下搭建这套方案。
常见错误
- 在各处硬编码同一个模型 ID。 将其放入配置,便于切换。
- 忽略输出 token。 输出费用通常是输入的 4 到 5 倍;应限制
max_tokens。 - 反复发送庞大的对话历史。 对长系统提示词进行摘要或缓存。
- 没有重试逻辑。 429 和 5xx 错误时有发生;应加入退避机制(参阅我们的 API 速率超限处理指南)。
- 将密钥提交到 git。 使用环境变量,并定期轮换密钥。
常见问题
LLM 中的 API 是什么?
它是代码向大语言模型发送提示词并接收输出所使用的接口。它定义了端点 URL、API 密钥身份验证、请求与响应格式、速率限制,以及按 token 计费的方式。
ChatGPT 是 LLM 还是 NLP?
从某种意义上说,两者都算。自然语言处理(NLP)是一个研究领域,大语言模型是 NLP 模型的一种,而 ChatGPT 是基于 OpenAI 大语言模型构建的消费级产品。开发者通过 OpenAI API 访问同一模型系列,而不是通过 ChatGPT 应用。
哪些 LLM API 最好?
2026 年 10 月的主要选择包括 OpenAI(GPT-6 系列)、Anthropic(Claude 5.5 系列)、Google(Gemini 4 Argon 和 Flash 模型)、DeepSeek(V4 Pro 和 Flash),以及 OpenRouter 和 Flatkey 等统一 API,后者可通过一个密钥访问多家服务商。
哪个 LLM API 最便宜?
按 2026 年 10 月 23 日的官方标价,OpenAI gpt-6-luna 和 Claude Haiku 5.5 的价格均为每百万输入 token $0.10、每百万输出 token $0.50;deepseek-flash 在非高峰时段的价格为 $0.15 / $0.60。对于低用量场景,Gemini 的免费额度成本更低。
有免费的 LLM API 吗?
有。Google 的 Gemini API 为 Flash 模型提供有每日限额的免费额度,一些路由服务也提供有速率限制的免费模型。通常限额较低,也可能附带数据使用条款。
LLM API 与 LLM 网关有什么区别?
LLM API 是一家服务商用于访问其模型的端点。LLM 网关或路由器位于多家服务商之前,提供统一密钥、统一格式、路由、故障回退和统一计费。
使用 LLM API 需要 GPU 吗?
不需要。服务商在自己的 GPU 上运行模型,你只需发送 HTTP 请求并按 token 付费。



