成本、计费与运维2026年10月12日Flatkey Team

免费 LLM API（2026）：按真实限额、模型与隐藏代价对比 10 个选项

依据 2026 年 10 月官方文档核对的 10 个免费 LLM API：免费内容、确切限额、隐藏代价，以及在它们之间自动回退的代码。

免费 LLM API（2026）：按真实限额、模型与隐藏代价对比 10 个选项

可以，2026 年 10 月你仍能免费调用能力不错的 LLM API：Google Gemini API 免费层、Groq 免费套餐、OpenRouter 免费模型、Cloudflare Workers AI 以及 NVIDIA 托管的 NIM 端点，都在每日额度内以零成本提供真实模型。但没有一个是无限制的。最严格的数字都已公开：Groq 对 openai/gpt-oss-120b 每天允许 1,000 次请求，OpenRouter 免费模型每天上限 50 次（购买 $10 额度后为 1,000 次），Cloudflare 每天提供 10,000 Neurons。下文所有限额均于 2026 年 10 月 21 日在各厂商官方文档上核对。

本文面向希望零成本做原型的独立开发者和小团队：哪个免费层适合哪种任务、每个免费层暗中付出什么代价（数据使用、速率限制、模型选择），以及用完之后该换成什么。文中还指出一个旧榜单仍在推荐的选项：GitHub Models 已于 2026 年 7 月 30 日完全下线。

免费 LLM API 对比（2026 年 10 月）

提供方	免费内容	公布的限额	主要代价	来源
Google Gemini API	Gemini 3.8 Flash、3.6 Flash、3.5 Flash-Lite、3.1 Flash-Lite、2.5 Pro/Flash/Flash-Lite 的免费输入/输出 token	各模型限额显示在 AI Studio 中	免费层内容会被用于改进 Google 产品	Gemini 定价
Groq 免费套餐	托管开源模型，包括 `openai/gpt-oss-120b`、`qwen/qwen3.8-27b`、Whisper	30 RPM、1K RPD、8K TPM、200K TPD（gpt-oss-120b）	每分钟 token 数很低	Groq 速率限制
OpenRouter 免费模型	25 个以上 ID 以 `:free` 结尾的模型	20 RPM；每天 50 次，购买 $10 额度后每天 1,000 次	失败的请求也计入每日上限	OpenRouter 定价
Cloudflare Workers AI	Workers Free 每天 10,000 Neurons	UTC 00:00 重置	部分前沿模型需付费套餐	Workers AI 定价
NVIDIA NIM（build.nvidia.com）	"Free inference with leading models"，如 Nemotron 和 DeepSeek V4.1 Flash	落地页未列出	用于评估；限额可能变化	build.nvidia.com
Vercel AI Gateway	免费层每月 $5 额度	各模型速率限制低于付费层	仅限符合免费条件的模型	Vercel AI Gateway 定价
Cerebras 免费试用	添加经验证的支付方式后获得 $5 额度	额度 30 天后过期	是试用，不是长期免费层	Cerebras 速率限制
Cohere 试用密钥	评估用 API 密钥	每月 1,000 次 API 调用	不可用于生产	Cohere 速率限制
Ollama（本地）	在你自己机器上运行的免费开源运行时	取决于你的硬件	需要你自己提供 GPU 或 CPU	Ollama
Hugging Face Inference Providers	免费用户没有每月额度；PRO 每月 $2	额度用完后按量付费	对免费账号而言其实并不免费	HF 定价

所有限额均为 2026 年 10 月 21 日公布的数据。RPM = 每分钟请求数，RPD = 每天请求数，TPM = 每分钟 token 数，TPD = 每天 token 数。

已不可用： GitHub Models 自 2026 年 7 月 30 日起已完全下线，其 Playground、模型目录、推理 API 和 BYOK 都已停用。如果某篇教程还让你把 GitHub token 当作免费 LLM 密钥使用，那篇教程已经过时了。

按任务快速选择

构建应用的最佳综合免费层： Gemini API。这是本文中唯一一个可以免费使用当前头部厂商模型系列、且 Flash 系列拥有 100 万 token 上下文的选项。
开源模型最快的免费推理： Groq 免费套餐，前提是提示词较短（gpt-oss-120b 每分钟 8K token）。
测试用模型种类最多： OpenRouter 免费模型，购买 $10 额度把上限提高到每天 1,000 次之后最实用。
边缘或 Serverless 技术栈内的免费层： Cloudflare Workers AI。
完全没有速率限制： 用 Ollama 在本地运行模型。你用硬件限制换掉了 API 限制。

10 个选项详解

1. Google Gemini API 免费层

Google 的定价页列出 Gemini 3.8 Flash、3.6 Flash、3.5 Flash-Lite、3.1 Flash-Lite、2.5 Pro、2.5 Flash 和 2.5 Flash-Lite 的输入和输出均为"Free of charge"。Gemini 4 Argon 和 3.1 Pro Preview 只有付费版。具体速率限制在 AI Studio 中查看而非文档中，Google 还表示预览模型的限额更紧（速率限制页面）。代价在于数据：在免费层，"Used to improve our products"一栏标为 Yes。请不要用免费层密钥处理客户数据。完整细节见我们的 Gemini API 定价与免费层指南。

2. Groq 免费套餐

Groq 按模型公布免费套餐限额（速率限制）。截至 2026 年 10 月 21 日：

模型	RPM	RPD	TPM	TPD
`openai/gpt-oss-120b`	30	1,000	8,000	200,000
`openai/gpt-oss-20b`	30	1,000	8,000	200,000
`qwen/qwen3.8-27b`	30	1,000	8,000	200,000
`whisper-large-v3`	20	2,000	音频：每小时 7,200 秒，每天 28,800 秒

Groq 说明缓存命中的 token 不计入速率限制，且限额按组织计算。其端点兼容 OpenAI，地址为 https://api.groq.com/openai/v1（OpenAI 兼容性）。每天 200K token 大约相当于 100 次 2,000 token 的请求，适合演示和上下文较短的智能体。

3. OpenRouter 免费模型

OpenRouter 的定价页显示，其免费套餐提供来自 4 家免费供应商的 25 个以上免费模型，不收平台费。免费版本（ID 以 :free 结尾）限制为每分钟 20 次、每天 50 次请求；账户累计购买至少 $10 额度后提高到每天 1,000 次。其限额文档还补充了两点：失败的请求也计入每日上限；余额为负时，免费模型会被暂停，直到充值。可以用免费价格筛选浏览当前免费模型。如果你在比较 OpenRouter 与其他路由，请看我们的 OpenRouter 替代方案指南。

4. Cloudflare Workers AI

Workers AI 包含在 Workers Free 套餐中，每天 10,000 Neurons 免费；超出部分按每 1,000 Neurons $0.011 计费，所有限额在 UTC 00:00 重置（定价）。不同模型的 Neurons 与 token 换算不同，Cloudflare 还列出了需要付费账单方式的模型，包括 Kimi K2.6、GLM 5.x 以及较新的 DeepSeek V4 Flash 版本。Workers AI 提供兼容 OpenAI 的端点，地址为 https://api.cloudflare.com/client/v4/accounts/{account_id}/ai/v1。

5. build.nvidia.com 上的 NVIDIA NIM

NVIDIA 的模型目录首页宣传"Free inference with leading models"，主推 Nemotron 系列和 DeepSeek V4.1 Flash（build.nvidia.com）。端点遵循 OpenAI 格式，地址为 https://integrate.api.nvidia.com/v1（API 参考）。NVIDIA 没有在该页面公布固定的免费配额，所以请把它当作评估渠道，而不是生产依赖。

6. Vercel AI Gateway 免费层

每个 Vercel 团队在免费层每月获得 $5 的 AI Gateway 额度，仅限符合免费条件的模型，且各模型的速率限制更低；超出会返回 429（定价）。购买额度后即进入付费层，Vercel 表示付费层对 token 零加价。

7. Cerebras 免费试用

Cerebras 新账户在添加经验证的支付方式后获得 $5 免费额度；额度在发放 30 天后过期，可用于所有公开模型（速率限制）。这是试用而非长期免费层，但很适合测试超高吞吐量的推理。

8. Cohere 试用密钥

Cohere 提供免费评估密钥，每月限 1,000 次 API 调用，生产使用需付费密钥（文档）。适合在 RAG 原型中测试 Cohere 的向量和重排序模型。

9. Ollama（本地运行，无 API 限制）

Ollama 在你自己的机器上运行开放权重模型，并在 http://localhost:11434/v1 提供兼容 OpenAI 的 API。没有速率限制，数据也不会离开你的机器，但模型大小受内存或显存限制。如果想改在租用的 GPU 上运行，请看我们的在云 GPU 服务器上运行 Ollama 指南。

10. Hugging Face Inference Providers（对免费用户并不免费）

很多榜单仍称 Hugging Face 的托管推理是免费的。但其定价文档现在写明：免费用户没有每月额度，必须购买额度；PRO 用户以及 Team 或 Enterprise 席位每月获得 $2.00。它的模型种类很丰富，但请按付费服务做预算。

免费 LLM API 的隐藏代价

隐藏代价	出现在哪里	应对方法
你的数据被用于训练或改进模型	Gemini 免费层（"Used to improve our products: Yes"）	客户数据只走付费密钥
每日上限也计入失败请求	OpenRouter 免费模型	用退避重试，不要紧密循环重试
每分钟 token 极少	Groq 免费套餐（gpt-oss-120b 为 8K TPM）	保持提示词简短；不要批量处理
可用模型会变	NVIDIA NIM、OpenRouter 免费列表	固定一个备用模型
服务下线	GitHub Models，2026 年 7 月 30 日下线	不要把单一免费提供方写死在代码里
试用额度会过期	Cerebras（$5，30 天）	用来做基准测试，而不是上线

快速上手：一个客户端、多个免费提供方、自动回退

上面大多数免费选项都使用 OpenAI API 格式，所以一个客户端就能依次尝试，遇到 429 时切换到下一个。只需设置你拥有的密钥。

# pip install openai
import os
from openai import OpenAI, RateLimitError, APIStatusError

PROVIDERS = [  # (base_url, env var with key, model)
    ("https://generativelanguage.googleapis.com/v1beta/openai/", "GEMINI_API_KEY", "gemini-3.8-flash"),
    ("https://api.groq.com/openai/v1", "GROQ_API_KEY", "openai/gpt-oss-120b"),
    ("https://openrouter.ai/api/v1", "OPENROUTER_API_KEY", os.getenv("OPENROUTER_FREE_MODEL", "")),
    ("http://localhost:11434/v1", None, "llama3.2"),  # local Ollama, any model you have pulled
]

def ask(prompt: str) -> str:
    for base_url, key_env, model in PROVIDERS:
        key = os.getenv(key_env) if key_env else "ollama"
        if not key or not model:
            continue
        try:
            client = OpenAI(api_key=key, base_url=base_url, timeout=30)
            r = client.chat.completions.create(model=model, messages=[{"role": "user", "content": prompt}], max_tokens=300)
            return f"[{model}] {r.choices[0].message.content}"
        except (RateLimitError, APIStatusError) as e:
            print(f"{model} failed ({getattr(e, 'status_code', '?')}), trying next")
    raise RuntimeError("all free providers exhausted")

print(ask("Give me three names for a habit-tracking app."))

在命令行中测试单个提供方：

curl https://api.groq.com/openai/v1/chat/completions \
  -H "Authorization: Bearer $GROQ_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"openai/gpt-oss-120b","messages":[{"role":"user","content":"Hello from the free tier"}]}'

用 Node.js 实现同样的回退思路：

import OpenAI from "openai";

const providers = [
  { baseURL: "https://generativelanguage.googleapis.com/v1beta/openai/", key: process.env.GEMINI_API_KEY, model: "gemini-3.5-flash-lite" },
  { baseURL: "https://api.groq.com/openai/v1", key: process.env.GROQ_API_KEY, model: "qwen/qwen3.8-27b" },
];

for (const p of providers.filter((p) => p.key)) {
  try {
    const client = new OpenAI({ apiKey: p.key, baseURL: p.baseURL });
    const r = await client.chat.completions.create({ model: p.model, messages: [{ role: "user", content: "One-line product tagline?" }] });
    console.log(p.model, r.choices[0].message.content);
    break;
  } catch (e) {
    console.warn(p.model, e.status ?? e.message);
  }
}

如果你在 Cline 或 Continue 等编程智能体中使用，我们的面向编程智能体的免费 LLM API 指南介绍了各工具的具体配置。

免费额度用完后：最便宜的付费模型

免费层适合开发和测试。真正上线时，2026 年 10 月 21 日最便宜的官方文本模型标价如下：

模型	每百万 token 输入 / 输出	来源
Gemini 2.5 Flash-Lite	$0.10 / $0.40	Google
`gpt-6-luna`	$0.10 / $0.50	OpenAI
Claude Haiku 5.5（提示词不超过 100K）	$0.10 / $0.50	Anthropic
`deepseek-flash`，非高峰时段	$0.15 / $0.60	DeepSeek

按这些价格，每月 1,000 万输入 token 加 200 万输出 token 的花费约为 $1.80 到 $2.70。Flatkey 没有免费层，但可以用一个兼容 OpenAI 的密钥和一个余额调用这些模型；截至 2026 年 10 月 21 日，其 FAQ 列出了充值赠送额度（例如充值 $10 赠送 $3），其模型目录中 gpt-6-luna 标价为 $0.06 / $0.30。更全面的入门套餐对比，请看主流厂商免费层对比和 AI API 定价对比。

常见问题

有没有完全免费、没有任何限制的 LLM API？

没有任何托管 API 是无限免费的。上面每个提供方都会按天或按月限制请求数、token、额度或 Neurons。唯一没有 API 限制的方式是在本地运行开源模型，例如使用 Ollama，这时限制来自你的硬件。

可以免费使用 LLM 吗？

可以。最简单的起点是从 Google AI Studio 获取 Gemini API 密钥，调用 gemini-3.8-flash 等免费层模型；或者用 Groq 免费套餐密钥调用 openai/gpt-oss-120b。两者都可以通过修改 base URL 配合 OpenAI SDK 使用。

免费层之后最便宜的 LLM API 是哪个？

按 2026 年 10 月 21 日的官方标价，Gemini 2.5 Flash-Lite（每百万 token 输入 $0.10 / 输出 $0.40）、gpt-6-luna 和 Claude Haiku 5.5（$0.10 / $0.50），以及非高峰时段的 DeepSeek Flash（$0.15 / $0.60）是最便宜的主流文本模型。