コスト・課金・運用2026年10月23日Flatkey Team

無料LLM API：制限、コスト、本番運用のトレードオフ

無料LLM APIのティア、クレジット、レート制限、見えにくい運用コスト、そしてユーザーがルートに依存する前に追加すべき本番運用向け制御を実践的に解説します。

無料LLM APIは、プロンプト、モデル選択、またはプロダクトのアイデアを検証するのに役立ちます。しかし、自動的に無料の本番運用プランになるわけではありません。これを前提に構築する前に、提供される無料アクセスの種類、最初に制約となる上限、上限到達後に何が起こるか、そして現在のデータおよび請求条件が用途に適しているかを確認してください。

実践的なルールはシンプルです。無料LLM APIは迅速に学ぶために使い、ユーザーが依存する前に、キャパシティ、コスト、フォールバックの計画を追加します。

これは別のプロバイダーランキングではありません。候補を選定する場合は、まずFlatkeyの無料LLM APIガイドから始めてください。このガイドでは、その次の問いに答えます。成功した無料ティアのテストを、運用可能なアプリケーションへどのように変えるか。

簡単な答え：「無料」はアクセス形態を示すものであり、保証ではない

無料LLM APIという表現は、複数の異なる取り決めを指す場合があります。それぞれ異なる用途で役立ち、異なる形で問題が生じます。

アクセス形態	得られるもの	適した用途	リリース前に確認すべきこと
継続型無料ティア	繰り返し付与される利用枠。通常はモデル、レート、トークン数、または1日のリクエスト数で制限される	プロンプト実験、デモ、小規模な社内ツール	対象となる正確なモデル、クォータのリセット、アカウントの適用範囲、現在のデータ利用条件
トライアルまたは付与クレジット	利用資格と有効期限のルールを伴う固定ドル残高	迅速な概念実証	有効期限、追加チャージ時の挙動、支払い設定によって障害時の動作が変わるか
ゼロ価格ルート	推論価格がゼロと表示されている、選択されたモデルルート	比較テストおよび低リスクのスモークテスト	モデルの可用性、ルート固有の制限、品質、プロバイダー固有の条件
ローカルまたはセルフホストAPI	自ら運用するインフラ上でのオープンウェイト推論	プライベートな開発テストと再現可能なローカルワークフロー	ハードウェア、ホスティング、運用、監視、オンコール対応の責任

たとえばGoogleは、Gemini APIのFree tierについて、特定モデルへの限定アクセスと、無料の入力および出力トークンを提供するものと説明しています。有料ティアでは、より高いレート制限と本番運用向けの機能が追加されます。料金ページでは、ティアごとのデータ利用の扱いも区別されています。使用予定の正確なモデルについて、最新の料金表を確認してください。

この区別は重要です。無料LLM APIは価値がある一方で、有限でもあるからです。正しい問いは「無料か」ではありません。「今日、自分はどのようなキャパシティと条件を受け取っているか」です。

ワークロードを破綻させうる最初の制限を確認する

プロトタイプは短いリクエスト1件では成功しても、顧客が実際に生み出すワークロードでは失敗することがあります。無料LLM APIを評価する際は、出荷する対象の正確なアカウント、プロジェクト、モデルID、リージョンについて、以下を記録してください。

リクエストレートとバースト時の挙動

毎分のリクエスト数は、常に滑らかな1分間平均として適用されるとは限りません。合計リクエスト数が許容範囲に見えても、短時間のバーストでエラーが発生することがあります。可能な場合はインタラクティブな処理をキューイングし、存在する場合はRetry-Afterに従い、無限にリトライするのではなく上限付きの指数バックオフを使用してください。

トークン処理量とコンテキストの構成

長いコンテキスト、検索ペイロード、エージェントループ、大きな出力では、リクエスト数より先にスループットを使い切ることがあります。たとえばGoogleのGeminiドキュメントでは、使用量は毎分リクエスト数、毎分入力トークン数、1日あたりのリクエスト数にわたって評価される可能性があると説明されています。他が上限未満でも、これらのいずれかが制約になることがあります。また、制限はAPIキー単位ではなくプロジェクト単位で適用されるとも記載されています。古いクォータ表をコピーするのではなく、AI Studioで現在のGeminiの制限を確認してください。

日次クォータ、クレジット、支出上限

キャパシティがいつ復元されるのかを正確に確認してください。日次の利用枠、期限付きの付与クレジット、プリペイド残高、月次の支出上限は、異なる障害モードを持つ別々の制御手段です。バックグラウンドジョブはリセットを待てます。しかし、顧客向けのチャット体験では通常、それはできません。

モデルと機能の利用可否

無料テストで動作したモデルが、JSON出力、ツール呼び出し、キャッシュ、バッチ処理、長いコンテキスト、または本番トラフィックに必要なモデルや機能セットとは限りません。テストの証跡には、プロバイダー名だけでなくモデルIDと機能も記録してください。

アカウントと組織の適用範囲

キャパシティはプロジェクトまたは組織全体で共有される場合があります。Anthropicは組織レベルの支出上限とレート制限を分けて説明しており、Groqはリクエスト、トークン、日次の各次元にわたるレート制限を文書化しています。Anthropicの最新のレート制限ガイダンスとGroqの制限に関するドキュメントは、実際のアカウントのコンソールこそが信頼できる情報源である理由を示す好例です。

無料LLM APIにも実際の運用コストはあり得る

推論価格がゼロであることは、サービスコストがゼロであることと同じではありません。リリース前に、ユーザーが成果を得るためのコストを計算してください。

monthly operating cost =
  paid model input + paid model output + cache storage/use
  + retry and fallback traffic + retrieval or tool calls
  + observability + human recovery work

推奨する指標は次のとおりです。

cost per accepted result = total workflow cost / accepted outcomes

この式により、最初のモデルだけを無料と見なし、有料のフォールバック、不正な出力後の繰り返し呼び出し、検索やリトリーバルの従量課金、そして利用枠を使い切った際のサポート工数を無視するという、よくある誤りを防げます。

OpenAIの現在の請求に関するガイダンスでは、無料クレジット、プリペイド残高、リクエストおよびトークンの上限、承認済みの利用上限、支出管理を区別しています。また、残高がプラスであっても、他のすべてのAPI制限が利用可能であるとは限らないことも示しています。再試行が有用かどうかを判断する前に、請求に関するドキュメントと429のトラブルシューティングガイドを使用して、実際のエラーを分類してください。

この30分間の無料LLM API本番テストを実行する

1行のHello Worldプロンプトではなく、デプロイする予定の正確なルートに対してテストを実行してください。

現在のアクセス条件をスナップショットします。プラン、プロジェクト、モデルID、リクエストおよびトークンの上限、日次またはクレジットの境界、リセット／有効期限、機能制限を記録します。
実際のペイロードを使用します。想定されるプロンプトサイズ、出力サイズ、ストリーミングモード、構造化出力またはツール呼び出しの動作、リトリーバルコンテキストをテストします。
バーストと継続実行を分けてテストします。バーストでは短時間枠のレート制限が明らかになります。継続実行では、日次上限、クレジット枯渇、キューイング、コストが明らかになります。
失敗パスを強制します。429、残高枯渇、タイムアウト、不正なレスポンス、プロバイダーのキャパシティエラーが発生した後のユーザー体験を確認します。
フォールバックを測定します。品質、レイテンシー、コスト、ユーザーへのメッセージを検証します。テストされていないフォールバックは、単に不確実性を生む2つ目の要因にすぎません。
データ経路をレビューします。顧客データや専有データを送信する前に、正確なティア、モデル、リージョン、接続された機能について、最新の規約を再確認します。

結果をアプリケーション設定と並べて保管してください。

free_llm_route:
  provider: "verify in provider console"
  project_or_organization: "production-separated-from-development"
  model_id: "exact-model-id"
  free_mechanism: "recurring_quota | credit | zero_price_route | local"
  limits_checked_at: "YYYY-MM-DDTHH:MM:SSZ"
  first_expected_limit: "rpm | tpm | rpd | credit | spend"
  reset_or_expiry: "provider-documented value"
  fallback_route: "tested-model-and-provider"
  behavior_on_exhaustion: "queue | graceful_degrade | retry_later | pause"
  spending_guardrail: "owner and control location"
  data_terms_reviewed_at: "YYYY-MM-DD"

キャパシティ枯渇をプロダクトの状態として扱う

本番コードでは、一時的なキャパシティ逼迫と、残高または支出による停止を区別する必要があります。資金不足によるハードエラーを再試行してもリクエストは復旧せず、明確なユーザー応答を遅らせるだけです。

async function callWithCapacityPolicy(request: RequestInit) {
  const response = await fetch(process.env.AI_BASE_URL + "/chat/completions", request);
  if (response.ok) return response.json();

  const retryAfter = response.headers.get("retry-after");
  const detail = await response.json().catch(() => ({}));

  if (response.status === 429 && retryAfter) {
    // Queue or retry with a bounded, jittered delay.
    throw new RetryableCapacityError({ retryAfter, detail });
  }

  if (detail?.error?.code === "credit_balance_exhausted") {
    // Use a tested paid fallback or pause the feature gracefully.
    throw new FundingOrQuotaStopError({ detail });
  }

  throw new ProviderError({ status: response.status, detail });
}

正確なコードやヘッダーはプロバイダーによって異なるため、レスポンス本文、リクエストID、タイムスタンプ、モデルID、アカウント／プロジェクトのコンテキストをログに保存してください。より深い実装パターンについては、FlatkeyのLLMレート制限と再試行ガイドを参照してください。

無料LLM APIが適切な選択となる場合

シナリオ	無料ティアとの適合性	リリース前に追加すべきもの
プロンプトの探索またはモデル評価	非常に適している	プロンプト、出力、レイテンシー、正確なモデルIDを保存する
既知の低ボリュームの社内ツール	多くの場合適している	クォータアラート、責任者の明確化、文書化された停止時の挙動
デモまたはハッカソン	バックアップがあれば適している	事前に実行し、安全なフォールバックをキャッシュし、リセット時刻を把握する
クローズドベータ	条件付き	ユーザーごとの制限、予算ガードレール、アップグレードパス
顧客向けリアルタイム機能	唯一のルートとしてはほとんどの場合不十分	可観測性、フォールバック、支出管理、インシデント時の挙動、有料キャパシティ
規制対象または顧客にとって機微なワークロード	よくても条件付き	データ規約、保持、アクセス、リージョン要件に関する最新の書面レビュー

これは、無料LLM APIが実際のユーザーにサービスを提供できないという主張ではありません。無料ティアを、検証されていない単一障害点にしてはならないという注意喚起です。

無料テストから管理された本番運用パスへ移行する

初日から複雑なプラットフォームは必要ありません。しかし、最初の無料ルートがアーキテクチャ上の制約になる前に、モデルID、認証情報、フォールバックルール、予算の責任者、使用状況テレメトリーを設定可能にしておく必要があります。

単一のプロバイダーの場合、これは本番環境用プロジェクトの分離、上限付きキュー、計測された有料フォールバック、使用量アラートの担当者を意味する場合があります。複数のモデルをテストしたり、プロバイダー間でコストを照合したりするようになったら、統合アクセスレイヤーによって統合作業のずれを減らせます。Flatkeyは、1つのキー、モデルおよびツール呼び出しの統合残高、そしてアプリケーション変更を最小限に抑えたいチーム向けのOpenAI互換ルートを提供します。まずFlatkey APIクイックスタートを確認し、次にAIゲートウェイの料金フレームワークとAI APIクォータ管理ガイドを使用して、新しい経路を管理してください。

よくある質問

完全に無料のLLM APIはありますか？

継続的な無料クォータ、無料ルート、プロモーションアクセス、またはプロバイダーへの推論料金がかからないローカルオプションを提供するサービスもあります。それでも「完全に無料」には条件を付ける必要があります。容量は、リクエスト数、トークン数、日次リセット、対象モデル、データ条件、または自ら運用するインフラによって制限される可能性があります。