KI-Kosten optimieren (2026): 9 Wege, LLM-API-Kosten ohne Qualitätsverlust zu senken
KI-Kostenoptimierung bedeutet, die Kosten pro erfolgreich erledigter KI-Aufgabe zu senken (nicht nur pro Token): Jede Anfrage geht an das günstigste Modell, das Ihre Qualitätsanforderungen erfüllt, wiederkehrender Kontext wird per Prompt-Caching wiederverwendet, weniger dringende Aufgaben laufen als Batch, Ausgaben werden begrenzt und Budgets pro Schlüssel oder Team durchgesetzt. Bei den meisten API-basierten Produkten bringen Routing und Caching die größten Einsparungen. Zusammen können sie bei geeigneten Workloads die Rechnung halbieren oder noch stärker reduzieren; den Rest ermöglichen Transparenz und Kostenkontrolle. Alle folgenden Preise stammen von offiziellen Preisseiten und wurden am 26. Oktober 2026 geprüft.
Dieser Leitfaden richtet sich an unabhängige Entwickler und KI-Produktteams, die LLM-APIs (OpenAI, Anthropic, Google, DeepSeek, Qwen und andere) nutzen und ihre Kosten senken und planbar machen möchten. Wenn Sie eigene GPUs betreiben, finden Sie die Infrastrukturthemen in unserem Leitfaden zum Selbsthosting von LLMs.
Was die Kosten von KI-APIs bestimmt
Ihre monatliche KI-Rechnung lässt sich näherungsweise so berechnen:
monthly cost = sum over requests of
(uncached input tokens x input price)
+ (cached input tokens x cache price)
+ (output tokens x output price)
+ retries, failed calls, tool calls, and fees
Die Kosten hängen also von fünf Faktoren ab, die Sie beeinflussen können: welches Modell Sie aufrufen, wie viele Eingabetokens Sie senden (System-Prompts, Chatverlauf, RAG-Kontext), wie viele Ausgabetokens Sie zulassen, wie viel wiederkehrenden Kontext Sie zwischenspeichern können und wie viele Anfragen wiederholt werden oder ins Leere laufen.
Aktuelle Referenzpreise (pro 1M Tokens, 26. Oktober 2026)
| Modell | Eingabe | Zwischengespeicherte Eingabe | Ausgabe | Quelle |
|---|---|---|---|---|
| GPT-6 Astra | $10.00 | $1.00 | $50.00 | OpenAI-Preise |
| GPT-6.1 Sol | $2.00 | $0.10 | $10.00 | OpenAI-Preise |
| GPT-6 Luna | $0.10 | $0.01 | $0.50 | OpenAI-Preise |
| Claude Opus 5.5 | $4.00 | $0.20 (Cache-Treffer) | $20.00 | Anthropic-Preise |
| Claude Sonnet 5.5 | $2.00 | $0.10 (Cache-Treffer) | $10.00 | Anthropic-Preise |
| Claude Haiku 5.5 (Prompts bis 100K) | $0.10 | $0.01 (Cache-Treffer) | $0.50 | Anthropic-Preise |
| Gemini 3.8 Flash (Aktion bis 31. Dezember 2026) | $0.75 | $0.075 | $3.75 | Gemini-API-Preise |
| Gemini 3.5 Flash-Lite | $0.30 | $0.03 | $2.50 | Gemini-API-Preise |
Zwischen der obersten und der untersten Preisstufe liegt ein Faktor von 100x. Deshalb ist die Modellwahl der erste Hebel. Eine umfangreichere Tabelle finden Sie in unserem Preisvergleich für KI-APIs.
Die 9 Strategien zur KI-Kostenoptimierung
| # | Strategie | Typische Einsparung bei den betroffenen Anfragen | Aufwand | Qualitätsrisiko |
|---|---|---|---|---|
| 1 | Kosten pro erfolgreich erledigter Aufgabe messen | Schafft die Grundlage für alle weiteren Maßnahmen | Gering | Keines |
| 2 | Nach Aufgabenschwierigkeit routen | Hoch (günstiges Modell ist pro Token 20-100x günstiger) | Mittel | Mittel, erfordert Evals |
| 3 | Prompt-Caching | Bis zu 90-95% weniger für zwischengespeicherte Eingabetokens | Gering | Keines |
| 4 | Weniger dringende Aufgaben als Batch verarbeiten | 50% weniger | Gering | Keines (langsamer) |
| 5 | Prompts und Kontext kürzen | Proportional zu den eingesparten Tokens | Mittel | Gering bis mittel |
| 6 | Ausgabe begrenzen und formatieren | Proportional zur eingesparten Ausgabe | Gering | Gering |
| 7 | Wiederholungsversuche und Schleifen korrigieren | Vermeidet Verschwendung | Mittel | Keines |
| 8 | Budgets, Kontingente, Ausgabenlimits | Verhindert Budgetüberschreitungen | Gering | Keines |
| 9 | Preise und Anbieter monatlich prüfen | Unterschiedlich | Gering | Gering |
1. Kosten pro erfolgreich erledigter Aufgabe messen
Der Tokenpreis allein verschleiert Wiederholungsversuche, fehlgeschlagene Ausgaben und lange Unterhaltungen. Erfassen Sie die Kosten pro abgeschlossener Aufgabe (ein gelöstes Ticket, eine akzeptierte Codeänderung, eine fertige Zusammenfassung):
def cost_per_successful_task(rows):
"""rows: dicts with cost_usd and success (bool), e.g. from a usage export"""
total = sum(r["cost_usd"] for r in rows)
ok = sum(1 for r in rows if r["success"])
return total / ok if ok else float("inf")
Ordnen Sie Ausgaben nach Funktion, Team und Schlüssel zu, damit Sie wissen, wo Sie ansetzen sollten. Siehe Kosten von KI-APIs nach Team zuordnen. Die Arbeit der FinOps Foundation zu FinOps for AI basiert auf demselben Ansatz der Wirtschaftlichkeit pro Einheit.
2. Jede Aufgabe an das günstigste geeignete Modell routen
Die meisten Apps senden jede Anfrage an ein einziges leistungsfähiges Modell. In der Praxis reichen kleine Modelle häufig für Klassifikation, Extraktion, kurze Textüberarbeitungen und Routingentscheidungen aus, während anspruchsvolles Schlussfolgern und umfangreiche Codeänderungen ein größeres Modell erfordern.
Rechenbeispiel mit einem hypothetischen Workload von 10M Eingabe- und 2M Ausgabetokens pro Tag, vollständig auf GPT-6.1 Sol zum OpenAI-Listenpreis:
All GPT-6.1 Sol: 10 x $2.00 + 2 x $10.00 = $40.00/day
60% to GPT-6 Luna: 6 x $0.10 + 1.2 x $0.50 = $1.20
40% stay on Sol: 4 x $2.00 + 0.8 x $10.00 = $16.00 -> $17.20/day (-57%)
Die Einsparung zählt nur, wenn die umgeleiteten Aufgaben Ihre Qualitätsprüfungen weiterhin bestehen. Erstellen Sie deshalb zuerst einen kleinen Evaluierungsdatensatz. Entwerfen Sie die Regeln mithilfe unseres Leitfadens für Modellrouting-Richtlinien und behandeln Sie Fallbacks getrennt vom Routing (Praxisleitfaden für LLM-API-Fallback-Routing).
3. Prompt-Caching für wiederkehrenden Kontext nutzen
Wenn viele Anfragen dasselbe lange Präfix enthalten (System-Prompt, Tooldefinitionen, ein Richtliniendokument, eine Zusammenfassung der Codebasis), macht Caching wiederholte Eingaben deutlich günstiger. Bei GPT-6.1 Sol kosten zwischengespeicherte Eingaben $0.10 statt $2.00 ohne Cache pro 1M Tokens, und bei Claude Sonnet 5.5 kosten Cache-Treffer $0.10 statt $2.00 (Listenpreise vom Oktober 2026). Anthropic berechnet laut seiner Dokumentation zum Prompt-Caching einen Aufpreis für das Schreiben in den Cache (1.25x des Eingabepreises für einen Cache mit 5 Minuten Laufzeit, 2x für 1 Stunde); bei OpenAI erfolgt das Caching langer Prompts automatisch (OpenAI-Prompt-Caching).
Wenn im obigen Beispiel 70% der Eingabetokens ein zwischengespeichertes Präfix auf GPT-6.1 Sol sind:
input: 3M x $2.00 + 7M x $0.10 = $6.70 (was $20.00)
total: $6.70 + $20.00 output = $26.70/day (-33%)
Platzieren Sie unveränderliche Inhalte am Anfang und variable Inhalte am Ende, damit das Präfix übereinstimmt. Weitere Details: Prompt-Caching: Workflow und ROI.
4. Weniger dringende Aufgaben als Batch verarbeiten
Die Batch API von OpenAI, Message Batches von Anthropic und der Batchmodus von Gemini kosten jeweils etwa 50% weniger, wenn Sie eine asynchrone Verarbeitung akzeptieren (Ergebnisse innerhalb von Stunden statt Sekunden). Geeignet sind etwa nächtliche Klassifikationen, Evaluierungen, das nachträgliche Erstellen von Embeddings, die Verschlagwortung von Inhalten und die Berichtserstellung.
# OpenAI Batch: upload a JSONL of requests, then create the batch
curl https://api.openai.com/v1/files -H "Authorization: Bearer $OPENAI_API_KEY" \
-F purpose="batch" -F file="@requests.jsonl"
curl https://api.openai.com/v1/batches -H "Authorization: Bearer $OPENAI_API_KEY" \
-H "Content-Type: application/json" \
-d '{"input_file_id":"file-abc123","endpoint":"/v1/chat/completions","completion_window":"24h"}'
5. Prompts und Kontext kürzen
- Entfernen Sie ungenutzte Anweisungen und doppelte Beispiele aus System-Prompts.
- Fassen Sie ältere Chatbeiträge zusammen, statt den vollständigen Verlauf erneut zu senden.
- Senden Sie bei RAG weniger, dafür passendere Textabschnitte (zuerst neu gewichten), statt der besten 20.
- Senden Sie einem Coding-Agenten keine vollständigen Dateien, wenn ein Diff oder eine Funktion ausreicht.
Messen Sie die Tokenanzahl vorher und nachher mit dem Tokenzähler Ihres Anbieters oder anhand der Nutzungsfelder.
6. Ausgabe begrenzen und formatieren
Ausgabetokens kosten bei den meisten Modellen in der obigen Tabelle 5x so viel wie Eingabetokens. Legen Sie max_tokens (oder max_output_tokens) pro Route fest, fordern Sie strukturiertes JSON statt Fließtext an, wenn ein Programm das Ergebnis verarbeitet, und verlangen Sie „nur die Antwort“, wenn keine Erläuterungen nötig sind.
7. Kosten durch Wiederholungsversuche und Schleifen stoppen
Massive Wiederholungsversuche und Agentenschleifen sind eine häufige Ursache für plötzlich hohe Rechnungen. Nutzen Sie exponentielles Backoff mit einer Obergrenze für Wiederholungsversuche, wiederholen Sie keine Anfragen, die an der Validierung gescheitert sind, begrenzen Sie die Anzahl der Schritte pro Agentenlauf und protokollieren Sie die Kosten fehlgeschlagener Anfragen separat.
8. Budgets, Kontingente und Ausgabenlimits durchsetzen
Setzen Sie Limits dort durch, wo Anfragen entstehen, statt sie nur in einer monatlichen Tabelle festzuhalten: Kontingente pro Schlüssel, Budgets pro Team, Warnmeldungen bei 50/80/100% und eine feste Obergrenze. Siehe Kontingentverwaltung für KI-APIs und Ausgabenmanagement für KI-APIs.
9. Preise und Anbieter jeden Monat erneut prüfen
Preise ändern sich häufig: Der Aktionspreis für Googles Gemini 3.8 Flash endet am 31. Dezember 2026 und steigt von $0.75/$3.75 auf $1.50/$7.50 pro 1M Tokens (Gemini-Preise). Außerdem verweist DeepSeeks Alias deepseek-flash inzwischen auf ein neueres Modell (DeepSeek-Preise). Planen Sie eine monatliche Preisprüfung ein und führen Sie Ihre Evals bei einem Wechsel erneut aus.
Ein API-Gateway zur KI-Kostenoptimierung einsetzen
Ein Gateway bündelt mehrere dieser Hebel: einen OpenAI-kompatiblen Endpunkt für viele Anbieter (einfacheres Routing und Wechseln), Nutzungsprotokolle pro Schlüssel und Kontingente. Flatkey ist eine Option: Mit einem Schlüssel unter https://router.flatkey.ai/v1 erreichen Sie GPT, Claude, Gemini, Qwen, DeepSeek und weitere Modelle. Das Nutzungsdashboard zeigt für jede Anfrage Modell, Tokens, Kosten und Schlüssel, bietet CSV/JSON-Export und ein monatliches Ausgabenlimit.
Die von Flatkey ausgewiesenen Preise liegen bei einigen Modellen unter den Listenpreisen der Anbieter. Beispiele von den Flatkey-Modellseiten vom 26. Oktober 2026:
| Modell | Anbieterlistenpreis (Eingabe / Ausgabe pro 1M) | Flatkey (Eingabe / Ausgabe pro 1M) |
|---|---|---|
| GPT-6.1 Sol | $2.00 / $10.00 | $1.20 / $6.00 |
| Claude Sonnet 5.5 | $2.00 / $10.00 | $1.60 / $8.00 |
| Gemini 3.8 Flash | $0.75 / $3.75 (Google-Aktion) | $1.20 / $6.00 |
Beachten Sie die letzte Zeile: Während der Google-Aktion ist Gemini 3.8 Flash direkt bei Google günstiger. Vergleichen Sie die Preise pro Modell, nicht pro Plattform. Bei Aufladungen erhalten Sie Bonusguthaben ($100 werden zu $115, $300 werden zu $360), und das Guthaben verfällt laut der Flatkey-Preisseite nicht.
So wechseln Sie die Basis-URL mit dem OpenAI SDK in Node.js:
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://router.flatkey.ai/v1", apiKey: process.env.FLATKEY_API_KEY });
const r = await client.chat.completions.create({
model: "gpt-6.1-sol",
messages: [{ role: "user", content: "Classify this ticket: 'refund not received'" }],
max_tokens: 20,
});
console.log(r.usage); // log tokens per call for cost tracking
Ein 30-Tage-Plan zur KI-Kostenoptimierung
| Woche | Maßnahmen | Ergebnis |
|---|---|---|
| 1 | Nutzung exportieren, nach Funktion/Team/Schlüssel kennzeichnen, Kosten pro erfolgreich erledigter Aufgabe berechnen | Bericht zur Ausgangslage |
| 2 | Ausgabe begrenzen, Wiederholungsversuche korrigieren, Caching für lange gemeinsame Präfixe aktivieren | Erste Einsparungen ohne Qualitätsrisiko |
| 3 | Einen Evaluierungsdatensatz mit 100-200 Fällen erstellen; günstigere Modelle je Aufgabe testen; geeignete Aufgaben dorthin routen | Routingtabelle |
| 4 | Asynchrone Jobs als Batch verarbeiten; Kontingente, Warnmeldungen und ein Ausgabenlimit festlegen | Verbindlich durchgesetztes Budget |
Häufige Fehler
- Den Tokenpreis statt der Kosten pro erfolgreich erledigter Aufgabe optimieren. Ein günstiges Modell, das zweimal scheitert, kostet mehr.
- Routing ohne Evals. Qualitätsverluste zeigen sich später als Supporttickets.
- Den Cache unbrauchbar machen, indem Zeitstempel oder Nutzer-IDs am Anfang von Prompts stehen.
- Die Ausgabelänge ignorieren, obwohl Ausgabetokens meist die teuerste Tokenart sind.
- Keine feste Obergrenze setzen, sodass eine einzige Schleife das Monatsbudget an einem Tag aufbrauchen kann.
FAQ
Was ist KI-Kostenoptimierung?
KI-Kostenoptimierung senkt die Ausgaben für KI-Modelle und Infrastruktur pro nutzbarem Ergebnis. Dazu dienen Modellrouting, Prompt-Caching, Batchverarbeitung, das Kürzen von Prompts und Ausgaben sowie Budgets, während die Qualität auf einem vereinbarten Niveau bleibt.
Wie kann ich LLM-API-Kosten schnell senken?
Am schnellsten wirken eine Begrenzung von max_tokens, Prompt-Caching für lange wiederkehrende Präfixe, die Verlagerung weniger dringender Jobs in die Batchverarbeitung (etwa 50% günstiger bei OpenAI, Anthropic und Gemini) und das Weiterleiten einfacher Aufgaben an ein kleines Modell wie GPT-6 Luna für $0.10/$0.50 pro 1M Tokens (Oktober 2026).
Wie viel spart Prompt-Caching?
Bei zwischengespeicherten Eingabetokens sehr viel: GPT-6.1 Sol berechnet dafür $0.10 statt $2.00 pro 1M Tokens, eine Reduzierung um 95% (Oktober 2026). Die Gesamtersparnis hängt davon ab, welcher Anteil Ihrer Eingabe aus einem wiederkehrenden Präfix besteht.
Ist das günstigste KI-Modell immer am wirtschaftlichsten?
Nein. Wenn ein günstiges Modell häufiger scheitert, können Wiederholungsversuche und manuelle Korrekturen mehr kosten als ein leistungsfähigeres Modell. Vergleichen Sie die Kosten pro erfolgreich erledigter Aufgabe anhand Ihres eigenen Evaluierungsdatensatzes.
Was ist FinOps for AI?
FinOps for AI überträgt die Methoden des Cloud-Finanzmanagements (Transparenz, Zuordnung, Wirtschaftlichkeit pro Einheit und Budgets) auf KI-Ausgaben. Die FinOps Foundation veröffentlicht das Framework.
Senkt ein KI-Gateway die Kosten?
Ein Gateway macht Tokens nicht von sich aus günstiger, erleichtert aber Routing, Anbieterwechsel, Nutzungserfassung und die Durchsetzung von Kontingenten. Manche Gateways bieten für bestimmte Modelle auch niedrigere Tokenpreise an; prüfen Sie den Preis jedes Modells.
Quellen
Preise geprüft am 26. Oktober 2026: OpenAI-API-Preise, Anthropic-Preise, Gemini-API-Preise, DeepSeek-Preise, Flatkey-Preise. Methoden: OpenAI Batch, Anthropic-Prompt-Caching, FinOps for AI.
