Kosten, Abrechnung und Betrieb22. September 2026Flatkey Team

OpenAI Prompt Caching (Oktober 2026): Funktionsweise, Preise und ROI

OpenAI Prompt Caching ist automatisch aktiv und berechnet gecachten Input mit etwa dem 0,1-Fachen des normalen Preises. Hier finden Sie die Schreib- und Lesepreise vom Oktober 2026, TTLs von 30 Minuten und 12 Stunden, explizite Breakpoints, ein ROI-Beispiel und den Vergleich mit Claude und Gemini.

OpenAI Prompt Caching (Oktober 2026): Funktionsweise, Preise und ROI

OpenAI Prompt Caching ist standardmäßig aktiv: Beginnt eine Anfrage mit demselben Präfix (mindestens 1.024 Token ab GPT-5.6) wie eine kürzlich gestellte Anfrage, verwendet OpenAI die gespeicherte Berechnung wieder und berechnet diese Token zum Preis für gecachten Input, etwa 90–95 % günstiger als normaler Input. Ab GPT-5.6 zahlen Sie zusätzlich einen einmaligen Cache-Schreibvorgang: das 1,25-Fache des Input-Preises für die Standardlaufzeit von 30 Minuten oder das 2,5-Fache für 12 Stunden, Stand 25. Oktober 2026. Wird ein Präfix innerhalb seiner Laufzeit auch nur einmal wiederverwendet, ist Caching bereits günstiger, als es zweimal zu senden.

Dieser Leitfaden erklärt, wie der OpenAI-Cache funktioniert, was er bei aktuellen Modellen kostet, wie Sie ihn mit Breakpoints und TTLs steuern, wie Sie die Einsparungen messen und wie er sich vom Caching bei Anthropic und Gemini unterscheidet. Alle Preise stammen aus dem OpenAI-Leitfaden zu Prompt Caching und der OpenAI-API-Preisseite, geprüft am 25. Oktober 2026.

Preise für OpenAI Prompt Caching

Preise der Standard-Stufe pro 1 Mio. Token:

Modell	Input	Gecachter Input (Lesen)	30-Minuten-Schreiben	12-Stunden-Schreiben	Output
gpt-6-astra	$10.00	$1.00	$12.50	$25.00	$50.00
gpt-6.1-sol	$2.00	$0.10	$2.50	$5.00	$10.00
gpt-6-luna	$0.10	$0.01	$0.125	$0.25	$0.50
gpt-5.6-sol	$4.00	$0.40	$5.00	$10.00	$20.00

Ein Cache-Lesevorgang kostet bei den meisten Modellen das 0,1-Fache des ungecachten Input-Preises und bei GPT-6.1 Sol das 0,05-Fache. Die Batch-Stufe halbiert alle Werte dieser Tabelle, der Fast-Modus verdoppelt sie. Regionale Data-Residency-Endpunkte kosten bei Modellen, die am oder nach dem 5. März 2026 erschienen sind, 10 % Aufschlag.

Ein häufiges Missverständnis: Der Preis für Cache-Schreibvorgänge ist keine Zusatzgebühr auf den Input. Jedes Input-Token wird genau einmal berechnet, entweder zum ungecachten, zum Cache-Lese- oder zum Cache-Schreibpreis. Ein 30-Minuten-Schreibvorgang kostet für diese Token 25 % mehr als normaler Input, und jeder spätere Treffer kostet 10 % (bzw. 5 %) davon.

So funktioniert OpenAI Prompt Caching

Wenn ein Modell Ihren Prompt liest, berechnet es für jedes Token Key-Value-Zustände (KV). Prompt Caching speichert diese Zustände für ein wiederverwendbares Präfix, also den unveränderten Anfang des Prompts. Beginnt eine spätere Anfrage mit genau demselben Präfix und findet einen passenden Cache-Eintrag, überspringt das Modell die Neuberechnung. Das senkt sowohl die Kosten als auch die Zeit bis zum ersten Token.

Das gecachte Präfix umfasst alles, was OpenAI vor der ersten Änderung Ihres Inhalts rendert: versteckte Systeminhalte, Developer-Nachrichten, Tool-Definitionen und den Gesprächsverlauf einschließlich Text, Bildern, Dokumenten und unterstütztem Audio. Die Übereinstimmung muss exakt sein. Ändert sich vor einem Breakpoint irgendetwas, etwa ein Zeitstempel im System-Prompt, eine umsortierte Tool-Liste oder ein anderes Bild, ist alles nach dieser Änderung ein Cache-Miss.

Die wichtigsten Regeln ab GPT-5.6:

Mindestlänge: Ein Präfix muss mindestens 1.024 Token lang sein, um gecacht zu werden. Die versteckten System-Token von OpenAI zählen nicht mit.
Breakpoints: Ein Breakpoint markiert das Ende eines Präfixes, das in den Cache geschrieben werden kann. Im impliziten Modus (Standard) setzt OpenAI einen ans Ende der letzten geeigneten Nachricht. Im expliziten Modus legen Sie die Position mit prompt_cache_breakpoint selbst fest.
Bis zu vier Schreibvorgänge pro Anfrage: Jede Anfrage kann bis zu vier Cache-Schreibvorgänge erzeugen, sodass Sie Ebenen cachen können, die sich unterschiedlich schnell ändern.
Laufzeiten: Setzen Sie in der Responses API prompt_cache_options.ttl auf "30m" (Standard) oder "12h". Cache-Lesevorgänge kosten in beiden Fällen gleich viel.

Bei Modellen vor GPT-5.6 gibt es nur implizites Caching. Die Aufbewahrung steuern Sie mit prompt_cache_retention: in_memory hält Einträge etwa 5–10 Minuten Inaktivität lang (bis zu einer Stunde), 24h verlängert das auf bis zu 24 Stunden. Organisationen ohne Zero Data Retention nutzen standardmäßig 24h, ZDR-Organisationen in_memory. Bei diesen älteren Modellen hilft ein stabiler prompt_cache_key, zusammengehörige Anfragen an denselben Cache zu leiten. OpenAI empfiehlt, pro Schlüssel bei etwa 15 Anfragen pro Minute zu bleiben und stärkeren Traffic auf mehrere Schlüssel zu verteilen.

Wann sich Caching lohnt

Der OpenAI-Leitfaden liefert die Grundrechnung. Bei einem Lesepreis von 0,1× und einem Schreibpreis von 1,25× kostet es das 1,35-Fache des normalen Input-Preises, ein Präfix einmal zu schreiben und einmal wiederzuverwenden, statt des 2-Fachen für zweimaliges Senden. Zehn Anfragen mit einem Schreib- und neun Lesevorgängen kosten das 2,15-Fache statt des 10-Fachen ohne Caching.

Anfragen mit gemeinsamem Präfix	Ohne Cache	30-Minuten-Cache	12-Stunden-Cache	Ersparnis mit 30-Minuten-Cache
1	1.00×	1.25×	2.50×	−25%
2	2.00×	1.35×	2.60×	33%
10	10.00×	2.15×	3.40×	79%
100	100.00×	11.15×	12.40×	89%

Die 12-Stunden-Laufzeit lohnt sich nur, wenn zwischen den Anfragen mehr als 30 Minuten liegen, das Präfix aber trotzdem mehrfach wiederverwendet wird, zum Beispiel ein umfangreiches Produkthandbuch, das ein internes Tool mit wenig Traffic über den ganzen Arbeitstag abfragt.

OpenAI erklärt auch, wann es sich lohnt, ein kurzes Präfix bis zur Mindestlänge aufzufüllen. Bei 1.024 Token Minimum, 0,1× Lesepreis und 1,25× Schreibpreis ist das Auffüllen günstiger, wenn Ihr ursprüngliches Präfix länger als 102,4 + 1.177,6 / N Token ist, wobei N die Anzahl der Anfragen ist. Bei 10 Anfragen lohnt es sich, ein Präfix ab 221 Token auf 1.024 Token zu erweitern.

Ein Rechenbeispiel

Angenommen, ein Support-Assistent auf gpt-6.1-sol bearbeitet 50.000 Anfragen pro Tag. Jede Anfrage sendet ein stabiles Präfix von 8.000 Token (Anweisungen, Tool-Definitionen und Richtliniendokumente) sowie eine Nutzernachricht mit 500 Token und erhält eine Antwort mit 400 Token. Der Traffic ist gleichmäßig, daher wird der 30-Minuten-Cache etwa 48-mal pro Tag neu geschrieben.

Tägliche Kostenposition	Ohne Caching	Mit explizitem Caching
Stabiles Präfix	400M × $2.00 = $800.00	Schreiben: 0.38M × $2.50 = $0.96; Lesen: 399.6M × $0.10 = $39.96
Nutzernachricht	25M × $2.00 = $50.00	25M × $2.00 = $50.00
Output	20M × $10.00 = $200.00	20M × $10.00 = $200.00
Summe	$1,050.00	≈ $290.92

Das entspricht etwa 72 % weniger Tageskosten. Die Output-Zeile ist in beiden Spalten gleich. Sobald Caching funktioniert, sind kürzere Antworten also der nächste Hebel.

Warum hier der explizite Modus? Im impliziten Modus liegt der Breakpoint am Ende der letzten Nachricht, sodass die 500 wechselnden Nutzer-Token jedes Mal ebenfalls zum 1,25-Fachen in den Cache geschrieben würden. In diesem Beispiel kostet das etwa 12,50 US-Dollar pro Tag zusätzlich. Im expliziten Modus endet der Cache-Schreibvorgang direkt nach dem stabilen Präfix, und die Nutzernachricht wird zum normalen Input-Preis berechnet.

Einrichtung

Um von implizitem Caching zu profitieren, brauchen Sie keinen Code. Zur Steuerung verwenden Sie die Responses API. Diese Anfrage cacht gemeinsame Anweisungen für 12 Stunden und den Sitzungskontext für 30 Minuten und lässt die aktuelle Frage ungecacht:

curl https://api.openai.com/v1/responses \
  -H "Authorization: Bearer $OPENAI_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "gpt-6.1-sol",
    "prompt_cache_options": { "mode": "explicit", "ttl": "30m" },
    "input": [
      { "role": "developer", "content": [
        { "type": "input_text", "text": "<shared instructions and policy docs>",
          "prompt_cache_breakpoint": { "mode": "explicit", "ttl": "12h" } } ] },
      { "role": "user", "content": [
        { "type": "input_text", "text": "<session context>",
          "prompt_cache_breakpoint": { "mode": "explicit" } },
        { "type": "input_text", "text": "What is the refund window for annual plans?" } ] }
    ]
  }'

Lesen Sie die Cache-Felder aus jeder Antwort aus und protokollieren Sie sie:

from openai import OpenAI

client = OpenAI()
resp = client.responses.create(model="gpt-6.1-sol", input=[...])  # same input as above

d = resp.usage.input_tokens_details
print("input:", resp.usage.input_tokens)
print("cache reads:", d.cached_tokens)
print("cache writes:", d.cache_write_tokens)
hit_rate = d.cached_tokens / max(resp.usage.input_tokens, 1)
print(f"token cache-hit rate: {hit_rate:.0%}")

Bei Modellen mit Unterstützung für prompt_cache_options schlüsselt cache_write_tokens_details die Schreibvorgänge in ttl_30m_tokens und ttl_12h_tokens auf. Der gemeldete Wert cached_tokens wird auf ein Vielfaches von 128 abgerundet. OpenAI bietet außerdem ein Prompt Caching Dashboard zur Verfolgung der Trefferquoten und das Tool Prompt Cache Diagnostics, das Cache-Misses erklärt.

Prompt-Designregeln für höhere Trefferquoten

Statisches zuerst, Dynamisches zuletzt. Anweisungen, Tool-Schemas, Few-Shot-Beispiele und Referenzdokumente gehören nach oben. Die Nutzernachricht, abgerufene Textausschnitte und alles mit Datum oder ID gehören nach unten.
Tool-Liste einfrieren. Geänderte Tool-Definitionen brechen das Präfix. Brauchen verschiedene Anfragen verschiedene Tools, lassen Sie die Definitionen stabil und ändern nur, welche aufrufbar sind.
Anhängen statt umschreiben. In mehrstufigen Chats neue Turns ans Ende anfügen. Wer frühere Turns zusammenfasst oder bearbeitet, macht den Cache ungültig.
Einstellungen stabil halten. Modell, Reasoning-Einstellungen und andere Anfrageoptionen können das gerenderte Präfix verändern. Legen Sie sie für gecachten Traffic fest.
Auf Fallbacks achten. Bei einem Failover auf ein anderes Modell oder einen anderen Anbieter starten Sie mit kaltem Cache. Unser Playbook für Modell-Fallbacks zeigt, wie Sie umschalten, ohne die gesamte Cache-Lokalität zu verlieren.

OpenAI vs. Anthropic vs. Gemini: Prompt Caching im Vergleich

Caching lässt sich nicht zwischen Anbietern übertragen. Mechanik und Preise unterscheiden sich:

	OpenAI (GPT-5.6+)	Anthropic Claude	Google Gemini
Standard	Automatisch	Opt-in mit `cache_control` (automatisch oder pro Block)	Implizites Caching automatisch ab Gemini 2.5
Mindestpräfix	1.024 Token	512 Token bei aktuellen Modellen	4.096 Token bei Gemini 4 Argon und 3.8 Flash
Schreibkosten	1,25× (30 Min.) oder 2,5× (12 Std.)	1,25× (5 Min.) oder 2× (1 Std.)	Keine Schreibgebühr bei implizitem Caching; explizites Caching kostet zusätzlich stündlichen Speicher
Lesekosten	0,1× (0,05× bei GPT-6.1 Sol)	0,1× (0,05× bei Opus 5.5 und Sonnet 5.5)	z. B. $0.10 statt $2.00 Input bei Gemini 4 Argon
Usage-Feld	`cached_tokens`, `cache_write_tokens`	`cache_read_input_tokens`, `cache_creation_input_tokens`	`total_cached_tokens`

Quellen: die Anthropic-Dokumentation zu Prompt Caching, die Claude-API-Preise, Gemini Context Caching und die Gemini-API-Preise, alle geprüft am 25. Oktober 2026. Gemini 4 Argon unterstützt nur implizites Caching. Explizite Cache-Objekte funktionieren bei unterstützten Gemini-3- und 2.5-Modellen über generateContent, wobei Speicher pro Million Token und Stunde berechnet wird (zum Beispiel $0.50 bei Gemini 3.8 Flash bis zum 31. Dezember 2026). Auch DeepSeek cacht automatisch; siehe den DeepSeek-Leitfaden zum Caching.

Ein siebentägiger Caching-ROI-Check

Bevor Sie Caching als Erfolg verbuchen, messen Sie es mit echtem Traffic:

Tag 1: Wählen Sie einen Workflow mit hohem Volumen und langem gemeinsamem Präfix. Protokollieren Sie pro Anfrage Input-Token, cached_tokens, cache_write_tokens, Output-Token und Latenz.
Tag 2–3: Verschieben Sie alle statischen Inhalte nach oben und entfernen Sie dynamische Werte daraus. Vergleichen Sie die Token-Cache-Trefferquote (gecachte Token ÷ Input-Token) vorher und nachher.
Tag 4–5: Viele Schreib- und wenige Lesevorgänge bedeuten, dass Ihr Traffic für 30-Minuten-Einträge zu dünn ist. Testen Sie "12h" für die stabile Ebene oder konsolidieren Sie das Präfix, damit mehr Anfragen es teilen.
Tag 6–7: Berechnen Sie die tatsächlichen Kosten pro akzeptierter Antwort, nicht nur pro Token. Eine günstigere Anfrage, die Nutzer ablehnen, ist keine Ersparnis.

Gute Zielwerte für einen gleichmäßigen Chat- oder Agent-Workload sind eine Token-Cache-Trefferquote über 60 % und mindestens zehnmal so viele Lese- wie Schreibvorgänge. Unser Leitfaden zur LLM-API-Observability und unser Leitfaden für Token-Usage-Dashboards zeigen, wie Sie diese Ansichten aufbauen.

Wo Flatkey ins Spiel kommt

Flatkey ist ein OpenAI-kompatibler Router mit einem Schlüssel und einem Guthaben für OpenAI, Claude, Gemini, DeepSeek, Qwen und weitere Modelle. Das Caching auf Anbieterseite folgt weiterhin den Regeln des jeweiligen Anbieters. Halten Sie Prompts daher pro Modell stabil und wechseln Sie nicht bei jeder Anfrage das Modell, wenn Sie Cache-Treffer wollen. Starten Sie mit dem Router-Quickstart, prüfen Sie aktuelle Preise auf der Flatkey-Preisseite und lesen Sie unseren Leitfaden zur Kostenoptimierung von AI-APIs für weitere Sparmöglichkeiten.

FAQ

Ist OpenAI Prompt Caching automatisch?

Ja. Prompt Caching ist bei unterstützten OpenAI-Modellen standardmäßig aktiv, und Sie müssen Ihren Code nicht ändern, um Cache-Treffer zu erhalten. Ab GPT-5.6 können Sie in den expliziten Modus wechseln und Breakpoints mit prompt_cache_breakpoint festlegen.

Wie viel spart OpenAI Prompt Caching?

Gecachter Input kostet bei den meisten aktuellen Modellen das 0,1-Fache des normalen Input-Preises und bei GPT-6.1 Sol das 0,05-Fache, also 90–95 % Rabatt auf den gecachten Teil. Die Gesamtersparnis hängt davon ab, wie viel jedes Prompts ein gemeinsames Präfix ist und wie oft es wiederverwendet wird.

Wie lang muss ein Prompt mindestens sein, um gecacht zu werden?

1.024 Token ab GPT-5.6. Bei älteren Modellen hängt es von den Anfrageeinstellungen ab. Kürzere Präfixe werden ohne Fehler ganz normal verarbeitet.

Wie lange hält der OpenAI-Prompt-Cache?

Ab GPT-5.6 bleiben Einträge standardmäßig mindestens 30 Minuten erhalten, oder mindestens 12 Stunden, wenn Sie ttl auf "12h" setzen. Bei älteren Modellen hält in_memory Einträge etwa 5–10 Minuten Inaktivität lang, höchstens eine Stunde, und 24h kann sie bis zu 24 Stunden aufbewahren.

Verringert Prompt Caching die Latenz?

Ja. Die Wiederverwendung eines gecachten Präfixes spart die Neuberechnung und verkürzt so die Zeit bis zum ersten Token, besonders bei langen Prompts.

Muss ich für das Schreiben in den Cache bezahlen?

Ab GPT-5.6 ja: das 1,25-Fache des Input-Preises für einen 30-Minuten-Schreibvorgang oder das 2,5-Fache für 12 Stunden. Das ersetzt die normale Input-Gebühr für diese Token und kommt nicht obendrauf.

Was ist prompt_cache_key?

Ein optionaler Parameter, der zusammengehörige Anfragen gruppiert, damit sie an denselben Cache geleitet werden. Bei Modellen vor GPT-5.6 verbessert er die Trefferquote; OpenAI empfiehlt etwa 15 Anfragen pro Minute und Schlüssel.