Architektur von KI-Gateways5. September 2026Flatkey Team

LLM-API-Leitfaden (2026): Was sie ist, wie sie funktioniert, Preise und die besten Anbieter

Ein praxisnaher LLM-API-Leitfaden für 2026: Grundlagen, Ablauf einer Anfrage, ausführbarer Code, offizielle Preise der großen Anbieter, die günstigsten und kostenlosen Optionen und wann eine einheitliche API sinnvoller ist als separate Konten.

LLM-API-Leitfaden (2026): Was sie ist, wie sie funktioniert, Preise und die besten Anbieter

LLM-API-Leitfaden (2026): Was sie ist, wie sie funktioniert, Preise und die besten Anbieter

Eine LLM-API ist ein Web-Endpunkt, über den dein Code einen Prompt an ein großes Sprachmodell sendet und generierten Text, JSON oder Tool-Aufrufe zurückerhält. Abgerechnet wird pro Token. Du rufst sie mit einer HTTP-Anfrage auf, die einen API-Schlüssel, einen Modellnamen und deine Nachrichten enthält. So nutzt du Modelle wie GPT, Claude, Gemini, DeepSeek oder Qwen, ohne selbst GPUs zu betreiben. Im Oktober 2026 reichen die Preise von $0.10 pro Million Eingabe-Tokens für kleine Modelle bis zu $10 für die größten.

Dieser Leitfaden richtet sich an Entwickler und unabhängige Softwareentwickler, die ihre erste (oder nächste) LLM-API auswählen. Er behandelt den Ablauf einer Anfrage, ausführbaren Code in curl, Python und Node.js, aktuelle offizielle Preise der großen Anbieter, kostenlose Optionen, die Auswahl eines Anbieters und die Frage, wann eine einheitliche API sinnvoller ist als separate Konten.

Was ist eine API bei einem LLM?

Eine API (Application Programming Interface, Programmierschnittstelle) legt fest, wie dein Programm mit einem anderen Dienst kommuniziert. Bei einem großen Sprachmodell definiert die API:

  • Endpunkt: die URL, an die du Anfragen sendest, etwa /v1/chat/completions oder /v1/messages.
  • Authentifizierung: einen API-Schlüssel in einem Header, der deinem Konto und deiner Abrechnung zugeordnet ist.
  • Anfrageformat: die Modell-ID, eine Liste von Nachrichten (system, user, assistant) und Optionen wie max_tokens, temperature, Tools und Antwortformat.
  • Antwortformat: generierten Text oder strukturierte Ausgaben sowie den Token-Verbrauch für die Abrechnung.
  • Limits: Anfragen und Tokens pro Minute, Kontextfenster und maximale Ausgabelänge.

Das Modell selbst läuft auf den GPUs des Anbieters. Du lädst keine Modellgewichte herunter, sondern mietest Inferenz für jede einzelne Anfrage. Das ist der wesentliche Unterschied zum eigenen Betrieb eines offenen Modells mit Tools wie vLLM oder Ollama.

So funktioniert eine LLM-API Schritt für Schritt

  1. Deine App erstellt eine Anfrage mit dem Modellnamen und dem bisherigen Gesprächsverlauf.
  2. Der Anbieter zerlegt den Text in Tokens (ein Token entspricht ungefähr 3 bis 4 Zeichen englischen Texts).
  3. Das Modell erzeugt Ausgabe-Tokens einzeln nacheinander und sendet sie auf Wunsch per Streaming als Server-Sent Events zurück.
  4. Die Antwort enthält den Text und ein usage-Objekt mit der Anzahl der Eingabe- und Ausgabe-Tokens.
  5. Die Abrechnung erfolgt nach der Formel: Eingabe-Tokens x Eingabepreis + Ausgabe-Tokens x Ausgabepreis.

Da die API zustandslos ist, sendest du den relevanten Gesprächsverlauf bei jedem Aufruf erneut mit. Deshalb werden lange Chats teurer, und deshalb sind Rabatte für Prompt-Caching relevant.

LLM-API-Beispiel: deine erste Anfrage

Die meisten Anbieter unterstützen inzwischen das Chat-Format von OpenAI, das sich dadurch zum De-facto-Standard entwickelt hat. Dieses Beispiel funktioniert direkt mit OpenAI:

curl https://api.openai.com/v1/chat/completions \
  -H "Authorization: Bearer $OPENAI_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "gpt-6-luna",
    "messages": [
      {"role": "system", "content": "You are a concise assistant."},
      {"role": "user", "content": "Explain what an LLM API is in one sentence."}
    ],
    "max_tokens": 100
  }'

Dieselbe Anfrage in Python mit dem offiziellen Paket openai. Wenn du base_url und den Schlüssel änderst, kannst du jeden OpenAI-kompatiblen Anbieter ansprechen, einschließlich eines Routers wie Flatkey (Schnellstart):

from openai import OpenAI

client = OpenAI(
    api_key="YOUR_KEY",
    base_url="https://router.flatkey.ai/v1",  # or https://api.openai.com/v1
)

resp = client.chat.completions.create(
    model="claude-sonnet-5-5",  # any model ID from the provider's catalog
    messages=[{"role": "user", "content": "Give me 3 names for a todo app."}],
    max_tokens=200,
)
print(resp.choices[0].message.content)
print(resp.usage)  # prompt_tokens, completion_tokens -> what you pay for

Und in Node.js 18+ mit einfachem fetch und Streaming:

const res = await fetch("https://router.flatkey.ai/v1/chat/completions", {
  method: "POST",
  headers: {
    Authorization: `Bearer ${process.env.FLATKEY_API_KEY}`,
    "Content-Type": "application/json",
  },
  body: JSON.stringify({
    model: "gemini-4-argon",
    stream: true,
    messages: [{ role: "user", content: "Write a haiku about APIs." }],
  }),
});
const decoder = new TextDecoder();
for await (const chunk of res.body) process.stdout.write(decoder.decode(chunk));

Anthropic und Google bieten auch eigene Formate (die Messages-API und die Gemini-API) mit anbieterspezifischen Funktionen an. Beide lassen sich aber auch über OpenAI-kompatible Schnittstellen ansprechen.

Die besten LLM-API-Anbieter 2026 (mit offiziellen Preisen)

Die folgenden Preise gelten pro Million Tokens (Eingabe / Ausgabe) und stammen von den offiziellen Preisseiten der jeweiligen Anbieter, Stand 23. Oktober 2026.

Anbieter Premium-Modell Modell mit ausgewogenem Preis-Leistungs-Verhältnis Günstiges Modell Hinweise
OpenAI gpt-6-astra $10 / $50 gpt-6.1-sol $2 / $10 gpt-6-luna $0.10 / $0.50 Batch- und Flex-Tarife senken die Preise um 50%
Anthropic Claude Opus 5.5 $4 / $20 Sonnet 5.5 $2 / $10 Haiku 5.5 $0.10 / $0.50 (Prompts bis 100K) 1M Kontext zum Standardpreis bei Modellen ab 4.6+, außer Haiku 5.5
Google Gemini Gemini 4 Argon $2 / $10 bis 30. November 2026 ($4 / $20 ab 1. Dezember) Gemini 3.8 Flash $0.75 für Eingabe bis 31. Dezember 2026 Flash-Lite-Modelle Kostenloser Tarif für Flash-Modelle; Argon ist nicht im kostenlosen Tarif enthalten
DeepSeek deepseek-v4-pro $1.32 / $3.96 zu Spitzenzeiten, $0.66 / $1.98 außerhalb der Spitzenzeiten k. A. deepseek-flash $0.30 / $1.20 zu Spitzenzeiten, $0.15 / $0.60 außerhalb der Spitzenzeiten Cache-Treffer ab $0.003
OpenRouter Listenpreise der Anbieter 5.5% Gebühr beim Kauf von Guthaben (Standard-Tarif)
Flatkey z. B. Kimi K3 $1.80 / $9 (Listenpreis $3 / $15) z. B. Claude Sonnet 5.5 $1.60 / $8 z. B. gpt-6-luna $0.06 / $0.30 Ein Schlüssel für 80+ Modelle; Preise von den Modellseiten

Die Flatkey-Preise stammen von den Modellseiten, Stand 23. Oktober 2026. Dort werden sowohl der Flatkey-Preis als auch der Listenpreis des Anbieters angezeigt. Eine detailliertere Aufschlüsselung nach Modell, einschließlich Caching- und Batch-Rabatten, findest du in unserem Preisvergleich für KI-APIs.

Welche LLM-API ist am günstigsten?

Bei kleinen, schnellen Modellen hatten im Oktober 2026 OpenAI gpt-6-luna und Claude Haiku 5.5 mit $0.10 für Eingabe / $0.50 für Ausgabe pro Million Tokens die niedrigsten offiziellen Listenpreise. deepseek-flash lag außerhalb der Spitzenzeiten von DeepSeek bei $0.15 / $0.60. Beispiel: 10,000 Anfragen pro Tag mit jeweils 1,000 Eingabe- und 300 Ausgabe-Tokens ergeben 300M Eingabe- und 90M Ausgabe-Tokens pro Monat, also etwa $75 zum Listenpreis von gpt-6-luna. Batch-APIs, Prompt-Caching und Zeitfenster außerhalb der Spitzenzeiten können diese Kosten nochmals halbieren.

Gibt es kostenlose LLM-APIs?

Ja, mit Einschränkungen. Die Gemini-API von Google bietet einen kostenlosen Tarif für Flash-Modelle (wobei die Nutzungsdaten zur Verbesserung von Google-Produkten verwendet werden können), und mehrere Router stellen kostenlose Modelle mit Ratenlimits bereit. Kostenlose Tarife eignen sich für Prototypen, haben aber niedrige Obergrenzen für Anfragen pro Tag. Sieh dir unsere Liste kostenloser LLM-APIs 2026 an.

So wählst du eine LLM-API aus

Frage Warum sie wichtig ist Was du prüfen solltest
Wie gut muss die Ausgabe sein? Premium-Modelle können 50 bis 100 Mal so viel kosten wie günstige Modelle Teste 20 bis 50 echte Prompts in zwei oder drei Leistungsklassen
Wie lang sind deine Prompts? Viel Kontext vervielfacht die Eingabekosten Kontextfenster und Preise für lange Prompts (z. B. Haiku 5.5 über 100K)
Wie schnell muss die Antwort kommen? Nutzer merken, wie lange es bis zum ersten Token dauert Streaming-Unterstützung und Latenz in deiner Region
Wie viel Traffic erwartest du? Limits gelten pro Minute und pro Tag RPM/TPM je Tarif; siehe unseren Leitfaden zu LLM-Ratenlimits
Brauchst du Tools oder JSON? Agenten sind auf Funktionsaufrufe angewiesen Unterstützung für Tool-Aufrufe und strukturierte Ausgaben
Wo werden die Daten verarbeitet? Compliance und Kundenverträge Datenspeicherung, regionale Endpunkte (Claude-Inferenz ausschließlich in den USA kostet das 1.1x-Fache)
Wirst du Modelle wechseln? Preise und führende Modelle ändern sich alle paar Monate OpenAI-kompatibles Format oder eine einheitliche API

Direkter Anbieterzugriff oder einheitliche LLM-API

Einen Anbieter direkt aufzurufen ist am einfachsten, wenn du nur eine Modellfamilie nutzt. Sobald du mehrere Modelle kombinierst, spart eine einheitliche API (auch LLM-Router oder LLM-Gateway genannt) Arbeit:

  • Ein Schlüssel und ein Guthaben statt separater Konten, Rechnungen und Ratenlimits pro Anbieter.
  • Modelle durch Ändern einer Zeichenfolge wechseln, ohne das SDK zu wechseln.
  • Fallback auf ein anderes Modell, wenn ein Anbieter ausfällt oder sein Ratenlimit erreicht ist.
  • Ein zentrales Nutzungsprotokoll zur Ermittlung der Kosten pro Funktion oder Kunde.

Zu den Optionen gehören gehostete Router (OpenRouter, Flatkey, Vercel AI Gateway) und selbst betriebene Proxys wie LiteLLM. Gehostete Router unterscheiden sich vor allem bei den Gebühren: OpenRouter berechnet im Standard-Tarif die Listenpreise der Anbieter zuzüglich einer Gebühr von 5.5% beim Guthabenkauf. Auf den Modellseiten von Flatkey liegen die Preise vieler Modelle dagegen unter den Listenpreisen der Anbieter. Einen Vergleich findest du in unserem Leitfaden zu OpenRouter-Alternativen und unserer Erklärung einheitlicher KI-APIs.

Wann eine LLM-API sinnvoll ist und wann nicht

Nutze eine LLM-API, wenn echte Nutzer auf die Ausgabe angewiesen sind, du mehr als ein Modell brauchst, sich Kosten Funktionen oder Kunden zuordnen lassen müssen oder du Agenten entwickelst, die Tools aufrufen. Betreibe das Modell selbst, wenn die Daten auf deiner eigenen Hardware bleiben müssen, du ein feinabgestimmtes offenes Modell bei gleichbleibend hohem Anfragevolumen benötigst oder ein Offline-Betrieb erforderlich ist. Unser Leitfaden zu einem API-Schlüssel für mehrere KI-Modelle zeigt, wie kleine Teams das ohne eigenes Plattformteam einrichten.

Häufige Fehler

  • Eine Modell-ID überall fest im Code hinterlegen. Lege sie in der Konfiguration ab, damit du sie wechseln kannst.
  • Ausgabe-Tokens ignorieren. Ausgabe kostet meist 4 bis 5 Mal so viel wie Eingabe; begrenze max_tokens.
  • Riesige Gesprächsverläufe erneut senden. Fasse lange System-Prompts zusammen oder speichere sie im Cache.
  • Keine Wiederholungslogik vorsehen. Fehler der Klassen 429 und 5xx kommen vor; ergänze Backoff (siehe unseren Leitfaden zum Umgang mit überschrittenen API-Ratenlimits).
  • Schlüssel in Git einchecken. Nutze Umgebungsvariablen und rotiere Schlüssel.

FAQ

Was ist eine API bei einem LLM?

Sie ist die Schnittstelle, über die dein Code Prompts an ein großes Sprachmodell sendet und dessen Ausgabe empfängt. Sie definiert die Endpunkt-URL, die Authentifizierung mit einem API-Schlüssel, das Anfrage- und Antwortformat, Ratenlimits und die Abrechnung pro Token.

Ist ChatGPT ein LLM oder NLP?

In gewisser Weise beides. Die Verarbeitung natürlicher Sprache (Natural Language Processing, NLP) ist das Fachgebiet; große Sprachmodelle sind eine Art von NLP-Modell, und ChatGPT ist ein Endnutzerprodukt, das auf den LLMs von OpenAI aufbaut. Entwickler greifen über die OpenAI-API statt über die ChatGPT-App auf dieselbe Modellfamilie zu.

Welche LLM-APIs sind die besten?

Im Oktober 2026 sind die wichtigsten Optionen OpenAI (GPT-6-Familie), Anthropic (Claude-5.5-Familie), Google (Gemini 4 Argon und Flash-Modelle), DeepSeek (V4 Pro und Flash) sowie einheitliche APIs wie OpenRouter und Flatkey, die viele Anbieter über einen einzigen Schlüssel zugänglich machen.

Welche LLM-API ist am günstigsten?

Laut den offiziellen Listenpreisen vom 23. Oktober 2026 kosten OpenAI gpt-6-luna und Claude Haiku 5.5 $0.10 pro Million Eingabe-Tokens und $0.50 pro Million Ausgabe-Tokens. deepseek-flash kostet außerhalb der Spitzenzeiten $0.15 / $0.60. Bei geringem Volumen ist der kostenlose Gemini-Tarif noch günstiger.

Gibt es eine kostenlose LLM-API?

Ja. Die Gemini-API von Google bietet einen kostenlosen Tarif für ihre Flash-Modelle mit täglichen Limits, und einige Router bieten kostenlose Modelle mit Ratenlimits an. Rechne mit engen Obergrenzen und möglichen Bedingungen zur Datennutzung.

Was ist der Unterschied zwischen einer LLM-API und einem LLM-Gateway?

Eine LLM-API ist der Endpunkt eines Anbieters für dessen Modelle. Ein LLM-Gateway oder Router ist vielen Anbietern vorgeschaltet und bietet einen Schlüssel, ein Format, Routing, Fallback und eine einheitliche Abrechnung.

Brauche ich eine GPU, um eine LLM-API zu nutzen?

Nein. Der Anbieter betreibt das Modell auf seinen eigenen GPUs; du sendest nur HTTP-Anfragen und zahlst pro Token.