Aktualisiert: 14. September 2026
Ein Leitfaden zum AI Model Catalog: So lesen Sie Anbieter, Endpunkte, Gruppen und Preise ist nützlich, weil Modulkataloge heute mehr tun, als nur Namen aufzulisten. Ein Produktionskatalog ist eine Routing-Oberfläche. Er zeigt Produkt, Engineering und Finance, welcher Anbieter die Route besitzt, welche API-Struktur unterstützt wird, welche Gruppe oder welcher Plan sie aufrufen kann, welche Einheit abgerechnet wird und ob das Modell für echten Traffic gesund genug ist.
Der teure Fehler besteht darin, einen Katalog wie ein Ranking zu lesen. Eine Zeile mit einem bekannten Modellnamen kann für Ihre Arbeitslast trotzdem falsch sein, wenn die Endpunkt-Struktur nicht zu Ihrem SDK passt, die Abrechnungseinheit nicht vergleichbar ist, die Route auf eine Gruppe beschränkt ist, die Sie nicht verwenden, oder der Verfügbarkeitsstatus nicht produktionsreif ist.
Dieser Leitfaden zum AI-Model-Catalog gibt Produktteams eine praktische Methode, einen Modellkatalog zu lesen, bevor sie Traffic über ein beliebiges AI-API-Gateway auswählen, testen oder routen. Er verwendet das öffentliche Modellverzeichnis und die Dokumentation von Flatkey als Arbeitsbeispiel, aber die Checkliste gilt für direkte Anbieterkataloge, Gateway-Kataloge und interne Plattformkataloge.
Schnelle Antwort: Wie man einen AI Model Catalog liest
Lesen Sie einen AI Model Catalog in dieser Reihenfolge:
- Anbieter: wer das Upstream-Modell oder die Route betreibt.
- Modell-ID: die exakte Zeichenfolge, die Ihre Anwendung senden muss.
- Unterstützung für Endpunkte: welche API-Struktur die Route akzeptiert, zum Beispiel OpenAI-kompatible Chat-, Responses-, Anthropic-, Gemini-, Bild-, Video-, Embeddings- oder eine native Route.
- Gruppe oder Plan: welche Konto-Gruppe, Routing-Gruppe, Kontingent-Gruppe oder welcher Abrechnungsplan die Zeile verwenden kann.
- Verfügbarkeitsstatus: ob die Route live, beeinträchtigt, unbekannt, Vorschau, Early Access, veraltet oder demnächst verfügbar ist.
- Preiseinheit: ob die Abrechnung pro 1 Mio. Eingabe-/Ausgabe-Tokens, zwischengespeicherten Tokens, Bild, Sekunde, Anfrage, Zeichen, Minute oder einer anderen Einheit erfolgt.
- Nutzungsnachweis: ob Ihre Testanfrage in den Logs mit dem erwarteten Modell, Status, Token-Zahlen, Route, Schlüssel und Kosten erscheint.
Die Kurzantwort in diesem Leitfaden zum AI Model Catalog: So lesen Sie Anbieter, Endpunkte, Gruppen und Preise lautet: Wählen Sie ein Modell nicht allein anhand der Preisspalte aus. Wählen Sie es erst dann aus, wenn Anbieter, Endpunkt, Gruppe, Status, Preiseinheit und Nutzungsprotokoll-Nachweis mit Ihrer Arbeitslast übereinstimmen.
Aktueller Snapshot des Flatkey-Modellkatalogs
Die aktuellen Flatkey-Dokumente beschreiben eine OpenAI-kompatible Basis-URL, https://router.flatkey.ai/v1, sowie API-Endpunkte für Chat Completions, Responses, Embeddings, Bildgenerierung, Videotasks und die Modellauflistung. Der Endpunkt /v1/models gibt Modell-IDs und Anbieter im OpenAI-kompatiblen Format zurück, während das öffentliche Model Directory der Live-Ort ist, um Preise, Zustand, Endpunktunterstützung und Modell-Detailseiten zu prüfen.
Am 14. September 2026 zeigte das öffentliche Flatkey-Modellverzeichnis Tabellenfelder, die direkt für die Katalogprüfung relevant sind:
| Katalogfeld | Was es Ihnen sagt | Beispielwerte, die im öffentlichen Verzeichnis beobachtet wurden |
|---|---|---|
model_name |
Die Zeichenfolge oder Modellzeile, die Sie testen müssen. | gpt-5.6-sol, deepseek-v4-pro, seedance-2.5, gemini-3-flash-preview, claude-sonnet-5 |
vendor_name |
Der Anbieter oder Kataloginhaber hinter dem Pfad. | OpenAI, DeepSeek, ByteDance, Google, Anthropic, Flatkey-Katalog |
supported_endpoint_types |
Welche Anfrageform das Modell akzeptieren kann. | openai, openai-response, anthropic, gemini, openai-video, video |
availability_status |
Ob der Pfad derzeit nutzbar zu sein scheint. | available, unknown_failure |
display_pricing.billing_kind |
Die Preisklassen-Einheit. | token, per_second, request |
enable_groups / Gruppenpreisgestaltung |
Welcher Pfad oder welche kommerzielle Gruppe die Zeile aufrufen kann und wie ihr Preis angepasst wird. | Gruppierte Pfadeinträge wie plg in den öffentlichen Seitendaten |
Betrachten Sie diesen Ausschnitt als Beleg dafür, wie der Katalog strukturiert ist, nicht als dauerhafte Preistabelle. In Flatkeys Referenzdokumentation werden Leser ausdrücklich auf flatkey.ai/models, flatkey.ai/pricing und flatkey.ai/status verwiesen, damit Modellzeilen, Preise und Zustand ohne Dokumentationsrelease aktualisiert werden können.
Lesen Sie Anbieter, bevor Sie Modellnamen lesen
Der Anbieter ist das erste Feld, weil ein Modellname allein nicht sagt, wohin der Traffic geleitet wird, welche Vereinbarung gilt oder welche betrieblichen Grenzen relevant sind.
Verwenden Sie das Anbieterfeld, um Folgendes zu beantworten:
| Frage | Warum das wichtig ist |
|---|---|
| Wird dieser Pfad vom ursprünglichen Modellanbieter, einem Gateway, einer Inference-Cloud oder einem internen Proxy betrieben? | Das ändert Support, Preisgestaltung, Logging, Datenverarbeitung und die Zuständigkeit bei Vorfällen. |
| Stellt die Zeile einen offiziellen Endpunkt oder ein erneut bereitgestelltes Modell dar? | Produktteams müssen wissen, ob sich das Verhalten an der offiziellen API des Anbieters orientieren sollte. |
| Gibt es mehrere Zeilen mit ähnlichen Namen von unterschiedlichen Anbietern? | Ein qwen-, deepseek-, gemini- oder claude-Label kann regionale, Kompatibilitäts- oder Planunterschiede verbergen. |
| Gegen welchen Anbieter sollte die Finanzabteilung abgleichen? | Die Abrechnungseinheit und der Referenz-Listenpreis können vom Anbieter stammen, während die Rechnung vom Gateway kommen kann. |
Für Flatkey ist die freigegebene Positionierung ein Schlüssel, ein Guthaben und offizieller Modellzugang über Anbieter wie OpenAI, Anthropic, Google, DeepSeek, Alibaba, Z.ai, Moonshot und ByteDance hinweg. Das macht die Transparenz des Anbieters besonders wichtig. Wenn eine Katalogzeile den Anbieter und die Pfadklasse nicht klar macht, holen Sie vor der Freigabe der Zeile für die Produktion eine Klärung ein.
Lesen Sie Endpunkte als Verträge, nicht als Bezeichnungen
Endpoint-Unterstützung ist ein Vertrag zwischen Ihrer Anwendung und der Route. Er entscheidet, ob Ihr aktueller Client, der Request-Body, der Streaming-Handler, der Tool-Call-Parser und die Logik für die Nutzungsabrechnung ohne Rewrite funktionieren können.
Die REST-Dokumentation von Flatkey listet diese öffentlichen API-Endpunkte auf:
| Endpoint | Typische Verwendung |
|---|---|
/v1/chat/completions |
OpenAI-kompatible Chat- und Textgenerierung |
/v1/responses |
Responses-artige zustandsbehaftete oder tool-fähige Workflows für kompatible Modelle |
/v1/embeddings |
Vektor-Embeddings |
/v1/images/generations |
Bildgenerierung |
/v1/videos |
Erstellung von Video-Generierungsaufgaben |
/v1/videos/{task_id} |
Abfrage von Videoaufgaben |
/v1/videos/{task_id}/content |
Download des fertigen Videos |
/v1/models |
Liste der für das Konto verfügbaren Modelle |
Eine Katalogzeile mit openai ist nicht dasselbe wie eine Zeile mit anthropic, gemini, openai-response, openai-video oder video. Ein Modell kann mehr als eine Endpunktfamilie unterstützen, aber Sie müssen trotzdem den exakten Pfad testen, den Ihre Anwendung verwenden wird.
Verwenden Sie für diesen Leitfaden zum AI Model Catalog das Endpoint-Feld, um einen kurzen Kompatibilitätsvertrag zu schreiben:
catalog_endpoint_contract:
workload: support_ticket_summary
model_id: selected-model-id
provider: provider-name
endpoint_type: openai
base_url: https://router.flatkey.ai/v1
endpoint_path: /v1/chat/completions
required_features:
- streaming
- tool_calls
- structured_json
- usage_fields
pass_condition:
- existing_sdk_initializes
- response_parser_accepts_output
- usage_log_matches_model
- fallback_policy_is_documented
Wenn ein Element in diesem Vertrag fehlschlägt, kann das Modell möglicherweise weiterhin nützlich sein, aber es ist keine Drop-in-Route für diesen Workload.
Groups Als Routen- Und Kostenrichtlinie Lesen
Groups sind leicht zu übersehen, weil sie wie interne Plattform-Labels aussehen. Übersehen Sie sie nicht. Eine Group kann entscheiden, wer eine Route verwenden darf, welcher Preisfaktor gilt, welcher Key erlaubt ist, welches Kontingent verbraucht wird und welcher Fallback-Pool verfügbar ist.
In einem Gateway-Katalog repräsentieren Groups häufig eine oder mehrere dieser Richtlinien:
| Bedeutung der Group | Was zu prüfen ist |
|---|---|
| Kommerzieller Plan | Hat dieses Konto oder Team Zugriff auf den angezeigten Preis? |
| Routen-Pool | Welche Upstream-Kanal-Klasse oder welches Provider-Konto verarbeitet den Traffic? |
| Produktumgebung | Ist diese Route für Dev, Staging, Produktion oder einen bestimmten Kunden freigegeben? |
| Budgetbereich | Welcher Key-, Team-, Workspace- oder Kunden-Budgetposten wird belastet? |
| Allowlist | Ist das Modell für regulierte Daten, öffentliche Funktionen oder Agent-Autonomie erlaubt? |
| Fallback-Familie | Kann diese Group auf eine andere Route zurückfallen, ohne Qualität oder Richtlinie zu brechen? |
Flatkeys Produktpositionierung umfasst Sub-Key-Governance, Budgets, Modell-Allowlists, Nutzungsprotokolle und ein gemeinsames Guthaben. Das bedeutet, dass die Katalogzeile und das Nutzungs-Dashboard übereinstimmen sollten. Wenn ein Produktmanager ein Modell im Katalog freigibt, der Produktionsschlüssel aber nicht in der richtigen Gruppe ist, entdeckt das Engineering das Problem als 403, 429, einen Fallback-Fehlschlag oder eine Überraschung bei der Abrechnung.
Preise nach Einheit lesen, bevor Sie Zeilen vergleichen
Der Preis ist das am häufigsten falsch verstandene Feld im Modellkatalog. Ein Leitfaden zum AI Model Catalog sollte jeden Preis in seine tatsächliche Einheit umrechnen, bevor irgendjemand ihn vergleicht.
Vergleichen Sie diese Einheiten nicht so, als wären sie identisch:
| Preiseinheit | Typische Workload | Risiko bei der Katalogprüfung |
|---|---|---|
| Eingabetokens | Chat mit vielen Prompts, Zusammenfassung, Retrieval-Augmented Generation | Lange Prompts und abgerufener Kontext können die Kosten dominieren. |
| Ausgabetokens | Reasoning, Schreiben, Codegenerierung, Extraktion | Lange Antworten können die Kosten dominieren, selbst wenn die Eingabe günstig wirkt. |
| Zwischengespeicherte Eingabetokens | Wiederverwendete System-Prompts, Prompt-Caching, Kontext-Caching | Cache-Treffer- und Cache-Fehlerraten müssen separat gemessen werden. |
| Bildausgabetokens oder Preis pro Bild | Bildgenerierung und -bearbeitung | Auflösung, Qualität, Referenzbilder, Wiederholungen und Annahmerate verändern die tatsächlichen Kosten. |
| Pro Sekunde | Videogenerierung und einige Media-Routen | Dauer sowie fehlgeschlagene/bearbeitete Clips sind wichtiger als die Anzahl der Anfragen. |
| Pro Anfrage | Suche, Tools, Bilddienste, Enrichment, benutzerdefinierte APIs | Anfrageerfolgsrate und Wiederholungsrichtlinie bestimmen die endgültigen Kosten. |
| Pro Minute oder Zeichen | Sprache, Transkription, Text-to-Speech, OCR-ähnliche Workflows | Kanalanzahl, Sprache, Zusatzoptionen und Batch-Modus können die Kosten verändern. |
Auch die Preisseiten der Anbieter verwenden unterschiedliche Bezeichnungen. OpenAI, Anthropic, Google Gemini und DeepSeek trennen in ihrer aktuellen öffentlichen Preisdokumentation jeweils einige Kombinationen aus Eingabe, Ausgabe, zwischengespeicherter Eingabe, Cache-Lesen/Cache-Schreiben oder Cache-Treffer/Cache-Fehlpreisung. Deshalb sollte eine Katalogprüfung die Live-Quell-URL und das Prüfdatum speichern, anstatt einen einzelnen dauerhaften Preis in ein Roadmap-Ticket zu kopieren.
Verwenden Sie diese normalisierte Formel:
accepted_workload_cost =
(primary_attempt_cost
+ retry_cost
+ fallback_cost
+ cached_or_uncached_delta
+ media_or_tool_addons)
/ accepted_outputs
Fügen Sie dann den Entscheidungskontext hinzu:
production_cost_decision =
accepted_workload_cost
+ latency_penalty
+ manual_review_cost
+ incident_risk
+ data_policy_constraints
Genau deshalb ist die billigste Preiszelle selten die endgültige Antwort.
Status vor Produktionsverkehr lesen
Der Verfügbarkeitsstatus sollte ein Gate sein, keine Fußnote. Ein Modell kann bei Anbieter, Endpunkt und Preis perfekt aussehen und trotzdem die falsche Wahl für die Produktion sein, wenn es nur in der Vorschau verfügbar ist, eingeschränkt ist, auf eine Region begrenzt ist, veraltet ist, in Ihrem Konto fehlt oder Gesundheitsprüfungen nicht besteht.
Verwenden Sie diese Statusklassen:
| Statusklasse | Was zu tun ist |
|---|---|
| Verfügbar und getestet | Kandidat für eine kontrollierte Einführung nach Verifizierung der Nutzungsprotokolle. |
| Verfügbar, aber ungetestet | Führen Sie einen Smoke-Test durch, bevor Sie Produktionsverkehr zuweisen. |
| Preview, Beta, Early Access oder eingeschränkt | Für Experimente verwenden, sofern das Produkt das Lebenszyklusrisiko nicht ausdrücklich akzeptiert. |
| Beeinträchtigt oder hohe Latenz | Nur als Nicht-Standard oder Fallback beibehalten, wenn der Workload dies toleriert. |
| Unbekannter Fehler | Als blockiert behandeln, bis die Route verifiziert ist. |
| Veraltet oder Abschaltung geplant | Keine neuen Arbeiten beginnen, es sei denn, es gibt einen kurzfristigen Migrationsgrund. |
| Bald verfügbar | Nicht in Startzusagen aufnehmen. |
Die Dokumentation von Flatkey verweist Modell-Health-Checks auf die Live-Statusseite. Für eine Produktionsentscheidung sollte das Statusfeld zusammen mit Datum, Modell-ID, Endpunkttyp, Schlüssel oder Gruppe und einer echten Request-ID gespeichert werden.
Flatkey-Workflow für die Katalogprüfung
Verwenden Sie diesen Workflow immer dann, wenn ein Produktteam fragt, ob ein Modell aus dem Katalog sicher verwendet werden kann.
- Öffnen Sie das Flatkey Model Directory.
- Suchen Sie nach der exakten Modell-ID, nicht nur nach dem Namen des Anbieters.
- Erfassen Sie Anbieter, Endpunktunterstützung, Verfügbarkeitsstatus, Preiseinheit, Gruppen-Zugriff und das aktuelle Prüfdatum.
- Öffnen Sie Flatkey pricing und die relevante Preisseite des Anbieters.
- Notieren Sie die normalisierte Kosteneinheit: pro 1 Mio. Eingabetokens, Ausgabetokens, gecachte Tokens, Bild, Sekunde, Anfrage oder eine andere Einheit.
- Führen Sie einen risikoarmen Smoke-Test über die vorgesehene
base_url, den Endpunktpfad und die Modell-ID aus. - Bestätigen Sie, dass die Anfrage in den Flatkey-Nutzungsprotokollen mit dem erwarteten Modell, Schlüssel, Status, Token-Anzahlen oder Medieneinheit und den Kosten erscheint.
- Definieren Sie Fallback-Regeln, bevor Sie echte Benutzer an den Dienst leiten: Auslöser, Wiederholungsanzahl, zulässige Fallback-Modelle, Qualitätsprüfung und Protokollfelder.
- Prüfen Sie den Katalogeintrag gemeinsam mit Produkt, Engineering, Finance und Security, bevor Sie die Route als Standard setzen.
Der wichtige Teil ist Schritt 7. Eine Katalogzeile ist ein Versprechen. Eine Nutzungsprotokollzeile ist der Beweis, dass das Versprechen zu Ihrem Konto, Schlüssel, Ihrer Gruppe und Ihrem Workload gepasst hat.
Vorlage: Prüfeintrag für den AI Model Catalog
Kopieren Sie diese Vorlage in ein internes Launch-Dokument:
ai_model_catalog_review:
review_date: 2026-09-14
reviewer: product_owner_or_platform_owner
workload: customer_support_summary
business_owner: support_product
environment: staging
catalog:
catalog_url: https://flatkey.ai/models
model_id: selected-model-id
provider: provider-name
endpoint_types:
- openai
group_or_plan: approved-group
availability_status: available
pricing_unit: per_1m_input_and_output_tokens
compatibility:
base_url: https://router.flatkey.ai/v1
endpoint_path: /v1/chat/completions
sdk: openai-python
streaming_required: true
tool_calls_required: false
structured_output_required: true
cost:
provider_pricing_url: provider-pricing-page
flatkey_pricing_url: https://flatkey.ai/pricing
cost_formula: accepted_workload_cost
cache_assumption: measured_not_assumed
evidence:
smoke_test_request_id: req_example
usage_log_verified: true
output_parser_passed: true
p95_latency_ms: measured
fallback_tested: false
decision:
status: approve_for_limited_rollout
rollout_limit: 5_percent_of_traffic
fallback_route: selected-fallback-model
next_review_date: 2026-09-21
Diese Vorlage hält den Leitfaden zum AI Model Catalog: So lesen Sie Anbieter, Endpunkte, Gruppen und Preise praxisnah. Das Ergebnis ist keine Präferenzliste. Es ist ein nachvollziehbarer Entscheidungsnachweis.
Häufige Fehler im AI Model Catalog
Fehler 1: Anbieter und Modellfamilie als dasselbe Feld behandeln
Der Anbieter ist der Upstream-Eigentümer oder Route-Eigentümer. Die Modellfamilie ist eine Namensgruppe. Sie hängen zusammen, sind aber nicht austauschbar. Erfassen Sie beide.
Fehler 2: Anzunehmen, dass OpenAI-kompatibel bedeutet, dass jeder Endpunkt funktioniert
Eine OpenAI-kompatible Einrichtung kann den Migrationsaufwand verringern, sie beweist aber nicht, dass jeder Endpunkt, jedes Streaming-Event, jede Tool-Call-Struktur, jedes Nutzungsfeld oder jeder Medienparameter für jedes Modell funktioniert. Testen Sie die genaue Endpunktfamilie in der Katalogzeile.
Fehler 3: Tokenpreis mit Medienpreis vergleichen
Abrechnung pro Token, pro Bild, pro Sekunde und pro Anfrage sollte nicht in einer Preis-Spalte zusammengefasst werden. Normalisieren Sie auf Kosten pro akzeptierter Ausgabe für den Workload.
Fehler 4: Gruppen bis zum Rollout ignorieren
Wenn der Produktionsschlüssel die von Ihnen genehmigte Gruppe nicht aufrufen darf, ist die Katalogentscheidung unvollständig. Validieren Sie den Gruppenzugriff mit dem Schlüssel, der tatsächlich ausgeliefert wird.
Fehler 5: Eine Preiszeile ohne Prüfdatum kopieren
Provider- und Gateway-Preise können sich ändern. Speichern Sie die Quell-URL, das Prüfdatum, die Modell-ID, die Preiseinheit und den Nachweis aus dem Nutzungsprotokoll eines Testaufrufs.
Fehler 6: Auf Basis des Katalogstatus allein in Produktion gehen
Der Katalogstatus sollte den Smoke-Test auslösen. Er sollte den Smoke-Test nicht ersetzen. Eine Produktionsfreigabe benötigt mindestens eine Anfrage über denselben Schlüssel, Endpunkt, dasselbe Modell und dieselbe Gruppe.
Wann ein einheitlicher AI Model Catalog am meisten hilft
Ein einheitlicher Modellkatalog hilft am meisten, wenn ein Team mehr als eines dieser Probleme hat:
- Mehrere Provider-Keys sind über Services, Agenten und Umgebungen verstreut.
- Das Produkt möchte Text-, Bild-, Video-, Embedding- und Tool-Routen in einem Workflow vergleichen.
- Die Finanzabteilung möchte Kostennachweise auf Request-Ebene statt separater Provider-Rechnungen.
- Platform Engineering benötigt Fallback-Regeln, Health Checks und Modell-Allowedlists.
- Die Sicherheit muss wissen, welche Route welche Arbeitslast verarbeitet hat.
- Teams müssen von einem Modell zu einem anderen wechseln können, ohne jeden Client neu zu schreiben.
Flatkey ist für dieses Muster positioniert: ein API-Key, ein OpenAI-kompatibler Router, ein Live-Modellverzeichnis, Nutzungsprotokolle, Modell-/Tool-Zugriff über ein einziges Guthaben und operative Kontrollen für Teams. Das ersetzt keine Sorgfaltspflicht. Es gibt dem Team nur einen Ort, an dem sie durchgeführt werden kann.
FAQ
Was ist ein AI Model Catalog?
Ein AI Model Catalog ist eine durchsuchbare Liste von Modell-Routen und ihren Metadaten: Modell-ID, Provider, unterstützte Endpunkte, Preiseinheit, Verfügbarkeit, Gruppen oder Pläne und manchmal Kontextfenster, Modalität, Gesundheit, Limits und Nutzungslinks.
Warum ist das Provider-Feld wichtig?
Das Provider-Feld zeigt Ihnen, wer das Upstream-Modell oder die Route besitzt. Es beeinflusst Support, Preisreferenzen, Limits, Hinweise zum Lebenszyklus, Regionverhalten, Datenverarbeitung und Incident Response.
Was bedeutet Endpoint-Support in einem Model Catalog?
Endpoint-Support sagt Ihnen, welche API-Form eine Modellzeile akzeptiert. Eine Zeile kann zum Beispiel OpenAI-kompatible Chat-, Responses-, Anthropic-kompatible Anfragen, Gemini-native Anfragen, Bilderzeugung, Videoerzeugung oder Embeddings unterstützen. Ihr SDK und Ihr Parser müssen zum gewählten Endpunkt passen.
Sind Gruppen dasselbe wie Preisstufen?
Manchmal, aber nicht immer. Gruppen können kommerzielle Pläne, Routen-Pools, Zugriffsrichtlinien, Key-Bereiche, Budget-Bereiche oder Fallback-Familien darstellen. Behandeln Sie Gruppen als Routenrichtlinie, bis der Plattformbetreiber die genaue Bedeutung bestätigt.
Wie sollten Teams Modellpreise vergleichen?
Vergleichen Sie Modellpreise nach Arbeitslast, nicht nach der reinen Katalogzeile. Normalisieren Sie Eingabetokens, Ausgabetokens, gecachte Tokens, Bilder, Sekunden, Requests, Retries, Fallback-Versuche und akzeptierte Ausgaben in eine Kostenformel.
Sollte ich einer Model-Catalog-Zeile ohne Test vertrauen?
Nein. Eine Katalogzeile ist ein nützlicher Ausgangspunkt, aber die Produktionsfreigabe sollte einen Smoke-Test mit genau dem Key, der Base URL, dem Endpunkt, der Modell-ID und der Gruppe umfassen, die Sie verwenden wollen.
Wie hilft Flatkey bei der Überprüfung des Model Catalog?
Flatkey gibt Teams einen Ort, um Modellzeilen zu prüfen, über eine OpenAI-kompatible Base URL zu routen, Live-Preissurfaces zu vergleichen, den Modellzustand zu überprüfen und Nutzungsprotokolle einzusehen. Das macht Katalogentscheidungen über Produkt, Engineering und Finanzen hinweg leichter auditierbar.
Letzter Schritt der Katalogprüfung
Der letzte Schritt in einem AI Model Catalog Guide: How to Read Providers, Endpoints, Groups, and Prices ist nicht die Auswahl eines Modells. Es ist der Nachweis der Route.
Vor dem Launch sollte Ihr Team belegen können:
- Die genaue Modell-ID und der Provider.
- Der Endpunkttyp und der SDK-Pfad.
- Die Gruppe oder der Plan, der Zugriff gewährt.
- Die aktuelle Preiseinheit und die Quell-URL.
- Der Verfügbarkeitsstatus und das Prüfdatum.
- Eine Smoke-Test-Request-ID.
- Eine Zeile im Nutzungsprotokoll, die Modell, Key, Status, Tokens oder Medien-Einheit und Kosten zeigt.
- Eine Fallback- und Rollback-Regel.
Wenn diese Felder vollständig sind, erfüllt der Katalog seinen Zweck. Wenn sie fehlen, ist die Modellentscheidung immer noch ein Ratespiel.
