H200-GPU-Preis: Preise, Kostentreiber und Kaufberatung

H200-GPU-Preis: Preise, Kostentreiber und Kaufberatung

Zuletzt aktualisiert: 22. Oktober 2026. Alle Beträge sind in USD. Öffentliche Preise ändern sich häufig; überprüfen Sie vor dem Kauf oder der Reservierung von Kapazitäten die aktuelle Quelle und die genaue Konfiguration.

Wenn Sie nach einem H200-GPU-Preis suchen, entscheiden Sie zunächst, was Sie tatsächlich bepreisen. Eine einzelne H200 NVL PCIe-Karte, ein H200-System im HGX/DGX-Stil, eine Cloud-Instanz mit acht GPUs und ein serverloser H200-Worker sind unterschiedliche Produkte mit unterschiedlichen Kostenstrukturen.

Die folgenden aktuellen öffentlichen Beispiele zeigen, warum eine einzelne Schlagzeilenzahl irreführend ist:

• Ein öffentliches Angebot für eine H200 NVL-Karte kann bei einer Bestellung von vier bis sieben Karten bei etwa 34.500 $ pro Karte liegen, während ein Angebot für ein bis drei Karten 42.651 $ pro Karte kosten kann.
• Ein konfigurierter Server mit vier H200 wird in einer Preisspanne von 185.000–220.000 $ angeboten; ein Server mit acht H200 in einer Spanne von 305.000–370.000 $.
• Eine Cloud-H200 kann stattdessen pro GPU-Stunde abgerechnet werden: Ein aktueller H200-Pod-Tarif beträgt 5,29 $ pro Stunde, während der entsprechende serverlose Worker-Tarif 5,93 $ pro Stunde beträgt.

Dies sind datierte öffentliche Angebote, keine allgemeingültige UVP und keine Empfehlung für einen bestimmten Anbieter. Die hilfreiche Antwort auf die Frage „Wie hoch ist der H200-GPU-Preis?“ sind die bereitgestellten Kosten für den genauen Formfaktor und das Betriebsmodell, mit denen sich Ihre Arbeitslast abschließen lässt.

Kurzantwort: Nutzen Sie eine kurzfristige Anmietung, um das benötigte Modell, die Kontextlänge, die Topologie und die Auslastung zu validieren. Holen Sie erst dann ein Kaufangebot ein, wenn Sie wissen, ob eine PCIe H200 NVL, ein SXM-Knoten mit acht GPUs oder eine verwaltete Modell-API die richtige Wahl ist. Vergleichen Sie anschließend die Kosten pro abgeschlossener Arbeitslast, nicht allein den Kartenpreis.

Momentaufnahme der H200-GPU-Preise: Kauf-, System- und Cloud-Beispiele

Die Tabelle ist bewusst eine Zusammenstellung separater Preis-Momentaufnahmen und kein Marktdurchschnitt. Ein Kartenangebot und eine Cloud-Instanz mit acht GPUs umfassen nicht dieselbe Hardware, denselben Support, dieselbe Kapazitätsbindung oder denselben Betriebsaufwand.

Quellen: Gatewell USA H200 NVL-Angebot, Lineage Tech H200 NVL-Angebot, Runpod-Preise und Preise für AWS EC2 Capacity Blocks. Die Preise wurden am 22. Oktober 2026 geprüft.

Der H200-GPU-Preis in den ersten beiden Zeilen ist ein Preis für eine PCIe-H200-NVL-Karte. Die Serverzeilen ergänzen die Plattform, die für den Betrieb mehrerer Karten erforderlich ist. Die Cloud-Zeilen wandeln diese Infrastruktur in einen Service-Tarif um. Mitteln Sie diese Zahlen nicht.

Warum der H200-GPU-Preis keine einzelne Zahl ist

NVIDIA veröffentlicht zwei wesentlich unterschiedliche H200-Bereitstellungsformen. Beide weisen 141 GB HBM3e-Speicher und 4,8 TB/s Speicherbandbreite aus, sind jedoch keine austauschbaren Anschaffungen:

NVIDIAs H200-Datenblatt und HGX-Referenzarchitektur zeigen auch, warum Systemangebote so stark variieren: Die H200 SXM ist auf eine Multi-GPU-Topologie ausgelegt, während eine NVL-Karte in einem herkömmlichen PCIe-Server mit einem anderen Interconnect-Modell betrieben wird.

Dieser Unterschied verändert das Budget in vier Punkten:

1. Der Beschleuniger ist möglicherweise nicht das Einzige, was Sie kaufen. PCIe-H200-NVL-Karten benötigen weiterhin einen qualifizierten Host, Luftstrom, CPUs, Arbeitsspeicher, Speicher, Netzwerkadapter, Stromschienen und Support. Ein SXM-Angebot kommt in der Regel als Entscheidung für ein Multi-GPU-System.
2. Die Topologie kann die Anzahl der benötigten GPUs verändern. Wenn die Arbeitslast eine NVLink-Domäne mit acht GPUs benötigt, ist die relevante Alternative eine Miete oder ein System mit acht GPUs – nicht der Preis einer einzelnen Karte.
3. Strom und Kühlung sind echte Budgetposten. Die Angaben von 600 W und 700 W sind Spezifikationen für die maximale Board-Leistung, nicht Ihr gemessener Verbrauch. Sie zeigen dennoch, dass Sie Strom-, Kühlungs- und Rack-Anforderungen im Angebot anfordern sollten.
4. Die Menge verändert das Angebot. Die beiden oben genannten Kartenangebote unterscheiden sich, weil sie unterschiedliche Verkäufer, Standorte und Bestellmengen verwenden. Eine Teilenummer ist hilfreicher als eine allgemeine „H200“-Bezeichnung.

Wofür Sie bei der H200 bezahlen: Speicherkapazität und Topologie

Eine H200 ist ein Beschleuniger der Hopper-Generation, doch bei der Kaufentscheidung geht es häufig eher um Speicher als um die allgemeine Behauptung höherer Geschwindigkeit. NVIDIA gibt für die H200 141 GB HBM3e und 4,8 TB/s Speicherbandbreite an. In seiner HGX-Architekturtabelle führt NVIDIA für die H100 SXM 80 GB und 3,35 TB/s auf, verglichen mit 141 GB und 4,8 TB/s für die H200 SXM.

Diese zusätzliche Kapazität kann wichtig sein, wenn Ihre Arbeitslast durch Folgendes eingeschränkt ist:

• ein Modell oder Quantisierungsplan, das bzw. der nicht in 80 GB passt;
• Inferenz mit langem Kontext, bei der der KV-Cache den Arbeitsspeicher beansprucht;
• eine Batch-Größe, die andernfalls zusätzlichen Modellparallelismus erzwingen würde;
• ein Multi-GPU-Design, bei dem der GPU-übergreifende Datenverkehr und nicht die reine Rechenleistung den Engpass darstellt.

Das bedeutet nicht, dass eine H200 für jeden Inferenzjob automatisch günstiger ist. Wenn ein Modell, ein Batch und ein Kontextfenster problemlos auf einen kleineren Beschleuniger passen, senkt der Aufpreis beim H200-GPU-Preis möglicherweise nicht Ihre Kosten pro akzeptiertem Ergebnis. Führen Sie Benchmarks mit dem Modell und dem Serving-Stack durch, die Sie tatsächlich einsetzen werden, bevor Sie Speicherkapazität als Kaufkriterium behandeln.

Informationen zur Architektur- und Bereitstellungsentscheidung hinter diesen Zahlen finden Sie in Flatkeys H200-GPU-Leitfaden und im Vergleich H200 vs. H100.

Einen stündlichen H200-GPU-Preis in ein Monatsbudget umrechnen

Beginnen Sie bei Mietkapazität mit den zugewiesenen GPU-Stunden:

monthly compute cost =
  allocated H200 GPU-hours × effective hourly rate

Bei kontinuierlicher Zuweisung kommt eine GPU in einem 30-Tage-Monat auf etwa 730 Stunden. Die folgenden Betriebskosten verwenden die oben veröffentlichten Werte pro GPU und setzen voraus, dass der Tarif für jede Stunde verfügbar bleibt. Speicher, Datenübertragung, Steuern, Support und etwaige Bindungsregeln sind ausgeschlossen.

Multiplizieren Sie bei einem Knoten mit acht GPUs die Betriebskosten pro GPU mit acht, bevor Sie die zugehörigen Services hinzufügen. Deshalb entspricht ein H200-Äquivalenttarif von 6,866 $ einer p5e.48xlarge-Rate von 54,924 $ pro Stunde in der AWS-Tabelle.

Der veröffentlichte H200-GPU-Preis pro Stunde sollte nur eine Position in Ihrem Betriebsbudget sein. Ergänzen Sie:

• angebundenen oder persistenten Speicher für Modellgewichte, Checkpoints und Datensätze;
• Anforderungen an Datenübertragung und private Netzwerke;
• CPU, RAM und lokalen NVMe-Speicher, die in der Instanz enthalten sind;
• Aufwand für Orchestrierung, Observability, Backups und Incident Response;
• fehlgeschlagene Jobs, erneutes Laden, Leerlaufzeit und verstärkten Aufwand durch Wiederholungsversuche;
• Bedingungen für Reservierungen, Capacity Blocks oder Unterbrechungen.

Flatkeys Leitfaden zu GPU-Mietpreisen und Leitfaden zu versteckten Kosten von Cloud-GPUs bieten eine umfassendere Checkliste für diese nicht beschleunigerbezogenen Budgetposten.

Kaufen oder mieten: Verwenden Sie die Break-even-Rechnung als Vorauswahlwerkzeug

Für eine erste Einschätzung können Sie eine reine Hardware-Kennzahl berechnen:

hardware-only screening hours =
  listed accelerator price ÷ comparable delivered GPU-hour rate

Unter Verwendung der beiden öffentlichen Beispiele für H200-NVL-Karten und des Pod-Tarifs von 5,29 $ pro Stunde:

Dies ist keine echte Amortisationsberechnung. Sie schließt bewusst den Host-Server, das Netzwerk, Strom, Kühlung, Steuern, Zölle, Support, Ausfallzeiten, Auslastung, Finanzierung und Restwert aus. Außerdem werden Angebote verschiedener Anbieter verglichen. Nutzen Sie sie, um die Fragen zu identifizieren, die es zu modellieren lohnt – nicht, um eine Bestellung freizugeben.

Ein vollständiges Eigentümerkostenmodell sollte eher so aussehen:

jährliche Eigentümerkosten =
  Systemanschaffung oder Finanzierung
  + Strom und Kühlung
  + Rack, Colocation und Netzwerk
  + Support, Software und Betrieb
  + Speicher und Backup
  + erwartete Ausfallzeiten und ungenutzte Kapazität
  - erwarteter Restwert

Kosten pro abgeschlossenem Workload =
  jährliche Eigentümerkosten ÷ akzeptierte Jobs, Anfragen, Tokens oder Trainingsläufe

Dieselbe Disziplin gilt für Cloud-Preise:

Cloud-Kosten pro abgeschlossenem Workload =
  (GPU-Stunden + Speicher + Netzwerk + Managed Services + fehlgeschlagene Arbeit)
  ÷ akzeptierte Jobs, Anfragen, Tokens oder Trainingsläufe

Der Nenner verhindert, dass ein niedrig wirkender stündlicher H200-GPU-Preis eine schlechte Bereitstellung verschleiert. Wählen Sie eine Einheit, die dem Geschäftsergebnis entspricht: ein erfolgreiches Fine-Tuning, einen akzeptierten Batch, ein generiertes Video, eine bearbeitete Anfrage oder ein validiertes Inferenzresultat.

Die H200-Kaufcheckliste für Beschaffungs- und ML-Infrastrukturteams

Verwenden Sie diese Checkliste, bevor Sie Angebote von Anbietern vergleichen.

1. Notieren Sie die genaue SKU und Teilenummer. Trennen Sie H200 NVL PCIe von H200 SXM. Behandeln Sie „H200“ nicht als ausreichende Konfigurationsinformation.
2. Fragen Sie, was auf Systemebene enthalten ist. Erfassen Sie GPU-Anzahl, CPU, RAM, NVMe, NICs, Netzteile, Schienen, NVLink-Brücken, Garantie und Softwareberechtigungen.
3. Modellieren Sie die Topologie vor der Menge. Prüfen Sie, ob Ihr Modell eine GPU, vier verbundene GPUs oder ein Acht-GPU-Fabric benötigt. Der Kauf der falschen Topologie ist teurer, als während der Evaluierung einen höheren Stundensatz zu zahlen.
4. Fordern Sie Annahmen zu Strom und Kühlung an. Dokumentieren Sie die Bedingungen am Standort sowie das erforderliche Luftstrom- oder Flüssigkühlungsdesign. Kalkulieren Sie niemals direkt nur auf Basis der TDP.
5. Vereinheitlichen Sie Steuern, Zölle, Fracht und Lieferzeit. Der Lineage-Preis von 42.651 $ schließt beispielsweise Mehrwertsteuer und Zölle ausdrücklich aus; ein Lieferangebot kann je nach Zielort erheblich abweichen.
6. Messen Sie die Auslastung, statt 100 % anzunehmen. Ein System mit 45 % produktiver Auslastung hat einen völlig anderen Eigentümerkostenfall als ein kontinuierlich eingeplanter Bestand.
7. Trennen Sie Modell-Speicherkosten von GPU-Kosten. Gewichte, Checkpoints, Datensätze, Snapshots und Datentransfer können die Cloud-Alternative verändern.
8. Legen Sie eine Exit-Annahme fest. Dokumentieren Sie die erwartete Nutzungsdauer, den Restwert und ob eine Nachfolgearchitektur die Kapazität weniger attraktiv machen könnte, bevor das Modell vollständig abgeschrieben ist.
9. Beziehen Sie den Betrieb ein. Nehmen Sie Monitoring, Kapazitätsplanung, Sicherheit, Patching, Incident Response und Rufbereitschaft in das Modell auf.
10. Führen Sie einen repräsentativen Benchmark durch. Erfassen Sie Durchsatz, p50-/p95-Latenz, Fehlerrate, Ladezeit, Qualitätsakzeptanz und die auf der Rechnung sichtbaren Kosten im exakten Software-Stack.

Wann ein H200 die richtige Wahl ist – und wann nicht

Im letzten Fall sollten Sie die Wahl nicht als „Cloud versus On-Prem“ darstellen. Eine Modell-API und eine GPU-Miete können beide Cloud-Services sein, legen aber unterschiedliche Verantwortlichkeiten offen. Wenn Ihr Team keine Modellgewichte, Treiber, Kapazität oder einen Serving-Stack betreiben muss, vergleichen Sie die Kosten pro Anfrage eines API-Ansatzes mit den Kosten pro abgeschlossenem Workload einer H200-Bereitstellung. Unter GPU cloud vs. model API finden Sie einen praktischen Entscheidungsrahmen.

So vergleichen Sie zwei H200-Angebote fair

Bitten Sie jeden Anbieter um dasselbe Arbeitsblatt und füllen Sie es anhand des Angebots aus – nicht anhand eines Suchergebnisses:

Dieses Arbeitsblatt ist nützlicher als eine allgemeine Suche nach dem „besten H200-GPU-Preis“, weil es Preis und Leistung in derselben Zeile zusammenführt.

Häufig gestellte Fragen

Wie viel kostet eine H200-GPU?

Bei am 22. Oktober 2026 geprüften öffentlichen Beispielen für H200-NVL-PCIe-Karten listete ein Anbieter 34.500 US-Dollar pro Karte bei einer Bestellung von vier bis sieben Karten, während ein anderer 42.651 US-Dollar pro Karte für ein bis drei Karten listete. Dabei handelt es sich um anbieter- und mengenabhängige Angebote, nicht um einen einheitlichen globalen H200-GPU-Preis. Ein Server, Fracht, Steuern, Zölle, Kühlung und Support können die Gesamtkosten bei Lieferung verändern.

Ist der Preis von H200 NVL derselbe wie der von H200 SXM?

Nein. H200 NVL ist eine PCIe-Karte für luftgekühlte Server und zwei- oder vierfache NVLink-Verbindungen. H200 SXM ist ein Modul für HGX-ähnliche Systeme und ein größeres Multi-GPU-Fabric. Vergleichen Sie die vollständige Systemkonfiguration, nicht nur die Speicherangabe von 141 GB.

Wie viel kostet es, einen H200 pro Stunde zu mieten?

Die veröffentlichten Beispiele in diesem Leitfaden reichen von Runpods H200 Pod für 5,29 US-Dollar pro Stunde und einem H200-Serverless-Worker für 5,93 US-Dollar pro Stunde bis zu AWS-Capacity-Block-Äquivalenten von 6,866 US-Dollar pro H200 für p5e und 7,895 US-Dollar pro H200 für p5en. Dies sind unterschiedliche Servicetypen und Verpflichtungen. Prüfen Sie daher den aktuellen Tarif und die Abrechnungsbedingungen, bevor Sie sie als austauschbar betrachten.

Sollte ich einen H200 kaufen oder mieten?

Mieten Sie, wenn Workload, Auslastung, Topologie oder Modell-Roadmap unsicher sind. Erwägen Sie einen Kauf erst, wenn Sie eine stabile Auslastungsprognose, ein Angebot auf Systemebene, einen Plan für Infrastruktur und Support sowie ein Kosten-pro-abgeschlossenem-Workload-Modell haben, das alles rund um den Beschleuniger einschließt.

Ist der H200 für LLM-Inferenz besser als der H100?

Der H200 kann die bessere Wahl sein, wenn 141 GB HBM3e, 4,8 TB/s Bandbreite oder die Zieltopologie eine tatsächliche Speicher- oder Batch-Size-Beschränkung beseitigen. Er bietet nicht automatisch ein besseres Preis-Leistungs-Verhältnis für Aufgaben, die bereits problemlos auf einer Bereitstellung der H100-Klasse laufen. Testen Sie Ihr Modell, Ihre Kontextlänge, Batch-Größe und Ihren Serving-Stack. Flatkeys Leitfaden H200 vs. H100 erläutert den technischen Vergleich.

Abschließende Empfehlung

Der richtige H200-GPU-Preis ist nicht das günstigste Kartenangebot oder der niedrigste Stundentarif. Es sind die niedrigsten verifizierten Kosten, um Ihren Ziel-Workload mit dem Speicher, der Topologie, der Zuverlässigkeit und dem Betriebsmodell auszuführen, die Sie tatsächlich benötigen.

Beginnen Sie mit einem zeitlich begrenzten Miet-Benchmark. Erfassen Sie den exakten H200-Formfaktor, die zugewiesenen Stunden, Speicher, Netzwerk, Ausfallrate und Ausgabeabnahme. Wenn der Workload stabil genug wird, um Eigentum zu rechtfertigen, fordern Sie ein Angebot auf Systemebene an und vergleichen Sie die vollständigen Gesamtbetriebskosten – nicht nur die Position für den Beschleuniger. Wenn Sie Modellfähigkeiten statt Infrastrukturkontrolle benötigen, kalkulieren Sie gleichzeitig einen verwalteten API-Weg.

Flatkey kann Teams dabei helfen, diese API-Alternative zu vergleichen, ohne Integrationen zu verstreuen: Das Produkt ist eine einheitliche Routing-Schicht für Modelle und Tools mit einem Schlüssel, einem Guthaben und Transparenz über die Nutzung auf Anfrageebene. API-Schlüssel erhalten, wenn Sie bereit sind, den Modell-/API-Weg neben Ihrem H200-Plan zu testen.

Quellen

• NVIDIA H200 Tensor Core GPU-Datenblatt
• NVIDIA-HGX-H100-, H200- und B200-Referenzarchitektur
• Preise für AWS EC2 Capacity Blocks für ML
• Runpod GPU-Cloud-Preise
• Gatewell USA H200 NVL-Angebot
• Lineage Tech H200 NVL-Angebot