H100-GPU-Preis: Preise, Kostentreiber und Kaufleitfaden
Zuletzt geprüft: 22. Oktober 2026.
Ein H100-GPU-Preis ist keine einzelne Zahl. Ein Kartenangebot, eine Cloud-Instanz mit acht GPUs und ein produktionsbereiter Server beantworten drei unterschiedliche Beschaffungsfragen. Wenn ein Angebot nicht Formfaktor, GPU-Anzahl, Abrechnungsmodell, Standort und enthaltene Infrastruktur ausweist, ist es noch nicht vergleichbar.
Als zeitlich datierter Referenzpunkt begann ein Marktplatzangebot für eine H100-PCIe-80-GB-Karte bei der Prüfung bei 32.200 $. Öffentliche Cloud-Beispiele reichten von gelisteten 2,89 $ pro Stunde für einen H100-PCIe-Pod bis zu 3,99 $ pro Stunde für einen H100-SXM-Pod, während AWS einen P5 Capacity Block mit einer H100 zu 5,97 $ pro Beschleunigerstunde listete. Dies sind Beispiele, keine UVP oder universeller Tarif: Verfügbarkeit, Region, Bindungsdauer, CPU-/RAM-Bundle, Speicher, Support und die genaue H100-Konfiguration verändern allesamt die Rechnung.
Dieser Leitfaden zeigt, wie Sie ein H100-Angebot in eine Entscheidung statt in einen irreführenden Schlagzeilenpreis verwandeln.
H100-GPU-Preis: die kurze Antwort
Verwenden Sie die Einheit, die dem entspricht, was Sie tatsächlich beschaffen:
| Was Sie bepreisen | Datierte öffentliche Referenz | Was die Zahl bedeutet und was nicht |
|---|---|---|
| Eine H100-PCIe-80-GB-Karte | Ab 32.200 $ | Ein Marktplatz-Startpreis für eine Karte, keine NVIDIA-UVP und kein vollständiger Server. |
| Ein H100-PCIe-Cloud-Pod | 2,89 $/Stunde | Ein öffentliches Beispiel für einen Pod-Tarif; prüfen Sie beim Checkout Cloud-Tier, Region, Speicher und CPU-/RAM-Bundle. |
| Ein H100-SXM-Cloud-Pod | 3,99 $/Stunde | Ein öffentliches Beispiel für einen Pod-Tarif mit einem anderen Formfaktor und einer gebündelten Host-Konfiguration. |
| AWS P5.4xlarge Capacity Block | 5,97 $/Beschleunigerstunde | Ein Produkt mit geplanter Kapazität und einer H100; es ist keine direkt vergleichbare Miete einer einzelnen Karte. |
| Google Cloud A3 High | 88,49 $/Instanzstunde für 8 H100s | Etwa 11,06 $ pro GPU-Stunde nach Division durch acht, aber die SKU umfasst eine große Maschine mit acht GPUs statt acht unabhängiger Karten. |
Das Hardware-Angebot stammt von der Marktplatzseite von GPU Vendors für die H100 PCIe 80 GB. Die Pod-Tarife stammen von der öffentlichen Preisseite von Runpod, die dort am 8. Oktober 2026 aktualisiert wurde. Die AWS-Zahl stammt aus der Preistabelle für EC2 Capacity Blocks for ML; das Google-Beispiel stammt aus der Preistabelle für beschleunigeroptimierte VMs. Prüfen Sie jede Quelle vor der Genehmigung oder dem Kauf erneut.
Die praktische Schlussfolgerung: Nutzen Sie den H100-GPU-Preis, um Optionen in die engere Auswahl zu nehmen, aber treffen Sie die Entscheidung anhand eines Workload-Budgets.
Identifizieren Sie zuerst, für welche H100 Sie ein Angebot erhalten
Die Bezeichnung „H100“ verbirgt Entscheidungen, die sowohl Leistungsfähigkeit als auch Kosten wesentlich beeinflussen.
| Konfiguration | Was Sie vor dem Preisvergleich prüfen sollten | Warum dies die Entscheidung verändert |
|---|---|---|
| H100 PCIe | 80 GB Speicher, Host-CPU/-RAM, Gehäuseluftstrom, GPU-Anzahl, Netzwerk | Sie kann eine sinnvolle Option für eine einzelne GPU oder kleinere Skalierungen sein, doch Host und Netzwerk gehören weiterhin zur Gesamtrechnung. |
| H100 SXM | 80 GB Speicher, Plattform im HGX-/DGX-Stil, Fabric-Topologie, Stromversorgung und Kühlung | SXM ist enger an eine Serverplattform mit hoher Dichte und ein Multi-GPU-Fabric gebunden; vergleichen Sie den kartenäquivalenten Preis nicht nur mit PCIe. |
| H100 NVL | Exakte SKU für Board/Paar/Server, nutzbarer Speicher, Interconnect, enthaltener Host | Marktplatzbezeichnungen variieren. Bestätigen Sie, was als eine abrechenbare „GPU“ gilt und ob das Angebot eine Karte, ein Paar oder eine Serverkonfiguration umfasst. |
| Knoten mit 4 oder 8 GPUs | GPU-Anzahl, NVLink-/NVSwitch-Topologie, NICs, lokaler Speicher, Reservierungsbedingungen | Der Knoten ist bei verteiltem Training oft die tatsächliche Beschaffungseinheit, nicht ein einzelner Beschleuniger. |
Das H100-Datenblatt von NVIDIA führt sowohl für die SXM- als auch für die PCIe-Version 80 GB auf, bei unterschiedlicher Speicherbandbreite, Leistungsaufnahme, Interconnect und Serveroptionen. Es nennt 3 TB/s und bis zu 700 W für die SXM-Version gegenüber 2 TB/s und 350 W für die PCIe-Version. Deshalb sollte der H100-GPU-Preis immer Formfaktor und Plattform in derselben Position enthalten. Lesen Sie das NVIDIA-H100-Datenblatt zusammen mit dem Angebot, statt „80 GB H100“ als vollständige Spezifikation zu behandeln.
Eine ausführlichere Erläuterung der Architektur und Bereitstellung finden Sie in unserem Leitfaden zur NVIDIA H100 GPU. Wenn die Wahl tatsächlich zwischen Generationen liegt, vergleichen Sie den Workload und die Kosten pro akzeptierter Ausgabe in H100 vs. A100 oder im Leitfaden zum H200-GPU-Preis, bevor Sie einen niedrigeren Stundentarif als Gewinn werten.
Warum derselbe H100-GPU-Preis zu sehr unterschiedlichen monatlichen Rechnungen führen kann
Ein Stundentarif ist nur die Position für den Beschleuniger. Ein nutzbarer Monatsplan benötigt den vollständigen Bereitstellungsweg:
Cloud workload cost
= accelerator or instance rate × scheduled hours
+ attached storage
+ data transfer / egress
+ CPU, RAM, and networking not bundled in the rate
+ support, platform, and software charges
+ idle time, retries, and failed-job allowance
Google Cloud trennt in seiner GPU-Preisdokumentation ausdrücklich zwischen GPU-, Maschinentyp-, Speicher- und Netzwerkaspekten. Das ist eine hilfreiche Erinnerung daran, nicht einfach einen GPU-Tarif mit 730 zu multiplizieren und das Ergebnis als Produktionsbudget zu bezeichnen.
Beispielsweise würden 730 gebuchte Stunden bei den beiden oben genannten öffentlichen Pod-Tarifrefernzen etwa 2.110 $ pro Monat für das PCIe-Beispiel zu 2,89 $/Stunde und 2.913 $ pro Monat für das SXM-Beispiel zu 3,99 $/Stunde ergeben, bevor Kosten außerhalb der angezeigten Pod-Konfiguration berücksichtigt werden. Diese Werte sind Budgetierungsbeispiele, keine Angebote.
Der H100-GPU-Preis ändert sich auch je nach Abrechnungsmodell:
- On-Demand eignet sich gut für kurzlebige Entwicklung, Evaluierung und unsichere Auslastung. Sie zahlen für Flexibilität.
- Spot- oder unterbrechbare Kapazität kann den angegebenen Tarif senken, aber ein Training-Job benötigt Checkpointing und Neustartlogik. Ein niedriger Preis ist nicht günstig, wenn eine Unterbrechung einen Arbeitstag kostet.
- Reservierte Kapazität oder Kapazitätsblöcke tauschen Flexibilität gegen eine zeitlich begrenzte Lieferzusage. Die P5-Tabelle von AWS ist ein Beispiel für ein Produkt, das als geplanter Kapazitätskauf verglichen werden sollte, nicht nur als GPU-Stunde.
- Dedizierte oder vertraglich vereinbarte Cloud-Kapazität kann ein anderes Support-, Verfügbarkeits- oder Netzwerkprofil umfassen als ein Self-Service-Pod. Vergleichen Sie den Vertragsumfang, nicht nur das GPU-Modell.
Unser Leitfaden zu GPU-Mietpreisen erläutert den Unterschied zwischen On-Demand, Spot und reservierter Kapazität genauer. Für die Kostenpositionen, die typischerweise nach Bestehen eines Prototyps auftauchen, nutzen Sie den Leitfaden zu versteckten Kosten in der GPU-Cloud als Checkliste vor der Genehmigung.
Kauf einer H100: Vollständige TCO berechnen, nicht den Kartenpreis
Ein Kauf kann für langfristige, planbare Workloads sinnvoll sein – aber ein Kartenangebot ist nur der Anfang. Verwenden Sie dieses Besitzkostenmodell:
Monthly owned-capacity cost
= (all-in acquisition cost − expected residual value) ÷ depreciation months
+ power and cooling
+ rack or colocation
+ network and storage
+ warranty, spares, and support
+ platform operations and on-call time
+ downtime / utilization reserve
Die vollständigen Anschaffungskosten sollten die genaue Beschleunigerkonfiguration, einen kompatiblen Server oder eine HGX-Plattform, CPUs, Arbeitsspeicher, NICs, Speicher, Stromverteilung, Versand, Steuern, Installation und Support enthalten. Bei SXM-Systemen führt die Anfrage nach einem reinen Kartenangebot besonders wahrscheinlich dazu, dass Komponenten fehlen, die für die Bereitstellung der Konfiguration erforderlich sind.
So ist die PCIe-Referenz von 32.200 $ richtig zu interpretieren:
- Es handelt sich um einen Startpreis für eine einzelne Karte auf einem Marktplatz, nicht um einen validierten Kaufpreis für Ihre Organisation.
- Gegenüber dem Mietbeispiel von 2,89 $/Stunde entsprechen 32.200 $ ungefähr 11.142 GPU-Stunden oder etwa 15,3 Monaten bei 730 gebuchten Stunden pro Monat.
- Diese Rechnung ist keine Kaufempfehlung. Sie schließt Server, Strom, Kühlung, Netzwerk, Support, Finanzierung und Auslastungsrisiken aus. Bei 50 % Auslastung verdoppelt sich die Kalenderzeit, die erforderlich ist, um diese 11.142 Stunden zu verbrauchen.
Deshalb besteht ein scheinbar günstiger H100-GPU-Preis eine reale Break-even-Prüfung häufig nicht. Berechnen Sie zunächst die Kosten abgeschlossener, akzeptierter Arbeit – nicht nur die Kosten einer zugewiesenen Beschleunigerstunde.
Eine kopierbare H100-Kauf-Checkliste
Nutzen Sie diese, bevor Sie Angebote anfordern oder eine Cloud-Verpflichtung genehmigen.
| Frage | Hier erfassen | Warum es wichtig ist |
|---|---|---|
| Was ist die genaue SKU? | PCIe, SXM, NVL; Arbeitsspeicher; GPU-Anzahl; neu/überholt | Verhindert, dass ein Vergleich von Karte, Server und Paar als Preisvergleich ausgegeben wird. |
| Was benötigt der Workload? | Maximaler VRAM, GPU-Anzahl, Interconnect, Durchsatz-/Latenzziel, Persistenz | Verhindert, dass ein niedrigerer H100-GPU-Preis Sie zu einer unbrauchbaren Konfiguration lenkt. |
| Wie stark wird sie ausgelastet sein? | Geplante GPU-Stunden/Monat und erwartete Auslastung | Bestimmt, ob Flexibilität oder eigene Kapazität überhaupt gewinnen kann. |
| Was ist enthalten? | vCPUs, RAM, lokaler Speicher, persistenter Speicher, NICs, Egress, Support, SLA | Deckt Kosten auf, die nicht im Beschleunigertarif erscheinen. |
| Was geschieht bei einer Unterbrechung? | Checkpoint-Intervall, Wiederherstellungszeit, Wiederholungskosten, Kapazitäts-Fallback | Macht Spot-Preise mit zuverlässiger Kapazität vergleichbar. |
| Was ist die Geschäftskennzahl? | Akzeptierte Jobs, Token, Bilder, Trainingsschritte oder abgeschlossene Experimente | Ermöglicht die Optimierung der Kosten pro nützlichem Ergebnis anstelle der Kosten pro Stunde. |
| Was ist der Fallback? | Alternative GPU, andere Region, verwaltete API oder Warteschlangenrichtlinie | Senkt die Kosten von Kapazitätsengpässen und fehlgeschlagenen Starts. |
Die Checkliste für Angebotsvergleiche
Bitten Sie jeden Anbieter, diese Fragen schriftlich zu beantworten:
- Bezieht sich das Angebot auf eine PCIe-Karte, ein SXM-Modul, eine NVL-Konfiguration, einen vollständigen Server oder eine Cluster-Zuweisung?
- Wie viele H100 sind enthalten und welche Interconnect-Technologie verbindet sie?
- Welche CPU-, RAM-, Speicher-, Netzwerk-, Stromversorgungs- und Support-Positionen sind enthalten?
- Gilt der Preis für On-Demand-, Spot-, reservierte oder geplante Kapazität, für Vorauszahlung oder für einen Kapazitätsblock?
- Welche Region oder Einrichtung gilt, und ist für das angefragte Zeitfenster tatsächlich Kapazität verfügbar?
- Welche Kosten bleiben außerhalb des Angebots: Speicher, Egress, Lizenzen, Einrichtung, Steuern oder Support?
- Wie lauten die Richtlinien für Stornierung, Unterbrechung, Ersatz und Hardware-Support?
- Welchen Workload-Test führen Sie durch, um die Kosten pro akzeptiertem Ergebnis zu vergleichen?
Wann Mieten, Reservieren, Kaufen oder die Nutzung einer API die bessere Wahl ist
Wählen Sie zuerst das Betriebsmodell; der H100-GPU-Preis lässt sich dann deutlich einfacher bewerten.
| Situation | Üblicherweise beginnen mit | Warum |
|---|---|---|
| Prototyp, Fine-Tuning-Experiment oder unsichere Nachfrage | On-Demand-Miete | Schneller Zugriff und keine Kapitalbindung; Auslastung und Leerlaufzeit messen. |
| Fehlertolerante Batch-Aufgaben mit zuverlässigem Checkpointing | Spot-/unterbrechbare Kapazität | Kann wirtschaftlich sein, wenn ein Neustart günstig ist und Kapazitätsverlust eingeplant wird. |
| Planbares Trainingsfenster mit einer festen Deadline | Reservierte Kapazität oder Kapazitätsblock | Sie zahlen nicht nur für Rechenleistung, sondern auch für eine Zeit- und Verfügbarkeitsgarantie. |
| Anhaltend hohe Auslastung mit einem erfahrenen Plattformteam | Kaufen oder Colocation nach einem All-in-TCO-Modell | Eigentum kann nur dann sinnvoll sein, wenn Einrichtung, Support und Auslastung tragfähig sind. |
| Der Produktanwendungsfall erfordert nicht die Ausführung eigener Weights | Modell-API-Basislinie | Vergleichen Sie vor der Hardwarebeschaffung einen API-Weg; die operative Abgrenzung kann wichtiger sein als der H100-GPU-Preis. |
Wenn die endgültige Wahl zwischen selbst gehosteter Inferenz und einer verwalteten Modellschnittstelle liegt, verwenden Sie unseren Leitfaden zu GPU-Cloud vs. Modell-API, um den Vergleich zu strukturieren. Eine einheitliche KI-API kann es zudem vereinfachen, eine verwaltete Basislinie modellübergreifend zu testen, bevor Sie sich auf einen Hardwarebeschaffungsweg festlegen.
Häufige Fragen zum H100-Preis
Wie viel kostet der Kauf einer H100-GPU?
Es gibt keine allgemein verfügbare H100-UVP, die sich als Beschaffungswert verwenden lässt. Der H100-GPU-Preis hängt von Formfaktor, Verkäufer, Support, Menge, Standort und davon ab, ob das Angebot eine Karte oder ein komplettes System betrifft. In der Momentaufnahme dieses Leitfadens vom 22. Oktober 2026 war auf einem Marktplatz eine H100-PCIe-80-GB-Karte ab 32.200 US-Dollar gelistet. Betrachten Sie dies als datierten Referenzwert und fordern Sie anschließend ein aufgeschlüsseltes Lieferantenangebot an.
Wie viel kostet es, eine H100 pro Stunde zu mieten?
Öffentliche Tarife können je nach Anbieter und Produkt stark variieren. Runpod listete auf seiner Preisseite H100 PCIe für 2,89 US-Dollar/Stunde und H100 SXM für 3,99 US-Dollar/Stunde, während AWS für seinen P5.4xlarge Capacity Block mit einer H100 5,97 US-Dollar pro Beschleunigerstunde listete. Jede Option umfasst ein anderes Bereitstellungsmodell, daher sollten Sie sie nicht allein anhand der Zahl einordnen.
Ist eine H100 SXM teurer als eine H100 PCIe?
Sie erscheint häufig in einer teureren Plattform, da sich die Anforderungen an Hardware, Stromversorgung, Kühlung und Fabric unterscheiden. Vergleichen Sie die exakte Host-Konfiguration und das Ergebnis der abgeschlossenen Arbeit. Die entscheidende Frage ist, ob die SXM-Plattform Ihren Workload ausreichend verbessert, um die Kosten pro akzeptiertem Auftrag zu senken, und nicht, ob ihr H100-GPU-Preis in einer Tabelle niedriger ist.
Wann ist Kaufen besser als Mieten?
Erst wenn Ihre All-in-Kosten für eigene Kapazität bei realistischer Auslastung niedriger sind als ein vergleichbarer Cloud-Weg. Berücksichtigen Sie den Server, das Netzwerk, Stromversorgung, Kühlung, Support, Reserven für Ausfallzeiten und die Kosten für den Betrieb der Plattform. Eine Break-even-Rechnung nur für die Karte ist ein Screening-Werkzeug, keine Entscheidung.
Machen Sie das nächste H100-Angebot vergleichbar
Der H100-GPU-Preis wird erst dann nützlich, wenn er mit einer präzisen Konfiguration und einem Workload verknüpft ist. Beginnen Sie mit dem GPU-Formfaktor, vereinheitlichen Sie die Zeiteinheit, addieren Sie jede Infrastrukturposition und berechnen Sie die Kosten pro abgeschlossenem Ergebnis. Vergleichen Sie dann Flexibilität, Kapazitätsrisiko und operativen Aufwand – nicht nur einen Kartenpreis oder einen Stundensatz.
Bevor Sie sich festlegen, führen Sie einen repräsentativen Workload auf den zwei oder drei praktikablen Optionen aus. Dieser kleine Test ist in der Regel günstiger, als später festzustellen, dass der niedrigste H100-GPU-Preis mit dem falschen Formfaktor, einem unvollständigen Serverbudget oder einer Cloud-SKU verbunden war, die Ihr Workload tatsächlich nicht nutzen konnte.



