Harga GPU H200: Harga, Faktor Biaya, dan Panduan Pembelian

Harga GPU H200: Harga, Faktor Biaya, dan Panduan Pembelian

Terakhir diperbarui: 22 Oktober 2026. Semua nominal dalam USD. Harga publik sering berubah; verifikasi sumber langsung dan konfigurasi yang tepat sebelum membeli atau memesan kapasitas.

Jika Anda mencari harga GPU H200, pertama-tama tentukan apa yang sebenarnya Anda hargai. Satu kartu H200 NVL PCIe, sistem H200 bergaya HGX/DGX, instans cloud delapan GPU, dan worker H200 serverless adalah produk yang berbeda dengan struktur biaya yang berbeda.

Contoh publik terkini di bawah ini menunjukkan mengapa satu angka utama dapat menyesatkan:

• Listing kartu H200 NVL publik dapat berharga sekitar $34.500 per kartu untuk pesanan empat hingga tujuh kartu, sedangkan listing satu hingga tiga kartu dapat berharga $42.651 per kartu.
• Server empat-H200 yang dikonfigurasi tercantum dalam kisaran $185.000–$220.000; server delapan-H200 tercantum dalam kisaran $305.000–$370.000.
• H200 cloud dapat ditagih per GPU-jam: satu tarif H200 Pod saat ini adalah $5,29 per jam, sedangkan tarif worker serverless yang sesuai adalah $5,93 per jam.

Itu adalah penawaran publik bertanggal, bukan MSRP universal atau rekomendasi untuk memilih satu pemasok. Jawaban yang berguna untuk “berapa harga GPU H200?” adalah biaya terkirim dari faktor bentuk dan model operasional yang tepat yang dapat menyelesaikan beban kerja Anda.

Jawaban singkat: Gunakan penyewaan jangka pendek untuk membuktikan model, panjang konteks, topologi, dan utilisasi yang Anda butuhkan. Dapatkan penawaran pembelian hanya setelah Anda mengetahui apakah H200 NVL PCIe, node SXM delapan GPU, atau API model terkelola adalah pilihan yang tepat. Kemudian bandingkan biaya per beban kerja yang diselesaikan, bukan hanya harga kartu.

Ringkasan harga GPU H200: contoh pembelian, sistem, dan cloud

Tabel ini sengaja berisi serangkaian ringkasan harga terpisah, bukan rata-rata pasar. Listing kartu dan instans cloud delapan GPU tidak mencakup perangkat keras, dukungan, komitmen kapasitas, atau beban operasional yang sama.

Sumber: listing Gatewell USA H200 NVL, listing Lineage Tech H200 NVL, harga Runpod, dan harga AWS EC2 Capacity Blocks. Harga diperiksa pada 22 Oktober 2026.

Harga GPU H200 pada dua baris pertama adalah harga untuk kartu PCIe H200 NVL. Baris server menambahkan platform yang diperlukan untuk mengoperasikan beberapa kartu. Baris cloud mengubah infrastruktur tersebut menjadi tarif layanan. Jangan menghitung rata-rata angka-angka tersebut.

Mengapa harga GPU H200 bukan satu angka

NVIDIA menerbitkan dua bentuk penerapan H200 yang berbeda secara material. Keduanya mencantumkan memori HBM3e 141 GB dan bandwidth memori 4,8 TB/dtk, tetapi keduanya bukan pembelian yang dapat dipertukarkan:

Lembar data H200 dan arsitektur referensi HGX NVIDIA juga menunjukkan mengapa penawaran harga sistem sangat bervariasi: H200 SXM dirancang berdasarkan topologi multi-GPU, sedangkan kartu NVL digunakan dalam server PCIe konvensional dengan model interkoneksi yang berbeda.

Perbedaan tersebut mengubah anggaran dalam empat cara:

1. Akselerator mungkin bukan satu-satunya hal yang Anda beli. Kartu PCIe H200 NVL tetap memerlukan host yang memenuhi syarat, aliran udara, CPU, memori, penyimpanan, adaptor jaringan, rel, dan dukungan. Penawaran SXM umumnya hadir sebagai keputusan sistem multi-GPU.
2. Topologi dapat mengubah jumlah GPU yang Anda butuhkan. Jika beban kerja memerlukan domain NVLink delapan-GPU, alternatif yang relevan adalah sewa atau sistem delapan-GPU—bukan harga satu kartu.
3. Daya dan pendinginan adalah pos biaya yang nyata. Angka 600 W dan 700 W adalah spesifikasi daya papan maksimum, bukan daya terukur Anda. Namun, angka tersebut tetap memberi tahu Anda untuk meminta persyaratan daya, pendinginan, dan rak dalam penawaran harga.
4. Kuantitas mengubah penawaran. Dua daftar kartu di atas berbeda karena menggunakan penjual, lokasi, dan jumlah pesanan yang berbeda. Nomor komponen lebih berguna daripada label “H200” yang umum.

Yang Anda bayar dengan H200: kapasitas memori dan topologi

H200 adalah akselerator generasi Hopper, tetapi keputusan pembelian sering kali berkaitan dengan memori, bukan klaim umum tentang kecepatan yang lebih tinggi. NVIDIA mencantumkan 141 GB HBM3e dan bandwidth memori 4,8 TB/s untuk H200. Dalam tabel arsitektur HGX-nya, NVIDIA mencantumkan 80 GB dan 3,35 TB/s untuk H100 SXM, dibandingkan dengan 141 GB dan 4,8 TB/s untuk H200 SXM.

Kapasitas tambahan tersebut dapat penting ketika beban kerja Anda dibatasi oleh:

• model atau rencana kuantisasi yang tidak muat dalam 80 GB;
• inferensi konteks panjang ketika cache KV mengonsumsi memori kerja;
• ukuran batch yang jika tidak demikian akan memaksa paralelisme model tambahan;
• desain multi-GPU ketika lalu lintas antar-GPU, bukan komputasi mentah, menjadi hambatannya.

Hal ini tidak berarti H200 otomatis lebih murah untuk setiap pekerjaan inferensi. Jika model, batch, dan jendela konteks dapat dimuat dengan nyaman pada akselerator yang lebih kecil, premi harga GPU H200 mungkin tidak mengurangi biaya Anda per hasil yang diterima. Uji tolok ukur model dan tumpukan penyajian yang benar-benar akan Anda jalankan sebelum menganggap kapasitas memori sebagai hasil pembelian.

Untuk keputusan arsitektur dan deployment di balik angka-angka tersebut, baca panduan GPU H200 Flatkey dan perbandingan H200 vs. H100 mereka.

Ubah harga GPU H200 per jam menjadi anggaran bulanan

Untuk kapasitas sewaan, mulailah dengan jam-GPU yang dialokasikan:

monthly compute cost =
  allocated H200 GPU-hours × effective hourly rate

Pada alokasi berkelanjutan, satu GPU memiliki sekitar 730 jam dalam satu bulan 30 hari. Biaya operasional berikut menggunakan angka per-GPU yang dipublikasikan di atas dan mengasumsikan tarif tetap tersedia untuk setiap jam. Angka tersebut tidak mencakup penyimpanan, transfer data, pajak, dukungan, maupun aturan komitmen apa pun.

Untuk node delapan-GPU, kalikan biaya operasional per-GPU dengan delapan sebelum menambahkan layanan di sekitarnya. Itulah sebabnya tarif ekuivalen H200 sebesar $6.866 menghasilkan harga p5e.48xlarge sebesar $54.924 per jam dalam tabel AWS.

Harga GPU H200 per jam yang dipublikasikan seharusnya hanya menjadi satu baris dalam anggaran operasional Anda. Tambahkan:

• penyimpanan terpasang atau persisten untuk bobot model, checkpoint, dan set data;
• transfer data dan kebutuhan jaringan privat;
• CPU, RAM, dan NVMe lokal yang disertakan dengan instans;
• pekerjaan orkestrasi, observabilitas, pencadangan, dan respons insiden;
• pekerjaan gagal, pemuatan ulang, waktu menganggur, dan peningkatan akibat percobaan ulang;
• ketentuan reservasi, Capacity Block, atau interupsi.

Panduan harga sewa GPU dan panduan biaya tersembunyi GPU cloud Flatkey menyediakan daftar periksa yang lebih luas untuk pos biaya non-akselerator tersebut.

Beli versus sewa: gunakan perhitungan titik impas sebagai alat penyaringan

Untuk analisis awal, Anda dapat menghitung angka penyaringan khusus perangkat keras:

hardware-only screening hours =
  listed accelerator price ÷ comparable delivered GPU-hour rate

Menggunakan dua contoh publik kartu H200 NVL dan tarif Pod $5.29 per jam:

Ini bukan perhitungan pengembalian modal yang sebenarnya. Perhitungan ini sengaja tidak memasukkan server host, jaringan, daya, pendinginan, pajak, bea, dukungan, waktu henti, utilisasi, pembiayaan, dan nilai sisa. Perhitungan ini juga membandingkan penawaran dari pemasok yang berbeda. Gunakan untuk mengidentifikasi pertanyaan yang layak dimodelkan—bukan untuk menyetujui pesanan pembelian.

Model kepemilikan lengkap seharusnya lebih seperti ini:

annual ownership cost =
  system acquisition or financing
  + power and cooling
  + rack, colocation, and network
  + support, software, and operations
  + storage and backup
  + expected downtime and unused capacity
  - expected residual value

cost per completed workload =
  annual ownership cost ÷ accepted jobs, requests, tokens, or training runs

Disiplin yang sama berlaku untuk penetapan harga cloud:

cloud cost per completed workload =
  (GPU-hours + storage + network + managed services + failed work)
  ÷ accepted jobs, requests, tokens, or training runs

Penyebut inilah yang mencegah harga GPU H200 per jam yang tampak rendah menyamarkan deployment yang buruk. Pilih unit yang sesuai dengan hasil bisnis: fine-tune yang berhasil, batch yang diterima, video yang dihasilkan, permintaan yang didukung, atau hasil inferensi yang tervalidasi.

Daftar periksa pembelian H200 untuk tim pengadaan dan infrastruktur ML

Gunakan daftar periksa ini sebelum membandingkan penawaran pemasok.

1. Catat SKU dan nomor komponen yang tepat. Bedakan H200 NVL PCIe dari H200 SXM. Jangan menganggap “H200” sebagai informasi konfigurasi yang memadai.
2. Tanyakan apa saja yang disertakan pada tingkat sistem. Catat jumlah GPU, CPU, RAM, NVMe, NIC, catu daya, rail, bridge NVLink, garansi, dan hak penggunaan perangkat lunak.
3. Modelkan topologi sebelum jumlah. Uji apakah model Anda memerlukan satu GPU, empat GPU yang terhubung, atau fabric delapan GPU. Membeli topologi yang salah lebih mahal daripada membayar tarif per jam yang lebih tinggi selama evaluasi.
4. Minta asumsi daya dan pendinginan. Catat kondisi fasilitas serta desain aliran udara atau pendinginan cair yang diperlukan. Jangan pernah menganggarkan langsung hanya berdasarkan TDP.
5. Normalkan pajak, bea, pengiriman, dan waktu tunggu. Harga Lineage $42.651, misalnya, secara eksplisit tidak mencakup PPN dan bea; penawaran harga yang sudah dikirim dapat sangat berbeda bergantung pada tujuan.
6. Ukur utilisasi alih-alih mengasumsikan 100%. Sistem dengan utilisasi produktif 45% memiliki skenario kepemilikan yang sangat berbeda dibandingkan armada yang dijadwalkan secara terus-menerus.
7. Pisahkan biaya penyimpanan model dari biaya GPU. Bobot, checkpoint, set data, snapshot, dan transfer data dapat mengubah alternatif cloud.
8. Tetapkan asumsi keluar. Dokumentasikan masa pakai yang diharapkan, nilai sisa, dan apakah arsitektur penerus dapat membuat kapasitas tersebut kurang menarik sebelum model sepenuhnya diamortisasi.
9. Sertakan operasi. Masukkan pemantauan, penjadwalan kapasitas, keamanan, patching, respons insiden, dan cakupan on-call ke dalam model.
10. Jalankan benchmark yang representatif. Catat throughput, latensi p50/p95, tingkat kegagalan, waktu muat, penerimaan kualitas, dan biaya yang terlihat pada faktur pada stack perangkat lunak yang tepat.

Kapan H200 merupakan pilihan yang tepat—dan kapan bukan

Untuk kasus terakhir, hindari membingkai pilihan sebagai “cloud versus on-prem.” API model dan penyewaan GPU dapat sama-sama merupakan layanan cloud, tetapi keduanya memberikan tanggung jawab yang berbeda. Jika tim Anda tidak perlu mengoperasikan bobot model, driver, kapasitas, atau stack serving, bandingkan biaya per permintaan dari jalur API dengan biaya per workload yang selesai dari deployment H200. Lihat GPU cloud vs. model API untuk kerangka keputusan yang praktis.

Cara membandingkan dua penawaran H200 secara adil

Mintalah lembar kerja yang sama kepada setiap pemasok, lalu isi berdasarkan penawaran—bukan dari hasil pencarian:

Lembar kerja ini lebih berguna daripada pencarian umum “harga GPU H200 terbaik” karena menjaga harga dan kapabilitas berada pada baris yang sama.

Pertanyaan yang sering diajukan

Berapa harga GPU H200?

Untuk contoh kartu H200 NVL PCIe publik yang diperiksa pada 22 Oktober 2026, satu penjual mencantumkan harga $34.500 per kartu untuk pesanan empat hingga tujuh kartu, sementara penjual lain mencantumkan $42.651 per kartu untuk satu hingga tiga kartu. Itu adalah penawaran yang spesifik untuk pemasok dan kuantitas, bukan satu harga GPU H200 global. Server, pengiriman barang, pajak, bea, pendinginan, dan dukungan dapat mengubah biaya saat diterima.

Apakah harga H200 NVL sama dengan H200 SXM?

Tidak. H200 NVL adalah kartu PCIe yang dirancang untuk server berpendingin udara dan penghubung NVLink dua atau empat arah. H200 SXM adalah modul yang ditujukan untuk sistem bergaya HGX dan fabric multi-GPU yang lebih besar. Bandingkan konfigurasi sistem lengkap, bukan hanya angka memori 141 GB.

Berapa biaya sewa H200 per jam?

Contoh yang dipublikasikan dalam panduan ini berkisar dari H200 Pod Runpod seharga $5,29 per jam dan pekerja serverless H200 seharga $5,93 per jam hingga setara AWS Capacity Block sebesar $6,866 per H200 untuk p5e dan $7,895 per H200 untuk p5en. Ini adalah jenis layanan dan komitmen yang berbeda, jadi konfirmasikan tarif aktif dan ketentuan penagihan sebelum menganggapnya dapat dipertukarkan.

Haruskah saya membeli H200 atau menyewanya?

Sewa ketika beban kerja, utilisasi, topologi, atau roadmap model belum pasti. Pertimbangkan untuk membeli hanya setelah Anda memiliki perkiraan utilisasi yang stabil, penawaran tingkat sistem, rencana fasilitas dan dukungan, serta model biaya per beban kerja yang selesai yang mencakup semua hal di sekitar akselerator.

Apakah H200 lebih baik daripada H100 untuk inferensi LLM?

H200 dapat menjadi pilihan yang lebih baik ketika 141 GB HBM3e, bandwidth 4,8 TB/dtk, atau topologi target menghilangkan batasan nyata pada memori atau ukuran batch. H200 tidak otomatis memberikan nilai yang lebih baik untuk pekerjaan yang sudah muat dengan nyaman pada deployment kelas H100. Uji model, panjang konteks, ukuran batch, dan stack penyajian Anda. Panduan H200 vs. H100 dari Flatkey membahas perbandingan teknisnya.

Rekomendasi akhir

Harga GPU H200 yang tepat bukanlah listing kartu termurah atau tarif per jam terendah. Harga yang tepat adalah biaya terverifikasi terkecil untuk menyelesaikan beban kerja target Anda dengan memori, topologi, keandalan, dan model operasi yang benar-benar Anda butuhkan.

Mulailah dengan benchmark sewa yang dibatasi waktu. Catat faktor bentuk H200 yang tepat, jam yang dialokasikan, penyimpanan, jaringan, tingkat kegagalan, dan penerimaan output. Jika beban kerja menjadi cukup stabil untuk membenarkan kepemilikan, minta penawaran tingkat sistem dan bandingkan TCO penuh—bukan hanya item baris akselerator. Jika Anda membutuhkan kapabilitas model, bukan kontrol infrastruktur, hargai jalur API terkelola pada saat yang sama.

Flatkey dapat membantu tim membandingkan alternatif API tersebut tanpa menyebarkan integrasi: produknya adalah lapisan perutean model-dan-alat terpadu dengan satu kunci, satu saldo, dan visibilitas penggunaan pada tingkat permintaan. Dapatkan kunci API saat Anda siap menguji jalur model/API di samping rencana H200 Anda.

Sumber

• Lembar data NVIDIA H200 Tensor Core GPU
• Arsitektur referensi NVIDIA HGX H100, H200, dan B200
• Harga AWS EC2 Capacity Blocks untuk ML
• Harga cloud GPU Runpod
• Listing Gatewell USA H200 NVL
• Listing Lineage Tech H200 NVL