GPU NVIDIA Vera Rubin: GPU, NVL72, Memori, Jaringan, dan Pelacak Ketersediaan
GPU NVIDIA Vera Rubin bukan sekadar satu akselerator yang dipasang ke server yang sudah dikenal. NVIDIA memposisikan Vera Rubin sebagai platform pabrik AI skala rack dan skala POD untuk beban kerja agentic: memori GPU yang lebih besar, bandwidth memori yang lebih cepat, fabric scale-up yang lebih rapat, dan stack jaringan yang dirancang untuk klaster pelatihan dan inferensi yang sangat besar.
Bagi pembeli GPU cloud, itu mengubah pertanyaannya. Pertanyaannya bukan hanya "apa spesifikasi GPU NVIDIA Vera Rubin?" Tetapi juga: kapan sistem Vera Rubin akan tersedia, apa arti NVL72, berapa banyak memori HBM4 yang diekspos pada skala rack, jaringan apa yang diperlukan, dan kapan lebih masuk akal menggunakan model API sambil menunggu kapasitas?
Pelacak ini merangkum apa yang telah diungkapkan NVIDIA secara publik per 13 Oktober 2026 dan memisahkan spesifikasi yang dikonfirmasi dari asumsi pengadaan.
Jawaban Cepat: Apa Itu GPU NVIDIA Vera Rubin?
GPU NVIDIA Vera Rubin adalah generasi GPU di dalam platform Vera Rubin milik NVIDIA, platform penerus setelah Grace Blackwell untuk pabrik AI skala besar. Dalam sistem DGX Vera Rubin NVL72 NVIDIA, rak ini menggabungkan 72 GPU NVIDIA Rubin dengan 36 CPU NVIDIA Vera, 20,7 TB memori GPU HBM4, dan 1.400 TB/s bandwidth memori GPU agregat. NVIDIA memberi label spesifikasi DGX Vera Rubin NVL72 ini sebagai sementara dan dapat berubah, jadi model pengadaan harus menyertakan tanggal revisi yang dilacak.
NVIDIA juga mengumumkan pada 31 Mei 2026 bahwa platform Vera Rubin mulai memasuki produksi penuh, dengan pengiriman produksi dijadwalkan mulai pada musim gugur 2026. Itu penting bagi pembeli karena gelombang pertama kemungkinan akan muncul sebagai sistem terintegrasi dan kapasitas cloud sebelum menjadi keputusan sederhana "pilih SKU GPU".
Pelacak GPU NVIDIA Vera Rubin
| Field | Status Publik Saat Ini | Mengapa Ini Penting |
|---|---|---|
| Generasi GPU | GPU Rubin dalam sistem Vera Rubin | Platform penerus untuk deployment pabrik AI pasca-Blackwell. |
| Faktor bentuk rack | DGX Vera Rubin NVL72 | Anggap sebagai infrastruktur skala rack, bukan node GPU PCIe komoditas. |
| Jumlah GPU per NVL72 | 72 GPU Rubin | Mendefinisikan domain scale-up untuk satu sistem rack. |
| Pasangan CPU | 36 CPU Vera | Keseimbangan CPU/GPU adalah bagian dari desain platform. |
| Memori GPU | 20,7 TB HBM4 per DGX Vera Rubin NVL72 | Batas utama untuk inferensi konteks panjang, model MoE besar, dan checkpoint pelatihan. |
| Bandwidth memori | 1.400 TB/s bandwidth memori GPU agregat | Bandwidth memori sering kali menjadi batas sebelum FLOPS mentah untuk beban kerja inferensi. |
| Performa padat yang dinyatakan | 3.600 PFLOPS inferensi NVFP4; 2.520 PFLOPS pelatihan NVFP4; 1.260 PFLOPS pelatihan FP8/FP6 | Berguna untuk perbandingan platform, tetapi penerimaan benchmark harus menggunakan token/detik dan biaya per output yang diterima khusus per beban kerja. |
| Fabric scale-up | 9 switch L1 NVIDIA NVLink dalam spesifikasi DGX Vera Rubin NVL72 | Menentukan seberapa rapat GPU dapat beroperasi sebagai satu domain komputasi besar. |
| Networking scale-out | Lebih dari 144 adapter ConnectX-9 VPI single-port pada 800 Gb/s InfiniBand/Ethernet, ditambah 18 adapter BlueField-4 VPI dual-port pada 400 Gb/s | Perencana kapasitas membutuhkan asumsi jaringan, kabel, daya, keamanan, dan tenancy, bukan hanya jumlah GPU. |
| Status produksi | Sedang memasuki produksi penuh; pengiriman dimulai musim gugur 2026 menurut rilis NVIDIA 31 Mei 2026 | Anggap ketersediaan awal bergantung pada rantai pasok dan region cloud. |
Arsitektur GPU NVIDIA Vera Rubin: Apa yang Berubah
Perubahan arsitektur GPU NVIDIA Vera Rubin yang paling penting adalah unit analisis yang berguna bergerak naik. Dengan H100 atau A100, banyak tim membandingkan instance GPU individual. Dengan GB200 dan kini Vera Rubin, pembeli semakin sering membandingkan sistem rack penuh, POD, fabric jaringan, dan batasan fasilitas.
Perubahan itu terlihat pada DGX Vera Rubin NVL72. Satu sistem tingkat rack mengekspos 72 GPU Rubin dan 36 CPU Vera. Platform ini dibangun untuk model yang membutuhkan komunikasi cepat di antara banyak akselerator: inferensi konteks panjang, reasoning agent multi-langkah, post-training, reinforcement learning, loop data sintetis, dan pelatihan model frontier.
Bagi tim infrastruktur AI, itu berarti GPU NVIDIA Vera Rubin harus dievaluasi pada lima lapisan:
- Compute GPU: FLOPS menurut presisi, dukungan kernel, dan kematangan framework.
- Memori HBM4: memori yang dapat digunakan per replika model, bandwidth memori, dan kapasitas KV cache.
- Domain NVLink: seberapa besar bagian rack yang berperilaku seperti satu pool akselerator yang terhubung rapat.
- Fabric scale-out: bagaimana rack berkomunikasi melalui InfiniBand, Ethernet, Spectrum-X, atau fabric penyedia cloud.
- Lapisan operasi: orkestrasi, telemetry, pendinginan, domain kegagalan, isolasi tenant, dan dukungan perangkat lunak.
Jika beban kerja Anda hanya membutuhkan panggilan model terkelola, stack itu mungkin lebih merupakan infrastruktur daripada yang ingin Anda miliki. Jika beban kerja Anda membutuhkan pelatihan model kustom, bobot proprietary, kontrol penjadwal tingkat rendah, atau ekonomi inferensi tingkat armada, Vera Rubin menjadi item pantauan yang serius.
Spesifikasi GPU NVIDIA Vera Rubin: Apa yang Dikonfirmasi
Halaman DGX Vera Rubin NVL72 NVIDIA saat ini mencantumkan spesifikasi awal berikut:
| Spesifikasi | Angka Publik DGX Vera Rubin NVL72 |
|---|---|
| GPU dan CPU | 72 GPU NVIDIA Rubin dan 36 CPU NVIDIA Vera |
| Total memori GPU | 20,7 TB HBM4 |
| Bandwidth memori GPU agregat | 1.400 TB/s |
| Inferensi NVFP4 | 3.600 PFLOPS |
| Pelatihan NVFP4 | 2.520 PFLOPS |
| Pelatihan FP8/FP6 | 1.260 PFLOPS |
| Sistem switch NVLink | 9 switch NVIDIA NVLink L1 |
| Adaptor front-end / scale-out | 144+ adaptor single-port ConnectX-9 VPI pada 800 Gb/s InfiniBand/Ethernet |
| Adaptor DPU / infrastruktur | 18 adaptor dual-port BlueField-4 VPI pada 400 Gb/s InfiniBand/Ethernet |
| Perangkat lunak | NVIDIA Mission Control, NVIDIA AI Enterprise, NVIDIA DGX OS |
| Dukungan | Dukungan standar bisnis enterprise selama tiga tahun |
Catatan "informasi awal" itu penting. Ini tidak membuat lembar spesifikasi NVIDIA Vera Rubin GPU menjadi tidak dapat digunakan; artinya setiap model anggaran harus menyertakan field "terakhir diverifikasi" dan alur pembaruan sebelum menandatangani kontrak kapasitas.
Mengapa HBM4 adalah Spesifikasi yang Perlu Diperhatikan
Kata kunci sekunder "nvidia vera rubin gpu hbm4" penting karena HBM4 mengubah batas praktis untuk beban kerja inferensi dan pelatihan. Model besar jarang gagal karena angka FLOPS teoretis terlalu rendah. Mereka gagal karena deployment tidak dapat menjaga cukup parameter, aktivasi, KV cache, dan state routing tetap dekat dengan unit komputasi.
Untuk inferensi, HBM4 memengaruhi:
- Konteks panjang: ruang yang lebih besar untuk KV cache sebelum spill atau mengurangi ukuran batch.
- Beban kerja agentic: lebih banyak langkah penalaran paralel dan state panggilan alat per replikasi model.
- Routing MoE: headroom yang lebih baik untuk expert aktif dan jalur routing yang terikat memori.
- Ekonomi batch: tokens/detik yang lebih tinggi hanya berarti jika kualitas output yang diterima dan latensi tetap berada di dalam SLA.
Untuk pelatihan dan pasca-pelatihan, HBM4 memengaruhi ukuran checkpoint, strategi aktivasi, penempatan state optimizer, dan seberapa besar overhead komunikasi yang muncul ketika job membentang lintas rack. Karena itu, ringkasan pengadaan Vera Rubin harus meminta bukti bandwidth memori dan interkoneksi bersama dengan harga GPU mentah.
Apa Arti NVL72 bagi Pembeli Rack
Query "nvidia vera rubin gpu rack" biasanya berasal dari pembeli yang mencoba memetakan pengumuman chip ke infrastruktur nyata. Dalam penamaan NVIDIA, NVL72 adalah sistem skala rack dengan 72 GPU yang terhubung melalui sistem switch NVLink. Fabric scale-up itulah yang membuat platform ini lebih relevan untuk perencanaan pabrik AI daripada untuk pembelian GPU node tunggal berskala kecil.
Bagi tim cloud GPU atau colocation, NVL72 mengubah daftar pengecekan operasional:
| Area Perencanaan | Pertanyaan yang Perlu Diajukan |
|---|---|
| Daya dan pendinginan | Apakah fasilitas dapat mendukung densitas rack, asumsi pendinginan cair, dan model layanan? |
| Topologi jaringan | Apakah penyedia menawarkan fabric InfiniBand/Ethernet yang diiklankan, atau hanya instance GPU terisolasi? |
| Domain kegagalan | Apa yang terjadi ketika satu tray, switch, adaptor, atau rack gagal selama job multi-hari? |
| Penjadwalan | Apakah scheduler dapat memesan topologi NVL72 penuh, atau justru memfragmentasi penempatan GPU? |
| Penyimpanan | Apakah jalur storage dapat menyuplai rack tanpa menjadi bottleneck? |
| Isolasi tenant | Bagaimana BlueField, kebijakan jaringan, enkripsi, dan batas multi-tenant dikonfigurasi? |
| Pengujian penerimaan | Workload-specific tokens/detik, waktu langkah, checkpoint, dan tes pemulihan mana yang harus lulus sebelum produksi? |
Inilah mengapa Vera Rubin seharusnya berada di samping worksheet TCO klaster GPU Anda, bukan hanya di tabel perbandingan spesifikasi GPU.
Pelacak Ketersediaan: Apa yang Diketahui Secara Publik
Rilis Newsroom NVIDIA tanggal 31 Mei 2026 mengatakan bahwa Vera Rubin sedang memasuki produksi penuh dan pengiriman produksi dijadwalkan mulai pada musim gugur 2026. Rilis itu juga menyebutkan pembuat server, mitra storage, penyedia cloud, dan peserta ekosistem yang terkait dengan peningkatan produksi tersebut.
Itu tidak berarti setiap pembeli bisa menyewa instance GPU NVIDIA Vera Rubin pada hari pertama. "Produksi penuh" dan "tersedia di wilayah, topologi, kuota, jangka reservasi, dan stack perangkat lunak yang Anda butuhkan" adalah pencapaian yang berbeda.
Gunakan pelacak ketersediaan ini saat berbicara dengan penyedia:
| Milestone | Apa yang Perlu Dikonfirmasi |
|---|---|
| Produksi silikon / sistem | Apakah penyedia menerima sistem Vera Rubin atau hanya mengumumkan dukungan di masa depan? |
| Topologi rack | Apakah kapasitas dijual sebagai NVL72 penuh, rack parsial, klaster tenant tunggal, atau instance GPU bersama? |
| Region | Region cloud atau situs kolokasi mana yang memiliki inventaris fisik? |
| Mode jaringan | InfiniBand, Ethernet, Spectrum-X, atau fabric khusus penyedia? |
| Stack perangkat lunak | CUDA, driver, Kubernetes, Slurm, vLLM, SGLang, NCCL, observability, dan image yang didukung. |
| Model reservasi | On-demand, kapasitas berkomitmen, klaster pribadi, layanan terkelola, atau pratinjau khusus benchmark saja. |
| Jendela penerimaan | Apakah Anda bisa menjalankan benchmark dengan bentuk produksi sebelum komitmen jangka panjang? |
Jika tim Anda masih memutuskan apakah harus menunggu, bandingkan ketersediaan Vera Rubin dengan baseline cloud GPU vs API model. Jalur API model terkelola mungkin lebih cepat untuk produk yang membutuhkan kualitas output dan uptime saat ini, sementara Vera Rubin lebih menarik bagi tim yang membutuhkan kontrol langsung atas pelatihan atau infrastruktur inferensi milik sendiri.
Vera Rubin vs Blackwell: Perbedaan Praktis
Kebanyakan tim sebaiknya tidak memposisikan Vera Rubin sebagai "Blackwell tetapi lebih baru." Perbedaan praktisnya ada pada target platform.
Sistem Blackwell seperti GB200 dan GB300 mendorong inferensi dan pelatihan skala rack ke depan untuk workload reasoning. Vera Rubin melanjutkan arah skala rack tersebut dengan GPU Rubin, CPU Vera, HBM4, dan narasi platform yang lebih besar di sekitar pabrik AI agentik. NVIDIA menyatakan bahwa Vera Rubin memberikan throughput agen 10x pada skala besar dibandingkan platform Grace Blackwell generasi sebelumnya, tetapi pembeli tetap harus memvalidasinya dengan model mereka sendiri, panjang konteks, pola routing, dan profil panggilan alat.
Jika Anda membandingkan opsi pengadaan saat ini, baca Vera Rubin bersama GB200 vs B200. Pertanyaan yang berguna bukanlah "chip mana yang lebih baru?" Melainkan "topologi mana yang tersedia, sudah di-benchmark, dan layak secara finansial untuk jendela workload saya?"
Kapan Harus Menunggu Kapasitas GPU NVIDIA Vera Rubin
Menunggu kapasitas GPU NVIDIA Vera Rubin bisa masuk akal ketika:
- Anda melatih atau melakukan post-training model proprietary besar dan membutuhkan kontrol hardware full-stack.
- Workload inferensi Anda dibatasi memori dan kapasitas HBM4 mengubah batch, latensi, atau batas panjang konteks.
- Anda dapat memesan topologi skala rack alih-alih instance GPU yang terfragmentasi.
- Anda memiliki tim fasilitas, scheduler, penyimpanan, jaringan, dan reliabilitas yang siap mengoperasikan stack.
- Jendela pengadaan Anda selaras dengan kapasitas yang mulai naik pada musim gugur 2026 dan seterusnya.
Menunggu lebih berisiko ketika:
- Anda membutuhkan kapasitas produksi segera.
- Workload Anda bisa menggunakan model frontier atau open-source yang di-host melalui API.
- Anda tidak mengontrol utilisasi yang cukup untuk mengamortisasi infrastruktur skala rack.
- Bottleneck utama Anda adalah routing aplikasi, evaluasi, reliabilitas, atau atribusi biaya, bukan akses GPU mentah.
- Anda tidak bisa menjalankan benchmark penerimaan sebelum berkomitmen.
Bagi banyak tim produk, jalur paling pragmatis adalah hybrid: gunakan API model untuk workload produksi yang berhadapan langsung dengan pengguna sekarang, jalankan benchmark pada cloud GPU yang tersedia, dan pesan Vera Rubin hanya ketika benchmark membuktikan biaya per output yang diterima lebih rendah.
Daftar Periksa Pengadaan untuk Kapasitas Vera Rubin
Sebelum membeli atau memesan kapasitas Vera Rubin, mintalah penyedia untuk:
- Topologi sistem yang tepat: NVL72, POD, rack parsial, atau abstraksi instance.
- Memori GPU yang tersedia untuk workload, bukan hanya HBM4 nominal per rack.
- Detail fabric jaringan: InfiniBand, Ethernet, Spectrum-X, oversubscription, dan kebijakan lintas rack.
- Versi driver, CUDA, NCCL, scheduler, dan image container.
- Throughput storage, waktu restore checkpoint, dan proses pemulihan saat gagal.
- Jendela benchmark menggunakan model Anda sendiri, campuran prompt, panjang konteks, dan kriteria penerimaan.
- Dasar harga: per jam, reserved, committed, klaster pribadi, platform terkelola, atau kontrak enterprise.
- Ketentuan keluar jika spesifikasi publik, tanggal pengiriman, atau hasil benchmark berubah.
- Observability: utilisasi GPU per job, bandwidth memori, counter jaringan, waktu antrean, dan alokasi biaya.
- Kontrol keamanan: isolasi tenant, enkripsi, klaim confidential computing, dan artefak audit.
Padukan daftar periksa itu dengan model harga sewa GPU dan panduan sewa klaster GPU Anda agar keputusan mencakup waktu antrean, utilisasi, egress, waktu staf, dan biaya run yang gagal.
Pendapat Flatkey: Gunakan Hardware Saat Anda Membutuhkan Kontrol Hardware
GPU NVIDIA Vera Rubin penting karena menaikkan batas atas bagi tim yang membangun atau menyewa infrastruktur pabrik AI yang serius. Namun, ini tidak otomatis menjadi jalur tercepat untuk setiap tim produk AI.
Jika Anda membutuhkan kontrol hardware langsung, pelatihan kustom, penjadwalan tingkat rendah, atau topologi rack khusus, pantau Vera Rubin dengan cermat dan insist pada benchmark yang berbentuk produksi. Jika produk Anda membutuhkan akses andal ke output model, visibilitas biaya, dan fleksibilitas penyedia, layer model/API terkelola dapat menjaga roadmap tetap bergerak sambil pasokan hardware matang.
Flatkey dibangun untuk jalur kedua itu: satu kunci, satu saldo, dan routing lintas API model dan tool resmi. Gunakan ini sebagai baseline model terkelola dalam analisis Vera Rubin Anda sehingga Anda membandingkan kepemilikan GPU skala rak dengan alternatif produksi yang berfungsi, bukan dengan spreadsheet kosong.
Pertanyaan umum
Apa itu NVIDIA Vera Rubin GPU?
NVIDIA Vera Rubin GPU adalah GPU generasi Rubin di dalam platform pabrik AI NVIDIA Vera Rubin. Dalam DGX Vera Rubin NVL72, NVIDIA memasangkan 72 GPU Rubin dengan 36 CPU Vera, memori HBM4, switching NVLink, jaringan berkecepatan tinggi, dan perangkat lunak DGX enterprise.
Apa spesifikasi NVIDIA Vera Rubin GPU?
Spesifikasi awal publik DGX Vera Rubin NVL72 mencakup 72 GPU Rubin, 36 CPU Vera, 20,7 TB HBM4, bandwidth memori GPU agregat 1.400 TB/s, inferensi NVFP4 3.600 PFLOPS, dan 9 switch L1 NVLink. NVIDIA menandai nilai-nilai ini sebagai sementara dan dapat berubah.
Kapan sistem NVIDIA Vera Rubin GPU akan tersedia?
NVIDIA mengumumkan pada 31 Mei 2026 bahwa Vera Rubin sedang ditingkatkan ke produksi penuh dan pengiriman produksi dijadwalkan akan dimulai pada musim gugur 2026. Ketersediaan yang sesungguhnya masih akan bergantung pada inventaris penyedia, wilayah, topologi, dan ketentuan kontrak.
Apakah Vera Rubin adalah satu GPU atau sistem rak?
Pencari sering menyebutnya "NVIDIA Vera Rubin GPU," tetapi pembeli sebaiknya mengevaluasinya sebagai sebuah platform. Sistem publik utama adalah DGX Vera Rubin NVL72, sebuah sistem skala rak dengan 72 GPU Rubin, CPU Vera, switching NVLink, jaringan, dan perangkat lunak.
Haruskah saya menunggu Vera Rubin atau menggunakan model API?
Tunggu Vera Rubin jika beban kerja Anda memerlukan kontrol perangkat keras langsung, pelatihan proprietari, atau topologi skala rak. Gunakan model API jika Anda membutuhkan output produksi sekarang dan batasan utama Anda adalah keandalan, routing, penagihan, dan evaluasi, bukan memiliki infrastruktur GPU.
Sumber yang Dicek
- Halaman produk dan spesifikasi NVIDIA DGX Vera Rubin NVL72: https://www.nvidia.com/en-us/data-center/dgx-vera-rubin-nvl72/
- NVIDIA Newsroom, "NVIDIA Vera Rubin Ramps Into Full Production to Power Agentic AI Factories Worldwide," 31 Mei 2026: https://nvidianews.nvidia.com/news/vera-rubin-full-production-agentic-ai-factory
- Peta topik dan konteks kampanye Flatkey Cloud GPU:
seo/flatkey-cloud-gpu-topic-map-current.csv
