Infrastruktur AI Berdaulat: Model, Residensi Data, dan Kendali Komputasi (Panduan 2026)
Infrastruktur AI berdaulat adalah perpaduan komputasi, data, model, dan operasi yang dikendalikan suatu negara atau organisasi berdasarkan hukumnya sendiri, alih-alih bergantung pada layanan yang dikendalikan pihak asing. Dalam praktiknya, ini mencakup empat hal: GPU yang berada di yurisdiksi pilihan, data yang tetap berada di sana, model yang dapat Anda jalankan dan audit sendiri (biasanya dengan bobot terbuka), serta operator yang tunduk pada hukum setempat. Sebagian besar perusahaan tidak memerlukan kedaulatan penuh; yang mereka perlukan adalah tingkat kendali yang tepat untuk setiap beban kerja.
Panduan ini ditujukan bagi tim AI perusahaan, infrastruktur, dan pengadaan yang mendapat tugas untuk "mewujudkan AI berdaulat bagi perusahaan kita." Panduan ini mendefinisikan istilah tersebut, menjelaskan regulasi yang mendorongnya per Oktober 2026, menguraikan lima tingkat kendali dari API publik hingga klaster yang terisolasi dari jaringan eksternal, serta memberikan contoh perhitungan kapasitas dan biaya untuk penerapan GPU dalam negeri.
Apa itu AI berdaulat?
NVIDIA menggambarkan AI berdaulat sebagai upaya negara membangun AI "menggunakan infrastruktur, data, talenta, dan jaringan bisnis nasional, dengan cara yang sesuai dengan bahasa, budaya, dan regulasi mereka," dengan model yang "dihosting dan dijalankan pada infrastruktur lokal, serta hanya tunduk pada hukum setempat" (NVIDIA). Red Hat menjelaskannya dari sudut pandang perusahaan: kendali atas lokasi AI dijalankan, siapa yang dapat mengaksesnya, serta komponen mana yang dapat Anda periksa dan ganti.
Istilah ini mencakup dua tujuan yang saling berkaitan:
- AI berdaulat nasional: suatu negara membangun kapasitas komputasi dalam negeri, model berbahasa lokal, dan talenta agar layanan penting tidak bergantung pada penyedia asing.
- AI berdaulat perusahaan: suatu organisasi menjaga agar data yang diatur regulasi, model, dan operasi AI tetap berada di bawah yurisdiksi dan kontrak yang dipilihnya.
Keduanya bertumpu pada lapisan infrastruktur yang sama.
Empat lapisan infrastruktur AI berdaulat
| Lapisan | Arti "berdaulat" | Kendali yang umum diterapkan |
|---|---|---|
| Komputasi | GPU berada di negara pilihan dan dioperasikan oleh entitas yang tunduk pada hukum negara tersebut | Pusat data dalam negeri, klaster GPU khusus atau privat, region cloud berdaulat |
| Data | Data pelatihan, prompt, keluaran, log, dan cadangan tetap berada di yurisdiksi tersebut | Kontrak residensi data, penyimpanan regional, enkripsi dengan kunci yang dipegang pelanggan |
| Model | Anda dapat menjalankan, memeriksa, melakukan fine-tuning, dan terus menggunakan model tanpa persetujuan vendor asing | Model berbobot terbuka (Llama, Mistral, Qwen, DeepSeek) yang dihosting sendiri; atau jaminan kontraktual untuk model tertutup |
| Operasi | Administrator, staf dukungan, dan subprosesor berada di dalam negeri dan dapat diaudit | Personel dukungan lokal, pencatatan akses, hak audit independen, rencana keluar dari layanan |
Tingkat kedaulatan suatu penerapan ditentukan oleh lapisannya yang paling lemah. GPU dalam negeri tidak membantu jika prompt dicatat ke layanan pemantauan di luar negeri, dan model lokal tidak membantu jika satu-satunya akses administrator harus melalui tim dukungan penyedia asing.
Mengapa kedaulatan menjadi agenda pada 2026
Tiga faktor menjadikan hal ini persoalan pengadaan, bukan sekadar perdebatan kebijakan:
- Tenggat EU AI Act. Menurut linimasa penerapan AI Act (terakhir diperbarui 31 Agustus 2026), sebagian besar ketentuan yang tersisa mulai berlaku pada 2 Agustus 2026; penyedia model AI serbaguna yang sudah beredar di pasar sebelum 2 Agustus 2025 wajib mematuhinya paling lambat 2 Agustus 2027; dan kewajiban bagi sistem berisiko tinggi dalam Lampiran III mulai berlaku pada 2 Desember 2027. Organisasi memerlukan jejak audit dan dokumentasi yang berada di bawah kendali mereka.
- Aturan data lintas negara. Berdasarkan GDPR, data pribadi hanya dapat mengalir bebas ke negara yang memiliki keputusan kecukupan perlindungan data dari Uni Eropa; transfer lainnya memerlukan langkah perlindungan. Sementara itu, CLOUD Act AS (Maret 2018) memberi otoritas AS jalur untuk meminta data yang disimpan penyedia berbasis di AS. Karena itu, pembeli di Uni Eropa menanyakan siapa yang mengoperasikan suatu layanan, bukan hanya di mana layanan itu dijalankan.
- Risiko vendor dan pasokan. Penghentian dukungan model, perubahan harga, perubahan kebijakan penggunaan, dan kontrol ekspor GPU dapat mengganggu produk yang dibangun di atas satu API asing.
Penyedia cloud merespons dengan menawarkan layanan berdaulat: AWS meluncurkan AWS European Sovereign Cloud sebagai cloud independen untuk Eropa; EU Data Boundary dari Microsoft berkomitmen menyimpan dan memproses data pelanggan layanan perusahaannya di dalam Uni Eropa; Oracle memasarkan opsi cloud berdaulat dengan kendali atas lokasi, akses, dan operasi.
Lima tingkat kedaulatan AI
Pilih tingkat untuk setiap beban kerja, bukan satu tingkat untuk seluruh perusahaan.
| Tingkat | Konfigurasi | Residensi data | Kendali model | Kendali operasi | Cocok untuk |
|---|---|---|---|---|---|
| 1. API publik | Endpoint global penyedia model | Ditentukan penyedia | Tidak ada | Penyedia | Konten publik, prototipe |
| 2. API regional | Penyedia yang sama dengan pemrosesan regional atau dalam negeri (misalnya inferensi Claude khusus AS dengan tarif 1.1x, endpoint residensi data regional OpenAI dengan tambahan +10%) | Region sesuai kontrak | Tidak ada | Penyedia | Sebagian besar data bisnis internal |
| 3. Cloud berdaulat | Hosting model di region berdaulat yang dioperasikan oleh entitas lokal | Dalam negeri | Terbatas (model dalam katalog) | Operator lokal | Industri yang diatur regulasi, sektor publik |
| 4. GPU khusus dalam negeri | Klaster GPU sewaan atau yang kapasitasnya dipesan di negara pilihan Anda, menjalankan model berbobot terbuka yang Anda terapkan | Dalam negeri, penyimpanan milik Anda | Penuh | Anda, beserta operator pusat data | Kesehatan, keuangan, pemasok sektor pertahanan, LLM nasional |
| 5. Di lokasi sendiri atau terisolasi dari jaringan eksternal | Perangkat keras milik sendiri, tanpa jaringan eksternal | Lokasi Anda | Penuh | Anda | Beban kerja rahasia negara atau yang aksesnya sangat dibatasi |
Angka harga pada tingkat 2 berasal dari halaman harga Claude resmi dan halaman harga OpenAI per Oktober 2026: pemrosesan regional biasanya sekitar 10 persen lebih mahal daripada pemrosesan global. Pada tingkat 4 dan 5, biaya tambahan tersebut digantikan oleh kapasitas GPU yang harus Anda jaga agar terus terpakai.
Merancang stack AI berdaulat
Komputasi
Untuk inferensi dan fine-tuning yang dihosting sendiri, pilihan praktis pada Oktober 2026 adalah NVIDIA H100, H200, B200, dan B300, serta akselerator seri AMD MI300. Memori menentukan seberapa besar model yang dapat dimuat pada setiap GPU; lihat perbandingan H200 vs H100 dan kebutuhan memori GPU untuk LLM kami. Untuk desain klaster (jaringan, penyimpanan, penjadwalan), lihat arsitektur klaster GPU dan cloud GPU privat.
Pertanyaan yang perlu diajukan kepada setiap penyedia GPU untuk penerapan berdaulat:
- Entitas hukum mana yang mengoperasikan pusat data, dan tunduk pada hukum negara mana?
- Bisakah fasilitas dan region yang tepat dicantumkan dalam kontrak?
- Siapa yang memiliki akses fisik dan akses administratif jarak jauh, dan apakah akses tersebut dicatat?
- Ke mana cadangan, log, dan data pemantauan dikirim?
- Bisakah Anda membawa data dan disk Anda saat mengakhiri layanan?
Model
Model berbobot terbuka menjadi fondasi kedaulatan tingkat 4 dan 5 karena Anda dapat menghostingnya di mana saja dan terus menggunakannya jika vendor mengubah ketentuan. Pilihan yang umum mencakup model Mistral (dikembangkan di Prancis), keluarga Llama dari Meta, serta rilis terbuka Qwen dan DeepSeek. Periksa batasan penggunaan komersial pada setiap lisensi, dan evaluasi kualitas bahasa lokal menggunakan data Anda sendiri.
Penyajian model
Server inferensi yang kompatibel dengan OpenAI memungkinkan aplikasi beralih antara model berdaulat yang dihosting sendiri dan API publik dengan mengubah satu URL. Dengan vLLM:
docker run --gpus all -p 8000:8000 \
-v /data/models:/models \
vllm/vllm-openai:latest \
--model /models/your-open-weight-model \
--tensor-parallel-size 2 \
--max-model-len 32768
from openai import OpenAI
# Sovereign endpoint inside your in-country cluster
client = OpenAI(base_url="http://inference.internal:8000/v1", api_key="local-token")
r = client.chat.completions.create(
model="/models/your-open-weight-model",
messages=[{"role": "user", "content": "Summarize this contract clause."}],
)
print(r.choices[0].message.content)
Simpan URL dasar dalam konfigurasi agar beban kerja yang tidak sensitif dapat menggunakan API regional atau publik, sementara beban kerja yang diatur regulasi tetap menggunakan endpoint berdaulat. Panduan kami tentang server inferensi yang kompatibel dengan OpenAI membandingkan vLLM, SGLang, dan lainnya.
Data dan operasi
- Simpan prompt, keluaran, basis data vektor, dan log di yurisdiksi yang sama dengan model.
- Gunakan kunci enkripsi yang dikelola pelanggan dan disimpan di dalam negeri.
- Kirim data observabilitas ke stack yang dihosting secara lokal, bukan ke SaaS asing.
- Dokumentasikan subprosesor; daftar periksa DPA gateway AI kami memuat klausul yang perlu Anda minta.
Contoh biaya: layanan inferensi berdaulat kelas 70B
Berdasarkan indeks pasar Flatkey Compute pada 23 Oktober 2026 (diperbarui pukul 02:01 UTC), harga acuan kapasitas H200 adalah $3.65 per jam GPU untuk penggunaan sesuai permintaan dan $2.74 dengan kontrak 1 tahun, sedangkan H100 masing-masing $2.64 dan $1.98.
Model berbobot terbuka kelas 70B dalam FP8 memerlukan sekitar 70GB untuk bobot. Satu H200 (141GB) menyisakan ruang untuk cache KV; untuk redundansi, Anda perlu menjalankan setidaknya dua replika.
| Opsi | GPU | Per jam (indeks) | Per bulan (730 jam) |
|---|---|---|---|
| 2x H200, sesuai permintaan | 2 | $7.30 | sekitar $5,329 |
| 2x H200, kontrak 1 tahun | 2 | $5.48 | sekitar $4,000 |
| 4x H100 (2 replika x 2 GPU), kontrak 1 tahun | 4 | $7.92 | sekitar $5,782 |
Tambahkan biaya penyimpanan, jaringan, pemantauan, dan waktu kerja staf; panduan TCO klaster GPU kami menyediakan lembar perhitungan lengkap. Bandingkan hasilnya dengan perkiraan pengeluaran API Anda pada tingkat 2: jika biaya API regional lebih rendah daripada klaster dan memenuhi persyaratan hukum Anda, biasanya itulah pilihan yang lebih baik. Harga indeks merupakan acuan; harga aktual dalam negeri bervariasi menurut negara dan jangka kontrak, serta dipastikan melalui penawaran harga.
Daftar periksa kesiapan AI berdaulat
- Kelompokkan beban kerja berdasarkan sensitivitas data dan persyaratan hukum, lalu tetapkan tingkat kedaulatan untuk masing-masing.
- Petakan setiap aliran data: prompt, keluaran, embedding, log, cadangan, telemetri.
- Pilih model yang secara hukum dapat Anda jalankan di yurisdiksi tujuan dan uji kualitas bahasa lokalnya.
- Pilih layanan komputasi yang mencantumkan fasilitas, operator, dan ketentuan pengakhiran layanan secara jelas.
- Sediakan endpoint yang kompatibel dengan OpenAI sebagai antarmuka setiap model agar aplikasi dapat berpindah antar tingkat.
- Simpan bukti audit (log akses, versi model, hasil evaluasi) di bawah kendali Anda sendiri untuk audit AI Act dan audit sektoral.
- Tinjau rencana setiap enam bulan; pilihan API regional dan harga GPU berubah dengan cepat.
Pertanyaan umum
Apa itu AI berdaulat?
AI yang dibangun dan dijalankan menggunakan infrastruktur, data, dan model yang dikendalikan suatu negara atau organisasi berdasarkan hukumnya sendiri. Cakupannya meliputi komputasi dalam negeri, residensi data, model yang dapat Anda jalankan dan audit (sering kali berbobot terbuka), serta operasi yang bertanggung jawab secara hukum di dalam negeri.
Apa itu infrastruktur AI berdaulat?
Lapisan fisik dan perangkat lunak yang memungkinkan terwujudnya AI berdaulat: pusat data GPU dalam negeri, penyimpanan dan jaringan regional, stack penyajian model, serta kendali operasional dan kontrak yang menjaga agar akses tetap berada di bawah yurisdiksi setempat.
Negara mana saja yang memiliki program AI berdaulat?
Banyak. Contoh dari NVIDIA mencakup Prancis (agen AI layanan publik untuk Kementerian Ekonomi dan Keuangan), India (model multibahasa Sarvam pada infrastruktur dalam negeri, berdampingan dengan program IndiaAI pemerintah), dan Brasil (AI layanan hukum di Rio Grande do Sul). Negara-negara di Eropa, Timur Tengah, dan Asia mendanai komputasi nasional dan model berbahasa lokal.
Siapa saja perusahaan infrastruktur AI terkemuka?
Nama yang kerap disebut sebagai pemimpin adalah NVIDIA dan AMD untuk akselerator; AWS, Microsoft Azure, Google Cloud, dan Oracle untuk cloud dan region cloud berdaulat; serta spesialis GPU seperti CoreWeave dan Lambda untuk kapasitas khusus. Untuk proyek berdaulat, yurisdiksi operator sama pentingnya dengan mereknya.
Apakah residensi data sama dengan kedaulatan data?
Tidak. Residensi data berarti data disimpan di lokasi tertentu. Kedaulatan data berarti data tunduk pada hukum lokasi tersebut dan dikendalikan oleh pihak-pihak yang tunduk pada hukum itu. Layanan yang dioperasikan dari AS dapat menawarkan residensi di Uni Eropa, tetapi tetap dapat dijangkau melalui proses hukum AS.
Apakah saya memerlukan GPU sendiri untuk AI berdaulat?
Tidak selalu. Endpoint API regional atau region cloud berdaulat sudah memadai untuk banyak beban kerja. GPU khusus dalam negeri masuk akal ketika Anda memerlukan kendali penuh atas model, harus menjaga seluruh data dan operasi tetap lokal, atau memiliki volume penggunaan stabil yang membuat klaster terus terpakai.
