Hạ tầng AI có chủ quyền: Mô hình, lưu trú dữ liệu và kiểm soát tài nguyên tính toán (Hướng dẫn 2026)
Hạ tầng AI có chủ quyền là sự kết hợp giữa tài nguyên tính toán, dữ liệu, mô hình và hoạt động vận hành mà một quốc gia hoặc tổ chức kiểm soát theo pháp luật của mình, thay vì phụ thuộc vào các dịch vụ do nước ngoài kiểm soát. Trên thực tế, điều này bao gồm bốn yếu tố: GPU đặt trong phạm vi tài phán đã chọn, dữ liệu được giữ tại đó, mô hình bạn có thể tự chạy và kiểm toán (thường là mô hình có trọng số mở), cùng các đơn vị vận hành chịu sự điều chỉnh của pháp luật sở tại. Phần lớn doanh nghiệp không cần chủ quyền toàn diện; họ cần mức độ kiểm soát phù hợp cho từng khối lượng công việc.
Hướng dẫn này dành cho các đội ngũ AI, hạ tầng và mua sắm của doanh nghiệp được giao nhiệm vụ "bảo đảm chủ quyền cho hệ thống AI của chúng ta". Bài viết định nghĩa khái niệm, giải thích các quy định thúc đẩy nhu cầu này tính đến tháng 10 năm 2026, trình bày năm cấp độ kiểm soát từ API công cộng đến cụm máy tính cách ly mạng, đồng thời đưa ra ví dụ về quy mô cấu hình và chi phí triển khai GPU trong nước.
AI có chủ quyền là gì?
NVIDIA mô tả AI có chủ quyền là việc các quốc gia xây dựng AI "bằng hạ tầng, dữ liệu, nhân tài và mạng lưới doanh nghiệp trong nước, theo cách phù hợp với ngôn ngữ, văn hóa và quy định của mình", với các mô hình "được lưu trữ và chạy trên hạ tầng trong nước, chỉ chịu sự điều chỉnh của pháp luật sở tại" (NVIDIA). Red Hat nhìn nhận khái niệm này từ góc độ doanh nghiệp: kiểm soát nơi AI chạy, ai có quyền truy cập và những thành phần nào bạn có thể kiểm tra, thay thế.
Khái niệm này bao hàm hai mục tiêu liên quan:
- AI có chủ quyền ở cấp quốc gia: một quốc gia xây dựng năng lực tính toán trong nước, mô hình ngôn ngữ bản địa và đội ngũ nhân lực để các dịch vụ thiết yếu không phụ thuộc vào nhà cung cấp nước ngoài.
- AI có chủ quyền ở cấp doanh nghiệp: một tổ chức duy trì dữ liệu thuộc diện quản lý, mô hình và hoạt động AI trong phạm vi các khu vực tài phán và hợp đồng do mình lựa chọn.
Cả hai đều dựa trên cùng những lớp hạ tầng.
Bốn lớp của hạ tầng AI có chủ quyền
| Lớp | Ý nghĩa của "có chủ quyền" | Biện pháp kiểm soát phổ biến |
|---|---|---|
| Tính toán | GPU đặt tại quốc gia đã chọn, do một đơn vị chịu sự điều chỉnh của pháp luật quốc gia đó vận hành | Trung tâm dữ liệu trong nước, cụm GPU chuyên dụng hoặc riêng, vùng đám mây có chủ quyền |
| Dữ liệu | Dữ liệu huấn luyện, câu lệnh đầu vào, kết quả đầu ra, nhật ký và bản sao lưu được giữ trong phạm vi tài phán | Hợp đồng về lưu trú dữ liệu, lưu trữ theo khu vực, mã hóa bằng khóa do khách hàng nắm giữ |
| Mô hình | Bạn có thể chạy, kiểm tra, tinh chỉnh và tiếp tục sử dụng mô hình mà không cần nhà cung cấp nước ngoài đồng ý | Tự lưu trữ các mô hình có trọng số mở (Llama, Mistral, Qwen, DeepSeek); hoặc có bảo đảm bằng hợp đồng đối với mô hình đóng |
| Vận hành | Quản trị viên, nhân viên hỗ trợ và bên xử lý phụ đều ở trong nước và có thể được kiểm toán | Nhân sự hỗ trợ trong nước, ghi nhật ký truy cập, quyền kiểm toán độc lập, kế hoạch chấm dứt sử dụng dịch vụ |
Mức độ chủ quyền của một hệ thống triển khai bị giới hạn bởi lớp yếu nhất. GPU trong nước không giúp ích nếu câu lệnh đầu vào được ghi vào một dịch vụ giám sát ở nước ngoài; tương tự, mô hình trong nước không giúp ích nếu mọi quyền truy cập quản trị đều phải thông qua đội hỗ trợ của nhà cung cấp nước ngoài.
Vì sao chủ quyền AI trở thành ưu tiên trong năm 2026
Ba yếu tố khiến vấn đề này trở thành một yêu cầu mua sắm cụ thể thay vì chỉ là tranh luận chính sách:
- Các thời hạn của EU AI Act. Theo lộ trình triển khai AI Act (cập nhật lần cuối ngày 31 tháng 8 năm 2026), phần lớn các điều khoản còn lại bắt đầu áp dụng từ ngày 2 tháng 8 năm 2026; nhà cung cấp mô hình AI đa dụng đã có mặt trên thị trường trước ngày 2 tháng 8 năm 2025 phải tuân thủ trước ngày 2 tháng 8 năm 2027; và nghĩa vụ đối với các hệ thống rủi ro cao thuộc Phụ lục III bắt đầu từ ngày 2 tháng 12 năm 2027. Các tổ chức cần hồ sơ truy vết kiểm toán và tài liệu do chính mình kiểm soát.
- Quy định về dữ liệu xuyên biên giới. Theo GDPR, dữ liệu cá nhân chỉ có thể được chuyển tự do đến những quốc gia được EU ban hành quyết định công nhận mức độ bảo vệ dữ liệu đầy đủ; các hoạt động chuyển dữ liệu khác cần có biện pháp bảo đảm. Trong khi đó, CLOUD Act của Mỹ (tháng 3 năm 2018) tạo cơ sở để cơ quan chức năng Mỹ yêu cầu cung cấp dữ liệu do nhà cung cấp đặt tại Mỹ nắm giữ. Vì vậy, bên mua tại EU quan tâm đến đơn vị vận hành dịch vụ, chứ không chỉ nơi dịch vụ chạy.
- Rủi ro từ nhà cung cấp và nguồn cung. Việc ngừng cung cấp mô hình, thay đổi giá, thay đổi chính sách sử dụng và các biện pháp kiểm soát xuất khẩu GPU đều có thể làm gián đoạn một sản phẩm xây dựng trên một API nước ngoài duy nhất.
Các nhà cung cấp đám mây đã đáp ứng bằng những dịch vụ có chủ quyền: AWS ra mắt AWS European Sovereign Cloud như một đám mây độc lập cho châu Âu; EU Data Boundary của Microsoft cam kết lưu trữ và xử lý dữ liệu khách hàng của các dịch vụ doanh nghiệp trong phạm vi EU; Oracle cung cấp các lựa chọn đám mây có chủ quyền với khả năng kiểm soát vị trí, quyền truy cập và hoạt động vận hành.
Năm cấp độ chủ quyền AI
Hãy chọn cấp độ cho từng khối lượng công việc, thay vì áp dụng một cấp độ cho toàn công ty.
| Cấp độ | Cấu hình triển khai | Lưu trú dữ liệu | Kiểm soát mô hình | Kiểm soát vận hành | Phù hợp với |
|---|---|---|---|---|---|
| 1. API công cộng | Điểm cuối toàn cầu của nhà cung cấp mô hình | Do nhà cung cấp lựa chọn | Không có | Nhà cung cấp | Nội dung công khai, bản mẫu thử nghiệm |
| 2. API khu vực | Cùng nhà cung cấp nhưng xử lý theo khu vực hoặc trong nước (ví dụ: suy luận chỉ tại Mỹ của Claude với giá 1.1x, các điểm cuối lưu trú dữ liệu theo khu vực của OpenAI với giá +10%) | Khu vực được quy định trong hợp đồng | Không có | Nhà cung cấp | Phần lớn dữ liệu kinh doanh nội bộ |
| 3. Đám mây có chủ quyền | Lưu trữ mô hình trong một vùng có chủ quyền do đơn vị trong nước vận hành | Trong nước | Hạn chế (mô hình trong danh mục) | Đơn vị vận hành trong nước | Các ngành chịu sự quản lý chuyên ngành, khu vực công |
| 4. GPU chuyên dụng trong nước | Cụm GPU thuê hoặc đặt trước tại quốc gia bạn chọn, chạy các mô hình có trọng số mở do bạn triển khai | Trong nước, trên hệ thống lưu trữ của bạn | Toàn bộ | Bạn và đơn vị vận hành trung tâm dữ liệu | Y tế, tài chính, nhà cung cấp cho lĩnh vực quốc phòng, LLM quốc gia |
| 5. Tại chỗ hoặc cách ly mạng | Phần cứng của riêng bạn, không kết nối mạng bên ngoài | Tại cơ sở của bạn | Toàn bộ | Bạn | Khối lượng công việc có dữ liệu mật hoặc bị hạn chế nghiêm ngặt |
Các mức giá ở cấp độ 2 lấy từ trang giá Claude chính thức và trang giá của OpenAI tính đến tháng 10 năm 2026: xử lý theo khu vực thường đắt hơn xử lý toàn cầu khoảng 10 phần trăm. Với cấp độ 4 và 5, khoản phụ phí đó được thay bằng công suất GPU mà bạn phải duy trì mức sử dụng đủ cao.
Thiết kế hệ thống AI có chủ quyền
Tính toán
Đối với suy luận và tinh chỉnh trên hạ tầng tự lưu trữ, các lựa chọn thực tế vào tháng 10 năm 2026 là NVIDIA H100, H200, B200 và B300, cùng các bộ tăng tốc dòng AMD MI300. Dung lượng bộ nhớ quyết định kích thước mô hình có thể chạy trên mỗi GPU; xem bài so sánh H200 và H100 và yêu cầu bộ nhớ GPU cho LLM của chúng tôi. Để thiết kế cụm máy tính (mạng, lưu trữ, lập lịch), xem kiến trúc cụm GPU và đám mây GPU riêng.
Những câu hỏi cần đặt ra cho mọi nhà cung cấp GPU khi triển khai hệ thống có chủ quyền:
- Pháp nhân nào vận hành trung tâm dữ liệu và chịu sự điều chỉnh của pháp luật quốc gia nào?
- Hợp đồng có thể ghi rõ cơ sở và khu vực cụ thể không?
- Ai có quyền tiếp cận vật lý và truy cập quản trị từ xa, và các hoạt động này có được ghi nhật ký không?
- Bản sao lưu, nhật ký và dữ liệu giám sát được chuyển đến đâu?
- Khi chấm dứt dịch vụ, bạn có thể mang theo dữ liệu và ổ đĩa của mình không?
Mô hình
Các mô hình có trọng số mở là nền tảng của chủ quyền ở cấp độ 4 và 5 vì bạn có thể lưu trữ chúng ở bất kỳ đâu và tiếp tục sử dụng nếu nhà cung cấp thay đổi điều khoản. Những lựa chọn phổ biến gồm các mô hình Mistral (được phát triển tại Pháp), dòng Llama của Meta, cùng các bản phát hành mở của Qwen và DeepSeek. Hãy kiểm tra giới hạn sử dụng thương mại trong từng giấy phép và đánh giá chất lượng ngôn ngữ bản địa bằng dữ liệu của chính bạn.
Phục vụ mô hình
Máy chủ suy luận tương thích với OpenAI cho phép ứng dụng chuyển đổi giữa mô hình có chủ quyền do bạn tự lưu trữ và API công cộng chỉ bằng cách thay đổi một URL. Với vLLM:
docker run --gpus all -p 8000:8000 \
-v /data/models:/models \
vllm/vllm-openai:latest \
--model /models/your-open-weight-model \
--tensor-parallel-size 2 \
--max-model-len 32768
from openai import OpenAI
# Sovereign endpoint inside your in-country cluster
client = OpenAI(base_url="http://inference.internal:8000/v1", api_key="local-token")
r = client.chat.completions.create(
model="/models/your-open-weight-model",
messages=[{"role": "user", "content": "Summarize this contract clause."}],
)
print(r.choices[0].message.content)
Hãy đặt URL cơ sở trong cấu hình để các khối lượng công việc không nhạy cảm có thể dùng API khu vực hoặc API công cộng, còn các khối lượng công việc thuộc diện quản lý vẫn sử dụng điểm cuối có chủ quyền. Hướng dẫn về máy chủ suy luận tương thích với OpenAI của chúng tôi so sánh vLLM, SGLang và các lựa chọn khác.
Dữ liệu và vận hành
- Giữ câu lệnh đầu vào, kết quả đầu ra, cơ sở dữ liệu vectơ và nhật ký trong cùng phạm vi tài phán với mô hình.
- Sử dụng khóa mã hóa do khách hàng quản lý và lưu trong nước.
- Gửi dữ liệu quan sát hệ thống đến một hệ thống tự lưu trữ trong nước, thay vì dịch vụ SaaS nước ngoài.
- Lập hồ sơ các bên xử lý phụ; danh sách kiểm tra DPA cho cổng AI của chúng tôi liệt kê các điều khoản cần yêu cầu.
Ví dụ chi phí: dịch vụ suy luận có chủ quyền cho mô hình cỡ 70B
Theo chỉ số thị trường Flatkey Compute ngày 23 tháng 10 năm 2026 (cập nhật lúc 02:01 UTC), giá tham chiếu của H200 là $3.65 cho mỗi GPU-giờ khi thuê theo nhu cầu và $2.74 với kỳ hạn 1 năm; giá H100 tương ứng là $2.64 và $1.98.
Một mô hình có trọng số mở cỡ 70B ở định dạng FP8 cần khoảng 70GB để lưu trọng số. Một H200 (141GB) vẫn còn chỗ cho bộ nhớ đệm KV; để có khả năng dự phòng, bạn nên chạy ít nhất hai bản sao.
| Phương án | Số GPU | Theo giờ (chỉ số) | Theo tháng (730 giờ) |
|---|---|---|---|
| 2x H200, thuê theo nhu cầu | 2 | $7.30 | khoảng $5,329 |
| 2x H200, kỳ hạn 1 năm | 2 | $5.48 | khoảng $4,000 |
| 4x H100 (2 bản sao x 2 GPU), kỳ hạn 1 năm | 4 | $7.92 | khoảng $5,782 |
Cần cộng thêm chi phí lưu trữ, mạng, giám sát và thời gian nhân sự; hướng dẫn TCO cho cụm GPU của chúng tôi có bảng tính đầy đủ. Hãy so sánh tổng chi phí đó với khoản chi API dự kiến ở cấp độ 2: nếu API khu vực có chi phí thấp hơn cụm GPU và đáp ứng yêu cầu pháp lý của bạn, đó thường là lựa chọn tốt hơn. Giá chỉ số là mức tham chiếu; giá thực tế trong nước thay đổi theo quốc gia và kỳ hạn, được xác nhận trong báo giá.
Danh sách kiểm tra mức độ sẵn sàng triển khai AI có chủ quyền
- Phân loại khối lượng công việc theo mức độ nhạy cảm của dữ liệu và yêu cầu pháp lý, sau đó gán cấp độ chủ quyền cho từng loại.
- Lập bản đồ mọi luồng dữ liệu: câu lệnh đầu vào, kết quả đầu ra, biểu diễn nhúng, nhật ký, bản sao lưu, dữ liệu đo từ xa.
- Chọn các mô hình bạn được phép chạy theo pháp luật tại khu vực tài phán mục tiêu và kiểm tra chất lượng ngôn ngữ bản địa của chúng.
- Chọn tài nguyên tính toán với cơ sở, đơn vị vận hành và điều khoản chấm dứt dịch vụ được xác định rõ.
- Đặt một điểm cuối tương thích với OpenAI trước mỗi mô hình để ứng dụng có thể chuyển đổi giữa các cấp độ.
- Giữ bằng chứng kiểm toán (nhật ký truy cập, phiên bản mô hình, kết quả đánh giá) dưới quyền kiểm soát của bạn để phục vụ kiểm toán theo AI Act và quy định chuyên ngành.
- Rà soát kế hoạch sáu tháng một lần; các lựa chọn API khu vực và giá GPU thay đổi nhanh chóng.
Câu hỏi thường gặp
AI có chủ quyền là gì?
Đó là AI được xây dựng và vận hành trên hạ tầng, dữ liệu và mô hình mà một quốc gia hoặc tổ chức kiểm soát theo pháp luật của mình. Khái niệm này bao gồm tài nguyên tính toán trong nước, lưu trú dữ liệu, mô hình bạn có thể chạy và kiểm toán (thường là mô hình có trọng số mở), cùng hoạt động vận hành chịu trách nhiệm theo pháp luật sở tại.
Hạ tầng AI có chủ quyền là gì?
Đó là các lớp phần cứng và phần mềm giúp triển khai AI có chủ quyền: trung tâm dữ liệu GPU trong nước, hệ thống lưu trữ và mạng theo khu vực, hệ thống phục vụ mô hình, cùng các biện pháp kiểm soát vận hành và hợp đồng bảo đảm quyền truy cập nằm trong phạm vi tài phán sở tại.
Những quốc gia nào có chương trình AI có chủ quyền?
Có nhiều quốc gia. Các ví dụ của NVIDIA gồm Pháp (tác nhân AI phục vụ dịch vụ công cho Bộ Kinh tế và Tài chính), Ấn Độ (các mô hình đa ngôn ngữ của Sarvam trên hạ tầng trong nước, song hành với chương trình IndiaAI của chính phủ) và Brazil (AI cho dịch vụ pháp lý tại Rio Grande do Sul). Các quốc gia khắp châu Âu, Trung Đông và châu Á đang tài trợ cho năng lực tính toán quốc gia và mô hình ngôn ngữ bản địa.
Những công ty nào dẫn đầu về hạ tầng AI?
Những tên tuổi thường được nhắc đến gồm NVIDIA và AMD về bộ tăng tốc; AWS, Microsoft Azure, Google Cloud và Oracle về đám mây và các vùng đám mây có chủ quyền; cùng các nhà cung cấp chuyên về GPU như CoreWeave và Lambda về công suất chuyên dụng. Với các dự án có chủ quyền, phạm vi tài phán của đơn vị vận hành quan trọng ngang với thương hiệu.
Lưu trú dữ liệu có đồng nghĩa với chủ quyền dữ liệu không?
Không. Lưu trú dữ liệu nghĩa là dữ liệu được lưu ở một địa điểm cụ thể. Chủ quyền dữ liệu nghĩa là dữ liệu chịu sự điều chỉnh của pháp luật tại địa điểm đó và do các bên chịu sự điều chỉnh của pháp luật ấy kiểm soát. Một dịch vụ do đơn vị Mỹ vận hành có thể cung cấp khả năng lưu trú dữ liệu tại EU nhưng vẫn thuộc phạm vi áp dụng của thủ tục pháp lý Mỹ.
Tôi có cần GPU riêng để triển khai AI có chủ quyền không?
Không phải lúc nào cũng cần. Điểm cuối API khu vực hoặc vùng đám mây có chủ quyền là đủ cho nhiều khối lượng công việc. GPU chuyên dụng trong nước phù hợp khi bạn cần kiểm soát hoàn toàn mô hình, phải giữ toàn bộ dữ liệu và hoạt động vận hành trong nước, hoặc có khối lượng xử lý ổn định để duy trì mức sử dụng cao cho cụm GPU.
