Giá GPU H200: Mức giá, yếu tố chi phí và hướng dẫn mua

Giá GPU H200: Mức giá, yếu tố chi phí và hướng dẫn mua

Cập nhật lần cuối: ngày 22 tháng 10 năm 2026. Mọi số tiền đều tính bằng USD. Giá công khai thay đổi thường xuyên; hãy xác minh nguồn trực tiếp và cấu hình chính xác trước khi mua hoặc đặt trước năng lực.

Nếu bạn đang tìm giá GPU H200, trước hết hãy xác định chính xác bạn đang định giá thứ gì. Một card H200 NVL PCIe đơn lẻ, một hệ thống H200 kiểu HGX/DGX, một phiên bản đám mây tám GPU và một worker H200 serverless là các sản phẩm khác nhau với cấu trúc chi phí khác nhau.

Các ví dụ công khai hiện tại dưới đây cho thấy vì sao một con số tiêu đề duy nhất có thể gây hiểu lầm:

• Một niêm yết công khai cho card H200 NVL có thể ở mức khoảng $34,500 mỗi card cho đơn hàng từ bốn đến bảy card, trong khi niêm yết cho một đến ba card có thể là $42,651 mỗi card.
• Một máy chủ bốn H200 được cấu hình có giá niêm yết trong khoảng $185,000–$220,000; một máy chủ tám H200 được niêm yết trong khoảng $305,000–$370,000.
• Một H200 trên đám mây có thể được tính phí theo giờ GPU: một mức giá H200 Pod hiện tại là $5.29 mỗi giờ, trong khi mức giá worker serverless tương ứng là $5.93 mỗi giờ.

Đó là các chào giá công khai có thời điểm cụ thể, không phải MSRP chung hay khuyến nghị chọn một nhà cung cấp nào. Câu trả lời hữu ích cho câu hỏi “giá GPU H200 là bao nhiêu?” là chi phí bàn giao của đúng kiểu dáng và mô hình vận hành có thể hoàn thành khối lượng công việc của bạn.

Trả lời nhanh: Hãy dùng dịch vụ thuê ngắn hạn để kiểm chứng mô hình, độ dài ngữ cảnh, cấu trúc liên kết và mức sử dụng mà bạn cần. Chỉ lấy báo giá mua sau khi bạn biết liệu H200 NVL PCIe, một node SXM tám GPU hay API mô hình được quản lý là lựa chọn phù hợp. Sau đó, hãy so sánh chi phí trên mỗi khối lượng công việc hoàn thành, thay vì chỉ giá card.

Tổng quan giá GPU H200: ví dụ mua card, hệ thống và đám mây

Bảng này chủ ý trình bày các ảnh chụp nhanh về giá riêng biệt thay vì mức trung bình của thị trường. Một niêm yết card và một phiên bản đám mây tám GPU không bao gồm cùng phần cứng, hỗ trợ, cam kết năng lực hoặc gánh nặng vận hành.

Nguồn: niêm yết H200 NVL của Gatewell USA, niêm yết H200 NVL của Lineage Tech, bảng giá Runpod và bảng giá AWS EC2 Capacity Blocks. Giá được kiểm tra vào ngày 22 tháng 10 năm 2026.

Giá GPU H200 trong hai hàng đầu tiên là giá của card H200 NVL PCIe. Các hàng máy chủ bổ sung nền tảng cần thiết để vận hành nhiều card. Các hàng đám mây chuyển cơ sở hạ tầng đó thành mức giá dịch vụ. Đừng tính trung bình các con số này với nhau.

Vì sao giá GPU H200 không chỉ là một con số

NVIDIA công bố hai dạng triển khai H200 khác biệt đáng kể. Cả hai đều có 141 GB bộ nhớ HBM3e và băng thông bộ nhớ 4.8 TB/s, nhưng không thể thay thế cho nhau khi mua:

bảng thông số H200 và kiến trúc tham chiếu HGX của NVIDIA cũng cho thấy lý do báo giá hệ thống khác nhau nhiều đến vậy: H200 SXM được thiết kế xoay quanh cấu trúc liên kết đa GPU, trong khi card NVL hoạt động trong máy chủ PCIe thông thường với mô hình kết nối liên thông khác.

Sự khác biệt đó làm thay đổi ngân sách theo bốn cách:

1. Bộ tăng tốc có thể không phải là thứ duy nhất bạn mua. Card PCIe H200 NVL vẫn cần máy chủ tương thích, luồng khí, CPU, bộ nhớ, lưu trữ, bộ điều hợp mạng, ray lắp đặt và hỗ trợ. Báo giá SXM thường đi kèm quyết định về một hệ thống đa GPU.
2. Cấu trúc liên kết có thể thay đổi số GPU bạn cần. Nếu khối lượng công việc cần một miền NVLink tám GPU, lựa chọn thay thế phù hợp là thuê hoặc dùng hệ thống tám GPU—chứ không phải giá của một card đơn lẻ.
3. Nguồn điện và làm mát là các hạng mục chi phí thực tế. Các mức 600 W và 700 W là thông số công suất bo mạch tối đa, không phải mức tiêu thụ mà bạn đo được. Tuy vậy, chúng cho thấy bạn cần yêu cầu báo giá bao gồm yêu cầu về điện năng, làm mát và rack.
4. Số lượng làm thay đổi chào giá. Hai danh sách card ở trên khác nhau vì sử dụng người bán, địa điểm và số lượng đặt hàng khác nhau. Mã linh kiện hữu ích hơn nhãn chung chung “H200”.

Bạn đang trả tiền cho điều gì ở H200: dung lượng bộ nhớ và cấu trúc liên kết

H200 là bộ tăng tốc thuộc thế hệ Hopper, nhưng quyết định mua thường xoay quanh bộ nhớ hơn là tuyên bố chung chung về tốc độ cao hơn. NVIDIA liệt kê H200 có 141 GB HBM3e và băng thông bộ nhớ 4,8 TB/s. Trong bảng kiến trúc HGX, NVIDIA liệt kê H100 SXM có 80 GB và 3,35 TB/s, so với 141 GB và 4,8 TB/s của H200 SXM.

Dung lượng bổ sung đó có thể quan trọng khi khối lượng công việc của bạn bị giới hạn bởi:

• một mô hình hoặc kế hoạch lượng tử hóa không thể vừa trong 80 GB;
• suy luận ngữ cảnh dài, nơi bộ nhớ đệm KV chiếm bộ nhớ làm việc;
• kích thước batch mà nếu không có sẽ buộc phải tăng thêm song song hóa mô hình;
• thiết kế đa GPU trong đó lưu lượng giữa các GPU, thay vì năng lực tính toán thô, là nút thắt cổ chai.

Điều đó không có nghĩa H200 tự động rẻ hơn cho mọi tác vụ suy luận. Nếu mô hình, batch và cửa sổ ngữ cảnh vừa vặn trên một bộ tăng tốc nhỏ hơn, phần chênh lệch giá GPU H200 có thể không làm giảm chi phí trên mỗi kết quả được chấp nhận. Hãy benchmark mô hình và stack phục vụ mà bạn thực sự sẽ chạy trước khi coi dung lượng bộ nhớ là một kết quả mua sắm.

Để tìm hiểu quyết định về kiến trúc và triển khai đằng sau các số liệu này, hãy đọc hướng dẫn về GPU H200 và so sánh H200 với H100 của Flatkey.

Chuyển giá GPU H200 theo giờ thành ngân sách hàng tháng

Đối với năng lực thuê, hãy bắt đầu bằng số giờ GPU được phân bổ:

monthly compute cost =
  allocated H200 GPU-hours × effective hourly rate

Khi phân bổ liên tục, một GPU có khoảng 730 giờ trong tháng 30 ngày. Các mức chi phí vận hành sau đây sử dụng các số liệu theo GPU đã công bố ở trên và giả định mức giá luôn khả dụng trong mọi giờ. Chúng không bao gồm lưu trữ, truyền dữ liệu, thuế, hỗ trợ và bất kỳ điều khoản cam kết nào.

Đối với một node tám GPU, hãy nhân mức chi phí vận hành theo GPU với tám trước khi thêm các dịch vụ xung quanh. Đó là lý do mức tương đương H200 là $6.866 tương ứng với giá p5e.48xlarge $54.924 mỗi giờ trong bảng AWS.

Giá GPU H200 công bố theo giờ chỉ nên là một dòng trong ngân sách vận hành của bạn. Hãy bổ sung:

• lưu trữ đính kèm hoặc lưu trữ lâu dài cho trọng số mô hình, checkpoint và tập dữ liệu;
• yêu cầu về truyền dữ liệu và mạng riêng;
• CPU, RAM và NVMe cục bộ đi kèm instance;
• công việc điều phối, quan sát, sao lưu và ứng phó sự cố;
• tác vụ thất bại, tải lại, thời gian nhàn rỗi và hệ số khuếch đại do thử lại;
• các điều khoản về đặt trước, Capacity Block hoặc gián đoạn.

Hướng dẫn về giá thuê GPU và hướng dẫn về chi phí ẩn của GPU đám mây của Flatkey cung cấp danh sách kiểm tra rộng hơn cho các hạng mục chi phí không phải bộ tăng tốc này.

Mua hay thuê: dùng phép tính hòa vốn làm công cụ sàng lọc

Để có đánh giá ban đầu, bạn có thể tính một con số sàng lọc chỉ dành cho phần cứng:

hardware-only screening hours =
  listed accelerator price ÷ comparable delivered GPU-hour rate

Sử dụng hai ví dụ công khai về card H200 NVL và mức giá Pod $5.29 mỗi giờ:

Đây không phải là phép tính hoàn vốn thực sự. Nó chủ ý không bao gồm máy chủ lưu trữ, mạng, điện, làm mát, thuế, thuế quan, hỗ trợ, thời gian ngừng hoạt động, mức sử dụng, tài chính và giá trị còn lại. Nó cũng so sánh các chào bán từ những nhà cung cấp khác nhau. Hãy dùng nó để xác định những câu hỏi đáng đưa vào mô hình—không phải để phê duyệt đơn đặt hàng.

Một mô hình sở hữu đầy đủ nên có dạng như sau:

chi phí sở hữu hằng năm =
  chi phí mua hệ thống hoặc tài chính
  + điện năng và làm mát
  + rack, colocation và mạng
  + hỗ trợ, phần mềm và vận hành
  + lưu trữ và sao lưu
  + thời gian ngừng hoạt động dự kiến và dung lượng không sử dụng
  - giá trị còn lại dự kiến

chi phí cho mỗi khối lượng công việc hoàn thành =
  chi phí sở hữu hằng năm ÷ các tác vụ, yêu cầu, token hoặc lượt huấn luyện được chấp nhận

Kỷ luật tương tự cũng áp dụng cho định giá đám mây:

chi phí đám mây cho mỗi khối lượng công việc hoàn thành =
  (giờ-GPU + lưu trữ + mạng + dịch vụ được quản lý + công việc thất bại)
  ÷ các tác vụ, yêu cầu, token hoặc lượt huấn luyện được chấp nhận

Mẫu số là yếu tố ngăn một giá GPU H200 theo giờ trông có vẻ thấp che giấu một triển khai kém hiệu quả. Hãy chọn đơn vị phù hợp với kết quả kinh doanh: một lượt tinh chỉnh thành công, một lô được chấp nhận, một video được tạo, một yêu cầu được hỗ trợ hoặc một kết quả suy luận đã được xác thực.

Danh sách kiểm tra khi mua H200 dành cho đội ngũ mua sắm và hạ tầng ML

Hãy sử dụng danh sách kiểm tra này trước khi so sánh báo giá của nhà cung cấp.

1. Ghi rõ SKU và mã linh kiện chính xác. Phân biệt H200 NVL PCIe với H200 SXM. Đừng coi “H200” là thông tin cấu hình đủ đầy.
2. Hỏi những gì được bao gồm ở cấp hệ thống. Ghi nhận số lượng GPU, CPU, RAM, NVMe, NIC, bộ nguồn, ray trượt, cầu nối NVLink, bảo hành và quyền sử dụng phần mềm.
3. Lập mô hình topology trước khi xác định số lượng. Kiểm tra xem mô hình của bạn cần một GPU, bốn GPU được liên kết hay một fabric tám GPU. Mua sai topology tốn kém hơn việc trả mức phí mỗi giờ cao hơn trong giai đoạn đánh giá.
4. Yêu cầu các giả định về điện năng và làm mát. Ghi lại điều kiện cơ sở hạ tầng và thiết kế luồng khí hoặc làm mát bằng chất lỏng cần thiết. Không bao giờ lập ngân sách trực tiếp chỉ dựa trên TDP.
5. Chuẩn hóa thuế, thuế quan, cước vận chuyển và thời gian giao hàng. Ví dụ, mức giá Lineage $42,651 nêu rõ không bao gồm VAT và thuế quan; báo giá giao hàng có thể khác biệt đáng kể tùy theo điểm đến.
6. Đo lường mức sử dụng thay vì giả định 100%. Một hệ thống có mức sử dụng hiệu quả 45% có bài toán sở hữu rất khác so với một cụm được lên lịch liên tục.
7. Tách chi phí lưu trữ mô hình khỏi chi phí GPU. Trọng số, checkpoint, bộ dữ liệu, snapshot và truyền dữ liệu có thể làm thay đổi phương án đám mây.
8. Đặt giả định về phương án thoát. Ghi lại vòng đời dịch vụ dự kiến, giá trị còn lại và liệu một kiến trúc kế nhiệm có thể khiến năng lực này kém hấp dẫn hơn trước khi mô hình được khấu hao hoàn toàn hay không.
9. Bao gồm cả vận hành. Đưa việc giám sát, lập lịch dung lượng, bảo mật, vá lỗi, ứng phó sự cố và trực hỗ trợ vào mô hình.
10. Chạy benchmark đại diện. Ghi nhận thông lượng, độ trễ p50/p95, tỷ lệ lỗi, thời gian tải, mức chấp nhận chất lượng và chi phí hiển thị trên hóa đơn trên chính ngăn xếp phần mềm đó.

Khi nào H200 là lựa chọn phù hợp—và khi nào không phải

Đối với trường hợp cuối cùng, tránh đóng khung lựa chọn thành “đám mây so với tại chỗ”. API mô hình và dịch vụ thuê GPU đều có thể là dịch vụ đám mây, nhưng chúng đặt ra những trách nhiệm khác nhau. Nếu đội ngũ của bạn không cần vận hành trọng số mô hình, driver, dung lượng hoặc ngăn xếp serving, hãy so sánh chi phí theo từng yêu cầu của phương án API với chi phí theo khối lượng công việc hoàn thành của triển khai H200. Xem GPU cloud vs. model API để có khung ra quyết định thực tế.

Cách so sánh công bằng hai báo giá H200

Hãy yêu cầu mỗi nhà cung cấp dùng cùng một bảng tính, sau đó điền thông tin từ báo giá—không phải từ kết quả tìm kiếm:

Bảng tính này hữu ích hơn việc tìm kiếm chung chung về “giá GPU H200 tốt nhất” vì nó đặt giá và năng lực trên cùng một hàng.

Câu hỏi thường gặp

GPU H200 có giá bao nhiêu?

Đối với các ví dụ công khai về card H200 NVL PCIe được kiểm tra vào ngày 22 tháng 10 năm 2026, một nhà bán hàng niêm yết giá 34.500 USD mỗi card cho đơn hàng từ bốn đến bảy card, trong khi một nhà bán khác niêm yết 42.651 USD mỗi card cho đơn hàng từ một đến ba card. Đây là các chào giá theo nhà cung cấp và số lượng cụ thể, không phải một mức giá GPU H200 toàn cầu duy nhất. Máy chủ, vận chuyển, thuế, thuế quan, làm mát và hỗ trợ có thể làm thay đổi chi phí giao đến.

H200 NVL có cùng giá với H200 SXM không?

Không. H200 NVL là card PCIe được thiết kế cho máy chủ làm mát bằng không khí và kết nối cầu nối NVLink hai hoặc bốn chiều. H200 SXM là mô-đun dành cho các hệ thống kiểu HGX và một fabric đa GPU lớn hơn. Hãy so sánh cấu hình hệ thống đầy đủ, không chỉ riêng con số bộ nhớ 141 GB.

Thuê H200 theo giờ tốn bao nhiêu?

Các ví dụ công bố trong hướng dẫn này dao động từ H200 Pod của Runpod với giá 5,29 USD mỗi giờ và worker serverless H200 với giá 5,93 USD mỗi giờ đến các mức tương đương AWS Capacity Block là 6,866 USD cho mỗi H200 đối với p5e và 7,895 USD cho mỗi H200 đối với p5en. Đây là các loại dịch vụ và cam kết khác nhau, vì vậy hãy xác nhận mức giá hiện hành và điều khoản thanh toán trước khi xem chúng là có thể thay thế cho nhau.

Tôi nên mua hay thuê H200?

Hãy thuê khi khối lượng công việc, mức sử dụng, cấu trúc liên kết hoặc lộ trình mô hình chưa chắc chắn. Chỉ cân nhắc mua sau khi bạn có dự báo sử dụng ổn định, báo giá cấp hệ thống, kế hoạch cơ sở hạ tầng và hỗ trợ, cùng mô hình chi phí trên mỗi khối lượng công việc hoàn thành bao gồm mọi yếu tố xung quanh bộ tăng tốc.

H200 có tốt hơn H100 cho suy luận LLM không?

H200 có thể là lựa chọn tốt hơn khi 141 GB HBM3e, băng thông 4,8 TB/s hoặc cấu trúc liên kết mục tiêu loại bỏ một hạn chế thực tế về bộ nhớ hoặc kích thước batch. Nó không mặc nhiên mang lại giá trị tốt hơn cho các công việc vốn đã phù hợp thoải mái với một triển khai cấp H100. Hãy kiểm thử mô hình, độ dài ngữ cảnh, kích thước batch và ngăn xếp phục vụ của bạn. Hướng dẫn H200 so với H100 của Flatkey trình bày chi tiết phép so sánh kỹ thuật.

Khuyến nghị cuối cùng

Giá GPU H200 phù hợp không phải là giá niêm yết card thấp nhất hoặc mức giá theo giờ thấp nhất. Đó là chi phí đã được xác minh thấp nhất để hoàn thành khối lượng công việc mục tiêu của bạn với bộ nhớ, cấu trúc liên kết, độ tin cậy và mô hình vận hành mà bạn thực sự cần.

Hãy bắt đầu bằng một benchmark thuê có thời hạn. Ghi lại chính xác kiểu dáng H200, số giờ được cấp phát, lưu trữ, mạng, tỷ lệ lỗi và tiêu chí chấp nhận đầu ra. Nếu khối lượng công việc trở nên đủ ổn định để biện minh cho việc sở hữu, hãy yêu cầu báo giá cấp hệ thống và so sánh TCO đầy đủ—không chỉ hạng mục bộ tăng tốc. Nếu bạn cần năng lực mô hình thay vì quyền kiểm soát hạ tầng, hãy định giá phương án API được quản lý cùng lúc.

Flatkey có thể giúp các nhóm so sánh lựa chọn API đó mà không phải phân tán các tích hợp: sản phẩm của họ là một lớp định tuyến mô hình và công cụ hợp nhất với một khóa, một số dư và khả năng hiển thị mức sử dụng theo từng yêu cầu. Lấy khóa API khi bạn sẵn sàng kiểm thử hướng mô hình/API song song với kế hoạch H200 của mình.

Nguồn

• Bảng dữ liệu GPU NVIDIA H200 Tensor Core
• Kiến trúc tham chiếu NVIDIA HGX H100, H200 và B200
• Bảng giá AWS EC2 Capacity Blocks cho ML
• Bảng giá đám mây GPU Runpod
• Trang niêm yết Gatewell USA H200 NVL
• Trang niêm yết Lineage Tech H200 NVL