Giá GPU H100: Định giá, yếu tố chi phí và hướng dẫn mua

Giá GPU H100: Định giá, yếu tố chi phí và hướng dẫn mua

Kiểm tra lần cuối: ngày 22 tháng 10 năm 2026.

Giá GPU H100 không phải là một con số duy nhất. Một danh sách card, một phiên bản đám mây tám GPU và một máy chủ sẵn sàng cho môi trường sản xuất trả lời cho ba câu hỏi mua sắm khác nhau. Nếu báo giá không nêu rõ kiểu dáng, số lượng GPU, mô hình thanh toán, vị trí và hạ tầng đi kèm, thì chưa thể so sánh được.

Để có một mốc tham chiếu theo thời điểm, danh sách trên chợ cho một card H100 PCIe 80 GB bắt đầu từ 32.200 USD tại thời điểm kiểm tra. Các ví dụ đám mây công khai dao động từ mức niêm yết 2,89 USD mỗi giờ cho một pod H100 PCIe đến 3,99 USD mỗi giờ cho một pod H100 SXM, trong khi AWS niêm yết P5 Capacity Block một H100 ở mức 5,97 USD mỗi giờ tăng tốc. Đây là các ví dụ, không phải MSRP hay mức giá áp dụng chung: tình trạng sẵn có, khu vực, thời hạn cam kết, gói CPU/RAM, bộ nhớ lưu trữ, hỗ trợ và cấu hình H100 chính xác đều làm thay đổi hóa đơn.

Hướng dẫn này cho biết cách biến một báo giá H100 thành quyết định mua thay vì một mức giá tiêu đề dễ gây hiểu lầm.

Giá GPU H100: câu trả lời nhanh

Hãy dùng đơn vị phù hợp với thứ bạn thực sự đang mua sắm:

Danh sách phần cứng lấy từ trang chợ H100 PCIe 80 GB của GPU Vendors. Mức giá pod lấy từ trang giá công khai của Runpod, được cập nhật tại đó vào ngày 8 tháng 10 năm 2026. Con số AWS lấy từ bảng giá EC2 Capacity Blocks for ML; ví dụ Google lấy từ bảng giá VM tối ưu cho bộ tăng tốc. Hãy kiểm tra lại mọi nguồn trước khi phê duyệt hoặc mua.

Kết luận thực tế: dùng giá GPU H100 để lập danh sách lựa chọn ban đầu, nhưng dùng ngân sách khối lượng công việc để ra quyết định.

Trước tiên, hãy xác định bạn đang được báo giá H100 nào

Nhãn “H100” che giấu các lựa chọn ảnh hưởng đáng kể đến cả năng lực lẫn chi phí.

Bảng thông số H100 của NVIDIA liệt kê 80 GB trên cả phiên bản SXM và PCIe, với băng thông bộ nhớ, giới hạn nguồn điện, liên kết nội bộ và tùy chọn máy chủ khác nhau. Bảng này nêu 3 TB/s và tối đa 700 W cho phiên bản SXM, so với 2 TB/s và 350 W cho phiên bản PCIe; đó là lý do giá GPU H100 luôn cần bao gồm kiểu dáng và nền tảng trên cùng một dòng báo giá. Hãy đọc bảng thông số NVIDIA H100 cùng với báo giá thay vì xem “H100 80 GB” là một thông số kỹ thuật hoàn chỉnh.

Để xem hướng dẫn chuyên sâu hơn về kiến trúc và triển khai, hãy xem hướng dẫn GPU NVIDIA H100 của chúng tôi. Nếu lựa chọn thực sự là giữa các thế hệ, hãy so sánh khối lượng công việc và chi phí đầu ra được chấp nhận trong H100 so với A100 hoặc hướng dẫn giá GPU H200 trước khi coi mức giá theo giờ thấp hơn là một lợi thế.

Vì sao cùng một giá GPU H100 có thể dẫn đến hóa đơn hằng tháng rất khác nhau

Mức giá theo giờ chỉ là hạng mục bộ tăng tốc. Một kế hoạch hằng tháng khả dụng cần toàn bộ lộ trình cung cấp:

Cloud workload cost
= accelerator or instance rate × scheduled hours
+ attached storage
+ data transfer / egress
+ CPU, RAM, and networking not bundled in the rate
+ support, platform, and software charges
+ idle time, retries, and failed-job allowance

Google Cloud phân tách rõ ràng các yếu tố về GPU, loại máy, lưu trữ và mạng trong tài liệu định giá GPU của họ. Đây là lời nhắc hữu ích rằng không nên chỉ nhân mức giá GPU với 730 rồi coi kết quả là ngân sách vận hành thực tế.

Ví dụ, 730 giờ đã đặt trước theo hai mức giá pod công khai ở trên sẽ tương đương khoảng $2.110 mỗi tháng cho ví dụ PCIe $2,89/giờ và $2.913 mỗi tháng cho ví dụ SXM $3,99/giờ, trước mọi chi phí nằm ngoài cấu hình pod được hiển thị. Các con số này chỉ là minh họa để lập ngân sách, không phải báo giá.

Giá GPU H100 cũng thay đổi theo mô hình thanh toán:

• Theo nhu cầu phù hợp với hoạt động phát triển, đánh giá ngắn hạn và mức sử dụng không chắc chắn. Bạn trả tiền cho tính linh hoạt.
• Năng lực spot hoặc có thể bị gián đoạn có thể giảm mức giá niêm yết, nhưng một tác vụ huấn luyện cần có cơ chế checkpoint và khởi động lại. Giá thấp không thực sự rẻ nếu một lần gián đoạn làm mất một ngày công việc.
• Năng lực dự trữ hoặc các khối năng lực đánh đổi tính linh hoạt để lấy cam kết cung ứng trong một khoảng thời gian xác định. Bảng P5 của AWS là một ví dụ về sản phẩm nên được so sánh như một giao dịch mua năng lực theo lịch, thay vì chỉ theo GPU-giờ.
• Năng lực đám mây chuyên dụng hoặc theo hợp đồng có thể bao gồm hồ sơ hỗ trợ, tính sẵn sàng hoặc mạng khác với một pod tự phục vụ. Hãy so sánh phạm vi hợp đồng, không chỉ mẫu GPU.

Hướng dẫn về giá thuê GPU của chúng tôi giải thích chi tiết hơn sự khác biệt giữa theo nhu cầu, spot và dự trữ. Đối với các hạng mục chi phí thường xuất hiện sau khi một nguyên mẫu đã được thông qua, hãy sử dụng hướng dẫn về các chi phí ẩn của GPU đám mây làm danh sách kiểm tra trước khi phê duyệt.

Mua H100: tính TCO toàn diện, không chỉ giá card

Mua có thể hợp lý đối với các khối lượng công việc dài hạn, có thể dự đoán—nhưng một danh sách card chỉ mới là khởi đầu. Hãy sử dụng mô hình sở hữu này:

Monthly owned-capacity cost
= (all-in acquisition cost − expected residual value) ÷ depreciation months
+ power and cooling
+ rack or colocation
+ network and storage
+ warranty, spares, and support
+ platform operations and on-call time
+ downtime / utilization reserve

Chi phí mua sắm toàn diện nên bao gồm cấu hình accelerator chính xác, máy chủ tương thích hoặc nền tảng HGX, CPU, bộ nhớ, NIC, lưu trữ, phân phối điện, vận chuyển, thuế, cài đặt và hỗ trợ. Đối với các hệ thống SXM, việc chỉ yêu cầu báo giá card đặc biệt dễ bỏ sót các thành phần giúp cấu hình có thể triển khai.

Đây là cách đúng để diễn giải mốc tham chiếu PCIe $32.200:

• Đây là giá khởi điểm trên marketplace cho một card đơn, không phải giá mua đã được xác thực cho tổ chức của bạn.
• So với minh họa thuê $2,89/giờ, $32.200 tương đương khoảng 11.142 GPU-giờ, hoặc khoảng 15,3 tháng với 730 giờ đã đặt trước mỗi tháng.
• Phép tính này không phải khuyến nghị mua. Nó không bao gồm máy chủ, điện, làm mát, mạng, hỗ trợ, tài chính và rủi ro sử dụng. Ở mức sử dụng 50%, thời gian theo lịch cần thiết để tiêu thụ 11.142 giờ đó sẽ tăng gấp đôi.

Đây là lý do vì sao một giá GPU H100 tưởng chừng có lợi thường không vượt qua được đánh giá điểm hòa vốn thực tế. Trước tiên, hãy tính chi phí cho công việc hoàn thành và được chấp nhận—không chỉ chi phí cho một giờ accelerator được phân bổ.

Bảng tính mua H100 có thể sao chép

Hãy sử dụng bảng này trước khi yêu cầu báo giá hoặc phê duyệt cam kết đám mây.

Danh sách kiểm tra để so sánh báo giá

Yêu cầu mọi nhà cung cấp trả lời bằng văn bản các câu hỏi sau:

1. Báo giá dành cho card PCIe, mô-đun SXM, cấu hình NVL, máy chủ hoàn chỉnh hay phân bổ cụm?
2. Bao gồm bao nhiêu H100 và chúng được kết nối với nhau bằng liên kết nào?
3. Bao gồm những hạng mục CPU, RAM, lưu trữ, mạng, điện, và hỗ trợ nào?
4. Mức giá là theo nhu cầu, spot, đặt trước, theo lịch, trả trước hay một khối dung lượng?
5. Áp dụng cho khu vực hoặc cơ sở nào, và dung lượng có thực sự sẵn có trong khoảng thời gian được yêu cầu không?
6. Những khoản phí nào vẫn nằm ngoài báo giá: lưu trữ, truyền dữ liệu ra, giấy phép, thiết lập, thuế hay hỗ trợ?
7. Chính sách hủy, gián đoạn, thay thế và hỗ trợ phần cứng là gì?
8. Bạn sẽ chạy bài kiểm thử khối lượng công việc nào để so sánh chi phí trên mỗi kết quả được chấp nhận?

Khi nào thuê, đặt trước, mua hoặc sử dụng API là lựa chọn tốt hơn

Hãy chọn mô hình vận hành trước; khi đó giá GPU H100 sẽ dễ đánh giá hơn nhiều.

Nếu lựa chọn cuối cùng là giữa suy luận tự lưu trữ và giao diện mô hình được quản lý, hãy sử dụng hướng dẫn về đám mây GPU so với API mô hình của chúng tôi để cấu trúc so sánh. Một API AI hợp nhất cũng có thể giúp đơn giản hóa việc thử nghiệm một đường cơ sở được quản lý trên nhiều mô hình trước khi cam kết theo hướng mua sắm phần cứng.

Các câu hỏi thường gặp về giá H100

Mua một GPU H100 giá bao nhiêu?

Không có giá niêm yết đề xuất công khai (MSRP) H100 chung nào để dùng làm con số mua sắm. Giá GPU H100 phụ thuộc vào kiểu dáng, người bán, hỗ trợ, số lượng, địa điểm và việc báo giá là cho một card hay một hệ thống hoàn chỉnh. Trong ảnh chụp dữ liệu ngày 22 tháng 10 năm 2026 của hướng dẫn này, một chợ trực tuyến niêm yết card H100 PCIe 80 GB từ $32,200. Hãy xem đó là mốc tham khảo có thời điểm, sau đó yêu cầu báo giá chi tiết từng hạng mục từ nhà cung cấp.

Thuê một H100 mỗi giờ tốn bao nhiêu?

Mức giá công khai có thể khác biệt rất lớn tùy nhà cung cấp và sản phẩm. Runpod niêm yết H100 PCIe ở mức $2.89/giờ và H100 SXM ở mức $3.99/giờ trên trang giá của mình, trong khi AWS niêm yết $5.97 cho mỗi giờ accelerator đối với Capacity Block P5.4xlarge một H100. Mỗi lựa chọn bao gồm một mô hình cung cấp khác nhau, vì vậy đừng xếp hạng chúng chỉ dựa trên con số đó.

H100 SXM có đắt hơn H100 PCIe không?

Nó thường xuất hiện trong một nền tảng đắt hơn vì yêu cầu về phần cứng, điện, làm mát và fabric khác nhau. Hãy so sánh cấu hình máy chủ chính xác và kết quả công việc đã hoàn thành. Câu hỏi liên quan là liệu nền tảng SXM có cải thiện khối lượng công việc của bạn đủ để giảm chi phí trên mỗi tác vụ được chấp nhận hay không, chứ không phải liệu giá GPU H100 của nó có thấp hơn trên bảng tính hay không.

Khi nào mua tốt hơn thuê?

Chỉ khi chi phí toàn diện của năng lực sở hữu thấp hơn một phương án đám mây tương đương ở mức sử dụng thực tế. Hãy bao gồm máy chủ, mạng, điện, làm mát, hỗ trợ, dự phòng thời gian ngừng hoạt động và chi phí vận hành nền tảng. Tính toán điểm hòa vốn chỉ cho card là một công cụ sàng lọc, không phải quyết định.

Giúp báo giá H100 tiếp theo có thể so sánh được

Giá GPU H100 chỉ trở nên hữu ích khi được gắn với một cấu hình và khối lượng công việc chính xác. Hãy bắt đầu với kiểu dáng GPU, chuẩn hóa đơn vị thời gian, thêm mọi hạng mục chi phí hạ tầng và tính chi phí trên mỗi kết quả hoàn thành. Sau đó, so sánh tính linh hoạt, rủi ro dung lượng và gánh nặng vận hành — không chỉ giá card hoặc mức giá theo giờ.

Trước khi cam kết, hãy chạy một khối lượng công việc đại diện trên hai hoặc ba lựa chọn khả thi. Thử nghiệm nhỏ đó thường rẻ hơn so với việc phát hiện sau này rằng mức giá GPU H100 thấp nhất lại đi kèm kiểu dáng không phù hợp, ngân sách máy chủ chưa đầy đủ hoặc SKU đám mây mà khối lượng công việc của bạn thực tế không thể sử dụng.

Nguồn

• Bảng dữ liệu GPU NVIDIA H100 Tensor Core
• Bảng giá Runpod GPU Cloud
• Giá AWS EC2 Capacity Blocks cho ML
• Giá VM tối ưu hóa accelerator của Google Cloud
• Tài liệu giá GPU của Google Cloud
• Danh sách chợ trực tuyến GPU Vendors cho H100 PCIe 80 GB