Tối ưu chi phí AI (2026): 9 cách giảm chi tiêu API LLM mà vẫn giữ chất lượng
Tối ưu chi phí AI là giảm số tiền bạn trả cho mỗi tác vụ AI thành công (không chỉ cho mỗi token) bằng cách gửi từng yêu cầu đến mô hình rẻ nhất đáp ứng tiêu chuẩn chất lượng, tái sử dụng ngữ cảnh lặp lại qua cache prompt, chuyển công việc không gấp sang xử lý lô, giới hạn đầu ra và áp dụng ngân sách theo khóa API hoặc nhóm. Với phần lớn sản phẩm dùng API, định tuyến và cache mang lại mức tiết kiệm lớn nhất; kết hợp cả hai có thể giảm một nửa hóa đơn hoặc hơn với khối lượng công việc phù hợp. Phần tiết kiệm còn lại đến từ khả năng theo dõi và quản trị. Tất cả mức giá dưới đây đều lấy từ trang giá chính thức, được kiểm tra ngày 26 tháng 10 năm 2026.
Hướng dẫn này dành cho lập trình viên độc lập và các nhóm sản phẩm AI đang trả tiền cho API LLM (OpenAI, Anthropic, Google, DeepSeek, Qwen và các nhà cung cấp khác), cần giảm hóa đơn và dự đoán được chi phí. Nếu bạn tự vận hành GPU, hãy xem hướng dẫn tự triển khai LLM của chúng tôi để tìm hiểu phần hạ tầng.
Những yếu tố quyết định chi phí API AI
Hóa đơn AI hằng tháng của bạn có thể ước tính như sau:
monthly cost = sum over requests of
(uncached input tokens x input price)
+ (cached input tokens x cache price)
+ (output tokens x output price)
+ retries, failed calls, tool calls, and fees
Như vậy, chi phí đến từ năm yếu tố bạn có thể kiểm soát: mô hình được gọi, số token đầu vào gửi đi (prompt hệ thống, lịch sử trò chuyện, ngữ cảnh RAG), số token đầu ra cho phép, lượng ngữ cảnh lặp lại có thể đưa vào cache và số yêu cầu bị thử lại hoặc lãng phí.
Giá tham khảo hiện tại (mỗi 1M token, ngày 26 tháng 10 năm 2026)
| Mô hình | Đầu vào | Đầu vào từ cache | Đầu ra | Nguồn |
|---|---|---|---|---|
| GPT-6 Astra | $10.00 | $1.00 | $50.00 | Bảng giá OpenAI |
| GPT-6.1 Sol | $2.00 | $0.10 | $10.00 | Bảng giá OpenAI |
| GPT-6 Luna | $0.10 | $0.01 | $0.50 | Bảng giá OpenAI |
| Claude Opus 5.5 | $4.00 | $0.20 (cache hit) | $20.00 | Bảng giá Anthropic |
| Claude Sonnet 5.5 | $2.00 | $0.10 (cache hit) | $10.00 | Bảng giá Anthropic |
| Claude Haiku 5.5 (prompt tối đa 100K) | $0.10 | $0.01 (cache hit) | $0.50 | Bảng giá Anthropic |
| Gemini 3.8 Flash (ưu đãi đến hết ngày 31 tháng 12 năm 2026) | $0.75 | $0.075 | $3.75 | Bảng giá Gemini API |
| Gemini 3.5 Flash-Lite | $0.30 | $0.03 | $2.50 | Bảng giá Gemini API |
Chênh lệch giữa hàng đầu và hàng cuối là 100x. Vì vậy, lựa chọn mô hình là đòn bẩy đầu tiên. Để xem bảng đầy đủ hơn, hãy tham khảo bảng so sánh giá API AI của chúng tôi.
9 chiến lược tối ưu chi phí AI
| # | Chiến lược | Mức tiết kiệm thường gặp trên lưu lượng áp dụng | Công sức | Rủi ro chất lượng |
|---|---|---|---|---|
| 1 | Đo chi phí trên mỗi tác vụ thành công | Làm nền tảng cho mọi biện pháp còn lại | Thấp | Không |
| 2 | Định tuyến theo độ khó của tác vụ | Lớn (mô hình giá rẻ có chi phí mỗi token thấp hơn 20-100x) | Trung bình | Trung bình, cần bộ đánh giá |
| 3 | Cache prompt | Giảm tới 90-95% chi phí token đầu vào từ cache | Thấp | Không |
| 4 | Xử lý lô cho công việc không gấp | Giảm 50% | Thấp | Không (chậm hơn) |
| 5 | Rút gọn prompt và ngữ cảnh | Tỷ lệ thuận với số token loại bỏ | Trung bình | Thấp đến trung bình |
| 6 | Giới hạn và định dạng đầu ra | Tỷ lệ thuận với lượng đầu ra loại bỏ | Thấp | Thấp |
| 7 | Khắc phục việc thử lại và vòng lặp | Loại bỏ lãng phí | Trung bình | Không |
| 8 | Ngân sách, hạn ngạch, trần chi tiêu | Ngăn vượt ngân sách | Thấp | Không |
| 9 | Kiểm tra lại giá và nhà cung cấp hằng tháng | Tùy trường hợp | Thấp | Thấp |
1. Đo chi phí trên mỗi tác vụ thành công
Chỉ nhìn giá token sẽ không thấy được chi phí thử lại, đầu ra thất bại và những cuộc trò chuyện kéo dài. Hãy theo dõi chi phí trên mỗi tác vụ hoàn thành (một phiếu hỗ trợ được giải quyết, một thay đổi mã được chấp nhận, một bản tóm tắt hoàn chỉnh):
def cost_per_successful_task(rows):
"""rows: dicts with cost_usd and success (bool), e.g. from a usage export"""
total = sum(r["cost_usd"] for r in rows)
ok = sum(1 for r in rows if r["success"])
return total / ok if ok else float("inf")
Phân bổ chi tiêu theo tính năng, nhóm và khóa API để biết nên bắt đầu từ đâu. Xem phân bổ chi phí API AI theo nhóm. Hoạt động FinOps cho AI của FinOps Foundation cũng sử dụng cách tiếp cận hiệu quả kinh tế trên từng đơn vị này.
2. Định tuyến từng tác vụ đến mô hình rẻ nhất đáp ứng yêu cầu
Phần lớn ứng dụng gửi mọi yêu cầu đến một mô hình mạnh. Trên thực tế, các tác vụ phân loại, trích xuất, viết lại đoạn ngắn và quyết định định tuyến thường có thể đạt yêu cầu với mô hình nhỏ, còn suy luận khó và chỉnh sửa mã dài cần mô hình lớn hơn.
Ví dụ tính toán với khối lượng công việc giả định là 10M token đầu vào và 2M token đầu ra mỗi ngày, tất cả đều dùng GPT-6.1 Sol theo giá niêm yết của OpenAI:
All GPT-6.1 Sol: 10 x $2.00 + 2 x $10.00 = $40.00/day
60% to GPT-6 Luna: 6 x $0.10 + 1.2 x $0.50 = $1.20
40% stay on Sol: 4 x $2.00 + 0.8 x $10.00 = $16.00 -> $17.20/day (-57%)
Mức tiết kiệm chỉ có ý nghĩa khi các tác vụ được định tuyến vẫn vượt qua kiểm tra chất lượng, vì vậy hãy xây dựng một bộ đánh giá nhỏ trước. Thiết kế quy tắc theo hướng dẫn chính sách định tuyến mô hình của chúng tôi và tách riêng cơ chế dự phòng khỏi định tuyến (cẩm nang định tuyến dự phòng cho API LLM).
3. Dùng cache prompt cho ngữ cảnh lặp lại
Nếu nhiều yêu cầu dùng chung một tiền tố dài (prompt hệ thống, định nghĩa công cụ, tài liệu chính sách, bản tóm tắt mã nguồn), cache sẽ giảm đáng kể chi phí đầu vào lặp lại. Đầu vào từ cache của GPT-6.1 Sol có giá $0.10 so với $2.00 khi không dùng cache cho mỗi 1M token, còn cache hit của Claude Sonnet 5.5 có giá $0.10 so với $2.00 (giá niêm yết tháng 10 năm 2026). Anthropic tính thêm phí ghi cache (1.25x giá đầu vào cho cache 5 phút, 2x cho 1 giờ), theo tài liệu cache prompt; OpenAI tự động dùng cache cho prompt dài (cache prompt của OpenAI).
Trong ví dụ trên, nếu 70% token đầu vào là tiền tố được lưu trong cache trên GPT-6.1 Sol:
input: 3M x $2.00 + 7M x $0.10 = $6.70 (was $20.00)
total: $6.70 + $20.00 output = $26.70/day (-33%)
Đặt nội dung ổn định ở đầu và nội dung thay đổi ở cuối để tiền tố khớp nhau. Xem thêm: quy trình cache prompt và ROI.
4. Chuyển công việc không gấp sang xử lý lô
Batch API của OpenAI, Message Batches của Anthropic và chế độ xử lý lô của Gemini đều có giá thấp hơn khoảng 50%, đổi lại kết quả được trả về bất đồng bộ (trong vài giờ thay vì vài giây). Các công việc phù hợp gồm: phân loại hằng đêm, đánh giá, tạo bù embedding cho dữ liệu cũ, gắn nhãn nội dung và tạo báo cáo.
# OpenAI Batch: upload a JSONL of requests, then create the batch
curl https://api.openai.com/v1/files -H "Authorization: Bearer $OPENAI_API_KEY" \
-F purpose="batch" -F file="@requests.jsonl"
curl https://api.openai.com/v1/batches -H "Authorization: Bearer $OPENAI_API_KEY" \
-H "Content-Type: application/json" \
-d '{"input_file_id":"file-abc123","endpoint":"/v1/chat/completions","completion_window":"24h"}'
5. Rút gọn prompt và ngữ cảnh
- Loại bỏ chỉ dẫn không dùng đến và ví dụ trùng lặp khỏi prompt hệ thống.
- Tóm tắt các lượt trò chuyện cũ thay vì gửi lại toàn bộ lịch sử.
- Trong RAG, gửi ít đoạn hơn nhưng có chất lượng cao hơn (xếp hạng lại trước) thay vì gửi 20 đoạn đứng đầu.
- Không gửi toàn bộ tệp cho agent lập trình khi chỉ cần bản diff hoặc một hàm.
Đo số token trước và sau bằng công cụ đếm token hoặc các trường thống kê sử dụng của nhà cung cấp.
6. Giới hạn và định dạng đầu ra
Token đầu ra có giá bằng 5x token đầu vào trên phần lớn mô hình trong bảng trên. Đặt max_tokens (hoặc max_output_tokens) theo từng tuyến, yêu cầu JSON có cấu trúc thay cho văn xuôi khi kết quả được chương trình đọc và yêu cầu “chỉ trả lời” khi không cần giải thích.
7. Ngừng trả tiền cho việc thử lại và vòng lặp
Việc thử lại dồn dập và vòng lặp của agent thường khiến hóa đơn tăng đột biến. Hãy tăng thời gian chờ theo cấp số nhân và giới hạn số lần thử lại, không thử lại các yêu cầu không vượt qua bước xác thực, đặt số bước tối đa cho mỗi lượt chạy agent và ghi riêng chi phí của các yêu cầu thất bại.
8. Áp dụng ngân sách, hạn ngạch và trần chi tiêu
Đặt giới hạn ngay tại nơi phát sinh yêu cầu, thay vì chỉ ghi trong bảng tính hằng tháng: hạn ngạch theo khóa API, ngân sách theo nhóm, cảnh báo ở mức 50/80/100% và trần chi tiêu cứng. Xem quản lý hạn ngạch API AI và quản lý chi tiêu API AI.
9. Kiểm tra lại giá và nhà cung cấp mỗi tháng
Giá thường xuyên thay đổi: giá ưu đãi Gemini 3.8 Flash của Google kết thúc ngày 31 tháng 12 năm 2026, tăng từ $0.75/$3.75 lên $1.50/$7.50 cho mỗi 1M token (bảng giá Gemini), còn bí danh deepseek-flash của DeepSeek hiện trỏ đến một mô hình mới hơn (bảng giá DeepSeek). Hãy lên lịch rà soát giá hằng tháng và chạy lại bộ đánh giá khi chuyển đổi.
Dùng API gateway để tối ưu chi phí AI
Gateway tập trung nhiều đòn bẩy này vào một nơi: một endpoint tương thích OpenAI cho nhiều nhà cung cấp (giúp định tuyến và chuyển đổi dễ hơn), nhật ký sử dụng theo khóa API và hạn ngạch. Flatkey là một lựa chọn: một khóa API tại https://router.flatkey.ai/v1 cho phép truy cập GPT, Claude, Gemini, Qwen, DeepSeek và các mô hình khác; bảng theo dõi sử dụng hiển thị mô hình, token, chi phí và khóa API của từng yêu cầu, hỗ trợ xuất CSV/JSON và đặt trần chi tiêu hằng tháng.
Giá niêm yết của Flatkey cho một số mô hình thấp hơn giá niêm yết của nhà cung cấp. Các ví dụ từ trang mô hình Flatkey vào ngày 26 tháng 10 năm 2026:
| Mô hình | Giá niêm yết của nhà cung cấp (vào / ra mỗi 1M) | Flatkey (vào / ra mỗi 1M) |
|---|---|---|
| GPT-6.1 Sol | $2.00 / $10.00 | $1.20 / $6.00 |
| Claude Sonnet 5.5 | $2.00 / $10.00 | $1.60 / $8.00 |
| Gemini 3.8 Flash | $0.75 / $3.75 (ưu đãi Google) | $1.20 / $6.00 |
Lưu ý hàng cuối: trong thời gian Google ưu đãi, dùng Gemini 3.8 Flash trực tiếp từ Google sẽ rẻ hơn. Hãy so sánh theo từng mô hình, thay vì theo nền tảng. Nạp tiền được cộng thêm số dư thưởng ($100 thành $115, $300 thành $360) và số dư không hết hạn, theo trang giá Flatkey.
Thay đổi URL cơ sở khi dùng SDK OpenAI trong Node.js:
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://router.flatkey.ai/v1", apiKey: process.env.FLATKEY_API_KEY });
const r = await client.chat.completions.create({
model: "gpt-6.1-sol",
messages: [{ role: "user", content: "Classify this ticket: 'refund not received'" }],
max_tokens: 20,
});
console.log(r.usage); // log tokens per call for cost tracking
Kế hoạch tối ưu chi phí AI trong 30 ngày
| Tuần | Việc cần làm | Kết quả |
|---|---|---|
| 1 | Xuất dữ liệu sử dụng, gắn nhãn theo tính năng/nhóm/khóa API, tính chi phí trên mỗi tác vụ thành công | Báo cáo hiện trạng làm mốc so sánh |
| 2 | Giới hạn đầu ra, khắc phục việc thử lại, bật cache cho các tiền tố dài dùng chung | Khoản tiết kiệm đầu tiên, không có rủi ro chất lượng |
| 3 | Xây dựng bộ đánh giá 100-200 trường hợp; thử mô hình rẻ hơn cho từng tác vụ; định tuyến các tác vụ đạt yêu cầu | Bảng định tuyến |
| 4 | Chuyển công việc bất đồng bộ sang xử lý lô; đặt hạn ngạch, cảnh báo và trần chi tiêu | Ngân sách được áp dụng thực tế |
Những sai lầm thường gặp
- Tối ưu giá mỗi token thay vì chi phí trên mỗi tác vụ thành công. Mô hình rẻ nhưng thất bại hai lần sẽ tốn kém hơn.
- Định tuyến mà không đánh giá. Chất lượng giảm sẽ bộc lộ về sau qua các phiếu hỗ trợ.
- Làm mất khả năng dùng cache khi đặt dấu thời gian hoặc ID người dùng ở đầu prompt.
- Bỏ qua độ dài đầu ra, dù đây thường là loại token đắt nhất.
- Không có trần chi tiêu cứng, khiến một vòng lặp có thể tiêu hết ngân sách cả tháng chỉ trong một ngày.
Câu hỏi thường gặp
Tối ưu chi phí AI là gì?
Tối ưu chi phí AI là giảm chi tiêu cho mô hình và hạ tầng AI trên mỗi kết quả hữu ích thông qua định tuyến mô hình, cache prompt, xử lý lô, rút gọn prompt và đầu ra, cùng ngân sách, đồng thời giữ chất lượng ở mức đã thống nhất.
Làm thế nào để giảm nhanh chi phí API LLM?
Các bước nhanh nhất là giới hạn max_tokens, bật cache prompt cho các tiền tố dài lặp lại, chuyển công việc không gấp sang xử lý lô (giảm khoảng 50% trên OpenAI, Anthropic và Gemini) và gửi tác vụ đơn giản đến mô hình nhỏ như GPT-6 Luna với giá $0.10/$0.50 mỗi 1M token (tháng 10 năm 2026).
Cache prompt tiết kiệm được bao nhiêu?
Với token đầu vào từ cache, mức tiết kiệm rất lớn: đầu vào từ cache của GPT-6.1 Sol có giá $0.10 so với $2.00 mỗi 1M token, giảm 95% (tháng 10 năm 2026). Tổng mức tiết kiệm phụ thuộc vào tỷ lệ đầu vào là tiền tố lặp lại.
Mô hình AI rẻ nhất có luôn hiệu quả nhất về chi phí không?
Không. Nếu mô hình rẻ thất bại thường xuyên hơn, chi phí thử lại và sửa lỗi thủ công có thể cao hơn chi phí dùng một mô hình mạnh hơn. Hãy so sánh chi phí trên mỗi tác vụ thành công bằng bộ đánh giá của chính bạn.
FinOps cho AI là gì?
FinOps cho AI áp dụng các phương pháp quản lý tài chính đám mây (khả năng theo dõi, phân bổ, hiệu quả kinh tế trên từng đơn vị và ngân sách) vào chi tiêu AI. FinOps Foundation công bố khung thực hành này.
Gateway AI có giúp giảm chi phí không?
Bản thân gateway không làm token rẻ hơn, nhưng giúp thực hiện định tuyến, chuyển nhà cung cấp, theo dõi sử dụng và áp dụng hạn ngạch dễ dàng hơn. Một số gateway cũng niêm yết giá mỗi token thấp hơn cho những mô hình cụ thể; hãy kiểm tra giá của từng mô hình.
Nguồn
Giá được kiểm tra ngày 26 tháng 10 năm 2026: Bảng giá OpenAI API, Bảng giá Anthropic, Bảng giá Gemini API, Bảng giá DeepSeek, Bảng giá Flatkey. Phương pháp: Xử lý lô của OpenAI, Cache prompt của Anthropic, FinOps cho AI.
