Nếu bạn đang hỏi LLM miễn phí nào tốt nhất cho lập trình, câu trả lời trung thực còn tùy vào tác nhân lập trình bạn muốn chạy.
Với Cline và Roo Code, điểm khởi đầu tốt nhất cho API LLM miễn phí thường là Gemini thông qua endpoint tương thích OpenAI của nó, vì nó cung cấp một tầng miễn phí chính chủ, một base_url kiểu OpenAI đã được tài liệu hóa, và đủ khả năng tương thích để thử các prompt tác nhân thực tế trước khi bạn phải trả tiền. Với Claude Code, câu trả lời khác đi: các API tương thích OpenAI miễn phí không thể dùng thay thế trực tiếp. Claude Code yêu cầu một đường gateway theo định dạng Anthropic được hỗ trợ, và tài liệu của chính Anthropic nói rằng họ không hỗ trợ định tuyến Claude Code tới các mô hình không phải Claude thông qua một gateway.
Sự khác biệt đó quan trọng hơn điểm số trên bảng xếp hạng. Tác nhân lập trình không gửi một prompt trò chuyện lịch sự đơn lẻ. Chúng stream các lệnh công cụ, kiểm tra tệp, thử lại sau lỗi, và đốt quota miễn phí rất nhanh. Mô hình LLM miễn phí tốt nhất cho lập trình là mô hình sống sót được với giao thức tác nhân mà bạn thực sự dùng.
Hướng dẫn này so sánh các đường dẫn API LLM miễn phí cho Claude Code, Cline và Roo Code, sau đó đưa ra một ma trận quyết định thực tế cho các nhà phát triển muốn thử tác nhân lập trình mà không vô tình xây dựng trên một cái bẫy quota.
LLM miễn phí nào tốt nhất cho lập trình? Câu trả lời ngắn gọn
Nếu bạn muốn một câu trả lời mặc định duy nhất cho LLM miễn phí nào tốt nhất cho lập trình, hãy dùng như sau:
| Trường hợp sử dụng | Điểm khởi đầu miễn phí tốt nhất | Tại sao |
|---|---|---|
| Thử nghiệm tác nhân lập trình Cline | Tầng miễn phí Gemini API qua khả năng tương thích OpenAI | Tầng miễn phí chính chủ cộng với endpoint chat tương thích OpenAI đã được tài liệu hóa |
| Thử nghiệm tác nhân lập trình Roo Code | Tầng miễn phí Gemini API qua khả năng tương thích OpenAI | Roo hỗ trợ các nhà cung cấp tùy chỉnh tương thích OpenAI, nhưng mô hình phải hỗ trợ gọi công cụ gốc |
| Thử nghiệm gateway Claude Code | Một đường gateway tương thích Anthropic, không phải một API OpenAI miễn phí chung | Tài liệu gateway của Claude Code tập trung vào các endpoint định dạng Anthropic và lưu lượng Claude được hỗ trợ |
| Thử nhanh nhiều mô hình miễn phí | Các biến thể mô hình miễn phí của OpenRouter | Tiện cho việc lấy mẫu mô hình, nhưng các biến thể miễn phí có giới hạn request rõ ràng và hành vi 429 |
| Thử nghiệm tốc độ | Gói miễn phí Groq | Hữu ích cho các thử nghiệm độ trễ, với giới hạn rate cấp tài khoản và phân biệt mô hình preview/sản xuất |
| Thử nghiệm cục bộ hoặc edge | Cloudflare Workers AI hoặc Ollama/LM Studio cục bộ | Tốt khi stack của bạn vốn đã chạy ở đó, nhưng "miễn phí" vẫn có phân bổ theo ngày, phần cứng, hoặc giới hạn nền tảng |
Nguyên tắc quan trọng: một API LLM miễn phí cho tác nhân lập trình nên được đánh giá theo gọi công cụ, xử lý ngữ cảnh, hành vi thử lại, và khả năng nhìn thấy quota, chứ không chỉ chất lượng trả lời trên một prompt lập trình đơn lẻ.
Chúng tôi đã thử gì
Trong bài viết này, "đã thử" nghĩa là một bài kiểm tra mức sẵn sàng cấu hình đối với ba bề mặt tác nhân mà một nhà phát triển thực sự phải thiết lập:
- Tác nhân có thể trỏ tới một endpoint API tùy chỉnh mà không cần vá extension hoặc CLI không?
- Nhà cung cấp có bộc lộ một tuyến tương thích OpenAI hoặc tương thích Anthropic khớp với tác nhân không?
- Đường dẫn mô hình có hỗ trợ hành vi gọi công cụ cần cho lập trình tác nhân không?
- Giới hạn rate, giới hạn tầng miễn phí, và các lưu ý cho môi trường sản xuất có hiển thị trước khi một tác vụ lập trình dài bắt đầu không?
- Một đội nhóm có thể chuyển từ thử nghiệm miễn phí sang một thiết lập API có định tuyến, có quan sát được mà không phải đổi lại toàn bộ cấu hình tác nhân cục bộ không?
Đây không phải là một bảng benchmark tổng hợp. Hạn mức tầng miễn phí chính xác thay đổi, các tầng tài khoản khác nhau, và hành vi tác nhân lập trình thay đổi khi công cụ tiến hóa. So sánh hữu ích là liệu đường miễn phí có an toàn để thử hay không và thứ gì hỏng trước tiên.
Khả năng tương thích theo tác nhân lập trình
Claude Code
Claude Code là bề mặt kém thân thiện nhất với các API OpenAI tương thích chung miễn phí.
Anthropic tài liệu hóa một đường gateway cho Claude Code thông qua các biến như ANTHROPIC_BASE_URL, nhưng gateway phải bộc lộ một định dạng API được hỗ trợ. Cùng tài liệu đó nói rằng Anthropic không hỗ trợ định tuyến Claude Code tới các mô hình không phải Claude thông qua bất kỳ gateway nào. Nó cũng giải thích rằng thông tin xác thực gateway làm thay đổi hành vi thanh toán và giới hạn sử dụng vì các request dùng thông tin xác thực của gateway thay vì một lần đăng nhập gói thuê bao Claude đã lưu.
Điều đó khiến câu trả lời thực tế trở nên đơn giản: nếu câu hỏi của bạn là LLM miễn phí nào tốt nhất cho lập trình trong Claude Code, đừng bắt đầu bằng cách cắm đại một endpoint miễn phí tương thích OpenAI. Hãy bắt đầu với một đường dẫn tương thích Claude, rồi chỉ dùng gateway khi bạn hiểu việc xử lý thông tin xác thực, thanh toán, và hành vi giao thức được hỗ trợ.
Quickstart riêng của Flatkey phản ánh sự khác biệt đó. Flatkey tài liệu hóa một key, một số dư, một danh mục mô hình, một router tương thích OpenAI để dùng với SDK/API, và một đường thiết lập riêng cho Codex và Claude Code qua Console. Điều đó cho phép một đội nhóm xem thiết lập tác nhân như hạ tầng thay vì rải các key nhà cung cấp khắp các laptop.
Cline
Cline trực tiếp hơn nhiều cho các thử nghiệm API miễn phí.
Thiết lập nhà cung cấp tương thích OpenAI của Cline yêu cầu ba trường cốt lõi: Base URL, API Key, và Model ID. Nó cũng cho phép bạn cấu hình các chi tiết mô hình như số token đầu ra tối đa, cửa sổ ngữ cảnh, hỗ trợ hình ảnh, use computer, và các giả định giá input/output.
Điều đó khiến endpoint tương thích OpenAI của Gemini trở thành mặc định mạnh cho Cline. Google tài liệu hóa một base URL Gemini API tương thích OpenAI tại:
https://generativelanguage.googleapis.com/v1beta/openai/Vì vậy, một bài kiểm tra Cline có thể đơn giản như chọn "OpenAI Compatible", dán base URL tương thích với Gemini, thêm khóa API Gemini, và chọn một mô hình có khả năng lập trình. Điểm cần lưu ý là hạn ngạch: các vòng lặp tác tử có thể nhanh chóng tiêu tốn phần miễn phí, nên bạn nên giữ tác vụ ngắn và kiểm tra lỗi trước khi cho rằng mô hình kém.
Roo Code
Roo Code cũng hỗ trợ các nhà cung cấp tương thích OpenAI, nhưng nó bổ sung một yêu cầu chặt chẽ hơn, rất quan trọng đối với các tác tử lập trình: gọi công cụ nguyên bản.
Tài liệu của Roo nói rằng nhà cung cấp tương thích OpenAI sử dụng Base URL, API Key và Model ID, nhưng cũng nói Roo Code chỉ sử dụng native tool calling. Nếu mô hình không hỗ trợ gọi công cụ tương thích OpenAI, nó không thể dùng với Roo Code.
Điều đó thay đổi câu trả lời cho LLM miễn phí nào tốt nhất cho lập trình trong Roo. Một mô hình viết code độc lập tốt là chưa đủ. Nó phải hỗ trợ tốt schema function-calling/tool để Roo có thể đọc file, áp dụng chỉnh sửa và truyền phát sự kiện công cụ một cách đáng tin cậy.
Với Roo, hãy bắt đầu với Gemini hoặc một nhà cung cấp khác có tài liệu về gọi công cụ tương thích OpenAI, giữ tác vụ đầu tiên thật nhỏ, và theo dõi lỗi gọi công cụ trước khi bạn mất thời gian tinh chỉnh prompt.
Các tùy chọn API LLM miễn phí cho tác tử lập trình
1. Bậc miễn phí của Gemini API
Gemini là API LLM miễn phí đầu tiên tốt nhất cho nhiều người dùng Cline và Roo Code vì Google tài liệu hóa cả lộ trình bắt đầu miễn phí lẫn khả năng tương thích OpenAI. Trang giá của nó nói rằng nhà phát triển có thể bắt đầu xây dựng miễn phí với các giới hạn, rồi mở rộng sang sử dụng trả trước hoặc trả theo mức dùng. Tài liệu tương thích OpenAI của nó cho thấy Gemini API hoạt động với thư viện OpenAI và tuyến chat/completions.
Hãy dùng Gemini trước khi:
- Bạn muốn một nhà cung cấp chính chủ, không phải bộ định tuyến mô hình của bên thứ ba.
- Bạn cần một base URL tương thích OpenAI cho Cline hoặc Roo Code.
- Bạn muốn một lộ trình nâng cấp rõ ràng sau khi thử miễn phí.
- Bạn đang kiểm tra các tác vụ lập trình tổng quát, refactor, tài liệu và sửa lỗi nhỏ.
Đừng dùng bậc miễn phí của Gemini làm bằng chứng rằng tác tử production của bạn rẻ. Lưu lượng ở bậc miễn phí là một làn thử nghiệm. Các tác tử lập trình chạy dài cần một gói hạn ngạch trả phí, chính sách thử lại và theo dõi mức sử dụng.
2. Các biến thể mô hình miễn phí của OpenRouter
OpenRouter hữu ích khi mục tiêu là khám phá mô hình. Nó cung cấp nhiều biến thể mô hình, bao gồm cả các biến thể miễn phí với ID kết thúc bằng :free. Tài liệu giới hạn của nó mô tả giới hạn request của mô hình miễn phí, ngưỡng request hằng ngày phụ thuộc vào lịch sử tín dụng tài khoản, hành vi 429, và một endpoint kiểm tra khóa để xem giới hạn hiện tại.
Hãy dùng các biến thể miễn phí của OpenRouter khi:
- Bạn muốn so sánh nhanh một vài mô hình mở hoặc mô hình được lưu trữ.
- Bạn chấp nhận các giới hạn request.
- Bạn cần một cách nhanh để kiểm tra độ phù hợp của prompt trước khi chọn nhà cung cấp.
- Bạn có thể xử lý gọn các lỗi
429,402và lỗi giới hạn từ phía nhà cung cấp.
OpenRouter kém lý tưởng hơn khi tác tử lập trình của bạn cần thông lượng ổn định cho một đợt refactor dài. Một tuyến miễn phí thì ổn cho việc khám phá; nó không phải là kế hoạch năng lực production.
Nếu đây là nút thắt của bạn, hãy ghép bài viết này với hướng dẫn về giới hạn tốc độ OpenRouter của Flatkey: Giới hạn tốc độ OpenRouter: Vì sao xảy ra và cách khắc phục.
3. Gói miễn phí của Groq
Groq hấp dẫn khi tốc độ là điều bạn đang thử nghiệm. Tài liệu giới hạn tốc độ của nó giải thích RPM, RPD, TPM, TPD và các loại giới hạn liên quan, còn tài liệu mô hình của nó phân biệt mô hình production với mô hình preview. Điều đó quan trọng vì mô hình preview có thể hữu ích cho đánh giá nhưng không nên được xem là phụ thuộc production ổn định.
Hãy dùng Groq khi:
- Bạn đang kiểm tra độ trễ.
- Tác vụ lập trình của bạn đủ ngắn để phù hợp với giới hạn của gói miễn phí.
- Bạn có thể chọn một mô hình đang hoạt động phù hợp với yêu cầu công cụ của tác tử lập trình.
- Bạn muốn so sánh "đủ nhanh" với "đủ thông minh" trước khi trả tiền cho một mô hình lớn hơn.
Hãy cẩn thận với các vòng lặp tác tử. Một mô hình miễn phí nhanh có thể chạm giới hạn request hoặc token nhanh hơn một mô hình chậm hơn.
4. Cloudflare Workers AI
Cloudflare Workers AI đáng chú ý nếu bạn đã xây dựng trên Workers hoặc muốn suy luận gần edge. Tài liệu giá của nó mô tả một phần phân bổ miễn phí hằng ngày của Workers AI neurons và mức sử dụng trả phí vượt quá phần phân bổ đó trên Workers Paid. Nó cũng liệt kê các mô hình LLM, bao gồm các tùy chọn Qwen và DeepSeek liên quan đến lập trình.
Hãy dùng Workers AI khi:
- Sản phẩm của bạn đã chạy trên Cloudflare.
- Bạn muốn các lệnh gọi AI serverless gần với hạ tầng ứng dụng của mình.
- Bài kiểm tra tác tử lập trình của bạn thiên về tích hợp hơn là chất lượng mô hình hàng đầu.
Đừng chọn nó chỉ vì có từ "free". Bạn vẫn cần hiểu các lần đặt lại hằng ngày, tình trạng sẵn có của mô hình, yêu cầu gói trả phí cho một số mô hình, và liệu tác tử của bạn có nói đúng hình dạng API hay không.
5. API LLM cục bộ qua Ollama hoặc LM Studio
Mô hình cục bộ là "miễn phí" theo nghĩa hẹp là không có hóa đơn từ nhà cung cấp cho mỗi token. Nhưng chúng không miễn phí theo nghĩa vận hành: bạn trả bằng phần cứng cục bộ, độ trễ, bộ nhớ, thời gian thiết lập, và chất lượng mô hình thấp hơn trên máy yếu.
API cục bộ đáng thử khi:
- Mã của bạn phải ở trên máy của bạn.
- Tác vụ của bạn nhỏ và lặp lại.
- Bạn đang kiểm tra cơ chế tác tử hơn là chất lượng suy luận tối đa.
- Bạn chấp nhận hiệu năng chậm hơn và đôi khi chỉnh sửa kém.
Mô hình cục bộ thường không phải là câu trả lời cho LLM miễn phí nào tốt nhất cho lập trình nếu bạn cần các thay đổi đa file tự chủ mạnh mẽ. Chúng hữu ích như một đường cơ sở ưu tiên quyền riêng tư và như phương án dự phòng.
Bảng quyết định
Hãy dùng bảng này trước khi ghép bất kỳ thiết lập lập trình LLM miễn phí nào vào công việc hằng ngày:
| Câu hỏi | Cần kiểm tra gì | Vì sao điều đó quan trọng |
|---|---|---|
| Agent có chấp nhận định dạng nhà cung cấp này không? | Claude Code cần một đường gateway theo định dạng Anthropic được hỗ trợ; Cline và Roo có thể dùng các nhà cung cấp tương thích OpenAI | Giao thức sai sẽ thất bại trước khi chất lượng mô hình trở thành vấn đề |
| Mô hình có hỗ trợ gọi công cụ không? | Đặc biệt là với Roo Code | Các agent lập trình cần đọc/ghi tệp và các sự kiện công cụ, không chỉ văn bản chat |
| Bạn có thể kiểm tra hạn mức trước khi bắt đầu không? | Bảng điều khiển nhà cung cấp, endpoint kiểm tra khóa, trang giới hạn tài khoản hoặc nhật ký sử dụng | Các tác vụ lập trình dài sẽ thất bại nặng nề khi hạn mức không thể nhìn thấy |
Điều gì xảy ra khi gặp 429? | Header thử lại, backoff theo cấp số nhân, xếp hàng, fallback | Giới hạn miễn phí là bình thường, không phải ngoại lệ |
| Bạn có thể chuyển sang dùng trả phí/định tuyến một cách trơn tru không? | Cùng base_url, cùng quy ước ID mô hình, quản lý khóa tập trung | Thiết lập thử nghiệm tốt nhất không nên trở thành nợ di chuyển |
Nếu câu trả lời cho từ hai hàng trở lên còn chưa rõ ràng, hãy chạy LLM API miễn phí theo cách thủ công trước khi tin dùng nó bên trong một coding agent.
Quy trình thiết lập thực tế cho Cline và Roo Code
Hãy dùng quy trình an toàn này khi đánh giá một LLM API miễn phí cho coding agent:
- Chọn một tác vụ nhỏ: cập nhật README, giải thích một stack trace, hoặc refactor một tệp.
- Cấu hình agent với base URL, API key và model ID đã được tài liệu hóa của nhà cung cấp.
- Bắt đầu với ngữ cảnh nhỏ nhất có thể tái tạo tác vụ.
- Xác nhận tool call có hoạt động trước khi yêu cầu chỉnh sửa nhiều tệp.
- Theo dõi lỗi giới hạn tốc độ, thiếu hỗ trợ tool call và lỗi không tìm thấy mô hình.
- Lưu lại chính xác nhà cung cấp, mô hình, base URL và ghi chú lỗi.
- Chỉ khi đó mới thử một tác vụ dài hơn.
Với Cline, đây chủ yếu là một bài toán cấu hình nhà cung cấp. Với Roo Code, hãy xem gọi công cụ là một ranh giới cứng. Với Claude Code, hãy xem khả năng tương thích giao thức là ranh giới cứng.
Flatkey phù hợp ở đâu sau khi thử miễn phí
Các API miễn phí rất tuyệt để trả lời câu hỏi "agent này có hoạt động được không?" Chúng yếu hơn nhiều khi trả lời câu hỏi "đội của tôi có thể chạy cái này mỗi ngày không?"
Flatkey được xây dựng cho câu hỏi thứ hai. Quickstart công khai của Flatkey tài liệu hóa một khóa duy nhất cho API, SDK, CLI và thiết lập coding-agent; một router tương thích OpenAI tại:
https://router.flatkey.ai/v1Nó cũng tài liệu hóa Usage Logs để các đội có thể kiểm tra mô hình, số lượng token, độ trễ và chi phí sau mỗi yêu cầu. Tổng quan sản phẩm định vị Flatkey xoay quanh một điểm cân bằng giữa các mô hình chính thức và công cụ trả theo lần gọi, với mức sử dụng được ghi vào một sổ cái duy nhất.
Điều đó hữu ích khi một bài thử coding bằng LLM miễn phí phát triển thành:
- nhiều nhà phát triển với các agent cục bộ khác nhau,
- nhiều nhà cung cấp mô hình,
- chính sách retry và fallback,
- phân bổ sử dụng,
- kiểm soát chi tiêu,
- và nhu cầu tránh rải rác khóa nhà cung cấp.
Nguyên tắc di chuyển rất đơn giản: thử trực tiếp các mô hình miễn phí khi đang học, sau đó đưa việc sử dụng agent nghiêm túc qua một gateway có thể quan sát được trước khi các cấu hình cục bộ trở nên khó quản lý.
Để biết chi tiết thiết lập, hãy bắt đầu với Flatkey API Quickstart: Make Your First Call Through router.flatkey.ai và One OpenAI-Compatible Base URL for Multi-Model Prompt Testing.
Các lỗi thường gặp
Lỗi 1: coi mọi API tương thích OpenAI là tương thích với agent
Chat tương thích OpenAI không giống với khả năng tương thích coding-agent. Tool calling, streaming, model ID và cài đặt đầu ra tối đa có thể khác nhau.
Lỗi 2: chọn mô hình miễn phí thông minh nhất rồi bỏ qua hạn mức
Mô hình LLM miễn phí tốt nhất cho lập trình sẽ vô dụng nếu nó thất bại giữa chừng khi refactor. Hãy kiểm tra giới hạn tốc độ trước khi bắt đầu các vòng lặp agent.
Lỗi 3: dùng Claude Code như Cline hoặc Roo Code
Claude Code có mô hình gateway khác. Một endpoint miễn phí chung tương thích OpenAI hoạt động trong Cline có thể không phải là đường hỗ trợ cho Claude Code.
Lỗi 4: quên rằng "miễn phí" thường có nghĩa là "chỉ để đánh giá"
Tài liệu của nhà cung cấp thường tách biệt gói miễn phí, mô hình xem trước và mô hình production. Nếu tác vụ quan trọng, hãy đọc các phân biệt đó trước khi tự động hóa quanh chúng.
FAQ
LLM miễn phí nào tốt nhất cho lập trình nói chung?
Với đa số nhà phát triển đang thử Cline hoặc Roo Code, gói miễn phí của Gemini thông qua endpoint tương thích OpenAI là điểm khởi đầu tốt nhất. Với Claude Code, một API miễn phí chung tương thích OpenAI không phải mặc định đúng vì hỗ trợ gateway của Claude Code tập trung vào hành vi tương thích Anthropic.
API LLM miễn phí nào tốt nhất cho coding agent?
API LLM miễn phí tốt nhất cho coding agent là API khớp với giao thức agent của bạn và hỗ trợ gọi công cụ. Gemini là mặc định mạnh nhất cho các bài test agent tương thích OpenAI; OpenRouter hữu ích để lấy mẫu mô hình miễn phí; Groq hữu ích cho test tốc độ; mô hình cục bộ hữu ích cho các thử nghiệm riêng tư.
Trên thực tế, câu hỏi LLM miễn phí nào tốt nhất cho lập trình nên luôn được trả lời theo từng agent, không phải theo bảng xếp hạng mô hình.
Tôi có thể dùng mô hình miễn phí của OpenRouter trong Cline hoặc Roo Code không?
Có, nếu bạn cấu hình đúng base URL, key và model ID tương thích OpenAI, và mô hình được chọn hỗ trợ hành vi mà agent của bạn cần. Hãy chuẩn bị cho các giới hạn số lượng request của mô hình miễn phí và xử lý lỗi 429.
Tôi có thể dùng một mô hình miễn phí tương thích OpenAI trong Claude Code không?
Không phải theo kiểu cắm vào là chạy như một giải pháp chung. Tài liệu gateway của Claude Code tập trung vào các định dạng API được hỗ trợ và hành vi gateway tương thích Anthropic, và Anthropic nói rằng họ không hỗ trợ định tuyến Claude Code tới các mô hình không phải Claude thông qua bất kỳ gateway nào.
LLM cục bộ có đủ tốt cho các agent lập trình không?
Chúng có thể đủ tốt cho các chỉnh sửa nhỏ, giải thích và các thử nghiệm riêng tư. Thông thường chúng yếu hơn đối với các tác vụ agent dài, nhiều tệp, trừ khi bạn có phần cứng cục bộ mạnh và một mô hình hỗ trợ giao thức công cụ của agent.
Khuyến nghị cuối cùng
Nếu câu hỏi thực sự của bạn là LLM miễn phí nào tốt nhất cho lập trình, hãy bắt đầu với agent:
- Cline: hãy thử endpoint tương thích OpenAI của Gemini trước.
- Roo Code: hãy thử Gemini trước, nhưng kiểm tra ngay khả năng gọi công cụ gốc.
- Claude Code: hãy dùng một đường dẫn tương thích Claude được hỗ trợ thay vì ép dùng một API OpenAI miễn phí chung chung.
- Chọn mô hình: dùng các biến thể miễn phí của OpenRouter, nhưng hãy kỳ vọng sẽ có giới hạn.
- Thử nghiệm độ trễ: hãy thử Groq.
- Thử nghiệm riêng tư/cục bộ: hãy thử Ollama hoặc LM Studio.
LLM miễn phí cho lập trình được dùng tốt nhất như một bộ kiểm thử. Khi quy trình làm việc trở thành một phần của vòng lặp phát triển hằng ngày, hãy đưa nó sau hệ thống định tuyến có thể quan sát, nhật ký sử dụng, chính sách dự phòng và một khóa được quản lý duy nhất.
