Model and Modality Playbooks16 tháng 9, 2026Flatkey Team

Truy cập Qwen API với một Base URL tương thích OpenAI

Sử dụng checklist truy cập Qwen API này để so sánh thiết lập trực tiếp Alibaba Cloud Model Studio với một base URL tương thích OpenAI của Flatkey.

Truy cập Qwen API với một Base URL tương thích OpenAI

Việc truy cập Qwen API dễ vận hành nhất khi bạn tách hai quyết định: tài khoản nhà cung cấp nào sở hữu yêu cầu, và base URL nào mà mã ứng dụng của bạn trỏ tới.

Nếu bạn chỉ cần Qwen trong Alibaba Cloud Model Studio, cách trực tiếp sẽ hoạt động: tạo một API key Model Studio ở đúng khu vực, chọn base URL tương thích OpenAI theo khu vực, và gọi tên một mô hình Qwen thông qua OpenAI SDK của bạn. Nếu ứng dụng của bạn đã so sánh Qwen với GPT, Claude, Gemini, DeepSeek hoặc các mô hình khác, thì cách dùng bộ định tuyến thường dễ bảo trì hơn: giữ một base URL tương thích OpenAI, một key, và một quy trình rà soát sử dụng duy nhất.

Hướng dẫn này cho thấy cách thiết lập truy cập Qwen API với một base URL tương thích OpenAI thông qua Flatkey, đồng thời vẫn giữ rõ ràng đường dẫn trực tiếp Alibaba Cloud Model Studio để gỡ lỗi các lỗi về khu vực, mô hình và key.

Câu trả lời nhanh: Truy cập Qwen API với một Base URL tương thích OpenAI

Đối với một ứng dụng kiểu OpenAI, truy cập Qwen API có hai lộ trình thực tế.

Quyết định Qwen trực tiếp trong Alibaba Cloud Model Studio Qwen thông qua Flatkey
API key Model Studio / DashScope key Flatkey API key
Base URL URL chế độ tương thích Model Studio theo khu vực https://router.flatkey.ai/v1
Thay đổi mã Thay đổi API key, base URL và tên mô hình Thay đổi API key, base URL và tên mô hình
Nguồn mô hình Danh sách mô hình Model Studio của Alibaba Cloud cho khu vực/tài khoản của bạn Danh mục mô hình của Flatkey và phản hồi /v1/models mà tài khoản có thể truy cập
Kiểm tra vận hành Thanh toán Model Studio, key theo khu vực, hỗ trợ tính năng Nhật ký sử dụng Flatkey, model id, trang giá, hạn ngạch, đường quay lui
Phù hợp nhất Một sản phẩm chỉ dùng Qwen và đã cam kết với Alibaba Cloud Một ứng dụng đa mô hình muốn Qwen nằm sau cùng một client với các mô hình khác

Hãy dùng lộ trình Model Studio trực tiếp khi kiểm soát ở cấp nhà cung cấp quan trọng hơn việc hợp nhất. Hãy dùng Flatkey khi bạn muốn truy cập Qwen API phía sau cùng một bộ định tuyến tương thích OpenAI như phần còn lại của ngăn xếp mô hình.

Alibaba Cloud xác nhận gì về khả năng tương thích OpenAI của Qwen

Tài liệu Model Studio hiện tại của Alibaba Cloud cho biết các mô hình Qwen hỗ trợ giao diện tương thích OpenAI, và một codebase OpenAI hiện có có thể chuyển đổi bằng cách thay đổi API key, base URL và tên mô hình.

Chi tiết vận hành quan trọng là base URL. Model Studio không cung cấp cùng một endpoint chung cho mọi khu vực. Tài liệu tương thích OpenAI của nó liệt kê các URL theo khu vực như sau:

Khu vực Mẫu base URL tương thích OpenAI ví dụ
Singapore https://{WorkspaceId}.ap-southeast-1.maas.aliyuncs.com/compatible-mode/v1
US Virginia https://dashscope-us.aliyuncs.com/compatible-mode/v1
Hong Kong, China https://{WorkspaceId}.cn-hongkong.maas.aliyuncs.com/compatible-mode/v1
Japan, Tokyo https://{WorkspaceId}.ap-northeast-1.maas.aliyuncs.com/compatible-mode/v1

Model Studio cũng tài liệu hóa các miền riêng theo workspace cho một số khu vực và cảnh báo rằng API key phải được tạo ở cùng khu vực với endpoint đang được gọi. Việc lệch khu vực có thể trông giống như một lỗi xác thực thông thường ngay cả khi bản thân key vẫn tồn tại.

Điều đó có nghĩa là một tích hợp Qwen trực tiếp nên luôn ghi lại cùng nhau bốn trường sau:

direct_qwen_route:
  provider: alibaba_cloud_model_studio
  region: ap-southeast-1
  workspace_id: your_workspace_id
  base_url: https://your_workspace_id.ap-southeast-1.maas.aliyuncs.com/compatible-mode/v1
  api_key_source: DASHSCOPE_API_KEY
  model: qwen3.8-max

Nếu một trong các trường đó được sao chép từ môi trường khác, việc truy cập Qwen API có thể thất bại trước khi prompt của bạn kịp đến mô hình.

Điều Flatkey thay đổi

Flatkey không loại bỏ nhu cầu chọn một model id hợp lệ. Nó thay đổi nơi cấu hình tuyến và nơi bạn xem lại kết quả.

Tài liệu REST API của Flatkey cung cấp một base URL tương thích OpenAI:

https://router.flatkey.ai/v1

Hướng dẫn OpenAI SDK của Flatkey cho thấy cùng một mẫu thiết lập được dùng bởi các nhà cung cấp tương thích OpenAI trực tiếp: khởi tạo OpenAI client, đặt base URL và truyền model id trong request. Endpoint danh sách model của Flatkey trả về các model id mà tài khoản có thể truy cập trong phản hồi kiểu OpenAI /v1/models, trong khi thư mục model công khai và trang giá vẫn là nơi để xem lại tính khả dụng, tình trạng và đơn vị chi phí của model trước khi lưu lượng production chuyển sang.

Đối với việc truy cập Qwen API, bản ghi tuyến của Flatkey sẽ nhỏ hơn:

flatkey_qwen_route:
  provider_access_layer: flatkey
  base_url: https://router.flatkey.ai/v1
  api_key_source: FLATKEY_API_KEY
  candidate_models:
    - qwen3.8-max
    - qwen3.7-max
    - qwen3.7-plus
    - qwen3.5-flash
  verify_before_launch:
    - account_accessible_v1_models
    - current_model_directory_page
    - pricing_page_units
    - usage_log_readback
    - fallback_or_rollback_policy

Lợi ích không phải là Qwen bỗng nhiên trở nên giống hệt mọi nhà cung cấp khác. Lợi ích là client, log, rà soát quota và quy trình tính phí có thể nhất quán giữa các họ model.

Bước 1: Chọn Qwen trực tiếp hoặc một bộ định tuyến

Trước khi thay đổi code, hãy trả lời các câu hỏi sau.

Câu hỏi Qwen trực tiếp thường là đủ khi... Một bộ định tuyến thường tốt hơn khi...
Bạn chỉ dùng Qwen? Có, Qwen là họ model duy nhất trong phạm vi. Không, Qwen chỉ là một lựa chọn bên cạnh GPT, Claude, Gemini, DeepSeek hoặc các model media.
Bạn có cần kiểm soát theo khu vực Alibaba không? Có, sản phẩm gắn với một khu vực hoặc workspace cụ thể của Alibaba Cloud. Không, ứng dụng muốn một lớp truy cập model dùng chung.
Người dùng có chọn model động không? Không, ứng dụng dùng một model Qwen cố định. Có, người dùng hoặc chính sách có thể thay đổi model id theo khối lượng công việc.
Ai xem xét chi phí? Một nhà phát triển kiểm tra thanh toán Model Studio. Sản phẩm, kỹ thuật và tài chính cần một sổ cái sử dụng dùng chung.
Điều gì xảy ra nếu tuyến bị lỗi? Bạn có thể thử lại hoặc tạm dừng tính năng Qwen. Bạn cần một đường fallback hoặc rollback đã được xác định.

Đối với hầu hết indie hacker, phiên bản đầu tiên có thể rất đơn giản: dùng trực tiếp nhà cung cấp cho một nguyên mẫu một mô hình, hoặc dùng bộ định tuyến cho sản phẩm đa mô hình hay luồng công việc tác tử lập trình vốn đã cần một cơ chế chuyển đổi base URL gọn gàng.

Bước 2: Thiết lập Flatkey OpenAI Client

Cài đặt OpenAI SDK nếu dự án của bạn chưa sử dụng nó:

pip install -U openai

Sau đó tạo một client trỏ tới Flatkey:

import os
from openai import OpenAI

client = OpenAI(
    api_key=os.environ["FLATKEY_API_KEY"],
    base_url="https://router.flatkey.ai/v1",
)

Đối với Node.js:

import OpenAI from "openai";

const client = new OpenAI({
  apiKey: process.env.FLATKEY_API_KEY,
  baseURL: "https://router.flatkey.ai/v1",
});

Quy tắc quan trọng nhưng đơn giản là: đừng để khóa của nhà cung cấp nằm trong mã ứng dụng của bạn. Hãy dùng biến môi trường cho FLATKEY_API_KEY trong đường dẫn bộ định tuyến và DASHSCOPE_API_KEY trong đường dẫn Model Studio trực tiếp.

Bước 3: Xác minh Model ID của Qwen trước khi gọi

Đừng hardcode một tên model Qwen cũ từ bài blog, ảnh chụp màn hình, hoặc chat nhóm. Hãy kiểm tra model id vào đúng ngày bạn triển khai.

Sử dụng một hoặc cả hai cách kiểm tra sau:

curl https://router.flatkey.ai/v1/models \
  -H "Authorization: Bearer $FLATKEY_API_KEY"

Sau đó xác nhận cùng candidate đó trong danh mục model và trang giá của Flatkey. Tại thời điểm bản cập nhật này được chuẩn bị, danh mục model công khai của Flatkey hiển thị các mục thuộc họ Qwen bao gồm qwen3.8-max, qwen3.7-max, qwen3.7-plus, qwen3.6-plus, và qwen3.5-flash. Hãy xem դրանք như các ví dụ cần xác minh, không phải những cam kết vĩnh viễn.

Hãy dùng một route manifest để ứng dụng của bạn có thể thay đổi model id mà không cần triển khai lại:

models:
  qwen_default:
    id: qwen3.7-plus
    use_for:
      - coding_assistant
      - long_context_summary
      - structured_extraction
    owner: product-engineering
    rollback: deepseek_or_gemini_candidate

Manifest nhỏ này biến quyền truy cập Qwen API từ một chuỗi ẩn trong mã thành một quyết định có thể rà soát.

Bước 4: Tạo một Chat Completion đầu tiên

Bắt đầu với một yêu cầu ngắn, có tính xác định. Đây không phải là một benchmark. Đây là một bài kiểm tra tuyến.

response = client.chat.completions.create(
    model="qwen3.7-plus",
    messages=[
        {"role": "system", "content": "Trả lời ngắn gọn các khuyến nghị triển khai."},
        {"role": "user", "content": "Viết một câu giải thích vì sao cấu hình base_url quan trọng."},
    ],
    temperature=0.2,
    max_tokens=120,
)

print(response.choices[0].message.content)

Nếu tuyến bị lỗi, đừng đoán mò. Hãy kiểm tra các trường này theo thứ tự:

Kiểm tra Nó phát hiện điều gì
base_url Đường dẫn nhà cung cấp sai, thiếu /v1, nhầm lẫn giữa direct và router
Biến API key Biến môi trường trống, sai loại key, lộ cấu hình staging
ID model Alias Qwen cũ, tài khoản không có quyền truy cập, lỗi chính tả
Dạng endpoint Không khớp giữa Chat Completions, Responses và embeddings
Khu vực/không gian làm việc Đường dẫn trực tiếp Model Studio dùng key từ khu vực khác
Nhật ký sử dụng Yêu cầu chưa bao giờ tới router, lỗi nhà cung cấp, lệch chi phí hoặc trạng thái

Thứ tự này giúp tiết kiệm thời gian vì nhiều lỗi truy cập Qwen API là lỗi cấu hình, không phải lỗi model.

Bước 5: Kiểm tra Streaming, Tools và JSON riêng biệt

Tương thích OpenAI không có nghĩa là mọi nhà cung cấp đều triển khai mọi tính năng theo cùng một cách. Trước khi triển khai production, hãy kiểm tra các tính năng mà ứng dụng của bạn thực sự dùng.

Tính năng Kiểm tra nhanh Điều kiện đạt
Chat không streaming Một prompt nhỏ Phản hồi trả về một thông điệp có thể dùng được và dữ liệu usage
Streaming Cùng prompt đó với stream=True Các chunk đến theo thứ tự và UI của bạn xử lý hoàn tất
Tool calls Một schema hàm đơn giản Model trả về các trường tool-call hợp lệ cho bộ parser của bạn
Đầu ra JSON Một tác vụ trích xuất nhỏ Đầu ra xác thực đúng theo schema hoặc đường sửa lỗi của bạn
Ngữ cảnh dài Một tài liệu đại diện Độ trễ và chất lượng vẫn chấp nhận được cho khối lượng công việc
Xử lý lỗi Model id không hợp lệ trong staging Ứng dụng của bạn ghi log lỗi route mà không làm lộ key

Với Qwen API truy cập qua Flatkey, cũng hãy kiểm tra dashboard sử dụng của Flatkey sau mỗi lần smoke test. Yêu cầu nên hiển thị model id, số token, trạng thái request, dấu thời gian và chi phí bị trừ khỏi số dư. Phần đọc lại đó chính là thứ giúp bạn gỡ lỗi một route production về sau.

Bước 6: Chuẩn hóa giá theo output được chấp nhận

Đừng so sánh Qwen, DeepSeek, Gemini, Claude và GPT chỉ theo giá token niêm yết. Hãy so sánh chúng theo output được chấp nhận cho khối lượng công việc của bạn.

Hãy dùng bảng tính này:

Chỉ số Vì sao nó quan trọng
Input tokens Prompt ngữ cảnh dài có thể chi phối chi phí ngay cả khi đầu ra ngắn.
Output tokens Các tác vụ coding, trích xuất và agent có thể tạo ra độ dài đầu ra rất khác nhau.
Hành vi cache Một số đường dẫn nhà cung cấp/tài khoản có thể tính giá input được cache khác đi.
Tỷ lệ retry Một route rẻ hơn có thể trở nên đắt hơn khi nó cần nhiều lần thử lại hơn.
Tỷ lệ bị từ chối JSON lỗi, tool call yếu hoặc câu trả lời chất lượng thấp nên được tính vào bất lợi của route.
Thời gian sửa thủ công Dọn dẹp bằng tay là một phần chi phí thực của một sản phẩm indie.
Sử dụng fallback Lưu lượng fallback nên được nhìn thấy rõ, không nên bị coi là sai số làm tròn.

Công thức thực tế:

accepted_output_cost =
  (successful_request_cost + retry_cost + fallback_cost + human_repair_cost)
  / accepted_outputs

Sử dụng trang giá hiện tại của nhà cung cấp và Flatkey cho các đơn vị thô. Sử dụng log của riêng bạn cho số lần thử lại, đầu ra bị từ chối và thời gian sửa chữa thủ công.

Bước 7: Thêm chính sách rollback

Route Qwen đầu tiên của bạn nên có kế hoạch rollback trước khi có người dùng.

qwen_rollout:
  environment: production
  default_model: qwen3.7-plus
  start_percentage: 10
  increase_when:
    - accepted_output_rate >= 0.95
    - p95_latency_ms <= 4500
    - error_rate <= 0.02
    - accepted_output_cost_within_budget: true
  rollback_when:
    - error_rate > 0.05
    - schema_failures_above_threshold: true
    - usage_log_missing: true
    - cost_spike_without_product_change: true
  rollback_action:
    set_model: previous_production_model
    notify: engineering_owner

Điều này không đòi hỏi một đội nền tảng lớn. Nó chỉ cần một người phụ trách route, một manifest mô hình, một thói quen rà soát usage, và một bài test staging nhỏ trước khi bạn tăng lưu lượng.

Điều này phù hợp ở đâu trong Flatkey

Flatkey phù hợp khi quyền truy cập Qwen API là một phần của quy trình làm việc điều phối mô hình rộng hơn:

  • Bạn đã dùng các SDK tương thích OpenAI và muốn một base URL cho nhiều họ mô hình khác nhau.
  • Bạn muốn Qwen, DeepSeek, Gemini, Claude, GPT và các mô hình khác được rà soát trong một thư mục mô hình và quy trình usage.
  • Bạn cần các API key hoặc hạn mức riêng cho phát triển, staging, production, hoặc các coding agent.
  • Bạn muốn kỹ sư xác thực model id, chi phí và trạng thái từ log thay vì phải đối chiếu nhiều dashboard của nhà cung cấp.

Bắt đầu với Flatkey API quickstart, dùng OpenAI-compatible API migration guide khi bạn thay thế các lệnh gọi trực tiếp tới nhà cung cấp, và ghép checklist này với DeepSeek vs Qwen API routing checks nếu workload của bạn nhạy cảm về chi phí.

Đối với quyết định route cuối cùng, hãy kiểm tra live Flatkey model directory, pricing page, và model health page. Những trang đó nên đáng tin hơn bất kỳ bài viết tĩnh nào mỗi khi tính khả dụng hoặc giá của mô hình thay đổi.

Danh sách kiểm tra cuối cùng cho quyền truy cập Qwen API với một Base URL tương thích OpenAI

Trước khi triển khai quyền truy cập Qwen API cho người dùng, hãy xác nhận:

  • Nguồn sự thật cho model id là mới nhất.
  • Các bài test trực tiếp trong Model Studio sử dụng API key và base URL khớp với khu vực.
  • Các bài test của Flatkey dùng https://router.flatkey.ai/v1 và một Flatkey API key.
  • Chat, streaming, tool calls, đầu ra JSON và hành vi long-context được kiểm thử riêng khi ứng dụng của bạn cần chúng.
  • Usage logs hiển thị model id, trạng thái, số token, dấu thời gian và chi phí như mong đợi.
  • Giá được chuẩn hóa theo đầu ra đã được chấp nhận, không chỉ theo đơn giá token niêm yết.
  • Rollback là thay đổi cấu hình, không phải viết lại mã khẩn cấp.
  • Provider keys được lưu trong biến môi trường hoặc kho bí mật, không bao giờ nằm trong code.

Truy cập Qwen API với một Base URL tương thích OpenAI là một mẫu tích hợp đơn giản khi tuyến đường đã được chỉ định rõ. Hãy chọn đường dẫn nhà cung cấp trực tiếp khi bạn chỉ cần Alibaba Cloud Qwen. Hãy chọn Flatkey khi Qwen nằm trong một sản phẩm đa mô hình cần một client, một base URL và một vòng lặp vận hành duy nhất.

Câu hỏi thường gặp

Qwen có hỗ trợ OpenAI API không?

Alibaba Cloud Model Studio cung cấp tài liệu về một giao diện tương thích OpenAI cho các mô hình Qwen. Mã SDK OpenAI hiện có có thể được chuyển đổi bằng cách thay đổi API key, base URL và tên mô hình, nhưng bạn vẫn cần sử dụng đúng cấu hình vùng (region) và workspace.

Base URL của Flatkey để truy cập Qwen API là gì?

Sử dụng https://router.flatkey.ai/v1 cho API tương thích OpenAI của Flatkey. Sau đó chọn một model id Qwen hiện tại từ danh sách mô hình mà tài khoản của bạn có thể truy cập và từ thư mục mô hình Flatkey đang hoạt động.

Tôi có thể dùng cùng một OpenAI SDK cho Qwen thông qua Flatkey không?

Có. Tài liệu của Flatkey cho thấy OpenAI Python và Node.js SDK được cấu hình với Flatkey API key và https://router.flatkey.ai/v1 làm base URL. Mã yêu cầu có thể giữ nguyên dạng Chat Completions quen thuộc cho các mô hình tương thích.

Tại sao các lệnh gọi Qwen trực tiếp lại thất bại dù API key có vẻ hợp lệ?

Một nguyên nhân phổ biến là không khớp region. Alibaba Cloud cho biết API key của Model Studio được gắn với region nơi nó được tạo, vì vậy một key từ region này có thể bị từ chối khi dùng với base URL của region khác.

Tôi có nên công bố chính xác giá Qwen trong tài liệu ứng dụng của mình không?

Thường là không. Hãy liên kết đến trang giá hiện tại của nhà cung cấp và Flatkey, rồi theo dõi chi phí đầu ra đã chấp nhận của riêng bạn từ logs. Văn bản giá tĩnh sẽ nhanh chóng lỗi thời khi mô hình, mức giảm giá hoặc đơn vị tính cước thay đổi.