Kebanyakan tim tidak membutuhkan peluncuran AI gateway besar pada hari pertama. Mereka membutuhkan jalan singkat dari “kami punya akun” ke “kami membandingkan beberapa model pada pekerjaan nyata dan tahu apa yang perlu diuji selanjutnya.”
Flatkey integration starter ini dirancang untuk sesi awal tersebut. Ini menghubungkan elemen-elemen penting—akses API, permintaan pertama, alat desktop, asisten coding, perbandingan model, harga, dan serah terima tim—tanpa memaksa Anda mengadopsi semua alur kerja sekaligus.
Ide operasionalnya sederhana: mulai dengan satu kunci API Flatkey dan satu base URL yang kompatibel dengan OpenAI, lalu pilih permukaan kerja yang sesuai dengan orang yang melakukan evaluasi.
https://router.flatkey.ai/v1
Developer dapat menggunakan SDK atau terminal. Pemilik prompt dapat memulai di Cherry Studio. Tim coding dapat menambahkan profil Flatkey di CC Switch. Semua orang dapat bekerja dari shortlist model yang sama dan membandingkan hasil sebelum tim berkomitmen pada rute produksi.
The Flatkey starter stack at a glance
Gunakan tabel ini untuk memilih setup terkecil yang berguna untuk pengujian pertama Anda.
| Tujuan langsung Anda | Mulai di sini | Seperti apa keberhasilannya |
|---|---|---|
| Memastikan API berfungsi | Flatkey quickstart | Satu respons valid muncul di aplikasi dan log penggunaan Anda |
| Membandingkan prompt secara manual | Panduan setup Cherry Studio | Prompt yang sama dapat diuji pada shortlist model yang kecil |
| Menambahkan Flatkey ke workflow coding | Panduan setup CC Switch | Profil Flatkey lokal dapat dipilih tanpa mengganti setiap profil yang sudah ada |
| Membangun benchmark yang dapat diulang | Workflow pengujian prompt multi-model | Setiap model menerima test case dan rubrik penilaian yang sama |
| Memilih kandidat produksi | Daftar periksa evaluasi model AI | Kualitas, latensi, keandalan, dan biaya efektif ditinjau bersama |
| Memperkirakan kecocokan operasional | Harga Flatkey | Shortlist Anda mencerminkan akses model saat ini dan beban kerja yang diharapkan |
Anda tidak perlu menyelesaikan setiap baris. Seorang evaluator solo mungkin menggunakan quickstart dan Cherry Studio. Tim engineering mungkin langsung dari quickstart ke SDK test harness. Tim coding mungkin memulai dengan CC Switch dan menambahkan evaluasi terstruktur setelah mengidentifikasi model yang menjanjikan.
Step 1: Pilih satu tugas nyata, bukan demo generik
Sesi onboarding tercepat dimulai dengan pekerjaan yang representatif. Hindari memulai dengan prompt yang samar seperti “tulis sesuatu yang kreatif.” Prompt seperti itu sulit dinilai dan jarang menyerupai pekerjaan yang akan membenarkan integrasi.
Pilih satu tugas dengan kondisi lulus yang terlihat, misalnya:
- Ekstrak lima field yang wajib dari pesan dukungan.
- Menghasilkan JSON valid yang cocok dengan skema aplikasi Anda.
- Menyusun draf balasan yang mengikuti kebijakan dan nada tertentu.
- Menjelaskan perubahan kode tanpa mengarang file atau fungsi.
- Memanggil tool yang disetujui dengan argumen yang benar.
Siapkan lima hingga sepuluh contoh sebelum membandingkan model. Sertakan kasus biasa, satu kasus yang sulit, dan setidaknya satu kasus yang harus gagal dengan aman. Kumpulan kecil ini sudah cukup untuk mengungkap perbedaan yang jelas tanpa mengubah sesi pertama menjadi program evaluasi penuh.
Jaga prompt, bentuk keluaran yang diharapkan, dan aturan penilaian tetap stabil. Model harus menjadi variabel utama.
Step 2: Lakukan satu panggilan API melalui quickstart
Ikuti Flatkey quickstart untuk membuat API key, mengarahkan klien yang kompatibel dengan OpenAI ke router Flatkey, dan melakukan permintaan pertama.
Daftar periksa panggilan pertama Anda memang sengaja singkat:
- Simpan key di variabel lingkungan, bukan di source code.
- Atur base URL ke
https://router.flatkey.ai/v1. - Pilih model yang saat ini tersedia dari katalog live Flatkey atau console.
- Kirim satu prompt representatif.
- Pastikan respons dapat di-parse dan permintaan muncul di usage logs.
Jangan menambahkan fallback routing, retry yang kompleks, atau beberapa tools sebelum permintaan ini berhasil. Lapisan-lapisan tersebut dapat menyembunyikan apakah key, base URL, pemilihan model, dan kontrak permintaan sudah benar.
Setelah satu panggilan berhasil, simpan prompt yang persis, identifier model, waktu permintaan, respons, latensi, dan usage. Catatan itu menjadi baseline untuk model berikutnya.
Step 3: Pilih surface evaluasi yang tepat
Integrasi starter terbaik bergantung pada siapa yang mengerjakan.
Cherry Studio untuk perbandingan prompt secara langsung
Cherry Studio berguna ketika product manager, prompt designer, marketer, peneliti, atau evaluator teknis membutuhkan workspace grafis untuk menguji percakapan dan perilaku model.
Gunakan panduan setup API Cherry Studio untuk menambahkan endpoint dan kredensial Flatkey. Lalu buat rutinitas perbandingan kecil:
- Tempel instruksi sistem dan input pengguna yang sama.
- Ubah hanya model kecuali sebuah model memerlukan penyesuaian parameter yang terdokumentasi.
- Catat apakah jawaban memenuhi persyaratan ketat.
- Nilai kejelasan, kegunaan, dan preferensi secara terpisah.
- Simpan kegagalan maupun respons yang kuat.
Ini adalah cara tercepat untuk membuat perbedaan model terlihat bagi non-developer. Ini bukan pengganti pengujian otomatis, tetapi dapat menghasilkan daftar pendek yang terfokus sebelum tim engineering membangun harness.
CC Switch untuk profil coding-assistant
CC Switch adalah titik awal yang praktis ketika use case langsungnya adalah konfigurasi coding-assistant lokal. Ikuti panduan setup CC Switch untuk membuat profil yang didukung Flatkey dan mempertahankan kemampuan berpindah di antara konfigurasi yang disetujui.
Evaluasi model coding dengan tugas spesifik repositori, bukan puzzle coding generik. Minta setiap kandidat menjelaskan modul nyata, mengusulkan patch yang terfokus, mengidentifikasi test yang gagal, atau menghasilkan rencana migrasi. Tinjau apakah model menghormati batas file, mengikuti instruksi, dan menghindari klaim yang tidak didukung tentang codebase.
Biarkan profil Anda yang ada tetap tersedia sampai rute baru lolos tugas-tugas yang penting bagi tim Anda. Koneksi yang berhasil membuktikan akses; itu tidak membuktikan bahwa setiap model cocok untuk setiap repositori atau tingkat automasi.
Sebuah SDK harness untuk hasil yang dapat diulang
Gunakan SDK atau skrip ketika Anda membutuhkan reproducibility. Satu client OpenAI-compatible dapat mengirim set pengujian yang sama ke beberapa model ID sementara evaluator Anda menyimpan respons dalam format yang konsisten.
Workflow pengujian prompt multi-model menunjukkan cara membekukan contract request, memisahkan kebutuhan wajib dari preferensi, merekam latency dan usage, serta menghindari mengubah beberapa variabel sekaligus.
Mulailah dengan dua atau tiga model. Lebih banyak kandidat menciptakan lebih banyak pekerjaan review dan sering kali menunda keputusan tanpa memperbaikinya.
Step 4: Score the result that reaches production
Request termurah tidak selalu merupakan hasil dengan biaya terendah. Respons yang memerlukan koreksi manual, melanggar schema, time out, atau memicu retry berulang dapat lebih mahal daripada model yang harganya lebih tinggi tetapi berhasil pada percobaan pertama.
Gunakan empat kelompok skor:
| Score group | Questions to answer |
|---|---|
| Task success | Apakah output memenuhi setiap hard requirement? |
| Quality | Apakah hasilnya akurat, berguna, ringkas, dan sesuai untuk audiens? |
| Operations | Apakah latency dapat diterima, dan apakah request selesai dengan andal? |
| Economics | Apa biaya efektif per hasil yang diterima, termasuk retry dan review? |
Checklist evaluasi model AI menyediakan workflow yang lebih mendalam untuk weighted scoring, pemeriksaan structured-output, pengujian rate-limit, canary rollout, dan kriteria rollback.
Sebelum memilih finalis, tinjau halaman harga Flatkey saat ini. Akses model dan economics dapat berubah, jadi gunakan halaman live daripada menyalin angka lama ke spreadsheet evaluasi. Perkirakan token prompt, token completion, volume request, retry yang diharapkan, dan traffic fallback apa pun untuk workload yang benar-benar Anda rencanakan untuk dijalankan.
Step 5: Turn a personal test into a team-ready path
Integrasi personal yang berfungsi adalah awal adopsi, bukan akhirnya. Sebelum workflow menjadi shared infrastructure, tetapkan owner dan tambahkan kontrol dasar.
Gunakan checklist handoff ini:
- Access owner: Mengontrol pembuatan, penyimpanan, rotasi, dan pencabutan API key.
- Model owner: Memelihara shortlist model yang disetujui dan policy routing di tingkat tugas.
- Quality owner: Mengkurasi test case, aturan penilaian, dan threshold regresi.
- Operations owner: Meninjau usage, error, latency, quota, dan perilaku fallback.
- Budget owner: Membandingkan usage yang diperkirakan dengan pengeluaran aktual dan menyelidiki varians.
Jika beberapa tim atau region akan berbagi gateway, lanjutkan dengan panduan AI gateway untuk tim. Jika finance atau operations memerlukan proses review yang dapat diulang, gunakan panduan pengelolaan pengeluaran AI API untuk menghubungkan visibilitas usage, quota, catatan recharge, dan perencanaan bulanan.
Tujuannya bukan membentuk komite untuk starter test. Tujuannya adalah memastikan jalur dari eksperimen ke production memiliki owner yang jelas sebelum integrasi menjadi sulit untuk dibatalkan.
Rencana starter integrasi Flatkey 30 menit
Berikut adalah jadwal sesi pertama yang praktis:
| Waktu | Aksi | Hasil |
|---|---|---|
| 0–5 menit | Pilih satu tugas nyata dan lima contoh | Set data uji kecil yang representatif |
| 5–10 menit | Buat key dan selesaikan quickstart | Satu permintaan API yang tercatat |
| 10–15 menit | Hubungkan Cherry Studio, CC Switch, atau SDK | Satu permukaan evaluasi siap digunakan |
| 15–25 menit | Jalankan dua atau tiga model pada contoh yang sama | Respons dan pengukuran yang dapat dibandingkan |
| 25–30 menit | Tinjau harga dan pilih pengujian berikutnya | Daftar pendek, penanggung jawab, dan tindakan tindak lanjut |
Pada akhir sesi, Anda seharusnya dapat menjawab empat pertanyaan:
- Apakah rute Flatkey berfungsi di alat atau jalur kode yang kami preferensikan?
- Model kandidat mana yang lolos persyaratan yang tidak bisa dinegosiasikan?
- Bukti apa yang masih kurang sebelum digunakan di produksi?
- Siapa yang bertanggung jawab atas langkah evaluasi berikutnya?
Itu sudah cukup kemajuan untuk hari pertama. Anda dapat menambahkan dataset yang lebih besar, penilai otomatis, fallback routing, dan kontrol tim setelah stack starter menghasilkan daftar pendek yang dapat dipercaya.
Mulailah dengan jalur terkecil yang bisa memberi Anda pelajaran
Flatkey mendukung beberapa permukaan adopsi, tetapi jalur terpendek biasanya adalah jalur terbaik: satu key, satu base URL, satu tugas representatif, dan satu permukaan evaluasi.
Mulailah dengan quickstart. Tambahkan Cherry Studio untuk pengujian prompt visual, CC Switch untuk profil coding assistant, atau harness SDK untuk benchmark yang dapat diulang. Lalu gunakan harga saat ini dan kriteria evaluasi yang berfokus pada produksi untuk memutuskan apa yang layak mendapatkan penerapan yang lebih besar.
Hasilnya adalah stack starter yang cukup cepat untuk evaluator baru dan cukup terstruktur untuk diserahkan ke engineering, operations, dan finance ketika pengujian menjadi pekerjaan nyata.
