Skip to main content
Base URL: https://router.flatkey.ai Pembuatan teks berjalan melalui POST /v1/chat/completions, yang sesuai persis dengan OpenAI Chat Completions API. Klien apa pun yang kompatibel dengan OpenAI dapat digunakan setelah Anda mengubah base URL.

Tidak perlu penulisan ulang

Pertahankan kode permintaan Anda yang ada dan arahkan base_url ke https://router.flatkey.ai/v1.

Satu kunci, semua model

Ganti model dengan mengubah kolom model. Tidak ada yang berubah selain itu.

Lakukan panggilan pertama Anda

Pilih model

Daftarkan semua yang dapat dijangkau akun Anda dan simpan model teks:
Jelajahi daftar yang sama dengan harga, panjang konteks, dan latensi di direktori model. Titik awal yang praktis:

Streaming respons

Atur stream: true untuk menerima token saat diproduksi:
Setiap potongan membawa delta parsial, bukan pesan lengkap.

Panggil fungsi Anda sendiri

Berikan definisi alat dan model memutuskan kapan akan memanggilnya:
Untuk menyelesaikan loop, tambahkan pesan asisten, lalu satu pesan per hasil alat yang dikunci oleh tool_call_id, dan kirim seluruh thread kembali.
Ketika sebuah alat dijalankan, finish_reason adalah tool_calls, bukan stop. Kode yang hanya memeriksa stop akan melewatkan panggilan tersebut secara diam-diam.
Pemanggilan alat adalah kemampuan model, bukan kemampuan Flatkey. Keluarga GPT, Claude, Gemini, Qwen, DeepSeek, dan GLM mendukungnya. Model gambar, video, dan ucapan mengabaikan array tools.

Paksa bentuk JSON

Gunakan response_format saat Anda perlu mengurai jawabannya:
{"type": "json_object"} juga berfungsi ketika Anda hanya membutuhkan JSON yang valid tanpa skema tetap.

Baca penggunaan token

Setiap respons membawa jumlah yang menjadi dasar tagihan Anda:
Keluarga model yang berbeda melakukan tokenisasi secara berbeda, sehingga teks yang sama membutuhkan jumlah token yang berbeda pada model yang berbeda. Gunakan usage daripada memperkirakan dari jumlah karakter. Biaya per permintaan juga muncul di Log penggunaan.

Pemecahan masalah

No available channel for model ... Model tersebut tidak dapat dirutekan saat ini. Pilih id lain dari /v1/models. Mencoba ulang model yang sama tidak akan menyelesaikan masalah ini. Respons berhenti di tengah kalimat finish_reason adalah length. Naikkan nilai max_tokens. Pemanggilan alat tidak pernah terjadi Konfirmasi bahwa model mendukung alat, dan pastikan tool_choice tidak diatur ke none.

Langkah berikutnya

Referensi API

Setiap parameter dan kolom respons.

Panduan OpenAI SDK

Integrasikan Flatkey ke dalam proyek OpenAI yang sudah ada.