Text mit Flatkey generieren

Basis-URL: https://router.flatkey.ai Die Textgenerierung läuft über POST /v1/chat/completions, was exakt der OpenAI Chat Completions API entspricht. Jeder OpenAI-kompatible Client funktioniert, nachdem Sie die Basis-URL geändert haben.

Kein Umschreiben erforderlich

Behalten Sie Ihren bestehenden Request-Code und zeigen Sie base_url auf https://router.flatkey.ai/v1.

Ein Schlüssel, jedes Modell

Wechseln Sie Modelle, indem Sie das Feld model ändern. Alles andere bleibt gleich.

Ihren ersten Aufruf machen

import os
from openai import OpenAI

client = OpenAI(
    api_key=os.environ["FLATKEY_API_KEY"],
    base_url="https://router.flatkey.ai/v1",
)

response = client.chat.completions.create(
    model="claude-sonnet-5",
    messages=[{"role": "user", "content": "Explain vector databases in two sentences."}],
)

print(response.choices[0].message.content)

import OpenAI from "openai";

const client = new OpenAI({
  apiKey: process.env.FLATKEY_API_KEY,
  baseURL: "https://router.flatkey.ai/v1",
});

const response = await client.chat.completions.create({
  model: "claude-sonnet-5",
  messages: [{ role: "user", content: "Explain vector databases in two sentences." }],
});

console.log(response.choices[0].message.content);

curl --fail-with-body -sS https://router.flatkey.ai/v1/chat/completions \
  -H "Authorization: Bearer YOUR_FLATKEY_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "claude-sonnet-5",
    "messages": [
      { "role": "user", "content": "Explain vector databases in two sentences." }
    ]
  }'

Ein Modell auswählen

Listen Sie alles auf, was Ihr Konto erreichen kann, und behalten Sie die Textmodelle:

curl --fail-with-body -sS https://router.flatkey.ai/v1/models \
  -H "Authorization: Bearer YOUR_FLATKEY_API_KEY" \
  | jq '.data[] | select(.type == "text") | .id'

Durchsuchen Sie dieselbe Liste mit Preisen, Kontextlänge und Latenz im Modellverzeichnis. Ein praktischer Ausgangspunkt:

Bedarf	Ausprobieren
Allgemeines Coding und Reasoning	`claude-sonnet-5`, `gpt-5.6-sol`
Lange Dokumente oder ganze Repositories	`deepseek-v4-pro`, `kimi-k3`
Hohes Volumen bei niedrigen Kosten	`deepseek-v4-flash`, `gemini-2.5-flash-lite`
Agentisches Coding	`glm-5.3`, `claude-opus-5`

Die Antwort streamen

Setzen Sie stream: true, um Tokens zu empfangen, sobald sie erzeugt werden:

stream = client.chat.completions.create(
    model="gemini-2.5-flash",
    messages=[{"role": "user", "content": "Write a haiku about routing."}],
    stream=True,
)

for chunk in stream:
    print(chunk.choices[0].delta.content or "", end="", flush=True)

Jeder Chunk enthält ein partielles delta anstelle einer vollständigen Nachricht.

Eigene Funktionen aufrufen

Übergeben Sie Tool-Definitionen, und das Modell entscheidet, wann es sie aufruft:

tools = [{
    "type": "function",
    "function": {
        "name": "get_weather",
        "description": "Current weather for a city",
        "parameters": {
            "type": "object",
            "properties": {"city": {"type": "string"}},
            "required": ["city"],
        },
    },
}]

response = client.chat.completions.create(
    model="claude-sonnet-5",
    messages=[{"role": "user", "content": "What is the weather in Paris?"}],
    tools=tools,
)

print(response.choices[0].message.tool_calls)

Um die Schleife zu beenden, hängen Sie die Assistant-Nachricht an, dann eine Nachricht pro Tool-Ergebnis mit dem Schlüssel tool_call_id, und senden Sie den gesamten Thread zurück.

Wenn ein Tool ausgelöst wird, ist finish_reason gleich tool_calls, nicht stop. Code, der nur auf stop prüft, verwirft den Aufruf stillschweigend.

Tool-Calling ist eine Fähigkeit des Modells, nicht von Flatkey. Die GPT-, Claude-, Gemini-, Qwen-, DeepSeek- und GLM-Familien unterstützen es. Bild-, Video- und Sprachmodelle ignorieren ein tools-Array.

Eine JSON-Struktur erzwingen

Verwenden Sie response_format, wenn Sie die Antwort parsen müssen:

response = client.chat.completions.create(
    model="gpt-5.6-sol",
    messages=[{"role": "user", "content": "Extract the city and country."}],
    response_format={
        "type": "json_schema",
        "json_schema": {
            "name": "location",
            "strict": True,
            "schema": {
                "type": "object",
                "properties": {"city": {"type": "string"}, "country": {"type": "string"}},
                "required": ["city", "country"],
                "additionalProperties": False,
            },
        },
    },
)

{"type": "json_object"} funktioniert ebenfalls, wenn Sie nur gültiges JSON ohne festes Schema benötigen.

Token-Nutzung lesen

Jede Antwort enthält die Zählwerte, nach denen Sie abgerechnet werden:

"usage": {
  "prompt_tokens": 28,
  "completion_tokens": 22,
  "total_tokens": 50
}

Verschiedene Modellfamilien tokenisieren unterschiedlich, sodass derselbe Text bei verschiedenen Modellen eine unterschiedliche Anzahl von Tokens kostet. Verwenden Sie usage anstatt aus Zeichenanzahlen zu schätzen. Die Kosten pro Anfrage erscheinen auch in den Nutzungsprotokollen.

Fehlerbehebung

No available channel for model ... Dieses Modell ist gerade nicht routbar. Wählen Sie eine andere ID aus /v1/models. Ein erneuter Versuch mit demselben Modell behebt das nicht. Die Antwort endet mitten im Satz finish_reason ist length. Erhöhen Sie max_tokens. Tool-Aufrufe werden nie ausgelöst Bestätigen Sie, dass das Modell Tools unterstützt, und prüfen Sie, dass tool_choice nicht auf none gesetzt ist.

Schnellstart

Code

Gängige KI-Tools

Medienerzeugung

Beliebte Modelle

Dashboard

Referenz

Text mit Flatkey generieren

Kein Umschreiben erforderlich

Ein Schlüssel, jedes Modell

Ihren ersten Aufruf machen

Ein Modell auswählen

Die Antwort streamen

Eigene Funktionen aufrufen

Eine JSON-Struktur erzwingen

Token-Nutzung lesen

Fehlerbehebung

Nächste Schritte

API-Referenz

OpenAI SDK-Leitfaden

Kein Umschreiben erforderlich

Ein Schlüssel, jedes Modell

​Ihren ersten Aufruf machen

​Ein Modell auswählen

​Die Antwort streamen

​Eigene Funktionen aufrufen

​Eine JSON-Struktur erzwingen

​Token-Nutzung lesen

​Fehlerbehebung

​Nächste Schritte

API-Referenz

OpenAI SDK-Leitfaden

Ihren ersten Aufruf machen

Ein Modell auswählen

Die Antwort streamen

Eigene Funktionen aufrufen

Eine JSON-Struktur erzwingen

Token-Nutzung lesen

Fehlerbehebung

Nächste Schritte