Chat Completions — POST /v1/chat/completions

Endpoint /v1/chat/completions tạo ra một đoạn văn bản hoàn chỉnh dựa trên danh sách các tin nhắn. Đây là endpoint chính cho các tác vụ chat, tuân theo hướng dẫn và tạo văn bản. Định dạng yêu cầu giống hệt với OpenAI Chat Completions API, vì vậy mọi SDK tương thích với OpenAI đều hoạt động mà không cần chỉnh sửa.

Endpoint

POST https://router.flatkey.ai/v1/chat/completions

Yêu cầu

Headers

Header	Value
`Authorization`	`Bearer $FLATKEY_API_KEY`
`Content-Type`	`application/json`

Tham số body

string

bắt buộc

ID mô hình cần sử dụng. Xem Danh mục Mô hình để biết tất cả các giá trị hợp lệ. Ví dụ: "gpt-4o", "claude-sonnet-4-5", "gemini-2.5-flash".

array

bắt buộc

Một mảng các đối tượng tin nhắn đại diện cho cuộc hội thoại. Mỗi đối tượng phải có role ("system", "user" hoặc "assistant") và content (chuỗi ký tự).

integer

Số lượng token tối đa cần tạo ra. Giá trị mặc định thay đổi tùy theo mô hình.

number

Nhiệt độ lấy mẫu từ 0 đến 2. Giá trị cao hơn tạo ra đầu ra ngẫu nhiên hơn. Mặc định: 1.

boolean

Nếu là true, phản hồi được trả về dưới dạng luồng các sự kiện server-sent (SSE). Mặc định: false.

number

Lấy mẫu nucleus — chỉ các token trong khối xác suất top_p hàng đầu được xem xét. Mặc định: 1.

string | array

Một hoặc nhiều chuỗi mà tại đó mô hình dừng tạo văn bản. Có thể là một chuỗi hoặc một mảng các chuỗi.

array

Danh sách các định nghĩa công cụ dùng cho việc gọi hàm. Mỗi công cụ phải có type: "function" và một đối tượng function với name, description và parameters.

string | object

Kiểm soát việc chọn công cụ: "none", "auto", "required", hoặc một công cụ cụ thể {"type": "function", "function": {"name": "..."}}.

Ví dụ yêu cầu

import os
from openai import OpenAI

client = OpenAI(
    api_key=os.environ["FLATKEY_API_KEY"],
    base_url="https://router.flatkey.ai/v1",
)

response = client.chat.completions.create(
    model="gpt-4o",
    messages=[
        {"role": "system", "content": "You are a helpful assistant."},
        {"role": "user", "content": "What is the speed of light?"},
    ],
    max_tokens=256,
    temperature=0.7,
)

print(response.choices[0].message.content)

curl https://router.flatkey.ai/v1/chat/completions \
  -H "Authorization: Bearer $FLATKEY_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "gpt-4o",
    "messages": [
      {"role": "system", "content": "You are a helpful assistant."},
      {"role": "user", "content": "What is the speed of light?"}
    ],
    "max_tokens": 256
  }'

Phản hồi

{
  "id": "chatcmpl-abc123",
  "object": "chat.completion",
  "created": 1710000000,
  "model": "gpt-4o",
  "choices": [
    {
      "index": 0,
      "message": {
        "role": "assistant",
        "content": "The speed of light in a vacuum is approximately 299,792,458 meters per second."
      },
      "finish_reason": "stop"
    }
  ],
  "usage": {
    "prompt_tokens": 28,
    "completion_tokens": 22,
    "total_tokens": 50
  }
}

Các trường phản hồi

string

Định danh duy nhất cho lần hoàn thành.

array

Mảng các lựa chọn hoàn thành đã được tạo ra.

Hiện thuộc tính của choice

string

Văn bản đã được tạo ra.

string

Luôn là "assistant" đối với các tin nhắn được tạo ra.

string

Lý do dừng tạo văn bản: "stop" (kết thúc tự nhiên), "length" (đạt max_tokens), "tool_calls" (gọi công cụ).

object

Số lượng token dùng để tính phí.

Hiện thuộc tính của usage

integer

Số lượng token đầu vào.

integer

Số lượng token đầu ra.

integer

Tổng số token prompt và completion.

Streaming

Đặt stream: true để nhận một luồng các đoạn SSE. Mỗi đoạn có cùng cấu trúc nhưng với nội dung delta một phần thay vì một tin nhắn đầy đủ:

python

import os
from openai import OpenAI

client = OpenAI(
    api_key=os.environ["FLATKEY_API_KEY"],
    base_url="https://router.flatkey.ai/v1",
)

stream = client.chat.completions.create(
    model="gpt-4o-mini",
    messages=[{"role": "user", "content": "Tell me a story."}],
    stream=True,
)

for chunk in stream:
    print(chunk.choices[0].delta.content or "", end="", flush=True)

​Endpoint

​Yêu cầu

​Headers

​Tham số body

​Ví dụ yêu cầu

​Phản hồi

​Các trường phản hồi

​Streaming

Endpoint

Yêu cầu

Headers

Tham số body

Ví dụ yêu cầu

Phản hồi

Các trường phản hồi

Streaming