/v1/chat/completions 端点根据消息列表生成文本补全。它是对话、指令遵循和文本生成任务的主要端点。请求格式与 OpenAI Chat Completions API 完全相同,因此任何兼容 OpenAI 的 SDK 都无需修改即可使用。
端点
请求
请求头
请求体参数
表示对话的消息对象数组。每个对象都必须包含
role("system"、"user" 或 "assistant")和 content(字符串)。要生成的最大 token 数量。默认值因模型而异。
0 到 2 之间的采样温度。值越高,输出越随机。默认值:1。
若为
true,响应将作为服务器发送事件(SSE)流返回。默认值:false。核采样参数,只考虑累计概率质量位于前
top_p 的 token。默认值:1。一个或多个让模型停止生成的序列。可以是字符串或字符串数组。
用于函数调用的工具定义列表。每个工具必须包含
type: "function",并包含带有 name、description 和 parameters 的 function 对象。控制工具选择:
"none"、"auto"、"required",或指定工具 {"type": "function", "function": {"name": "..."}}。请求示例
响应
响应字段
此补全的唯一标识符。
生成的补全选项数组。
用于计费的 token 数量。
流式传输
设置stream: true 以接收 SSE 数据块流。每个数据块结构相同,但使用部分 delta 内容,而不是完整消息:
python