跳转到主要内容
Flatkey 根据平台路由的真实生产流量衡量每个模型的健康度,而不是依赖合成基准测试。健康指标每天更新,反映最近 30 天的实际请求。

健康指标含义

“成功”表示上游厂商返回了有效的补全响应。无效提示词或上下文长度超限导致的错误会单独统计。

平台整体数据

Flatkey 在全部模型和提供商上实现:
  • 30 天平均成功率 99.9%——基于生产流量测量
  • 自动故障转移——提供商端点性能下降时,Flatkey 会路由到健康的备用端点
  • 实时看板——每天根据真实流量刷新健康数据

近期用量最高的模型

以下模型在 Flatkey 平台上的流量最高: 排行榜每天更新。完整实时排名请访问 flatkey.ai/rankings

如何使用健康数据

为生产环境选择模型时:
  1. 优先选择成功率高的模型,满足对可靠性敏感的工作负载。
  2. 对实时或流式应用,检查平均延迟,尤其关注首 Token 时间。
  3. 使用日志监控自己的用量,按模型筛选以查看实际成功率。
对关键生产工作负载,建议选择 30 天成功率高于 99.5% 的模型。模型目录会同时显示健康数据和价格,便于兼顾成本与可靠性。

故障转移行为

Flatkey 持续监控上游提供商健康状态。当某个提供商错误率升高或延迟突增时:
  • 请求会自动在健康的提供商端点上重试。
  • 客户端无需实现重试逻辑即可收到有效响应。
  • 故障转移完全透明,你看到的是成功响应而不是错误。
这一机制支撑了平台 99.9% 的成功率,无需任何配置即可自动受益。

查看实时健康数据

可在以下页面查看实时模型健康度、延迟排名和用量数据: