健康指标含义
“成功”表示上游厂商返回了有效的补全响应。无效提示词或上下文长度超限导致的错误会单独统计。
平台整体数据
Flatkey 在全部模型和提供商上实现:- 30 天平均成功率 99.9%——基于生产流量测量
- 自动故障转移——提供商端点性能下降时,Flatkey 会路由到健康的备用端点
- 实时看板——每天根据真实流量刷新健康数据
近期用量最高的模型
以下模型在 Flatkey 平台上的流量最高:
排行榜每天更新。完整实时排名请访问 flatkey.ai/rankings。
如何使用健康数据
为生产环境选择模型时:- 优先选择成功率高的模型,满足对可靠性敏感的工作负载。
- 对实时或流式应用,检查平均延迟,尤其关注首 Token 时间。
- 在使用日志中监控自己的用量,按模型筛选以查看实际成功率。
故障转移行为
Flatkey 持续监控上游提供商健康状态。当某个提供商错误率升高或延迟突增时:- 请求会自动在健康的提供商端点上重试。
- 客户端无需实现重试逻辑即可收到有效响应。
- 故障转移完全透明,你看到的是成功响应而不是错误。
查看实时健康数据
可在以下页面查看实时模型健康度、延迟排名和用量数据:- flatkey.ai/rankings——包含 Token 用量和占比的完整排行榜
- flatkey.ai/models——各模型的健康数据和价格