路由与可靠性

Token360 将每个公开模型名解析为符合条件的上游路由。请求转发前，平台会执行鉴权、模型配置、路由健康、计量和账户策略检查。

模型名的含义

请使用 Token360 模型目录中展示的公开模型名。它是面向产品的稳定标识，不是上游账户、部署或 API Key 名称。

一个模型可以有一条或多条可用服务路由。平台会根据已配置路由判断可用性和参数兼容性。除非企业配置明确固定，否则 Token360 不承诺每个请求都使用同一个上游供应商。

路由选择

平台可能考虑：

• 路由及其凭证是否启用；
• 最近的供应商健康状态和限流状态；
• 模型与参数兼容性；
• 租户模型权限和数据驻留策略；
• 账户配置的容量与路由策略。

Token360 不提供 OpenRouter 风格的任意供应商排序、供应商 allowlist、价格上限或跨模型 fallback 请求字段。除非字段出现在所选模型的公开 Schema 中，否则不要发送这些字段。

失败行为

没有兼容路由时，请求会返回标准错误。路由变化不要求应用更改公开模型名。

平台自动处理路由不等于客户端无需容错：

• 仅重试瞬时错误；
• 限制尝试次数和总耗时；
• 使用指数退避和随机抖动；
• 参数错误或余额不足时，修正原因前不要重试；
• 异步创建操作应格外谨慎，因为客户端观察到超时前，上游任务可能已经启动。

响应与审计信号

可用时请记录：

• 响应模型名；
• provider 或 route 元数据；
• request 或 generation ID；
• X-Request-Id 与 X-Trace-ID 响应头；
• 状态、延迟、用量和费用。

通过控制台请求详情与生成记录接口调查实际服务路由。联系支持时提供关联 ID 与时间戳，但绝不要提供 API Key 密钥。

数据策略与路由

企业数据驻留设置会约束可选路由。首选或强制地域属于路由策略，不能单独说明所有保留、日志或训练行为。完整数据路径请阅读 安全与数据处理。

连续性设计

• 将公开模型名放入应用配置，而不是硬编码在源代码中。
• 切换生产流量前先验收替代模型。
• 支持时，交互式长响应使用流式传输。
• 需要脱离客户端连接继续运行的任务使用异步 Chat 或批量任务。
• 按模型监控成功率、P95 延迟和错误分类。
• 为预期流量峰值保留足够的可用余额或信用额度。

Token360 不保证的事项

• 未固定路由时使用同一个上游供应商。
• 不同供应商、模型版本或重试得到完全相同的输出。
• 重试非确定性请求得到相同结果。
• 除非明确签约配置，否则不保证跨模型 fallback。