异步 Chat

Token360 异步 Chat 会把一条非流式聊天补全排入队列,返回可轮询的 job。适合不想长时间占用 HTTP 连接的场景。

这不是 Batch API。多行 JSONL 请看 批量任务

流程

text
11. POST /v1/async/chat/completions     → job id + request_id(status=queued)
22. GET  /v1/async/chat/completions/{id} → 轮询至终态
33. POST /v1/async/chat/completions/{id}/cancel  → 可选,仅非终态
44. GET  /v1/billing/{request_id}        → 完成后对账

没有列表接口,按 id 查询。

异步 Chat 不支持 Webhook / callback_url 中间态与终态只能通过 GET 查询。若要对多条补全收 HTTPS 回调,请用 批量任务 并传入 callback_url(或控制台账户默认 Webhook)。见 Webhook

创建

Shell
1curl -X POST https://api.token360.ai/v1/async/chat/completions \
2  -H "Authorization: Bearer sk-your-api-key" \
3  -H "Content-Type: application/json" \
4  -d '{
5    "model": "claude-opus-5",
6    "messages": [{"role": "user", "content": "用一个词打招呼。"}],
7    "max_tokens": 16,
8    "stream": false
9  }'

stream 必须false(或省略)。stream: true 返回 400 invalid_request

响应(节选):

JSON
1{
2  "id": "chatjob_...",
3  "object": "chat.completion.job",
4  "status": "queued",
5  "model": "claude-opus-5",
6  "request_id": "async-..."
7}

轮询

Shell
1curl https://api.token360.ai/v1/async/chat/completions/chatjob_... \
2  -H "Authorization: Bearer sk-your-api-key"

终态:completedfailedcancelledexpired
completedresult 为普通 chat completion(choicesusage)。

取消

Shell
1curl -X POST https://api.token360.ai/v1/async/chat/completions/chatjob_.../cancel \
2  -H "Authorization: Bearer sk-your-api-key"

非终态任务变为 cancelled。已是终态则返回当前对象。

计费

成功任务与 POST /v1/chat/completions 同价,并套用企业 / VIP 价格因子。对账:GET /v1/billing/{request_id}billedtotal_amount)。

相关 API 参考

此页面对您有帮助吗?