计算 Token 数量
/v1/models/{model}:countTokens计算 Gemini 输入的 token 数量,不生成回复。可用性取决于所选模型。
新接入请使用 POST /v1/models/{model}:countTokens。/v1beta/models/{model}:countTokens 端点继续受支持,请求与响应格式相同。
身份验证
在 x-goog-api-key 中发送 Token360 API Key。
请求体
contentsarray对话内容,包含当前用户输入。
contents.rolestring内容角色:user 或 model。 可选值:user, model。
contents.partsarray本轮按顺序排列的文本、媒体或工具片段。
generateContentRequestobject完整生成输入,包含系统指令与工具。与 contents 二选一。
generateContentRequest.modelstringrequired模型资源名称,格式为 models/{model}。
generateContentRequest.contentsarrayrequired对话内容,包含当前用户输入。
generateContentRequest.systemInstructionobjectContent 格式的系统指令;使用文本片段。
generateContentRequest.generationConfigobject生成配置;支持的选项取决于模型。
generateContentRequest.safetySettingsarray各类别的安全阈值;同一类别不能重复设置。
generateContentRequest.toolsarray可用工具,包括函数和内置工具。
generateContentRequest.toolConfigobject工具选择及检索配置。
generateContentRequest.cachedContentstring已有缓存资源名称,格式为 cachedContents/{id}。
generateContentRequest.labelsobject用户定义的请求标签。
generateContentRequest.serviceTierstring请求的服务层级,取决于模型与供应商支持。 可选值:unspecified, standard, flex, priority。
generateContentRequest.storeboolean请求日志记录偏好,需支持该功能。
generateContentRequest.continuationTokenstring续传令牌;必须原样重发原始 contents。
使用 contents 传入对话,或通过 generateContentRequest 包含系统指令、工具及其他生成设置。使用 generateContentRequest 时,将其中的 model 设置为 models/{model},并与 URL 中的模型保持一致。
token 数量反映提交的输入内容,生成请求的最终用量可能有所不同。
countTokens 不支持显式缓存引用。请求中包含 cachedContent(包括放在 generateContentRequest 内或使用 snake_case 别名)时,即使已启用显式缓存,也会返回 HTTP 501,状态为 UNIMPLEMENTED。请将返回的缓存 name 用于 generateContent 或 streamGenerateContent。请参阅 创建显式缓存。
响应
totalTokensinteger输入 token 总数。
cachedContentTokenCountinteger缓存内容的 token 数量(如返回)。
promptTokensDetailsobject[]按模态统计的输入 token 数量(如返回)。
promptTokensDetails.modalitystring输入模态。
promptTokensDetails.tokenCountinteger该模态的 token 数量。
cacheTokensDetailsobject[]按模态统计的缓存 token 数量(如返回)。
cacheTokensDetails.modalitystring缓存输入模态。
cacheTokensDetails.tokenCountinteger该模态的缓存 token 数量。