截至 2025 年 3 月 11 日,我们已发布全新 Agents 平台的基础构建模块。详情请参阅我们的 API 文档:Responses API、Tools(工具),包括 Web Search、File Search 和 Computer Use,以及带有 Tracing 的 Agents SDK。
提示词 token 是你输入到模型中的 token,也就是你的提示词中包含的 token 数量。
补全 token 是模型为响应你的输入而生成的任何 token。对于标准请求,这就是补全内容中的 token 数量。
我们提供的大多数模型同时对可接收的 token 数量(提示词 token)以及可输出的 token 数量(补全 token 或采样 token)设有限制。
这也包括在使用较高的 best_of 或 n 值时生成的任何 token。例如,如果你使用 best_of = 3 生成 3 个候选补全,那么采样 token 的数量最多为 3 * max_tokens。
你可以在我们的文本生成指南中了解更多关于管理 token 的内容。
