OpenAI
页面内容为机器翻译。查看英文原文

提示词 token 和补全 token 有什么区别?

输入 token 和输出 token 有什么区别?

更新于:13 days ago

截至 2025 年 3 月 11 日,我们已发布全新 Agents 平台的基础构建模块。详情请参阅我们的 API 文档:Responses API、Tools(工具),包括 Web SearchFile SearchComputer Use,以及带有 TracingAgents SDK

提示词 token 是你输入到模型中的 token,也就是你的提示词中包含的 token 数量。

补全 token 是模型为响应你的输入而生成的任何 token。对于标准请求,这就是补全内容中的 token 数量。

我们提供的大多数模型同时对可接收的 token 数量(提示词 token)以及可输出的 token 数量(补全 token 或采样 token)设有限制。

这也包括在使用较高的 best_ofn 值时生成的任何 token。例如,如果你使用 best_of = 3 生成 3 个候选补全,那么采样 token 的数量最多为 3 * max_tokens

你可以在我们的文本生成指南中了解更多关于管理 token 的内容。

这篇文章对你有帮助吗?