OpenAI
页面内容为机器翻译。查看英文原文

提示 Token 和补全 Token 有什么区别?

输入 Token 和输出 Token 有什么区别?

更新于:9 days ago

截至 2025 年 3 月 11 日,我们已发布新的智能体平台的构建模块。有关详情,请参阅我们的 API 文档,了解 Responses API、包括网页搜索文件搜索计算机使用在内的工具,以及带有跟踪功能的智能体 SDK

提示 Token 是你输入到模型中的 Token。这是你的提示中的 Token 数量。

补全 Token 是模型为响应你的输入而生成的任何 Token。对于标准请求,这是补全中的 Token 数量。

我们提供的大多数模型既限制可输入的 Token 数量(提示 Token),也限制可输出的 Token 数量(补全或样本 Token)。

这也包括使用较高的 best_ofn 值时生成的任何 Token。例如,如果你使用 best_of = 3 生成 3 个候选补全,则采样 Token 的数量最多为 3 * max_tokens

你可以在我们的文本生成指南中阅读有关管理 Token 的更多信息。

这篇文章对你有帮助吗?