OpenAI
此頁面由機器翻譯。查看原始英文文章

提示(prompt)token 與完成(completion)token 有什麼差別?

輸入與輸出 token 有什麼差別?

更新日期:14 days ago

截至 2025 年 3 月 11 日,我們已發布全新 Agents 平台的基礎元件。詳情請參閱我們的 API 文件:Responses API、工具(包含 Web SearchFile SearchComputer Use),以及我們的 Agents SDK(含 Tracing)。

提示(prompt)token 是你輸入到模型中的 token,也就是你的提示內容所包含的 token 數。

完成(completion)token 是模型為回應你的輸入而生成的任何 token。對於一般請求來說,這就是完成內容中的 token 數。

我們提供的大多數模型,同時對可接收的 token 數(提示 token)以及可輸出的 token 數(完成或取樣 token)都有上限。

這也包含在使用較高的 best_ofn 值時所生成的任何 token。舉例來說,如果你使用 best_of = 3 生成 3 個候選完成結果,取樣 token 的數量最多會是 3 * max_tokens

你可以在我們的文字生成指南中閱讀更多關於管理 token 的資訊。

這篇文章有幫助嗎?