OpenAI
此頁面由機器翻譯。查看原文英文文章

提示詞 token 與完成 token 有甚麼分別?

輸入 token 與輸出 token 有甚麼分別?

更新日期:13 days ago

截至 2025 年 3 月 11 日,我們已推出全新 Agents 平台的基礎組件。詳情請參閱我們的 API 文件,包括 Responses API、工具(包括 Web SearchFile SearchComputer Use),以及我們的 Agents SDK(連同 Tracing)。

提示詞 token 是你輸入到模型中的 token,也就是你的提示詞所包含的 token 數量。

完成 token 是模型因應你的輸入而產生的任何 token。對於標準請求而言,這就是完成內容中的 token 數量。

我們提供的大多數模型,都同時對可接收的 token 數量(提示詞 token)以及可輸出的 token 數量(完成 token 或採樣 token)設有限制。

這亦包括在使用較高數值的 best_ofn 時所產生的任何 token。舉例來說,如果你使用 best_of = 3 來產生 3 個候選完成內容,採樣 token 的數量最多會是 3 * max_tokens

你可以在我們的文字生成指南中閱讀更多有關管理 token 的內容。

這篇文章對你有幫助嗎?