OpenAI
此頁面由機器翻譯。查看原始英文文章

提示詞 Token 和完成 Token 有什麼差異?

輸入 Token 和輸出 Token 有什麼差異?

更新日期:6 days ago

截至 2025 年 3 月 11 日,我們已發布全新智慧體平台的基礎元件。如需詳細資訊,請參閱我們的 Responses API API 文件、包含 網頁搜尋檔案搜尋電腦使用在內的工具,以及我們的 Agents SDK追蹤

提示詞 Token 是你輸入到模型中的 Token。這是你的提示詞中的 Token 數量。

完成 Token 是模型回應你的輸入時產生的任何 Token。對於標準請求,這是完成內容中的 Token 數量。

我們提供的大多數模型,對可接收的 Token 數量(提示詞 Token)以及可輸出的 Token 數量(完成或取樣 Token)都有上限。

這也包括使用較高的 best_ofn 值時產生的任何 Token。例如,如果你使用 best_of = 3 產生 3 個候選完成內容,取樣 Token 的數量最多會是 3 * max_tokens

你可以在我們的文字生成指南中,進一步瞭解如何管理 Token。

這篇文章有幫助嗎?