OpenAI
此頁面由機器翻譯。查看原文英文文章

提示詞 token 與完成 token 有甚麼分別?

輸入 token 與輸出 token 有甚麼分別?

更新日期:9 days ago

截至 2025 年 3 月 11 日,我們已發佈新智能代理平台的建構模組。詳情請參閱我們的 Responses API API 文件、工具(包括網頁搜尋檔案搜尋電腦使用),以及具備追蹤功能的 智能代理 SDK

提示詞詞元是你輸入模型的詞元。這是提示詞中的詞元數量。

完成詞元是模型為回應你的輸入而產生的任何詞元。對於標準請求,這是完成內容中的詞元數量。

我們提供的大多數模型,都會限制可接收的詞元數量(提示詞詞元),以及可輸出的詞元數量(完成詞元或採樣詞元)。

這也包括使用較高的 best_ofn 值時產生的任何詞元。例如,如果你使用 best_of = 3 產生 3 個候選完成內容,採樣詞元數量最多為 3 * max_tokens

如要進一步了解如何管理詞元,請參閱我們的文字生成指南

這篇文章對你有幫助嗎?