截至 2025 年 3 月 11 日,我們已推出全新 Agents 平台的基礎組件。詳情請參閱我們的 API 文件,包括 Responses API、工具(包括 Web Search、File Search 及 Computer Use),以及我們的 Agents SDK(連同 Tracing)。
提示詞 token 是你輸入到模型中的 token,也就是你的提示詞所包含的 token 數量。
完成 token 是模型因應你的輸入而產生的任何 token。對於標準請求而言,這就是完成內容中的 token 數量。
我們提供的大多數模型,都同時對可接收的 token 數量(提示詞 token)以及可輸出的 token 數量(完成 token 或採樣 token)設有限制。
這亦包括在使用較高數值的 best_of 或 n 時所產生的任何 token。舉例來說,如果你使用 best_of = 3 來產生 3 個候選完成內容,採樣 token 的數量最多會是 3 * max_tokens。
你可以在我們的文字生成指南中閱讀更多有關管理 token 的內容。
