截至 2025 年 3 月 11 日,我們已發布全新 Agents 平台的基礎元件。詳情請參閱我們的 API 文件:Responses API、工具(包含 Web Search、File Search 與 Computer Use),以及我們的 Agents SDK(含 Tracing)。
提示(prompt)token 是你輸入到模型中的 token,也就是你的提示內容所包含的 token 數。
完成(completion)token 是模型為回應你的輸入而生成的任何 token。對於一般請求來說,這就是完成內容中的 token 數。
我們提供的大多數模型,同時對可接收的 token 數(提示 token)以及可輸出的 token 數(完成或取樣 token)都有上限。
這也包含在使用較高的 best_of 或 n 值時所生成的任何 token。舉例來說,如果你使用 best_of = 3 生成 3 個候選完成結果,取樣 token 的數量最多會是 3 * max_tokens。
你可以在我們的文字生成指南中閱讀更多關於管理 token 的資訊。
