K 11. březnu 2025 jsme vydali základní stavební prvky naší nové platformy Agents. Podrobnosti najdete v naší dokumentaci k API pro Responses API, nástroje včetně vyhledávání na webu, vyhledávání v souborech a používání počítače a naše Agents SDK s funkcí trasování.
Tokeny promptu jsou tokeny, které zadáváte do modelu. Jde o počet tokenů ve vašem promptu.
Tokeny dokončení jsou všechny tokeny, které model vygeneruje v reakci na váš vstup. U standardního požadavku jde o počet tokenů v dokončení.
Většina modelů, které nabízíme, má omezený počet tokenů, jež mohou přijmout (tokeny promptu), i tokenů, které mohou vygenerovat (tokeny dokončení nebo vzorků).
Započítávají se sem také všechny tokeny vygenerované při použití vyšší hodnoty best_of nebo n. Pokud například pomocí best_of = 3 generujete 3 kandidátní dokončení, počet navzorkovaných tokenů bude nejvýše 3 * max_tokens.
Další informace o správě tokenů najdete v našem průvodci generováním textu.