K 11. březnu 2025 jsme vydali základní stavební prvky naší nové platformy Agents. Podrobnosti najdete v naší API dokumentaci pro Responses API, nástroje včetně Web Search, File Search a Computer Use a také naši sadu Agents SDK s funkcí Tracing.
Prompt tokeny jsou tokeny, které zadáváte do modelu. Jde o počet tokenů ve vašem promptu.
Completion tokeny jsou všechny tokeny, které model vygeneruje v reakci na váš vstup. U standardního požadavku jde o počet tokenů v completion.
Většina modelů, které nabízíme, má limity jak na počet tokenů, které mohou přijmout (prompt tokeny), tak na počet tokenů, které mohou vygenerovat jako výstup (completion nebo sample tokeny).
To zahrnuje také všechny tokeny vygenerované při použití vyšší hodnoty best_of nebo n. Pokud například generujete 3 kandidátní completion pomocí best_of = 3, počet sample tokenů bude maximálně 3 * max_tokens.
Více o správě tokenů si můžete přečíst v našem průvodci generováním textu.