K 11. březnu 2025 jsme vydali základní stavební prvky naší nové platformy Agents. Podrobnosti najdete v naší dokumentaci k API pro Responses API, nástroje včetně vyhledávání na webu, vyhledávání v souborech a používání počítače a naše Agents SDK s funkcí trasování.
Tokeny promptu jsou tokeny, které zadáváte do modelu. Toto je počet tokenů ve vašem promptu.
Tokeny dokončení jsou všechny tokeny, které model vygeneruje v reakci na váš vstup. U standardního požadavku jde o počet tokenů v dokončení.
Většina modelů, které nabízíme, má limity jak na počet tokenů, které mohou přijmout (tokeny promptu), tak na počet tokenů, které mohou vygenerovat (tokeny dokončení nebo vzorkované tokeny).
Patří sem také všechny tokeny vygenerované při použití vyšší hodnoty best_of nebo n. Pokud například generujete 3 kandidátní dokončení pomocí best_of = 3, počet vzorkovaných tokenů bude nejvýše 3 * max_tokens.
Další informace o správě tokenů najdete v našem průvodci generováním textu.