K 11. marcu 2025 sme vydali stavebné prvky našej novej platformy Agents. Podrobnosti nájdete v našej dokumentácii API pre Responses API, nástroje vrátane Web Search, File Search a Computer Use a v našom Agents SDK s funkciou Tracing.
Tokeny príkazu sú tokeny, ktoré zadávate do modelu. Toto je počet tokenov vo vašom príkaze.
Tokeny dokončenia sú všetky tokeny, ktoré model vygeneruje ako odpoveď na váš vstup. Pri štandardnej požiadavke ide o počet tokenov v dokončení.
Väčšina modelov, ktoré ponúkame, má limity počtu tokenov, ktoré môžu prijať (tokeny príkazu), aj počtu tokenov, ktoré môžu vygenerovať (tokeny dokončenia alebo vzoriek).
Patria sem aj všetky tokeny vygenerované pri použití vyššej hodnoty best_of alebo n. Ak napríklad generujete 3 kandidátske dokončenia pomocou best_of = 3, počet vzorkovaných tokenov bude najviac 3 * max_tokens.
Viac o správe tokenov si môžete prečítať v našej príručke ku generovaniu textu.