Noong Marso 11, 2025, inilabas namin ang mga building block ng bago naming platform ng Agents. Para sa mga detalye, tingnan ang aming API docs para sa aming Responses API, Mga Tool kabilang ang Paghahanap sa Web, Paghahanap ng File, at Paggamit ng Computer, at ang aming Agents SDK na may Tracing.
Ang mga prompt token ay ang mga token na inilalagay mo sa modelo. Ito ang bilang ng mga token sa iyong prompt.
Ang mga completion token ay anumang token na binubuo ng modelo bilang tugon sa iyong input. Para sa karaniwang request, ito ang bilang ng mga token sa completion.
Karamihan sa mga modelong iniaalok namin ay may mga limitasyon kapwa sa bilang ng mga token na maaari nilang tanggapin (prompt token) at sa bilang ng mga token na maaari nilang ilabas (completion o samples token).
Kasama rin dito ang anumang token na binubuo kapag gumagamit ng mas mataas na value ng best_of o n. Halimbawa, kung bumubuo ka ng 3 candidate completion gamit ang best_of = 3, ang bilang ng mga na-sample na token ay hindi hihigit sa 3 * max_tokens.
Makakabasa ka pa tungkol sa pamamahala ng mga token sa aming gabay sa pagbuo ng text.