Noong Marso 11, 2025, inilabas namin ang mga building block ng bago naming platform ng Agents. Para sa mga detalye, tingnan ang aming API docs para sa aming Responses API, Mga Tool kabilang ang Paghahanap sa Web, Paghahanap ng File, at Paggamit ng Computer, at ang aming Agents SDK na may Tracing.
Ang mga prompt token ay ang mga token na inilalagay mo sa modelo. Ito ang bilang ng mga token sa iyong prompt.
Ang mga completion token ay anumang token na binubuo ng modelo bilang tugon sa iyong input. Para sa karaniwang request, ito ang bilang ng mga token sa completion.
Karamihan sa mga modelong iniaalok namin ay may limitasyon sa bilang ng mga token na matatanggap ng mga ito (mga prompt token) at sa bilang ng mga token na mailalabas ng mga ito (mga completion o sample token).
Kasama rin dito ang anumang token na binuo kapag gumagamit ng mas mataas na value para sa best_of o n. Halimbawa, kung bumubuo ka ng 3 kandidatong completion gamit ang best_of = 3, ang bilang ng mga na-sample na token ay hindi hihigit sa 3 * max_tokens.
Mababasa mo ang higit pang impormasyon tungkol sa pamamahala ng mga token sa aming gabay sa pagbuo ng text.