11. maaliskuuta 2025 julkaisimme uuden agenttialustamme perusosat. Lisätietoja on API-dokumentaatiossamme: Responses API, työkalut kuten Verkkohaku, Tiedostohaku ja Tietokoneen käyttö sekä Agents SDK ja jäljitys.
Kehotteen tokenit ovat tokeneita, jotka syötät mallille. Tämä on kehotteesi tokenien määrä.
Täydennystokenit ovat tokeneita, jotka malli luo syötteesi perusteella. Tavallisessa pyynnössä tämä tarkoittaa täydennyksen tokenien määrää.
Useimmissa tarjoamissamme malleissa on rajoitettu sekä vastaanotettavien tokenien määrää (kehotteen tokenit) että tuotettavien tokenien määrää (täydennys- tai otostokenit).
Tähän sisältyvät myös tokenit, jotka luodaan, kun parametrin best_of tai n arvona käytetään suurempaa lukua. Jos esimerkiksi luot kolme vaihtoehtoista täydennystä asetuksella best_of = 3, otostokenien määrä on enintään 3 * max_tokens.
Lisätietoja tokenien hallinnasta on tekstinluontioppaassamme.