11. maaliskuuta 2025 julkaisimme uuden agenttialustamme perusosat. Lisätietoja on API-dokumentaatiossamme: Responses API, työkalut kuten Verkkohaku, Tiedostohaku ja Tietokoneen käyttö sekä Agents SDK ja jäljitys.
Kehotetokenit ovat tokeneita, jotka annat mallille. Tämä on kehotteesi tokenien määrä.
Täydennystokenit ovat tokeneita, jotka malli luo vastauksena syötteeseesi. Tavallisessa pyynnössä tämä on täydennyksen tokenien määrä.
Useimmissa tarjoamissamme malleissa on rajoitukset sekä niiden vastaanottamien tokenien määrälle (kehotetokenit) että niiden tuottamien tokenien määrälle (täydennys- tai näytetokenit).
Tämä sisältää myös kaikki tokenit, jotka luodaan käytettäessä suurempaa best_of- tai n-arvoa. Jos esimerkiksi luot kolme ehdokastäydennystä käyttämällä arvoa best_of = 3, näytteistettyjen tokenien määrä on enintään 3 * max_tokens.
Voit lukea lisää tokenien hallinnasta tekstin luomisen oppaastamme.