Od 11. marta 2025. objavili smo osnovne komponente naše nove platforme Agents. Za detalje pogledajte našu API dokumentaciju za Responses API, alate uključujući Web pretragu, Pretragu datoteka i Korištenje računara, te naš Agents SDK sa praćenjem.
Tokeni upita su tokeni koje unosite u model. To je broj tokena u vašem upitu.
Tokeni dovršetka su svi tokeni koje model generira kao odgovor na vaš unos. Za standardni zahtjev, to je broj tokena u dovršetku.
Većina modela koje nudimo ima ograničenje broja tokena koje može primiti (tokeni upita), kao i broja tokena koje može generirati (tokeni dovršetka ili uzoraka).
To uključuje i sve tokene generirane pri korištenju veće vrijednosti za best_of ili n. Naprimjer, ako pomoću opcije best_of = 3 generirate tri moguća dovršetka, broj uzorkovanih tokena bit će najviše 3 * max_tokens.
Više o upravljanju tokenima možete pročitati u našem vodiču za generiranje teksta.