Od 11. marta 2025. objavili smo osnovne komponente naše nove platforme Agents. Za detalje pogledajte našu API dokumentaciju za Responses API, alate uključujući Web pretragu, Pretragu datoteka i Korištenje računara, te naš Agents SDK sa praćenjem.
Tokeni upita su tokeni koje unosite u model. Ovo je broj tokena u vašem upitu.
Tokeni dovršetka su svi tokeni koje model generiše kao odgovor na vaš unos. Za standardni zahtjev, ovo je broj tokena u dovršetku.
Većina modela koje nudimo ima ograničenja i za broj tokena koje mogu primiti (tokeni upita) i za broj tokena koje mogu proizvesti (tokeni dovršetka ili tokeni uzoraka).
Ovo također uključuje sve tokene generisane kada se koristi veća vrijednost best_of ili n. Na primjer, ako generišete 3 kandidatska dovršetka koristeći best_of = 3, broj uzorkovanih tokena bit će najviše 3 * max_tokens.
Više o upravljanju tokenima možete pročitati u našem vodiču za generisanje teksta.