2025. március 11-én kiadtuk az új Ügynökök platformunk építőelemeit. Részletekért lásd az API-dokumentációnkat a Válaszok API-hoz, az Eszközökhöz, köztük a Webes kereséshez, a Fájlkereséshez és a Számítógép-használathoz, valamint a Ügynökök SDK-jához a Nyomkövetéssel.
Az utasítás tokenjei azok a tokenek, amelyeket bemenetként adsz meg a modellnek. Ez az utasításodban lévő tokenek száma.
A kiegészítési tokenek azok a tokenek, amelyeket a modell a bemenetedre válaszul generál. Szabványos kérés esetén ez a kiegészítésben lévő tokenek száma.
Az általunk kínált legtöbb modellnél korlátozva van mind a befogadható tokenek száma (utasítástokenek), mind a kiadható tokenek száma (kiegészítési vagy mintavételi tokenek).
Ez magában foglalja a best_of vagy az n magasabb értékének használatakor generált tokeneket is. Ha például 3 lehetséges kiegészítést generálsz a best_of = 3 használatával, a mintavételezett tokenek száma legfeljebb 3 * max_tokens lesz.
A tokenek kezeléséről bővebben a szöveggenerálási útmutatónkban olvashatsz.