Tanggal 11 Maret 2025, kita wis ngrilis blok panyusun platform Agen anyar kita. Kanggo rincian, delengen dokumentasi API kita kanggo API Respons, Piranti kalebu Panelusuran Web, Panelusuran File, lan Panggunaan Komputer, lan SDK Agen kita kanthi Pelacakan.
Token prompt yaiku token sing Panjenengan lebokake menyang model. Iki jumlah token ing prompt Panjenengan.
Token completion yaiku token apa wae sing diasilake model minangka tanggapan marang input Panjenengan. Kanggo panjaluk standar, iki jumlah token ing completion.
Umume model sing kita tawakake nduweni watesan kanggo jumlah token sing bisa ditampa (token prompt) lan jumlah token sing bisa diasilake (token completion utawa token sampel).
Iki uga kalebu token apa wae sing digawe nalika nggunakake nilai best_of utawa n sing luwih dhuwur. Contone, yen Panjenengan ngasilake 3 kandidat completion nggunakake best_of = 3, jumlah token sing disampel paling akeh yaiku 3 * max_tokens.
Panjenengan bisa maca luwih lengkap babagan ngatur token ing pandhuan generasi teks kita.