Mulai 11 Maret 2025, kami telah merilis komponen dasar platform agen baru kami. Untuk detailnya, lihat dokumentasi API kami untuk API Responses, Alat termasuk Pencarian Web, Pencarian File, dan Penggunaan Komputer, serta SDK Agen kami dengan Pelacakan.
Token prompt adalah token yang Anda masukkan ke model. Ini adalah jumlah token dalam prompt Anda.
Token penyelesaian adalah semua token yang dihasilkan model sebagai respons terhadap input Anda. Untuk permintaan standar, ini adalah jumlah token dalam penyelesaian.
Sebagian besar model yang kami tawarkan memiliki batas jumlah token yang dapat diterima (token prompt) dan jumlah token yang dapat dihasilkan (token penyelesaian atau token sampel).
Ini juga mencakup semua token yang dihasilkan saat menggunakan nilai best_of atau n yang lebih tinggi. Misalnya, jika Anda menghasilkan 3 kandidat penyelesaian menggunakan best_of = 3, jumlah token yang dijadikan sampel tidak akan melebihi 3 * max_tokens.
Anda dapat mempelajari lebih lanjut cara mengelola token dalam panduan pembuatan teks kami.