All’11 marzo 2025 abbiamo rilasciato gli elementi di base della nostra nuova piattaforma per agenti. Per i dettagli, consulta la documentazione API per la nostra API Responses, gli strumenti tra cui Ricerca web, Ricerca di file e Uso del computer, e il nostro SDK per agenti con Tracciamento.
I token del prompt sono i token che inserisci nel modello. Questo è il numero di token nel prompt.
I token di completamento sono tutti i token generati dal modello in risposta al tuo input. Per una richiesta standard, questo è il numero di token nel completamento.
La maggior parte dei modelli che offriamo prevede limiti sia per il numero di token che può ricevere (token del prompt), sia per quello che può generare (token di completamento o di campionamento).
Sono inclusi anche tutti i token generati quando si utilizza un valore più elevato per best_of o n. Ad esempio, se generi 3 completamenti candidati utilizzando best_of = 3, il numero di token campionati sarà al massimo 3 * max_tokens.
Per ulteriori informazioni sulla gestione dei token, consulta la nostra guida alla generazione di testo.