All’11 marzo 2025 abbiamo rilasciato gli elementi di base della nostra nuova piattaforma per agenti. Per i dettagli, consulta la documentazione API per la nostra API Responses, gli strumenti tra cui Ricerca web, Ricerca di file e Uso del computer, e il nostro SDK per agenti con Tracciamento.
I token del prompt sono i token che inserisci nel modello. Questo è il numero di token nel tuo prompt.
I token di completamento sono tutti i token che il modello genera in risposta al tuo input. Per una richiesta standard, questo è il numero di token nel completamento.
La maggior parte dei modelli che offriamo prevede limiti sia al numero di token che possono ricevere (token del prompt) sia al numero di token che possono produrre (token di completamento o campionati).
Questo include anche eventuali token generati quando si usa un valore più alto di best_of o n. Ad esempio, se stai generando 3 completamenti candidati usando best_of = 3, il numero di token campionati sarà al massimo 3 * max_tokens.
Puoi leggere ulteriori informazioni sulla gestione dei token nella nostra guida alla generazione di testo.