Em 11 de março de 2025, lançámos os blocos de base da nossa nova plataforma de agentes. Para mais detalhes, consulte a documentação da API relativa à nossa API Responses, às Ferramentas, incluindo Pesquisa na Web, Pesquisa de ficheiros e Utilização do computador, e ao nosso SDK de Agents com Tracing.
Os tokens de prompt são os tokens que introduz no modelo. Este é o número de tokens no seu prompt.
Os tokens de conclusão são quaisquer tokens que o modelo gera em resposta à sua entrada. Num pedido padrão, este é o número de tokens na conclusão.
A maioria dos modelos que oferecemos tem limites tanto para o número de tokens que podem receber (tokens de prompt) como para o número de tokens que podem produzir (tokens de conclusão ou tokens de amostras).
Isto também inclui quaisquer tokens gerados ao utilizar um valor mais elevado de best_of ou n. Por exemplo, se estiver a gerar 3 conclusões candidatas com best_of = 3, o número de tokens de amostragem será, no máximo, 3 * max_tokens.
Pode ler mais sobre a gestão de tokens no nosso guia de geração de texto.