A 11 de março de 2025, lançámos os componentes fundamentais da nossa nova plataforma de agentes. Para obter detalhes, consulte a nossa documentação da API para a API de Respostas, as Ferramentas, incluindo Pesquisa na Web, Pesquisa de Ficheiros e Utilização do Computador, e o nosso SDK de Agentes com Rastreio.
Os tokens do prompt são os tokens que introduz no modelo. Este é o número de tokens no seu prompt.
Os tokens de conclusão são quaisquer tokens que o modelo gera em resposta à sua entrada. Para um pedido padrão, este é o número de tokens na conclusão.
A maioria dos modelos que disponibilizamos tem limites tanto para o número de tokens que podem receber (tokens do prompt) como para o número de tokens que podem gerar (tokens de conclusão ou de amostras).
Isto também inclui quaisquer tokens gerados ao utilizar um valor mais elevado de best_of ou n. Por exemplo, se estiver a gerar 3 conclusões candidatas utilizando best_of = 3, o número de tokens amostrados será, no máximo, 3 * max_tokens.
Pode ler mais sobre a gestão de tokens no nosso guia de geração de texto.