A fecha del 11 de marzo de 2025, hemos publicado los componentes básicos de nuestra nueva plataforma de agentes. Para obtener más detalles, consulta nuestra documentación de la API para nuestra API de Responses, herramientas como Búsqueda web, Búsqueda de archivos y Uso del ordenador, y nuestro SDK de agentes con seguimiento.
Los tokens de prompt son los tokens que introduces en el modelo. Este es el número de tokens de tu prompt.
Los tokens de finalización son los tokens que genera el modelo en respuesta a lo que introduces. En una solicitud estándar, este es el número de tokens de la finalización.
La mayoría de los modelos que ofrecemos tienen límites tanto en el número de tokens que pueden recibir (tokens de prompt) como en el que pueden generar (tokens de finalización o de muestra).
Esto también incluye los tokens generados al usar un valor más alto de best_of o n. Por ejemplo, si generas 3 posibles finalizaciones con best_of = 3, el número de tokens muestreados será, como máximo, 3 * max_tokens.
Puedes obtener más información sobre cómo gestionar los tokens en nuestra guía de generación de texto.