A fecha de 11 de marzo de 2025, hemos lanzado los componentes básicos de nuestra nueva plataforma de agentes. Para más detalles, consulta nuestra documentación de la API sobre la API de Responses, las herramientas, como Búsqueda web, Búsqueda de archivos y Uso de ordenador, y nuestro SDK de Agents con Tracing.
Los tokens de prompt son los tokens que introduces en el modelo. Este es el número de tokens de tu prompt.
Los tokens de completado son los tokens que el modelo genera en respuesta a tu entrada. En una solicitud estándar, este es el número de tokens de la completación.
La mayoría de los modelos que ofrecemos tienen límites tanto en el número de tokens que pueden recibir (tokens de prompt) como en el número de tokens que pueden generar (tokens de completado o tokens de muestreo).
Esto también incluye los tokens generados al usar un valor más alto de best_of o n. Por ejemplo, si generas 3 completaciones candidatas usando best_of = 3, el número de tokens muestreados será como máximo 3 * max_tokens.
Puedes leer más sobre cómo gestionar los tokens en nuestra guía de generación de texto.