El Nivel de capacidad de la Plataforma de API te permite comprar por adelantado un número determinado de tokens de entrada y salida de la API por minuto (conocidos como «unidades de token») para acceder a una instantánea de modelo dedicada. Cada unidad de token se compra por un mínimo de 30 días.
Una vez que hayas firmado un formulario de pedido, puedes añadir y eliminar unidades de token desde tu cuenta de la Plataforma de API. Ten en cuenta que solo los propietarios de la organización y los usuarios autorizados pueden ver la configuración del Nivel de capacidad y comprar unidades de token de entrada y salida.
Más información sobre los precios del Nivel de capacidad.
¿Cómo puedo acceder a mi configuración del Nivel de capacidad?
Los propietarios de organizaciones de la Plataforma de API pueden acceder a su configuración de Nivel de capacidad seleccionando el icono de engranaje de configuración en la parte superior derecha de la página y seleccionando Nivel de capacidad en la sección «Organización» del menú situado en el lado izquierdo de la pantalla.
La página de configuración del Nivel de capacidad te permite añadir más capacidad, ver el uso de tokens de entrada, planificar la capacidad, ver tus tokens aprovisionados y revisar tus compradores autorizados.
¿Cómo puedo comprar más capacidad?
Puedes comprar capacidad seleccionando el botón «Añadir capacidad» en la parte superior derecha de tu página de Nivel de capacidad. Consulta nuestra página principal del Nivel de capacidad para ver la información más reciente sobre las asignaciones de TPM por unidades de token de entrada y salida.
Después de seleccionar el tipo de tokens que vas a comprar, puedes introducir directamente una cantidad o mover el control deslizante para seleccionar el número de tokens que quieres comprar. El control deslizante te permite ver fácilmente los cambios de TPM en «Resumen» a medida que modificas los tokens. También te recomendaremos cuántas unidades comprar para cubrir el tráfico de los últimos 30 días.
Cuando hayas finalizado tu selección, selecciona «Finalizar compra» para confirmar la compra en el siguiente modal.
Ten en cuenta que los precios mostrados en nuestro resumen son nuestras tarifas estándar y no incluyen ningún descuento negociado en el formulario de pedido de tu organización. Los descuentos aplicables se aplicarán y se reflejarán en la factura emitida a tu organización. Las unidades compradas estarán activas hasta el inicio del siguiente periodo de facturación y, después, se renovarán a diario.
¿Cómo habilito las llamadas para que usen tokens del Nivel de capacidad?
Tendrás que activar el conmutador Scale Tier Enabled en «Configuración del proyecto».
Si usas la API de Completions, consulta también nuestra documentación, en la que se explica la clave service_tier, para decidir si debes configurarla manualmente o confiar en el comportamiento predeterminado.
Las llamadas a la API de Responses usan service_tier=auto de forma predeterminada. Si un proyecto tiene activado Scale Tier Enabled, las solicitudes que omitan service_tier (o usen auto) usarán el Nivel de capacidad de forma predeterminada cuando haya cuota del Nivel de capacidad disponible. Las solicitudes con service_tier=default usarán recursos de computación compartidos/PAYG.
¿Cómo puedo ver mi historial de compras y los tokens caducados?
Puedes ver el historial de compras de tu Nivel de capacidad en tu página de Nivel de capacidad seleccionando un modelo en «Tokens aprovisionados».
Cuando selecciones un modelo, podrás ver «Tokens caducados» y «Transacciones anteriores» en la parte inferior de la página.
¿Cómo puedo editar mi capacidad de tokens?
Puedes editar la capacidad de tokens de un modelo seleccionando un modelo en «Tokens aprovisionados» en tu página de Nivel de capacidad. Cuando selecciones un modelo, busca tu compra bajo el encabezado «Activo» y selecciona «Cancelar» junto a tu compra para editarla
En el modal, puedes introducir directamente el número de unidades que quieres cancelar o usar el control deslizante para simular el TPM mientras haces tu selección.
¿Cómo puedo ver mi RPM/TPM del Nivel de capacidad y mi uso?
Puedes ver un resumen del uso de la API de tu organización en tu página de Nivel de capacidad. Todas las fechas y horas se basan en UTC, y los datos pueden tener un retraso de hasta 5 minutos.
Puedes revisar tu uso en el Panel de actividad de uso seleccionando tus modelos del Nivel de capacidad en el desplegable de modelos. Puedes ver estos datos en ventanas de 30 días, 1 día y 15 minutos. Tus datos de uso se muestran apilados para indicar la cantidad de uso del modelo cubierta por tu Nivel de capacidad frente a la cantidad de uso cubierta por el plan de tu cuenta.
Ten en cuenta que solo los propietarios de la organización pueden ver el panel de uso.
¿Cuándo veré reflejado mi cambio de capacidad de tokens en el panel de uso?
Los cambios que hagas pueden tardar hasta 24 horas en reflejarse. Los cambios en sí entrarán en vigor casi al instante.