El Nivel de capacidad de la Plataforma de API te permite comprar por adelantado un número determinado de tokens de entrada y salida de la API por minuto (conocidos como «unidades de token») para acceder a una instantánea de modelo dedicada. Cada unidad de token se compra por un mínimo de 30 días.
Una vez que hayas firmado un formulario de pedido, puedes añadir y eliminar unidades de token desde tu cuenta de la Plataforma de API. Ten en cuenta que solo los propietarios de la organización y los usuarios autorizados pueden ver la configuración del Nivel de capacidad y comprar unidades de token de entrada y salida.
Más información sobre los precios del Nivel de capacidad.
¿Cómo puedo acceder a mi configuración del Nivel de capacidad?
Los propietarios de organizaciones de la Plataforma de API pueden acceder a su configuración de Nivel de capacidad seleccionando el icono de engranaje de configuración en la parte superior derecha de la página y seleccionando Nivel de capacidad en la sección «Organización» del menú situado en el lado izquierdo de la pantalla.
La página de configuración del Nivel de capacidad te permite añadir más capacidad, ver el uso de tokens de entrada, planificar la capacidad, ver tus tokens aprovisionados y revisar tus compradores autorizados.
¿Cómo puedo comprar más capacidad?
Puedes comprar capacidad seleccionando el botón «Añadir capacidad» en la parte superior derecha de tu página de Nivel de capacidad. Consulta nuestra página principal del Nivel de capacidad para ver la información más reciente sobre las asignaciones de TPM por unidades de token de entrada y salida.
Después de seleccionar el tipo de tokens que vas a comprar, puedes introducir directamente una cantidad o mover el control deslizante para seleccionar el número de tokens que quieres comprar. El control deslizante te permite ver fácilmente los cambios de TPM en «Resumen» a medida que modificas los tokens. También te recomendaremos cuántas unidades comprar para cubrir el tráfico de los últimos 30 días.
Cuando hayas finalizado tu selección, selecciona «Finalizar compra» para confirmar la compra en el siguiente modal.
Ten en cuenta que los precios mostrados en nuestro resumen son nuestras tarifas estándar y no incluyen ningún descuento negociado en el formulario de pedido de tu organización. Los descuentos aplicables se aplicarán y se reflejarán en la factura emitida a tu organización. Las unidades compradas estarán activas hasta el inicio del siguiente periodo de facturación y, después, se renovarán a diario.
¿Cómo habilito las llamadas para que usen tokens del Nivel de capacidad?
Debe activar la opción Nivel de capacidad activado en la configuración del proyecto.
Si usa la API de Completions, consulte también nuestra documentación, donde se explica la clave service_tier, para decidir si debe configurarla manualmente o usar el comportamiento predeterminado.
De forma predeterminada, las llamadas a la API de Responses usan service_tier=auto. Si un proyecto tiene activado el Nivel de capacidad, las solicitudes que omitan service_tier (o usen auto) utilizarán de forma predeterminada el Nivel de capacidad cuando haya cuota disponible para dicho nivel. Las solicitudes con service_tier=default usarán computación compartida/de pago por uso (PAYG).
¿Cómo puedo ver mi historial de compras y los tokens caducados?
Puedes ver el historial de compras de tu Nivel de capacidad en tu página de Nivel de capacidad seleccionando un modelo en «Tokens aprovisionados».
Cuando selecciones un modelo, podrás ver «Tokens caducados» y «Transacciones anteriores» en la parte inferior de la página.
¿Cómo puedo editar mi capacidad de tokens?
Puedes editar la capacidad de tokens de un modelo seleccionando un modelo en «Tokens aprovisionados» en tu página de Nivel de capacidad. Cuando selecciones un modelo, busca tu compra bajo el encabezado «Activo» y selecciona «Cancelar» junto a tu compra para editarla
En el modal, puedes introducir directamente el número de unidades que quieres cancelar o usar el control deslizante para simular el TPM mientras haces tu selección.
¿Cómo puedo consultar los RPM/TPM y el uso de mi Nivel de capacidad?
Puede consultar un resumen del uso de la API de su organización en la página Nivel de capacidad. Todas las fechas y horas se expresan en UTC, y los datos pueden acumular un retraso de hasta 5 minutos.
Puede consultar su uso en el Panel de uso de actividad seleccionando sus modelos del Nivel de capacidad en el menú desplegable de modelos. Puede consultar estos datos en intervalos de 30 días, 1 día y 15 minutos. Los datos de uso se muestran apilados para comparar el uso del modelo cubierto por su Nivel de capacidad con el cubierto por el plan de su cuenta.
Tenga en cuenta que solo los propietarios de la organización pueden consultar el Panel de uso.
¿Cuándo veré reflejado mi cambio de capacidad de tokens en el panel de uso?
Los cambios que hagas pueden tardar hasta 24 horas en reflejarse. Los cambios en sí entrarán en vigor casi al instante.