El nivel de capacidad en la plataforma API te permite comprar por adelantado una cantidad determinada de tokens de entrada y salida de API por minuto (conocidos como "unidades de token") para acceder a una instantánea dedicada de un modelo. Cada token se compra por un mínimo de 30 días.
Una vez que hayas firmado un formulario de pedido, puedes agregar y eliminar unidades de token a través de tu cuenta de la plataforma API. Ten en cuenta que solo los propietarios de la organización y los usuarios autorizados pueden ver la configuración del Nivel de capacidad y adquirir unidades de token de entrada y salida.
Obtén más información sobre los precios del Nivel de capacidad.
¿Cómo puedo acceder a la configuración del Nivel de capacidad?
Los propietarios de organizaciones de Plataforma API pueden acceder a la configuración de su Nivel de capacidad al seleccionar el ícono de engranaje de Configuración en la parte superior derecha de la página y luego elegir nivel de capacidad en la sección "Organización" del menú que se encuentra en el lado izquierdo de la pantalla.
La página de configuración del Nivel de capacidad te permite agregar más capacidad, ver el uso de los tokens de entrada, planificar la capacidad, ver los tokens aprovisionados y revisar los compradores autorizados.
¿Cómo puedo comprar más capacidad?
Puedes adquirir capacidad al seleccionar el botón Agregar capacidad en la parte superior derecha de la página Nivel de capacidad. Consulta nuestra página principal de Nivel de capacidad para obtener los detalles más recientes sobre las asignaciones de TPM por unidades de token de entrada y salida.
Después de seleccionar el tipo de token que deseas comprar, puedes ingresar directamente una cantidad o mover el control deslizante para elegir la cantidad de tokens que deseas adquirir. El control deslizante te permite ver fácilmente los cambios de TPM en la sección Resumen a medida que modificas los tokens. También te daremos una recomendación sobre cuántas unidades comprar para cubrir el tráfico de los últimos 30 días.
Una vez que hayas finalizado tu selección, selecciona Finalizar compra para confirmar tu compra en la siguiente ventana modal.
Ten en cuenta que los precios que se muestran en nuestro resumen son nuestras tarifas estándar y no incluyen los descuentos negociados en el formulario de pedido de tu organización. Todos los descuentos aplicables se aplicarán y se reflejarán en la factura que se emita a tu organización. Las unidades compradas estarán activas hasta el inicio del siguiente período de facturación y se renovarán diariamente después de eso.
¿Cómo habilito las llamadas para que usen los tokens del Nivel de capacidad?
Deberás activar el selector Nivel de capacidad habilitado en la configuración del proyecto.
Si estás utilizando la API de Completions, consulta también nuestra documentación que explica la clave service_tier, para decidir si debes configurarla manualmente o confiar en el comportamiento predeterminado.
Las llamadas a la API de respuestas tienen como valor predeterminado service_tier=auto. Si un proyecto tiene habilitado el Nivel de capacidad, las solicitudes que omitan service_tier (o utilicen auto) usarán el Nivel de capacidad de forma predeterminada cuando haya cuota disponible. Las solicitudes con service_tier=default emplearán cómputo compartido/PAYG.
¿Cómo puedo ver mi historial de compras y mis tokens vencidos?
Puedes consultar tu historial de compras del Nivel de capacidad en la página de Nivel de capacidad, al seleccionar un modelo en la sección Tokens aprovisionados.
Una vez que selecciones un modelo, podrás ver los Tokens vencidos y las Transacciones anteriores en la parte inferior de la página.
¿Cómo puedo modificar mi capacidad de tokens?
Puedes editar la capacidad de tokens de un modelo al seleccionar un modelo en Tokens aprovisionados en tu página Nivel de capacidad. Una vez que selecciones un modelo, busca tu compra en el encabezado Activo y selecciona Cancelar junto a ella para editarla.
En la ventana modal, puedes ingresar directamente la cantidad de unidades que deseas cancelar o usar el control deslizante para hacer un modelo del TPM a medida que haces tu selección.
¿Cómo puedo ver los RPM/TPM y el uso del Nivel de capacidad?
Puedes consultar un resumen del uso de la API de tu organización en tu página de Nivel de capacidad. Todas las fechas y horas se basan en UTC, y los datos pueden tener una demora de hasta 5 minutos.
Puedes revisar tu uso en el Panel de control de uso de actividad al seleccionar tus modelos de Nivel de capacidad en el menú desplegable de modelos. Puedes visualizar estos datos en ventanas de 30 días, 1 día y 15 minutos. Tus datos de uso se muestran apilados para indicar la cantidad de uso del modelo cubierta por tu Nivel de capacidad frente a la cantidad de uso cubierta por el plan de tu cuenta.
Ten en cuenta que solo los Propietarios de la organización pueden ver el Panel de control de uso.
¿Cuándo veré reflejado el cambio en mi capacidad de tokens en el panel de control de uso?
Los cambios que realices pueden tardar hasta 24 horas en verse reflejados, pero entrarán en vigor casi de inmediato.