OpenAI
Esta página foi traduzida automaticamente. Ver o artigo original em inglês.

Plataforma de API — Camada de escala para clientes empresariais existentes

Atualizado: 6 days ago

A Camada de escala na Plataforma de API permite-lhe comprar antecipadamente um número definido de tokens de entrada e saída da API por minuto (conhecidos como «unidades de token») para aceder a um snapshot de modelo dedicado. Cada unidade de token é comprada por um mínimo de 30 dias.

Depois de assinar um formulário de encomenda, pode adicionar e remover unidades de token através da sua conta da Plataforma de API. Tenha em atenção que apenas os proprietários da Organização e os utilizadores autorizados podem ver as definições da Camada de escala e comprar unidades de token de entrada e saída.


Saiba mais sobre os preços da Camada de escala.

Como posso aceder às definições da minha Camada de escala?

Os proprietários da Organização da Plataforma de API podem aceder às suas definições da Camada de escala selecionando o ícone de engrenagem das Definições no canto superior direito da página e selecionando Camada de escala na secção «Organização» do menu no lado esquerdo do ecrã.

Image

A página de definições da Camada de escala permite-lhe adicionar mais capacidade, ver a utilização de tokens de entrada, planear a capacidade, ver os tokens aprovisionados e rever os compradores autorizados.

Como posso comprar mais capacidade?

Pode comprar capacidade selecionando o botão Adicionar capacidade no canto superior direito da sua página da Camada de escala. Consulte a nossa página principal da Camada de escala para ver os detalhes mais recentes sobre os direitos de TPM por unidade de token de entrada e saída.

Depois de selecionar o tipo de tokens que pretende comprar, pode introduzir diretamente um valor ou mover o controlo deslizante para selecionar o número de tokens que pretende comprar. O controlo deslizante permite-lhe ver facilmente as alterações de TPM em Resumo à medida que altera os tokens. Também lhe daremos uma recomendação sobre o número de unidades a comprar para cobrir o tráfego dos últimos 30 dias.

Add token capacity dialog for gpt-4o with Input Tokens selected and input limit increasing from 40K to 60K

Depois de finalizar a seleção, selecione Checkout para confirmar a compra no modal seguinte.

Tenha em atenção que os preços apresentados no nosso resumo são as nossas tarifas padrão e não incluem quaisquer descontos negociados no formulário de encomenda da sua organização. Quaisquer descontos aplicáveis serão aplicados e refletidos na fatura emitida à sua organização. Todas as unidades compradas ficarão ativas até ao início do período de faturação seguinte e, depois disso, serão renovadas diariamente.

Como ativo a utilização de tokens da Camada de escala nas chamadas?

Tem de ativar a opção Camada de escala ativada nas Definições do projeto.

Se estiver a utilizar a API Completions, consulte também a nossa documentação sobre a chave service_tier para decidir se deve defini-la manualmente ou utilizar o comportamento predefinido.

Por predefinição, as chamadas à API Responses utilizam service_tier=auto. Se um projeto tiver a Camada de escala ativada, os pedidos que omitam service_tier (ou utilizem auto) usarão a Camada de escala por predefinição, quando houver quota disponível nessa camada. Os pedidos com service_tier=default utilizarão computação partilhada/PAYG.

Como posso ver o meu histórico de compras e os tokens expirados?

Pode ver o seu histórico de compras da Camada de escala na sua página da Camada de escala, selecionando um modelo em Tokens aprovisionados.

Provisioned tokens table with active allocations for gpt-4o and gpt-4o-mini

Depois de selecionar um modelo, poderá ver Tokens expirados e Transações anteriores na parte inferior da página.

Image

Como posso editar a minha capacidade de tokens?

Pode editar a capacidade de tokens de um modelo selecionando um modelo em Tokens aprovisionados na sua página da Camada de escala. Depois de selecionar um modelo, encontre a sua compra no cabeçalho Ativo e selecione Cancelar junto à compra para a editar.

Image

No modal, pode introduzir diretamente o número de unidades a cancelar ou utilizar o controlo deslizante para modelar o TPM à medida que faz a seleção.

Edit Token Capacity dialog for gpt-4o canceling 1 package and reducing output limit TPM from 2.248M to 2.246M

Como posso consultar os meus RPM/TPM e a utilização da Camada de escala?

Pode consultar um resumo da utilização da API pela sua organização na página Camada de escala. Todas as datas e horas baseiam-se em UTC, e os dados podem ter um atraso de até 5 minutos.

Input token usage chart for the last 30 days with several spikes and a peak near 700K

Pode consultar a sua utilização no Painel de utilização da atividade, selecionando os seus modelos da Camada de escala na lista pendente de modelos. Pode consultar estes dados em intervalos de 30 dias, 1 dia e 15 minutos. Os seus dados de utilização são apresentados de forma empilhada para comparar o volume de utilização do modelo abrangido pela Camada de escala com o volume abrangido pelo plano da sua conta.

Tenha em atenção que apenas os proprietários da organização podem consultar o Painel de utilização.

Quando verei a alteração da minha capacidade de tokens refletida no painel de utilização?

As alterações que fizer podem demorar até 24 horas a ficar refletidas. As alterações em si entrarão em vigor quase instantaneamente.

Este artigo foi útil?