Visão geral
Pode analisar a utilização da API de duas formas:
Utilize o Painel de utilização para analisar a atividade dos períodos de faturação atuais e anteriores.
Consulte as informações de utilização numa resposta da API para verificar um pedido específico.
O Playground utiliza as mesmas chamadas de API que as suas aplicações. Os respetivos tokens contam para a utilização da API da sua conta e seguem as mesmas regras de utilização e os mesmos preços.
Acesso ao painel
Para aceder ao Painel de utilização, tem de ser proprietário da organização ou ter a permissão Painel de utilização.
Analisar a utilização no painel
Abra o Painel de utilização, selecione a organização que pretende analisar e escolha o período de relatório relevante.
Os dados do painel são apresentados em UTC. Tenha este fuso horário em conta ao comparar a atividade do painel com os registos da sua aplicação.
Selecionar projetos
O painel tem o seu próprio seletor de projetos. Funciona de forma independente do projeto selecionado noutras áreas da Plataforma de API.
Utilize o seletor do painel para analisar um, vários ou todos os projetos. Para ver os dados globais da organização, desmarque os projetos selecionados. Se não estiver selecionado nenhum projeto, o painel mostra os dados de todos os projetos.
Analisar a utilização de um utilizador específico
Para analisar a utilização de Responses e Conclusões de chat de um utilizador:
No Painel de utilização, aceda a Capacidades da API > Responses e Conclusões de chat.
Selecione Filtrar por.
Em Utilizadores, selecione o utilizador e, em seguida, Aplicar filtros.
Ver tokens por minuto
As páginas de detalhes de utilização permitem selecionar o intervalo. Selecione um intervalo de 1 minuto para analisar os tokens por minuto (TPM).
Este intervalo aplica-se aos dados de utilização, não aos dados de faturação.
Exportar dados de utilização
Não há qualquer limite para o intervalo de datas da exportação. As exportações que abrangem um período longo podem ser divididas em vários ficheiros.
Para reconciliar faturas mensais e exportar itens discriminados, consulte: Exportar detalhes mensais de utilização.
Ver concessões de créditos
Os detalhes das concessões de créditos estão disponíveis na página de faturação da sua organização.
As concessões de créditos e a utilização da API respondem a questões diferentes: as concessões mostram os créditos associados à sua organização, enquanto a utilização mostra a atividade da API.
Analisar a utilização e os custos da Camada de escala
Se a sua organização tiver a Camada de escala ativada e dispuser do acesso necessário, abra a página de utilização da Camada de escala para ver dados detalhados.
Os custos dos pacotes da Camada de escala são atribuídos à organização e não a projetos individuais.
A utilização é superior a zero, mas a despesa do projeto é zero
Verifique se a utilização do modelo está abrangida pela sua alocação da Camada de escala. Se toda a utilização desse modelo estiver dentro da alocação de TPM da Camada de escala, o projeto pode apresentar utilização sem despesas adicionais com o modelo.
O custo da subscrição da Camada de escala mantém-se ao nível da organização. Para o consultar:
Limpe o filtro de projetos no Painel de utilização.
Selecione Categorias de despesas.
Analisar várias organizações
O Painel de utilização não combina dados de custos ou utilização de várias organizações. Cada organização, incluindo uma suborganização, é tratada separadamente.
Para ver uma suborganização, selecione-a no seletor de organizações.
Se precisar de relatórios combinados, considere utilizar projetos numa única organização em vez de suborganizações separadas ou utilize a API de utilização para realizar uma análise personalizada.
Verificar a utilização de tokens numa resposta da API
Os nomes dos campos de utilização de tokens dependem do endpoint.
| Contagem de tokens | Conclusões de chat | Responses |
| Tokens de entrada | usage.prompt_tokens | usage.input_tokens |
| Tokens de saída | usage.completion_tokens | usage.output_tokens |
| Total de tokens | usage.total_tokens | usage.total_tokens |
Por exemplo, uma resposta de Conclusões de chat pode incluir:
| { "usage": { "prompt_tokens": 13, "completion_tokens": 7, "total_tokens": 20 }} |
Consoante o endpoint e o modelo, os detalhes de utilização também podem incluir contagens de entradas em cache e de tokens de raciocínio. Estas contagens ajudam a explicar por que motivo o comprimento visível de uma resposta não revela a utilização total de tokens.
Para obter uma explicação das diferentes categorias de tokens, consulte: Compreender e contar tokens.
Obter dados de utilização de Conclusões de chat em streaming
Num pedido de Conclusões de chat em streaming, inclua:
| { "stream": true, "stream_options": { "include_usage": true }} |
Com include_usage ativado, um bloco adicional antes de data: [DONE] contém os dados de utilização de todo o pedido. A respetiva matriz choices está vazia. Os restantes blocos têm o valor de utilização null.
Se o fluxo for interrompido, poderá não receber esse bloco final de utilização. A ausência do bloco final não significa que o pedido não tenha utilizado tokens.
Esta configuração é específica das Conclusões de chat. Para obter detalhes, consulte a referência da API de Conclusões de chat.