Visão geral
Você pode analisar o uso da API de duas formas:
Use o Painel de uso para analisar a atividade nos períodos de cobrança atuais e anteriores.
Consulte as informações de uso na resposta da API para verificar uma solicitação específica.
O Playground usa as mesmas chamadas de API que seus aplicativos. Os tokens usados nele são contabilizados no uso da API da sua conta e seguem as mesmas regras de uso e os mesmos preços.
Acesso ao painel
Para acessar o Painel de uso, você deve ser proprietário da organização ou ter a permissão Painel de uso.
Analisar o uso no painel
Abra o Painel de uso, selecione a organização que deseja analisar e escolha o período relevante dos relatórios.
Os dados do painel são exibidos em UTC. Considere esse fuso horário ao comparar a atividade do painel com os logs do seu aplicativo.
Selecionar projetos
O painel tem seu próprio seletor de projetos. Ele funciona de forma independente do projeto selecionado em outras áreas da Plataforma de API.
Use o seletor do painel para analisar um, vários ou todos os projetos. Para ver os dados gerais da organização, desmarque os projetos selecionados. Quando nenhum projeto está selecionado, o painel mostra os dados de todos os projetos.
Analisar o uso de um usuário específico
Para analisar o uso de Responses e Chat Completions de um usuário:
No Painel de uso, acesse Recursos da API > Responses e Chat Completions.
Selecione Filtrar por.
Em Usuários, selecione o usuário e depois Aplicar filtros.
Ver tokens por minuto
As páginas de detalhes de uso permitem selecionar o intervalo. Selecione um intervalo de 1 minuto para analisar os tokens por minuto (TPM).
Esse intervalo se aplica aos dados de uso, não aos dados de cobrança.
Exportar dados de uso
Não há limite para o intervalo de datas da exportação. Exportações que abrangem um período longo podem ser divididas em vários arquivos.
Para conciliar faturas mensais e exportar itens de linha, consulte: Como exportar detalhes de uso mensal.
Ver concessões de créditos
Os detalhes das concessões de créditos estão disponíveis na página de cobrança da sua organização.
As concessões de créditos e o uso da API respondem a perguntas diferentes: as concessões mostram os créditos associados à sua organização, enquanto os dados de uso mostram a atividade dela na API.
Analisar o uso e os custos do Nível de escala
Se o Nível de escala estiver habilitado para sua organização e você tiver o acesso necessário, abra a página de uso do Nível de escala para ver informações detalhadas.
Os custos dos pacotes do Nível de escala são atribuídos à organização, não a projetos individuais.
O uso é maior que zero, mas o gasto do projeto é zero
Verifique se o uso do modelo está coberto pela sua alocação do Nível de escala. Se todo o uso desse modelo estiver dentro da alocação de TPM do Nível de escala, o projeto poderá mostrar uso sem gastos adicionais com o modelo.
O custo da assinatura do Nível de escala permanece no nível da organização. Para analisá-lo:
Limpe o filtro de projetos no Painel de uso.
Selecione Categorias de gastos.
Analisar várias organizações
O Painel de uso não combina dados de custo ou uso entre organizações. Cada organização, inclusive uma suborganização, é tratada separadamente.
Para ver uma suborganização, selecione-a no seletor de organizações.
Se precisar de relatórios consolidados, considere usar projetos dentro de uma organização em vez de suborganizações separadas ou use a API de uso para fazer uma análise personalizada.
Confira o uso de tokens em uma resposta da API
Os nomes dos campos de uso de tokens dependem do endpoint.
| Contagem de tokens | Chat Completions | Responses |
|---|---|---|
| Tokens de entrada | usage.prompt_tokens | usage.input_tokens |
| Tokens de saída | usage.completion_tokens | usage.output_tokens |
| Total de tokens | usage.total_tokens | usage.total_tokens |
Por exemplo, uma resposta de Chat Completions pode incluir:
{
"usage": {
"prompt_tokens": 13,
"completion_tokens": 7,
"total_tokens": 20
}
}Dependendo do endpoint e do modelo, os detalhes de uso também podem incluir contagens de tokens de entrada em cache e de raciocínio. Esses dados ajudam a explicar por que o tamanho visível de uma resposta não reflete todo o seu uso de tokens.
Para uma explicação das diferentes categorias de tokens, consulte: Como entender e contar tokens.
Obtenha dados de uso de Chat Completions em streaming
Para uma requisição de Chat Completions em streaming, inclua:
{
"stream": true,
"stream_options": {
"include_usage": true
}
}Com include_usage ativado, um bloco adicional antes de data: [DONE] contém os dados de uso de toda a requisição. O array choices desse bloco está vazio. Nos outros blocos, o campo usage tem o valor null.
Se o streaming for interrompido, você poderá não receber esse bloco final com os dados de uso. A ausência do bloco final não comprova que a requisição não usou tokens.
Essa configuração é específica de Chat Completions. Para mais detalhes, consulte: Referência da API chat completions.