Visão geral
Você pode analisar o uso da API de duas formas:
Use o Painel de uso para analisar a atividade nos períodos de cobrança atuais e anteriores.
Consulte as informações de uso na resposta da API para verificar uma solicitação específica.
O Playground usa as mesmas chamadas de API que seus aplicativos. Os tokens usados nele são contabilizados no uso da API da sua conta e seguem as mesmas regras de uso e os mesmos preços.
Acesso ao painel
Para acessar o Painel de uso, você deve ser proprietário da organização ou ter a permissão Painel de uso.
Analisar o uso no painel
Abra o Painel de uso, selecione a organização que deseja analisar e escolha o período relevante dos relatórios.
Os dados do painel são exibidos em UTC. Considere esse fuso horário ao comparar a atividade do painel com os logs do seu aplicativo.
Selecionar projetos
O painel tem seu próprio seletor de projetos. Ele funciona de forma independente do projeto selecionado em outras áreas da Plataforma de API.
Use o seletor do painel para analisar um, vários ou todos os projetos. Para ver os dados gerais da organização, desmarque os projetos selecionados. Quando nenhum projeto está selecionado, o painel mostra os dados de todos os projetos.
Analisar o uso de um usuário específico
Para analisar o uso de Responses e Chat Completions de um usuário:
No Painel de uso, acesse Recursos da API > Responses e Chat Completions.
Selecione Filtrar por.
Em Usuários, selecione o usuário e depois Aplicar filtros.
Ver tokens por minuto
As páginas de detalhes de uso permitem selecionar o intervalo. Selecione um intervalo de 1 minuto para analisar os tokens por minuto (TPM).
Esse intervalo se aplica aos dados de uso, não aos dados de cobrança.
Exportar dados de uso
Não há limite para o intervalo de datas da exportação. Exportações que abrangem um período longo podem ser divididas em vários arquivos.
Para conciliar faturas mensais e exportar itens de linha, consulte: Como exportar detalhes de uso mensal.
Ver concessões de créditos
Os detalhes das concessões de créditos estão disponíveis na página de cobrança da sua organização.
As concessões de créditos e o uso da API respondem a perguntas diferentes: as concessões mostram os créditos associados à sua organização, enquanto os dados de uso mostram a atividade dela na API.
Analisar o uso e os custos do Nível de escala
Se o Nível de escala estiver habilitado para sua organização e você tiver o acesso necessário, abra a página de uso do Nível de escala para ver informações detalhadas.
Os custos dos pacotes do Nível de escala são atribuídos à organização, não a projetos individuais.
O uso é maior que zero, mas o gasto do projeto é zero
Verifique se o uso do modelo está coberto pela sua alocação do Nível de escala. Se todo o uso desse modelo estiver dentro da alocação de TPM do Nível de escala, o projeto poderá mostrar uso sem gastos adicionais com o modelo.
O custo da assinatura do Nível de escala permanece no nível da organização. Para analisá-lo:
Limpe o filtro de projetos no Painel de uso.
Selecione Categorias de gastos.
Analisar várias organizações
O Painel de uso não combina dados de custo ou uso entre organizações. Cada organização, inclusive uma suborganização, é tratada separadamente.
Para ver uma suborganização, selecione-a no seletor de organizações.
Se precisar de relatórios consolidados, considere usar projetos dentro de uma organização em vez de suborganizações separadas ou use a API de uso para fazer uma análise personalizada.
Verificar o uso de tokens em uma resposta da API
Os nomes dos campos de uso de tokens dependem do endpoint.
| Contagem de tokens | Chat Completions | Responses |
| Tokens de entrada | usage.prompt_tokens | usage.input_tokens |
| Tokens de saída | usage.completion_tokens | usage.output_tokens |
| Total de tokens | usage.total_tokens | usage.total_tokens |
Por exemplo, uma resposta de Chat Completions pode incluir:
| { "usage": { "prompt_tokens": 13, "completion_tokens": 7, "total_tokens": 20 }} |
Dependendo do endpoint e do modelo, os detalhes de uso também podem incluir contagens de tokens de entrada em cache e de raciocínio. Essas contagens ajudam a explicar por que o tamanho visível de uma resposta não representa todo o uso de tokens.
Para entender as diferentes categorias de tokens, consulte: Como entender e contar tokens.
Obter dados de uso de Chat Completions com streaming
Em uma solicitação de Chat Completions com streaming, inclua:
| { "stream": true, "stream_options": { "include_usage": true }} |
Com include_usage habilitado, um bloco adicional antes de data: [DONE] contém os dados de uso de toda a solicitação. O array choices desse bloco está vazio. Outros blocos têm o valor null em usage.
Se o stream for interrompido, talvez você não receba esse bloco final de uso. A ausência do bloco final não significa que a solicitação não usou tokens.
Essa configuração é específica do Chat Completions. Para ver detalhes, consulte a referência da API chat completions.