Översikt
Du kan granska API-användningen på två sätt:
Använd användningspanelen för att granska aktivitet under aktuella och tidigare faktureringsperioder.
Läs användningsinformationen i ett API-svar för att kontrollera en enskild begäran.
Playground använder samma API-anrop som dina program. Dess token räknas in i kontots API-användning och omfattas av samma användningsregler och prissättning.
Åtkomst till kontrollpanelen
Du måste vara organisationsägare eller ha behörigheten Användningspanel för att få åtkomst till användningspanelen.
Granska användningen på kontrollpanelen
Öppna användningspanelen, välj organisationen som du vill granska och välj den relevanta rapporteringsperioden.
Data på kontrollpanelen visas i UTC. Tänk på den tidszonen när du jämför aktiviteten på kontrollpanelen med programmets loggar.
Välj projekt
Kontrollpanelen har en egen projektväljare. Den fungerar oberoende av vilket projekt som har valts på andra ställen på API-plattformen.
Använd kontrollpanelens väljare för att granska ett, flera eller alla projekt. Rensa de valda projekten om du vill visa data för hela organisationen. När inga projekt har valts visar kontrollpanelen data för alla projekt.
Granska en enskild användares användning
Så här granskar du en användares användning av Responses och Chat Completions:
Gå till API-funktioner > Responses och Chat Completions på användningspanelen.
Välj Filtrera efter.
Välj användaren under Användare och välj sedan Tillämpa filter.
Visa token per minut
På sidor med användningsinformation kan du välja intervall. Välj ett intervall på 1 minut för att granska token per minut (TPM).
Intervallet gäller användningsdata, inte faktureringsdata.
Exportera användningsdata
Det finns ingen gräns för exportens datumintervall. Exporter som omfattar en lång period kan delas upp i flera filer.
Mer information om avstämning av månadsfakturor och export av enskilda poster finns i Exportera månatlig användningsinformation.
Visa beviljade krediter
Information om beviljade krediter finns på organisationens faktureringssida.
Beviljade krediter och API-användning besvarar olika frågor: de beviljade krediterna visar vilka krediter som är kopplade till organisationen, medan användningen visar dess API-aktivitet.
Granska användning och kostnader för Skalningsnivå
Om Skalningsnivå är aktiverad för organisationen och du har nödvändig behörighet kan du öppna användningssidan för Skalningsnivå för detaljerad användningsinformation.
Kostnader för paket på Skalningsnivå tillskrivs organisationen, inte enskilda projekt.
Användningen är större än noll, men projektets kostnad är noll
Kontrollera om modellens användning omfattas av er tilldelning på Skalningsnivå. Om all användning av modellen ryms inom TPM-tilldelningen på Skalningsnivå kan projektet visa användning utan ytterligare modellkostnader.
Prenumerationskostnaden för Skalningsnivå ligger kvar på organisationsnivå. Så här granskar du den:
Rensa projektfiltret på användningspanelen.
Välj Kostnadskategorier.
Granska flera organisationer
Användningspanelen kombinerar inte kostnads- eller användningsdata från olika organisationer. Varje organisation, även underorganisationer, behandlas separat.
Välj en underorganisation i organisationsväljaren för att visa den.
Om du behöver samlad rapportering kan du använda projekt inom en organisation i stället för separata underorganisationer, eller använda användnings-API:t för anpassad analys.
Kontrollera tokenanvändning i ett API-svar
Fältnamnen för tokenanvändning beror på Slutpunkten.
| Antal token | Chat Completions | Responses |
| Indatatoken | usage.prompt_tokens | usage.input_tokens |
| Utdatatoken | usage.completion_tokens | usage.output_tokens |
| Totalt antal token | usage.total_tokens | usage.total_tokens |
Ett Chat Completions-svar kan till exempel innehålla:
| { "usage": { "prompt_tokens": 13, "completion_tokens": 7, "total_tokens": 20 }} |
Beroende på Slutpunkt och Modell kan användningsinformationen även innehålla antal cachelagrade indatatoken och resonemangstoken. Det bidrar till att förklara varför svarets synliga längd inte visar hela tokenanvändningen.
En förklaring av de olika tokenkategorierna finns i Förstå och räkna token.
Hämta användning från strömmade Chat Completions
Inkludera följande i en strömmad Chat Completions-begäran:
| { "stream": true, "stream_options": { "include_usage": true }} |
När include_usage är aktiverat innehåller ett extra block före data: [DONE] användningen för hela begäran. Dess choices-matris är tom. Övriga block har värdet null för usage.
Om strömmen avbryts kanske du inte får det sista användningsblocket. Ett saknat slutblock innebär inte att begäran inte använde några token.
Den här konfigurationen gäller specifikt för Chat Completions. Mer information finns i API-referensen för Chat Completions.