Oversigt
Du kan gennemgå API-forbruget på to måder:
Brug Forbrugsdashboardet til at gennemgå aktivitet i nuværende og tidligere faktureringsperioder.
Læs forbrugsoplysningerne i et API-svar for at kontrollere en enkelt anmodning.
Playground bruger de samme API-kald som dine applikationer. Dets tokens tæller med i din kontos API-forbrug og følger de samme forbrugsregler og priser.
Adgang til dashboardet
Du skal være organisationsejer eller have tilladelsen Forbrugsdashboard for at få adgang til Forbrugsdashboardet.
Gennemgå forbruget i dashboardet
Åbn Forbrugsdashboardet, vælg den organisation, du vil gennemgå, og vælg den relevante rapporteringsperiode.
Data i dashboardet vises i UTC. Husk denne tidszone, når du sammenligner aktiviteten i dashboardet med din applikations logfiler.
Vælg projekter
Dashboardet har sin egen projektvælger. Den fungerer uafhængigt af det projekt, der er valgt andre steder på API-platformen.
Brug dashboardets vælger til at gennemgå ét, flere eller alle projekter. Ryd de valgte projekter for at se data for hele organisationen. Når ingen projekter er valgt, viser dashboardet data for alle projekter.
Gennemgå en enkelt brugers forbrug
Sådan gennemgår du én brugers forbrug af Responses og Chat Completions:
Gå til API-funktioner > Responses og Chat Completions i Forbrugsdashboardet.
Vælg Filtrér efter.
Vælg brugeren under Brugere, og vælg derefter Anvend filtre.
Se tokens pr. minut
På sider med forbrugsoplysninger kan du vælge interval. Vælg et interval på 1 minut for at undersøge tokens pr. minut (TPM).
Dette interval gælder for forbrugsdata, ikke faktureringsdata.
Eksportér forbrugsdata
Der er ingen begrænsning på eksportens datointerval. Eksporter, der dækker en lang periode, kan blive opdelt i flere filer.
Se Eksport af månedlige forbrugsoplysninger for at afstemme månedsfakturaer og eksportere individuelle poster.
Se kredittildelinger
Du kan finde oplysninger om kredittildelinger på din organisations Faktureringsside.
Kredittildelinger og API-forbrug besvarer forskellige spørgsmål: Kredittildelinger viser de kreditter, der er knyttet til din organisation, mens forbruget viser dens API-aktivitet.
Gennemgå forbrug og omkostninger for Skaleringsniveau
Hvis Skaleringsniveau er aktiveret for din organisation, og du har den nødvendige adgang, kan du åbne forbrugssiden for Skaleringsniveau for at se detaljeret forbrug.
Omkostninger til pakker på Skaleringsniveau tilskrives organisationen og ikke de enkelte projekter.
Forbruget er større end nul, men projektets udgifter er nul
Kontrollér, om modellens forbrug er dækket af din tildeling på Skaleringsniveau. Hvis hele forbruget for modellen ligger inden for TPM-tildelingen på Skaleringsniveau, kan projektet vise forbrug uden yderligere modeludgifter.
Abonnementsprisen for Skaleringsniveau forbliver på organisationsniveau. Sådan gennemgår du den:
Ryd projektfilteret i Forbrugsdashboardet.
Vælg Udgiftskategorier.
Gennemgå flere organisationer
Forbrugsdashboardet samler ikke omkostnings- eller forbrugsdata på tværs af organisationer. Hver organisation, herunder en underorganisation, behandles separat.
Vælg en underorganisation i organisationsvælgeren for at få vist den.
Hvis du har brug for samlet rapportering, kan du overveje at bruge projekter i én organisation i stedet for separate underorganisationer eller bruge Forbrugs-API'en til tilpassede analyser.
Kontrollér tokenforbruget i et API-svar
Feltnavnene for tokenforbrug afhænger af endepunktet.
| Antal tokens | Chat Completions | Responses |
| Inputtokens | usage.prompt_tokens | usage.input_tokens |
| Outputtokens | usage.completion_tokens | usage.output_tokens |
| Tokens i alt | usage.total_tokens | usage.total_tokens |
Et Chat Completions-svar kan f.eks. indeholde:
| { "usage": { "prompt_tokens": 13, "completion_tokens": 7, "total_tokens": 20 }} |
Afhængigt af endepunktet og modellen kan forbrugsoplysningerne også omfatte antal tokens for cachelagret input og ræsonnering. Disse oplysninger er med til at forklare, hvorfor et svars synlige længde ikke viser det fulde tokenforbrug.
Du kan finde en forklaring på de forskellige tokenkategorier under Forstå og optæl tokens.
Hent forbrug fra streamede Chat Completions
Medtag følgende i en streamet Chat Completions-anmodning:
| { "stream": true, "stream_options": { "include_usage": true }} |
Når include_usage er aktiveret, indeholder en ekstra blok før data: [DONE] forbruget for hele anmodningen. Dens choices-array er tomt. Andre blokke har en null-værdi for usage.
Hvis streamen afbrydes, modtager du muligvis ikke den afsluttende forbrugsblok. En manglende afsluttende blok betyder ikke, at anmodningen ikke brugte nogen tokens.
Denne konfiguration gælder specifikt for Chat Completions. Du kan finde flere oplysninger i API-referencen til Chat Completions.