Gennemgå API-aktivitet i Forbrugsdashboardet, kontrollér antal tokens i API-svar, og få indblik i projektfiltre, eksporter og omkostninger for Skaleringsniveau.

Oversigt

Du kan gennemgå API-forbruget på to måder:

Brug Forbrugsdashboardet til at gennemgå aktivitet i nuværende og tidligere faktureringsperioder.
Læs forbrugsoplysningerne i et API-svar for at kontrollere en enkelt anmodning.

Playground bruger de samme API-kald som dine applikationer. Dets tokens tæller med i din kontos API-forbrug og følger de samme forbrugsregler og priser.

Adgang til dashboardet

Du skal være organisationsejer eller have tilladelsen Forbrugsdashboard for at få adgang til Forbrugsdashboardet.

Gennemgå forbruget i dashboardet

Åbn Forbrugsdashboardet, vælg den organisation, du vil gennemgå, og vælg den relevante rapporteringsperiode.

Data i dashboardet vises i UTC. Husk denne tidszone, når du sammenligner aktiviteten i dashboardet med din applikations logfiler.

Vælg projekter

Dashboardet har sin egen projektvælger. Den fungerer uafhængigt af det projekt, der er valgt andre steder på API-platformen.

Brug dashboardets vælger til at gennemgå ét, flere eller alle projekter. Ryd de valgte projekter for at se data for hele organisationen. Når ingen projekter er valgt, viser dashboardet data for alle projekter.

Gennemgå en enkelt brugers forbrug

Sådan gennemgår du én brugers forbrug af Responses og Chat Completions:

Gå til API-funktioner > Responses og Chat Completions i Forbrugsdashboardet.
Vælg Filtrér efter.
Vælg brugeren under Brugere, og vælg derefter Anvend filtre.

Se tokens pr. minut

På sider med forbrugsoplysninger kan du vælge interval. Vælg et interval på 1 minut for at undersøge tokens pr. minut (TPM).

Dette interval gælder for forbrugsdata, ikke faktureringsdata.

Eksportér forbrugsdata

Der er ingen begrænsning på eksportens datointerval. Eksporter, der dækker en lang periode, kan blive opdelt i flere filer.

Se Eksport af månedlige forbrugsoplysninger for at afstemme månedsfakturaer og eksportere individuelle poster.

Se kredittildelinger

Du kan finde oplysninger om kredittildelinger på din organisations Faktureringsside.

Kredittildelinger og API-forbrug besvarer forskellige spørgsmål: Kredittildelinger viser de kreditter, der er knyttet til din organisation, mens forbruget viser dens API-aktivitet.

Gennemgå forbrug og omkostninger for Skaleringsniveau

Hvis Skaleringsniveau er aktiveret for din organisation, og du har den nødvendige adgang, kan du åbne forbrugssiden for Skaleringsniveau for at se detaljeret forbrug.

Omkostninger til pakker på Skaleringsniveau tilskrives organisationen og ikke de enkelte projekter.

Forbruget er større end nul, men projektets udgifter er nul

Kontrollér, om modellens forbrug er dækket af din tildeling på Skaleringsniveau. Hvis hele forbruget for modellen ligger inden for TPM-tildelingen på Skaleringsniveau, kan projektet vise forbrug uden yderligere modeludgifter.

Abonnementsprisen for Skaleringsniveau forbliver på organisationsniveau. Sådan gennemgår du den:

Ryd projektfilteret i Forbrugsdashboardet.
Vælg Udgiftskategorier.

Gennemgå flere organisationer

Forbrugsdashboardet samler ikke omkostnings- eller forbrugsdata på tværs af organisationer. Hver organisation, herunder en underorganisation, behandles separat.

Vælg en underorganisation i organisationsvælgeren for at få vist den.

Hvis du har brug for samlet rapportering, kan du overveje at bruge projekter i én organisation i stedet for separate underorganisationer eller bruge Forbrugs-API'en til tilpassede analyser.

Tjek tokenforbruget i et API-svar

Feltnavnene for tokenforbrug afhænger af endepunktet.

Antal tokens	Chat Completions	Responses
Inputtokens	usage.prompt_tokens	usage.input_tokens
Outputtokens	usage.completion_tokens	usage.output_tokens
Tokens i alt	usage.total_tokens	usage.total_tokens

Et Chat Completions-svar kan for eksempel indeholde:

{
  "usage": {
    "prompt_tokens": 13,
    "completion_tokens": 7,
    "total_tokens": 20
  }
}

Afhængigt af endepunktet og modellen kan forbrugsdataene også omfatte antallet af cachelagrede inputtokens og ræsonneringstokens. Disse tal er med til at forklare, hvorfor et svars synlige længde ikke afspejler det fulde tokenforbrug.

Du kan få en forklaring på de forskellige tokenkategorier i Forstå og tæl tokens.

Hent forbrugsdata fra streamede Chat Completions

Ved en Chat Completions-anmodning med streaming skal du inkludere:

{
  "stream": true,
  "stream_options": {
    "include_usage": true
  }
}

Når include_usage er aktiveret, indeholder en ekstra datablok før data: [DONE] forbruget for hele anmodningen. Dens choices-array er tomt. I de øvrige datablokke har usage værdien null.

Hvis streamen afbrydes, modtager du muligvis ikke den sidste datablok med forbrugsdata. Hvis den sidste datablok mangler, er det ikke ensbetydende med, at anmodningen ikke brugte tokens.

Denne konfiguration gælder kun for Chat Completions. Se flere oplysninger i referencedokumentationen for Chat Completions API.

Gennemgang af API-forbrug og -omkostninger