Oversikt
Du kan se gjennom API-bruken på to måter:
Bruk bruksoversikten til å se gjennom aktivitet i gjeldende og tidligere faktureringsperioder.
Les bruksinformasjonen i et API-svar for å kontrollere en enkelt forespørsel.
Playground bruker de samme API-kallene som programmene dine. Tokenene derfra teller med i kontoens API-bruk og følger de samme bruksreglene og prisene.
Tilgang til oversikten
Du må være organisasjonseier eller ha tillatelsen Bruksoversikt for å få tilgang til bruksoversikten.
Se gjennom bruken i oversikten
Åpne bruksoversikten, velg organisasjonen du vil se gjennom, og velg den aktuelle rapporteringsperioden.
Dataene i oversikten vises i UTC. Ta hensyn til denne tidssonen når du sammenligner aktiviteten i oversikten med programloggene dine.
Velg prosjekter
Oversikten har en egen prosjektvelger. Den fungerer uavhengig av prosjektet som er valgt andre steder på API-plattformen.
Bruk velgeren i oversikten til å se gjennom ett, flere eller alle prosjekter. Fjern de valgte prosjektene for å se samlede data for organisasjonen. Når ingen prosjekter er valgt, viser oversikten data for alle prosjektene.
Se gjennom bruken til én bruker
Slik ser du gjennom én brukers bruk av Responses og Chat Completions:
Gå til API-funksjoner > Responses og Chat Completions i bruksoversikten.
Velg Filtrer etter.
Velg brukeren under Brukere, og velg deretter Bruk filtre.
Vis tokener per minutt
På sidene med bruksdetaljer kan du velge intervall. Velg et intervall på ett minutt for å undersøke tokener per minutt (TPM).
Dette intervallet gjelder bruksdata, ikke faktureringsdata.
Eksporter bruksdata
Det er ingen begrensning på datoområdet for eksport. Eksporter som dekker en lang periode, kan bli delt opp i flere filer.
Se Eksportere månedlige bruksdetaljer for månedlig fakturaavstemming og eksport av linjeposter.
Vis tildelte kreditter
Du finner informasjon om tildelte kreditter på organisasjonens faktureringsside.
Tildelte kreditter og API-bruk gir svar på ulike spørsmål: Tildelte kreditter viser kredittene som er knyttet til organisasjonen, mens bruk viser API-aktiviteten.
Se gjennom bruk og kostnader for Skaleringsnivå
Hvis organisasjonen har aktivert Skaleringsnivå og du har nødvendig tilgang, åpner du brukssiden for Skaleringsnivå for å se detaljert bruk.
Kostnadene for Skaleringsnivå-pakker tilordnes organisasjonen, ikke enkeltprosjekter.
Bruken er større enn null, men prosjektkostnaden er null
Kontroller om bruken av modellen dekkes av Skaleringsnivå-tildelingen din. Hvis all bruk av denne modellen er innenfor TPM-tildelingen for Skaleringsnivå, kan prosjektet vise bruk uten ekstra modellkostnader.
Abonnementskostnaden for Skaleringsnivå forblir på organisasjonsnivå. Slik ser du gjennom den:
Fjern prosjektfilteret i bruksoversikten.
Velg Kostnadskategorier.
Se gjennom flere organisasjoner
Bruksoversikten kombinerer ikke kostnads- eller bruksdata på tvers av organisasjoner. Hver organisasjon, inkludert underorganisasjoner, behandles separat.
Velg en underorganisasjon i organisasjonsvelgeren for å vise den.
Hvis du trenger samlet rapportering, bør du vurdere å bruke prosjekter i én organisasjon i stedet for separate underorganisasjoner, eller bruke bruks-API-et til egendefinert analyse.
Kontroller tokenbruk i et API-svar
Feltnavnene for tokenbruk avhenger av endepunktet.
| Antall tokener | Chat Completions | Responses |
| Inndatatokener | usage.prompt_tokens | usage.input_tokens |
| Utdatatokener | usage.completion_tokens | usage.output_tokens |
| Totalt antall tokener | usage.total_tokens | usage.total_tokens |
Et Chat Completions-svar kan for eksempel inneholde:
| { "usage": { "prompt_tokens": 13, "completion_tokens": 7, "total_tokens": 20 }} |
Avhengig av endepunktet og modellen kan bruksdetaljene også inneholde antall bufrede inndatatokener og resonneringstokener. Disse bidrar til å forklare hvorfor den synlige lengden på et svar ikke viser hele tokenbruken.
Du finner en forklaring på de ulike tokenkategoriene i Forstå og telle tokener.
Hent bruksdata fra strømmede Chat Completions
Ta med følgende i en strømmet Chat Completions-forespørsel:
| { "stream": true, "stream_options": { "include_usage": true }} |
Når include_usage er aktivert, inneholder en ekstra del før data: [DONE] bruksdataene for hele forespørselen. choices-matrisen i denne delen er tom. Andre deler har null som usage-verdi.
Hvis strømmen avbrytes, er det ikke sikkert at du mottar den siste delen med bruksdata. At den siste delen mangler, betyr ikke at forespørselen ikke brukte noen tokener.
Denne konfigurasjonen gjelder spesifikt for Chat Completions. Du finner mer informasjon i API-referansen for Chat Completions.