Pregledajte aktivnosti API-ja na Kontrolnoj tabli korištenja, provjerite broj tokena u odgovorima API-ja te saznajte više o filterima projekata, izvozu i troškovima Nivoa skale.

Pregled

Korištenje API-ja možete pregledati na dva načina:

Na Kontrolnoj tabli korištenja pregledajte aktivnosti u trenutnom i prethodnim periodima naplate.
Pročitajte podatke o korištenju u odgovoru API-ja da biste provjerili pojedinačni zahtjev.

Playground koristi iste API pozive kao i vaše aplikacije. Njegovi tokeni računaju se u korištenje API-ja na vašem računu te podliježu istim pravilima korištenja i cijenama.

Pristup kontrolnoj tabli

Za pristup Kontrolnoj tabli korištenja morate biti vlasnik organizacije ili imati dozvolu Kontrolna tabla korištenja.

Pregled korištenja na kontrolnoj tabli

Otvorite Kontrolnu tablu korištenja, odaberite organizaciju koju želite pregledati i odgovarajući period izvještavanja.

Podaci na kontrolnoj tabli prikazuju se prema UTC-u. Uzmite tu vremensku zonu u obzir kada poredite aktivnosti na kontrolnoj tabli sa zapisnicima svoje aplikacije.

Odabir projekata

Kontrolna ploča ima vlastiti birač projekata. On radi nezavisno od projekta odabranog na drugom mjestu u okviru API Platform.

Koristite birač na kontrolnoj ploči da pregledate jedan projekt, više projekata ili sve projekte. Da biste vidjeli ukupne podatke za organizaciju, poništite odabir projekata. Kada nijedan projekt nije odabran, kontrolna ploča prikazuje podatke za sve projekte.

Ako više aplikacija koristi isti projekt ili API ključ, zbirni podaci za taj projekt ili ključ ne mogu pokazati koja je aplikacija poslala zahtjev. Uporedite vlastite evidencije zahtjeva za isti period prema UTC-u.

Pregled korištenja pojedinačnog korisnika

Da biste pregledali kako jedan korisnik koristi Responses i Chat Completions:

Na Kontrolnoj tabli korištenja idite na Mogućnosti API-ja > Responses i Chat Completions.
Odaberite Filtriraj prema.
U odjeljku Korisnici odaberite korisnika, a zatim Primijeni filtere.

Prikaz tokena u minuti

Na stranicama s detaljima o korištenju možete odabrati interval. Odaberite interval od jedne minute da biste pregledali tokene u minuti (TPM).

Ovaj interval primjenjuje se na podatke o korištenju, a ne na podatke o naplati.

Izvoz podataka o korištenju

Raspon datuma za izvoz nije ograničen. Izvoz podataka za duži period može biti podijeljen u više datoteka.

Za usklađivanje s mjesečnim računima i izvoz pojedinačnih stavki pogledajte: Izvoz mjesečnih detalja o korištenju.

Ako izvoz podataka o aktivnosti uključuje redove s negativnim vrijednostima, uporedite redove koji imaju istu jedinicu, grupisanje i datume. Za fakturisane iznose koristite podatke o troškovima. Sam red aktivnosti s negativnom vrijednošću nije dokaz da je iznos vašeg računa umanjen.

Prikaz dodijeljenih kredita

Detalji o dodijeljenim kreditima dostupni su na stranici za naplatu vaše organizacije.

Dodijeljeni krediti i korištenje API-ja pružaju različite informacije: prvi prikazuju kredite povezane s vašom organizacijom, a drugo njene aktivnosti na API-ju.

Pregled korištenja i troškova Nivoa skale

Ako je u vašoj organizaciji omogućen Nivo skale i imate potreban pristup, otvorite stranicu korištenja Nivoa skale za detaljne podatke o korištenju.

Troškovi paketa Nivoa skale pripisuju se organizaciji, a ne pojedinačnim projektima.

Korištenje je veće od nule, ali je potrošnja projekta nula

Provjerite je li korištenje modela pokriveno vašom dodjelom Nivoa skale. Ako je cjelokupno korištenje tog modela unutar TPM dodjele Nivoa skale, projekt može prikazivati korištenje bez dodatne potrošnje za model.

Trošak pretplate na Nivo skale ostaje na nivou organizacije. Da biste ga pregledali:

Uklonite filter projekta na Kontrolnoj tabli korištenja.
Odaberite Kategorije potrošnje.

Pregled više organizacija

Kontrolna tabla korištenja ne objedinjuje podatke o troškovima ni korištenju iz više organizacija. Svaka organizacija, uključujući podorganizaciju, obrađuje se zasebno.

Za prikaz podorganizacije odaberite je u biraču organizacija.

Ako vam je potrebno objedinjeno izvještavanje, razmotrite korištenje projekata unutar jedne organizacije umjesto zasebnih podorganizacija ili upotrijebite API za korištenje za prilagođenu analizu.

Provjerite potrošnju tokena u odgovoru API-ja

Nazivi polja za potrošnju tokena zavise od krajnje tačke.

Broj tokena	Dovršavanje razgovora	Odgovori
Ulazni tokeni	usage.prompt_tokens	usage.input_tokens
Izlazni tokeni	usage.completion_tokens	usage.output_tokens
Ukupan broj tokena	usage.total_tokens	usage.total_tokens

Naprimjer, odgovor na zahtjev za dovršavanje razgovora može sadržavati:

{
  "usage": {
    "prompt_tokens": 13,
    "completion_tokens": 7,
    "total_tokens": 20
  }
}

Zavisno od krajnje tačke i modela, detalji o korištenju mogu uključivati i broj keširanih ulaznih tokena i tokena za rezonovanje. Ovi podaci pomažu objasniti zašto vidljiva dužina odgovora ne odražava ukupnu potrošnju tokena.

Za objašnjenje različitih kategorija tokena pogledajte: Razumijevanje i brojanje tokena.

U odgovoru na zahtjev za transkripciju koji sadrži podatke o potrošnji tokena, ulazni audio i tekstualni tokeni već su uključeni u input_tokens. Nemojte ih ponovo dodavati ukupnom broju ulaznih tokena. Zasebno uporedite output_tokens.

Dohvatite podatke o potrošnji pri strimovanju dovršavanja razgovora

U zahtjev za dovršavanje razgovora sa strimovanjem uključite:

{
  "stream": true,
  "stream_options": {
    "include_usage": true
  }
}

Kada je include_usage uključen, dodatni dio podataka prije data: [DONE] sadrži podatke o potrošnji za cijeli zahtjev. Njegov niz choices je prazan. U ostalim dijelovima podataka polje usage ima vrijednost null.

Ako se strimovanje prekine, možda nećete primiti taj završni dio s podacima o potrošnji. Izostanak završnog dijela ne dokazuje da zahtjev nije potrošio nijedan token.

Ova konfiguracija važi samo za dovršavanje razgovora. Za detalje pogledajte: Referentna dokumentacija za API za dovršavanje razgovora.

Pregled korištenja i troškova API-ja