Prezentare generală
Puteți consulta utilizarea API în două moduri:
Folosiți Panoul de utilizare pentru a consulta activitatea din perioadele de facturare actuale și anterioare.
Consultați informațiile de utilizare dintr-un răspuns API pentru a verifica o anumită solicitare.
Playground folosește aceleași apeluri API ca aplicațiile dvs. Tokenurile sale sunt incluse în utilizarea API a contului dvs. și respectă aceleași reguli de utilizare și aceleași tarife.
Accesul la panou
Pentru a accesa Panoul de utilizare, trebuie să fiți proprietarul organizației sau să aveți permisiunea Panou de utilizare.
Consultați utilizarea în panou
Deschideți Panoul de utilizare, selectați organizația pe care doriți să o consultați și alegeți perioada de raportare relevantă.
Datele din panou sunt afișate în UTC. Țineți cont de acest fus orar când comparați activitatea din panou cu jurnalele aplicației.
Selectați proiectele
Panoul are propriul selector de proiecte. Acesta funcționează independent de proiectul selectat în altă parte a Platformei API.
Folosiți selectorul panoului pentru a consulta un proiect, mai multe proiecte sau toate proiectele. Pentru a vedea datele generale ale organizației, eliminați proiectele selectate. Când nu este selectat niciun proiect, panoul afișează datele tuturor proiectelor.
Consultați utilizarea unui anumit utilizator
Pentru a consulta utilizarea funcțiilor Răspunsuri și Completări Chat de către un utilizator:
În Panoul de utilizare, accesați Capabilități API > Răspunsuri și Completări Chat.
Selectați Filtrați după.
În secțiunea Utilizatori, selectați utilizatorul, apoi selectați Aplicați filtrele.
Vizualizați tokenurile pe minut
Paginile cu detalii despre utilizare permit selectarea intervalului. Selectați un interval de 1 minut pentru a examina numărul de tokenuri pe minut (TPM).
Acest interval se aplică datelor de utilizare, nu celor de facturare.
Exportați datele de utilizare
Intervalul de date pentru export nu este limitat. Exporturile care acoperă o perioadă lungă pot fi împărțite în mai multe fișiere.
Pentru reconcilierea facturilor lunare și exporturile pe poziții, consultați: Exportarea detaliilor lunare de utilizare.
Vizualizați creditele acordate
Detaliile despre creditele acordate sunt disponibile pe pagina de facturare a organizației dvs.
Creditele acordate și utilizarea API răspund la întrebări diferite: primele indică acele credite asociate organizației, iar utilizarea indică activitatea sa API.
Consultați utilizarea și costurile Nivelului de scalare
Dacă organizația dvs. are activat Nivelul de scalare și aveți accesul necesar, deschideți pagina de utilizare a Nivelului de scalare pentru informații detaliate.
Costurile pachetelor Nivelului de scalare sunt atribuite organizației, nu proiectelor individuale.
Utilizarea este mai mare decât zero, dar cheltuielile proiectului sunt zero
Verificați dacă utilizarea modelului este acoperită de alocarea Nivelului de scalare. Dacă întreaga utilizare a modelului se încadrează în alocarea TPM a Nivelului de scalare, proiectul poate afișa utilizare fără cheltuieli suplimentare pentru model.
Costul abonamentului la Nivelul de scalare rămâne la nivelul organizației. Pentru a-l consulta:
Eliminați filtrul de proiect din Panoul de utilizare.
Selectați Categorii de cheltuieli.
Consultați mai multe organizații
Panoul de utilizare nu combină datele despre costuri sau utilizare din mai multe organizații. Fiecare organizație, inclusiv o suborganizație, este tratată separat.
Pentru a vedea o suborganizație, selectați-o în selectorul de organizații.
Dacă aveți nevoie de rapoarte combinate, folosiți proiecte în cadrul unei singure organizații în locul unor suborganizații separate sau utilizați API-ul de utilizare pentru analize personalizate.
Verifică consumul de tokenuri într-un răspuns API
Denumirile câmpurilor pentru consumul de tokenuri depind de punctul final.
| Număr de tokenuri | Chat Completions | Responses |
|---|---|---|
| Tokenuri de intrare | usage.prompt_tokens | usage.input_tokens |
| Tokenuri de ieșire | usage.completion_tokens | usage.output_tokens |
| Total tokenuri | usage.total_tokens | usage.total_tokens |
De exemplu, un răspuns Chat Completions poate include:
{
"usage": {
"prompt_tokens": 13,
"completion_tokens": 7,
"total_tokens": 20
}
}În funcție de punctul final și de model, detaliile despre consum pot include și numărul de tokenuri de intrare stocate în cache și de tokenuri de raţionament. Aceste date ajută la explicarea motivului pentru care lungimea vizibilă a unui răspuns nu reflectă întregul său consum de tokenuri.
Pentru explicații despre diferitele categorii de tokenuri, consultă: Înțelegerea și numărarea tokenurilor.
Obține date despre consum din răspunsurile Chat Completions transmise în flux
Pentru o cerere Chat Completions cu răspuns transmis în flux, include:
{
"stream": true,
"stream_options": {
"include_usage": true
}
}Când include_usage este activat, un fragment suplimentar transmis înainte de data: [DONE] conține datele despre consum pentru întreaga cerere. Tabloul choices din acest fragment este gol. În celelalte fragmente, usage are valoarea null.
Dacă fluxul este întrerupt, este posibil să nu primești acel fragment final cu datele despre consum. Absența fragmentului final nu dovedește că cererea nu a consumat niciun token.
Această configurație este specifică pentru Chat Completions. Pentru detalii, consultă: Documentația de referință pentru API pentru completarea discuțiilor.