Prezentare generală
Puteți consulta utilizarea API în două moduri:
Folosiți Panoul de utilizare pentru a consulta activitatea din perioadele de facturare actuale și anterioare.
Consultați informațiile de utilizare dintr-un răspuns API pentru a verifica o anumită solicitare.
Playground folosește aceleași apeluri API ca aplicațiile dvs. Tokenurile sale sunt incluse în utilizarea API a contului dvs. și respectă aceleași reguli de utilizare și aceleași tarife.
Accesul la panou
Pentru a accesa Panoul de utilizare, trebuie să fiți proprietarul organizației sau să aveți permisiunea Panou de utilizare.
Consultați utilizarea în panou
Deschideți Panoul de utilizare, selectați organizația pe care doriți să o consultați și alegeți perioada de raportare relevantă.
Datele din panou sunt afișate în UTC. Țineți cont de acest fus orar când comparați activitatea din panou cu jurnalele aplicației.
Selectați proiectele
Panoul are propriul selector de proiecte. Acesta funcționează independent de proiectul selectat în altă parte a Platformei API.
Folosiți selectorul panoului pentru a consulta un proiect, mai multe proiecte sau toate proiectele. Pentru a vedea datele generale ale organizației, eliminați proiectele selectate. Când nu este selectat niciun proiect, panoul afișează datele tuturor proiectelor.
Consultați utilizarea unui anumit utilizator
Pentru a consulta utilizarea funcțiilor Răspunsuri și Completări Chat de către un utilizator:
În Panoul de utilizare, accesați Capabilități API > Răspunsuri și Completări Chat.
Selectați Filtrați după.
În secțiunea Utilizatori, selectați utilizatorul, apoi selectați Aplicați filtrele.
Vizualizați tokenurile pe minut
Paginile cu detalii despre utilizare permit selectarea intervalului. Selectați un interval de 1 minut pentru a examina numărul de tokenuri pe minut (TPM).
Acest interval se aplică datelor de utilizare, nu celor de facturare.
Exportați datele de utilizare
Intervalul de date pentru export nu este limitat. Exporturile care acoperă o perioadă lungă pot fi împărțite în mai multe fișiere.
Pentru reconcilierea facturilor lunare și exporturile pe poziții, consultați: Exportarea detaliilor lunare de utilizare.
Vizualizați creditele acordate
Detaliile despre creditele acordate sunt disponibile pe pagina de facturare a organizației dvs.
Creditele acordate și utilizarea API răspund la întrebări diferite: primele indică acele credite asociate organizației, iar utilizarea indică activitatea sa API.
Consultați utilizarea și costurile Nivelului de scalare
Dacă organizația dvs. are activat Nivelul de scalare și aveți accesul necesar, deschideți pagina de utilizare a Nivelului de scalare pentru informații detaliate.
Costurile pachetelor Nivelului de scalare sunt atribuite organizației, nu proiectelor individuale.
Utilizarea este mai mare decât zero, dar cheltuielile proiectului sunt zero
Verificați dacă utilizarea modelului este acoperită de alocarea Nivelului de scalare. Dacă întreaga utilizare a modelului se încadrează în alocarea TPM a Nivelului de scalare, proiectul poate afișa utilizare fără cheltuieli suplimentare pentru model.
Costul abonamentului la Nivelul de scalare rămâne la nivelul organizației. Pentru a-l consulta:
Eliminați filtrul de proiect din Panoul de utilizare.
Selectați Categorii de cheltuieli.
Consultați mai multe organizații
Panoul de utilizare nu combină datele despre costuri sau utilizare din mai multe organizații. Fiecare organizație, inclusiv o suborganizație, este tratată separat.
Pentru a vedea o suborganizație, selectați-o în selectorul de organizații.
Dacă aveți nevoie de rapoarte combinate, folosiți proiecte în cadrul unei singure organizații în locul unor suborganizații separate sau utilizați API-ul de utilizare pentru analize personalizate.
Verificați utilizarea tokenurilor într-un răspuns API
Numele câmpurilor privind utilizarea tokenurilor depind de punctul final.
| Număr de tokenuri | Completări Chat | Răspunsuri |
| Tokenuri de intrare | usage.prompt_tokens | usage.input_tokens |
| Tokenuri de ieșire | usage.completion_tokens | usage.output_tokens |
| Total tokenuri | usage.total_tokens | usage.total_tokens |
De exemplu, un răspuns Completări Chat poate include:
| { "usage": { "prompt_tokens": 13, "completion_tokens": 7, "total_tokens": 20 }} |
În funcție de punctul final și de model, detaliile de utilizare pot include și numărul de tokenuri pentru intrările din cache și pentru raţionament. Acestea explică de ce lungimea vizibilă a unui răspuns nu reflectă utilizarea totală a tokenurilor.
Pentru o explicație a diferitelor categorii de tokenuri, consultați: Înțelegerea și numărarea tokenurilor.
Obțineți datele de utilizare din Completări Chat transmise în flux
Pentru o solicitare Completări Chat transmisă în flux, includeți:
| { "stream": true, "stream_options": { "include_usage": true }} |
Când include_usage este activat, un fragment suplimentar de dinainte de data: [DONE] conține datele de utilizare pentru întreaga solicitare. Matricea sa choices este goală. Celelalte fragmente au valoarea null pentru usage.
Dacă fluxul este întrerupt, este posibil să nu primiți acel fragment final cu datele de utilizare. Absența fragmentului final nu înseamnă că solicitarea nu a folosit tokenuri.
Această configurație este specifică funcției Completări Chat. Pentru detalii, consultați referința API pentru completarea discuțiilor.