Pangkalahatang-ideya
Maaari mong suriin ang paggamit ng API sa dalawang paraan:
Gamitin ang Dashboard ng Paggamit para suriin ang aktibidad sa kasalukuyan at mga nakaraang panahon ng pagsingil.
Basahin ang impormasyon sa paggamit sa tugon ng API para suriin ang isang kahilingan.
Ginagamit ng Playground ang parehong mga API call na ginagamit ng iyong mga application. Binibilang ang mga token nito sa paggamit ng API ng iyong account at napapailalim ang mga ito sa parehong panuntunan sa paggamit at pagpepresyo.
Access sa dashboard
Dapat ay may-ari ka ng organisasyon o mayroon kang pahintulot sa Dashboard ng Paggamit para ma-access ito.
Suriin ang paggamit sa dashboard
Buksan ang Dashboard ng Paggamit, piliin ang organisasyong gusto mong suriin, at piliin ang naaangkop na panahon ng pag-uulat.
Ipinapakita sa UTC ang data ng dashboard. Isaalang-alang ang time zone na iyon kapag inihahambing ang aktibidad sa dashboard at mga log ng iyong application.
Pumili ng mga proyekto
May sariling tagapili ng proyekto ang dashboard. Gumagana ito nang hiwalay sa proyektong pinili sa ibang bahagi ng API Platform.
Gamitin ang tagapili ng dashboard para suriin ang isa, ilan, o lahat ng proyekto. Para makita ang pangkalahatang data ng organisasyon, alisin ang pagkakapili sa mga proyekto. Kapag walang napiling proyekto, ipinapakita ng dashboard ang data ng lahat ng proyekto.
Suriin ang paggamit ng isang user
Para suriin ang paggamit ng isang user sa Responses at Chat Completions:
Sa Dashboard ng Paggamit, pumunta sa Mga kakayahan ng API > Responses at Chat Completions.
Piliin ang I-filter ayon sa.
Sa ilalim ng Mga user, piliin ang user, pagkatapos ay piliin ang Ilapat ang mga filter.
Tingnan ang mga token kada minuto
Sinusuportahan ng mga page ng detalye ng paggamit ang pagpili ng interval. Pumili ng 1 minutong interval para suriin ang mga token kada minuto (TPM).
Nalalapat ang interval na ito sa data ng paggamit, hindi sa data ng pagsingil.
I-export ang data ng paggamit
Walang limitasyon ang saklaw ng petsa para sa pag-export. Maaaring hatiin sa maraming file ang mga export na sumasaklaw sa mahabang panahon.
Para sa buwanang pagtutugma ng invoice at mga export ng bawat line item, tingnan ang: Pag-export ng buwanang detalye ng paggamit.
Tingnan ang mga ipinagkaloob na credits
Makikita sa page ng Pagsingil ng iyong organisasyon ang mga detalye ng ipinagkaloob na credits.
Magkaibang tanong ang sinasagot ng ipinagkaloob na credits at paggamit ng API: ipinapakita ng una ang credits na nauugnay sa iyong organisasyon, habang ipinapakita ng paggamit ang aktibidad nito sa API.
Suriin ang paggamit at mga gastos sa Antas ng Scale
Kung naka-enable ang Antas ng Scale para sa iyong organisasyon at mayroon kang kinakailangang access, buksan ang page ng paggamit sa Antas ng Scale para sa detalyadong paggamit.
Iniuugnay sa organisasyon, hindi sa mga indibidwal na proyekto, ang mga gastos sa bundle ng Antas ng Scale.
Higit sa zero ang paggamit, pero zero ang gastos ng proyekto
Tingnan kung saklaw ng iyong laang Antas ng Scale ang paggamit ng modelo. Kung pasok sa laang TPM ng Antas ng Scale ang lahat ng paggamit ng modelong iyon, maaaring magpakita ang proyekto ng paggamit nang walang karagdagang gastos sa modelo.
Nananatili sa antas ng organisasyon ang halaga ng subscription sa Antas ng Scale. Para suriin ito:
Alisin ang filter ng proyekto sa Dashboard ng Paggamit.
Piliin ang Mga kategorya ng gastos.
Suriin ang maraming organisasyon
Hindi pinagsasama ng Dashboard ng Paggamit ang data ng gastos o paggamit ng iba't ibang organisasyon. Hiwalay na itinuturing ang bawat organisasyon, kabilang ang isang sub-organisasyon.
Para makita ang isang sub-organisasyon, piliin ito sa tagapili ng organisasyon.
Kung kailangan mo ng pinagsamang pag-uulat, pag-isipang gumamit ng mga proyekto sa loob ng iisang organisasyon sa halip na magkakahiwalay na sub-organisasyon, o gamitin ang Usage API para sa pasadyang pagsusuri.
Tingnan ang paggamit ng token sa isang tugon ng API
Nakadepende sa endpoint ang mga pangalan ng field para sa paggamit ng token.
| Bilang ng token | Chat Completions | Responses |
| Mga input token | usage.prompt_tokens | usage.input_tokens |
| Mga output token | usage.completion_tokens | usage.output_tokens |
| Kabuuang mga token | usage.total_tokens | usage.total_tokens |
Halimbawa, maaaring kasama sa tugon ng Chat Completions ang:
| { "usage": { "prompt_tokens": 13, "completion_tokens": 7, "total_tokens": 20 }} |
Depende sa endpoint at modelo, maaari ring kasama sa mga detalye ng paggamit ang bilang ng mga naka-cache na input token at token ng pangangatwiran. Nakakatulong ang mga ito na ipaliwanag kung bakit hindi ipinapakita ng nakikitang haba ng tugon ang buong paggamit nito ng token.
Para sa paliwanag tungkol sa iba't ibang kategorya ng token, tingnan ang: Pag-unawa at pagbibilang ng mga token.
Kunin ang paggamit mula sa naka-stream na Chat Completions
Para sa streaming na kahilingan sa Chat Completions, isama ang:
| { "stream": true, "stream_options": { "include_usage": true }} |
Kapag naka-enable ang include_usage, naglalaman ang karagdagang chunk bago ang data: [DONE] ng paggamit para sa buong kahilingan. Walang laman ang choices array nito. May null na halaga ng usage ang iba pang mga chunk.
Kung maputol ang stream, maaaring hindi mo matanggap ang huling chunk ng paggamit. Ang kawalan ng huling chunk ay hindi nangangahulugang walang token na ginamit ang kahilingan.
Partikular sa Chat Completions ang configuration na ito. Para sa mga detalye, tingnan ang reference ng Chat Completions API.