Postoje dvije glavne mogućnosti za provjeru upotrebe tokena:
1. Nadzorna ploča upotrebe
Nadzorna ploča upotrebe prikazuje vašu API upotrebu tijekom trenutačnog i prethodnih mjesečnih obračunskih ciklusa. Za prikaz upotrebe određenog korisnika na računu vaše organizacije možete upotrijebiti padajući izbornik pokraj „Dnevna raščlamba upotrebe”.
2. Podaci o upotrebi iz API odgovora
Podacima o upotrebi tokena možete pristupiti i putem API-ja. Informacije o upotrebi tokena uključene su u odgovore s naših krajnjih točaka pod ključem usage.
Evo primjera:
{
"id": "chatcmpl-abc123",
"object": "chat.completion",
"created": 1677858242,
"model": "gpt-3.5-turbo",
"usage": {
"prompt_tokens": 13,
"completion_tokens": 7,
"total_tokens": 20
},
"choices": [
{
"message": {
"role": "assistant",
"content": "Ovo je test!"
}
}
]
}Ako upotrebljavate streaming za naše completions i želite pristupiti podacima o upotrebi, provjerite sadrži li vaš parametar stream_options sljedeće:
stream_options: {"include_usage": true}. Evo našeg cookbooks vodiča za Kako streamati completions i naše dokumentacije platforme o streamingu.
