Postoje dvije glavne opcije za provjeru upotrebe tokena:
1. Nadzorna ploča za upotrebu
Na nadzornoj ploči za upotrebu prikazuje se vaša upotreba API-ja tijekom trenutačnog i prethodnih mjesečnih obračunskih ciklusa. Za prikaz upotrebe određenog korisnika vašeg organizacijskog računa možete upotrijebiti padajući izbornik pokraj „Dnevna raščlamba upotrebe”.
2. Podaci o upotrebi iz odgovora API-ja
Podacima o upotrebi tokena možete pristupiti i putem API-ja. Informacije o upotrebi tokena nalaze se u odgovorima s naših endpointa pod ključem usage.
Evo primjera:
{
"id": "chatcmpl-abc123",
"object": "chat.completion",
"created": 1677858242,
"model": "gpt-3.5-turbo",
"usage": {
"prompt_tokens": 13,
"completion_tokens": 7,
"total_tokens": 20
},
"choices": [
{
"message": {
"role": "assistant",
"content": "This is a test!"
}
}
]
}Ako upotrebljavate streaming za naša dovršavanja i želite pristupiti podacima o upotrebi, provjerite sadrži li vaš parametar stream_options sljedeće:
stream_options: {"include_usage": true}. Pogledajte naš Cookbook o tome kako streamati dovršavanja i našu platformsku dokumentaciju o streamingu.