Existujú dve hlavné možnosti, ako skontrolovať používanie tokenov:
1. Panel používania
Panel používania zobrazuje vaše používanie API počas aktuálneho a minulých mesačných fakturačných cyklov. Ak chcete zobraziť používanie konkrétneho používateľa vášho organizačného účtu, môžete použiť rozbaľovaciu ponuku vedľa položky „Rozpis denného používania“.
2. Údaje o používaní z odpovede API
K údajom o používaní tokenov môžete pristupovať aj cez API. Informácie o používaní tokenov sú zahrnuté v odpovediach z našich koncových bodov pod kľúčom usage.
Tu je príklad:
{
"id": "chatcmpl-abc123",
"object": "chat.completion",
"created": 1677858242,
"model": "gpt-3.5-turbo",
"usage": {
"prompt_tokens": 13,
"completion_tokens": 7,
"total_tokens": 20
},
"choices": [
{
"message": {
"role": "assistant",
"content": "Toto je test!"
}
}
]
}Ak pri našich dokončeniach používate streamovanie a chcete získať prístup k údajom o používaní, uistite sa, že váš parameter stream_options obsahuje toto:
stream_options: {"include_usage": true}. Tu je náš cookbook pre tému Ako streamovať dokončenia a naša dokumentácia platformy o streamovaní.