Existují dvě hlavní možnosti, jak zkontrolovat využití tokenů:
1. Přehled využití
Přehled využití zobrazuje vaše využití API v aktuálním a minulých měsíčních fakturačních cyklech. Chcete-li zobrazit využití konkrétního uživatele vašeho organizačního účtu, můžete použít rozevírací nabídku vedle položky „Daily usage breakdown“.
2. Údaje o využití z odpovědi API
K údajům o využití tokenů můžete přistupovat také prostřednictvím API. Informace o využití tokenů jsou v odpovědích z našich koncových bodů zahrnuty pod klíčem usage.
Zde je příklad:
{
"id": "chatcmpl-abc123",
"object": "chat.completion",
"created": 1677858242,
"model": "gpt-3.5-turbo",
"usage": {
"prompt_tokens": 13,
"completion_tokens": 7,
"total_tokens": 20
},
"choices": [
{
"message": {
"role": "assistant",
"content": "This is a test!"
}
}
]
}Pokud u našich dokončení používáte streamování a chcete získat údaje o využití, ujistěte se, že váš parametr stream_options obsahuje následující:
stream_options: {"include_usage": true}. Zde je náš Cookbook k tématu Jak streamovat dokončení a naše dokumentace k platformě ke streamování.