Jak zkontroluji využití svých tokenů?

Existují dvě hlavní možnosti, jak zkontrolovat využití vašich tokenů:

1. Řídicí panel využití

Řídicí panel využití zobrazuje vaše využití API během aktuálního i minulých měsíčních fakturačních cyklů. Chcete-li zobrazit využití konkrétního uživatele v účtu vaší organizace, můžete použít rozbalovací nabídku vedle „Denní rozpis využití“.

2. Údaje o využití z odpovědi API

K údajům o využití tokenů můžete přistupovat také prostřednictvím API. Informace o využití tokenů jsou zahrnuty v odpovědích z našich koncových bodů pod klíčem usage.

Zde je příklad:

{
    "id": "chatcmpl-abc123",
    "object": "chat.completion",
    "created": 1677858242,
    "model": "gpt-3.5-turbo",
    "usage": {
        "prompt_tokens": 13,
        "completion_tokens": 7,
        "total_tokens": 20
    },
    "choices": [
        {
            "message": {
                "role": "assistant",
                "content": "This is a test!"
            }
        }
    ]
}

Pokud pro naše completions používáte streamování a chcete přistupovat k údajům o využití, ujistěte se, že váš parametr stream_options obsahuje následující:

stream_options: {"include_usage": true}. Zde je náš cookbook pro Jak streamovat completions a naše dokumentace platformy ke streamování.