Jak sprawdzić użycie tokenów?

Istnieją dwie główne opcje sprawdzania użycia tokenów:

1. Panel użycia

Panel użycia wyświetla użycie API w bieżących i poprzednich miesięcznych cyklach rozliczeniowych. Aby wyświetlić użycie dla konkretnego użytkownika konta organizacji, możesz użyć listy rozwijanej obok „Dzienne zestawienie użycia”.

2. Dane o użyciu z odpowiedzi API

Możesz też uzyskać dostęp do danych o użyciu tokenów przez API. Informacje o użyciu tokenów są zawarte w odpowiedziach z naszych punktów końcowych pod kluczem usage.

Oto przykład:

{
    "id": "chatcmpl-abc123",
    "object": "chat.completion",
    "created": 1677858242,
    "model": "gpt-3.5-turbo",
    "usage": {
        "prompt_tokens": 13,
        "completion_tokens": 7,
        "total_tokens": 20
    },
    "choices": [
        {
            "message": {
                "role": "assistant",
                "content": "To jest test!"
            }
        }
    ]
}

Jeśli używasz streamingu dla naszych completions i chcesz uzyskać dostęp do danych o użyciu, upewnij się, że parametr stream_options zawiera następujące ustawienie:

stream_options: {"include_usage": true}. Oto nasz cookbook dotyczący strumieniowania completions oraz nasza dokumentacja platformy dotycząca streamingu.