Как да проверя използването на токени?

Има две основни опции за проверка на използването на токени:

1. Табло за използване

Таблото за използване показва използването на API през текущия и предишните месечни цикли на фактуриране. За да покажете използването на конкретен потребител от организационния си акаунт, можете да използвате падащото меню до „Разбивка на дневното използване“.

2. Данни за използване от API отговора

Можете също да получите достъп до данните за използване на токени чрез API. Информацията за използването на токени е включена в отговорите от нашите крайни точки под ключа usage.

Ето пример:

{
    "id": "chatcmpl-abc123",
    "object": "chat.completion",
    "created": 1677858242,
    "model": "gpt-3.5-turbo",
    "usage": {
        "prompt_tokens": 13,
        "completion_tokens": 7,
        "total_tokens": 20
    },
    "choices": [
        {
            "message": {
                "role": "assistant",
                "content": "Това е тест!"
            }
        }
    ]
}

Ако използвате streaming за нашите completions и искате да получите достъп до данни за използване, уверете се, че параметърът stream_options съдържа следното:

stream_options: {"include_usage": true}. Ето нашата cookbook статия за Как да стриймвате completions и нашата документация на платформата за streaming.