Cum îmi verific utilizarea de tokenuri?

Există două opțiuni principale pentru a verifica utilizarea de tokenuri:

1. Tabloul de bord Utilizare

Tabloul de bord Utilizare afișează utilizarea API în ciclurile lunare de facturare curente și anterioare. Pentru a afișa utilizarea unui anumit utilizator din contul organizației tale, poți folosi meniul derulant de lângă „Defalcare zilnică a utilizării”.

2. Date de utilizare din răspunsul API

Poți accesa și datele de utilizare a tokenurilor prin API. Informațiile despre utilizarea tokenurilor sunt incluse în răspunsurile de la punctele noastre finale, sub cheia usage.

Iată un exemplu:

{
    "id": "chatcmpl-abc123",
    "object": "chat.completion",
    "created": 1677858242,
    "model": "gpt-3.5-turbo",
    "usage": {
        "prompt_tokens": 13,
        "completion_tokens": 7,
        "total_tokens": 20
    },
    "choices": [
        {
            "message": {
                "role": "assistant",
                "content": "Acesta este un test!"
            }
        }
    ]
}

Dacă folosești streaming pentru completările noastre și vrei să accesezi datele de utilizare, asigură-te că parametrul tău stream_options conține următoarele:

stream_options: {"include_usage": true}. Iată cookbook-ul nostru pentru Cum să faci streaming pentru completări și documentația platformei despre streaming.