Wie überprüfe ich meine Token-Nutzung?

Es gibt zwei Hauptoptionen, um deine Token-Nutzung zu überprüfen:

1. Nutzungs-Dashboard

Das Nutzungs-Dashboard zeigt deine API-Nutzung während der aktuellen und vergangenen monatlichen Abrechnungszyklen an. Um die Nutzung bestimmter Benutzer:innen deines Organisationskontos anzuzeigen, kannst du das Dropdown-Menü neben „Tägliche Nutzungsübersicht“ verwenden.

2. Nutzungsdaten aus der API-Antwort

Du kannst auch über die API auf die Token-Nutzungsdaten zugreifen. Informationen zur Token-Nutzung sind in den Antworten unserer Endpunkte unter dem Nutzungsschlüssel enthalten.

Hier ein Beispiel:

{
    "id": "chatcmpl-abc123",
    "object": "chat.completion",
    "created": 1677858242,
    "model": "gpt-3.5-turbo",
    "usage": {
        "prompt_tokens": 13,
        "completion_tokens": 7,
        "total_tokens": 20
    },
    "choices": [
        {
            "message": {
                "role": "assistant",
                "content": "This is a test!"
            }
        }
    ]
}

Wenn du Streaming für unsere Abschlüsse verwendest und auf Nutzungsdaten zugreifen möchtest, stelle sicher, dass dein stream_options-Parameter Folgendes enthält:

stream_options: {"include_usage": true}. Hier ist unsere Anleitung für Wie man Abschlüsse streamt und unsere Plattformdokumentation zum Streaming.