Omówienie
Użycie API możesz sprawdzić na dwa sposoby:
Użyj panelu użycia, aby sprawdzić aktywność w bieżących i wcześniejszych okresach rozliczeniowych.
Odczytaj informacje o użyciu w odpowiedzi API, aby sprawdzić konkretne żądanie.
Środowisko Playground korzysta z tych samych wywołań API co Twoje aplikacje. Używane w nim tokeny wliczają się do użycia API na Twoim koncie i podlegają tym samym zasadom użycia oraz cenom.
Dostęp do panelu
Aby uzyskać dostęp do panelu użycia, musisz być właścicielem organizacji lub mieć uprawnienie Panel użycia.
Sprawdzanie użycia w panelu
Otwórz panel użycia, wybierz organizację, którą chcesz sprawdzić, i odpowiedni okres raportowania.
Dane w panelu są wyświetlane według czasu UTC. Uwzględnij tę strefę czasową podczas porównywania aktywności w panelu z dziennikami aplikacji.
Wybieranie projektów
Panel ma własny selektor projektów. Działa on niezależnie od projektu wybranego w innym miejscu na Platformie API.
Za pomocą selektora w panelu możesz przeglądać jeden, kilka lub wszystkie projekty. Aby wyświetlić zbiorcze dane organizacji, wyczyść wybór projektów. Jeśli nie wybrano żadnego projektu, panel wyświetla dane wszystkich projektów.
Sprawdzanie użycia przez konkretnego użytkownika
Aby sprawdzić użycie interfejsów Responses i Chat Completions przez jednego użytkownika:
W panelu użycia przejdź do sekcji Funkcje API > Responses i Chat Completions.
Wybierz Filtruj według.
W sekcji Użytkownicy wybierz użytkownika, a następnie wybierz Zastosuj filtry.
Wyświetlanie tokenów na minutę
Na stronach szczegółów użycia można wybrać interwał. Wybierz interwał 1-minutowy, aby sprawdzić liczbę tokenów na minutę (TPM).
Ten interwał dotyczy danych o użyciu, a nie danych rozliczeniowych.
Eksportowanie danych o użyciu
Zakres dat eksportu nie jest ograniczony. Eksporty obejmujące długi okres mogą zostać podzielone na wiele plików.
Informacje o uzgadnianiu miesięcznych faktur i eksportowaniu poszczególnych pozycji znajdziesz tutaj: Eksportowanie miesięcznych szczegółów użycia.
Wyświetlanie przyznanych środków
Szczegóły przyznanych środków znajdziesz na stronie Rozliczenia swojej organizacji.
Przyznane środki i użycie API dostarczają różnych informacji: pierwsze wskazują środki powiązane z organizacją, a drugie — jej aktywność w API.
Sprawdzanie użycia i kosztów oferty Skalowanej
Jeśli w Twojej organizacji włączono ofertę Skalowaną i masz wymagane uprawnienia, otwórz stronę użycia oferty Skalowanej, aby wyświetlić szczegółowe dane.
Koszty pakietów oferty Skalowanej są przypisywane organizacji, a nie poszczególnym projektom.
Użycie jest większe od zera, ale wydatki projektu wynoszą zero
Sprawdź, czy użycie modelu jest objęte przydziałem oferty Skalowanej. Jeśli całe użycie tego modelu mieści się w przydziale TPM oferty Skalowanej, projekt może wykazywać użycie bez dodatkowych wydatków na model.
Koszt subskrypcji oferty Skalowanej pozostaje na poziomie organizacji. Aby go sprawdzić:
Wyczyść filtr projektu w panelu użycia.
Wybierz Kategorie wydatków.
Sprawdzanie wielu organizacji
Panel użycia nie łączy danych o kosztach ani użyciu z różnych organizacji. Każda organizacja, w tym podorganizacja, jest traktowana oddzielnie.
Aby wyświetlić podorganizację, wybierz ją w selektorze organizacji.
Jeśli potrzebujesz raportów zbiorczych, rozważ używanie projektów w ramach jednej organizacji zamiast oddzielnych podorganizacji albo użyj interfejsu Usage API do niestandardowej analizy.
Sprawdzanie użycia tokenów w odpowiedzi API
Nazwy pól dotyczących użycia tokenów zależą od punktu końcowego.
| Liczba tokenów | Chat Completions | Responses |
| Tokeny wejściowe | usage.prompt_tokens | usage.input_tokens |
| Tokeny wyjściowe | usage.completion_tokens | usage.output_tokens |
| Łączna liczba tokenów | usage.total_tokens | usage.total_tokens |
Na przykład odpowiedź Chat Completions może zawierać:
| { "usage": { "prompt_tokens": 13, "completion_tokens": 7, "total_tokens": 20 }} |
W zależności od punktu końcowego i modelu szczegóły użycia mogą też obejmować liczbę tokenów buforowanych danych wejściowych i tokenów rozumowania. Informacje te wyjaśniają, dlaczego widoczna długość odpowiedzi nie odzwierciedla pełnego użycia tokenów.
Objaśnienie poszczególnych kategorii tokenów znajdziesz tutaj: Omówienie i zliczanie tokenów.
Pobieranie danych o użyciu ze strumieniowych uzupełnień czatu
W żądaniu strumieniowego uzupełnienia czatu uwzględnij:
| { "stream": true, "stream_options": { "include_usage": true }} |
Po włączeniu opcji include_usage dodatkowy fragment poprzedzający data: [DONE] zawiera dane o użyciu dla całego żądania. Jego tablica choices jest pusta. W pozostałych fragmentach wartość usage wynosi null.
Jeśli strumień zostanie przerwany, możesz nie otrzymać końcowego fragmentu z danymi o użyciu. Brak końcowego fragmentu nie oznacza, że żądanie nie użyło żadnych tokenów.
Ta konfiguracja dotyczy wyłącznie uzupełnień czatu. Szczegółowe informacje znajdziesz w dokumentacji API zakończenia czatu.