Omówienie
Wykorzystanie API możesz sprawdzić na dwa sposoby:
Otwórz Analityka > Wykorzystanie, aby przejrzeć aktywność API w bieżącym i poprzednich okresach raportowania.
Odczytaj informacje o wykorzystaniu z odpowiedzi API, aby sprawdzić pojedyncze żądanie.
Środowisko Playground korzysta z tych samych wywołań API co Twoje aplikacje. Wykorzystane w nim tokeny wliczają się do wykorzystania API na Twoim koncie i podlegają tym samym zasadom użytkowania oraz cenom.
Dostęp do panelu
Aby uzyskać dostęp do panelu użycia, musisz być właścicielem organizacji lub mieć uprawnienie Panel użycia.
Sprawdzanie wykorzystania na pulpicie
Na Platformie API otwórz sekcję Analityka i wybierz Wykorzystanie, aby przejrzeć bieżący projekt. Aby zobaczyć raporty dla całej organizacji, wybierz Analityka organizacji. Wybierz okres raportowania, który chcesz przejrzeć, i sprawdź go ponownie po przełączeniu między analityką projektu a analityką organizacji.
Dane na pulpicie są wyświetlane w czasie UTC. Pamiętaj o tej strefie czasowej podczas porównywania aktywności na pulpicie z logami aplikacji.
Najnowsze dane wykorzystania mogą pojawić się na pulpicie z opóźnieniem. Jeśli brakuje ostatniej aktywności, sprawdź ponownie później.
Filtrowanie danych wykorzystania
W sekcji Analityka projektu dane wykorzystania są ograniczone do wybranego projektu. W sekcji Analityka organizacji użyj opcji Projekt, aby wybrać projekty, które chcesz przejrzeć. Opcja Wszystkie projekty obejmuje każdy projekt w organizacji, z uwzględnieniem pozostałych wybranych filtrów.
Użyj panelu Filtry, aby zawęzić dane wykorzystania za pomocą opcji Źródła API, Klucze API, Modele, Użytkownicy lub Poziom przetwarzania. Filtr Źródła API pozwala wybrać opcję Wszystkie źródła API, API agentów lub Bezpośrednie API.
Usuń pojedyncze zaznaczenia lub wybierz Wyczyść filtry, aby zresetować panel Filtry. Wyczyszczenie filtrów nie przełącza widoku między analityką projektu a analityką organizacji.
Użyj opcji Filtruj na wykresie Wykorzystanie, aby filtrować według opcji Przetwarzanie wsadowe. Wybierz Resetuj filtry wykresu, aby zresetować filtry tego wykresu.
Jeśli dana funkcja nie obsługuje wybranych filtrów, jej wartości mogą być niedostępne. Niedostępne wartości nie oznaczają zerowego wykorzystania.
Jeśli filtr wyświetla błąd uprawnień, możesz nie mieć dostępu do jego opcji. Nie oznacza to, że nie zarejestrowano wykorzystania.
Sprawdzanie wykorzystania pojedynczego użytkownika
Otwórz Wykorzystanie w widoku Analityka projektu lub organizacji, którą chcesz przejrzeć. W tabeli Funkcje API wybierz Wyświetl przy pozycji Odpowiedzi i zakończenia czatu.
W panelu Filtry wybierz Użytkownicy i wskaż użytkownika. Wyniki zaktualizują się natychmiast.
Przejrzyj wykres i tabelę dla tego użytkownika.
Aby sprawdzić wykorzystanie różnych funkcji przez użytkownika, zastosuj filtr Użytkownicy w widoku ogólnym Wykorzystanie. Aby porównać użytkowników, wyczyść ten filtr i wybierz kartę tabeli Użytkownicy.
Wyświetlanie liczby tokenów na dzień, godzinę lub minutę
Jeśli w widoku Wykorzystanie dostępne są ustawienia interwału, wybierz 1 d lub 1 godz., aby wyświetlić tokeny według dnia lub godziny, albo 1 min, aby sprawdzić liczbę tokenów na minutę (TPM). Wybierz Automatycznie, aby pulpit dobrał interwał czasowy do okresu raportowania. Te interwały dotyczą danych wykorzystania, a nie danych rozliczeniowych.
Jeśli opcja 1 min jest wyłączona, wybierz krótszy okres raportowania lub użyj opcji Zaznacz, aby powiększyć i przeciągnij po wykresie, aby zawęzić zakres. Następnie wybierz 1 min. Naciśnij Esc, aby anulować zaznaczenie obszaru do powiększenia. Wybierz bieżący zakres dat na pasku narzędzi sekcji Analityka, aby ustawić inny okres raportowania.
Przeglądanie wykresów i tabel wykorzystania
Użyj opcji Metryki, aby wybrać co najmniej jedną serię do wspólnego wyświetlenia, w tym Tokeny wejściowe, Tokeny wejściowe poza pamięcią podręczną, Tokeny wejściowe w pamięci podręcznej, Tokeny wejściowe zapisywane w pamięci podręcznej, Wejściowe tokeny audio, Tokeny wyjściowe i Wyjściowe tokeny audio. Dostępne metryki zależą od funkcji. Legenda pozwala rozpoznać poszczególne serie.
Użyj opcji Grupuj według, aby uporządkować dane wykorzystania według dostępnych kategorii, takich jak Projekt, Użytkownik lub Model. Filtry określają, które dane wykorzystania są uwzględniane, a grupowanie — jak są wyświetlane. Przełączaj się między wykresami liniowymi i słupkowymi, aby analizować trendy lub porównywać kategorie.
Użyj kart tabeli Wykorzystanie, aby przejrzeć dostępne zestawienia. Tabele pokazują odpowiednie miary dla każdego wiersza, takie jak żądania, tokeny wejściowe i wyjściowe lub jednostki właściwe dla danej funkcji.
W sekcji Funkcje API wybierz Wyświetl przy danej funkcji, aby otworzyć jej szczegółowe wykresy i zestawienia. Sekcja Odpowiedzi i zakończenia czatu zawiera osobne wykresy Tokeny i Żądania oraz metrykę Żądania do modeli. Jej karty zestawień korzystają z tych samych wymiarów co widok ogólny, ale nie zawierają karty Funkcje API. Wybierz Wykorzystanie w ścieżce nawigacji, aby wrócić do widoku ogólnego.
Po wybraniu opcji Grupuj według wykres może połączyć dodatkowe kategorie w kategorię Inne. Jeśli w legendzie wykresu pojawi się kategoria Inne, wybierz jej etykietę, aby zobaczyć uwzględnione w niej kategorie i wartości wykorzystania.
Wybierz Porównaj pulpity, aby wyświetlić pulpit Wykorzystanie obok innego pulpitu dla tego samego okresu raportowania. Użyj opcji Lewy pulpit i Prawy pulpit, aby wybrać widoki. Jeśli wybrany interwał czasowy jest niedostępny dla danej pary pulpitów, widok przełączy się na ustawienie Automatycznie. Wybierz Zakończ porównanie, aby wrócić do pulpitu.
Sprawdzanie wykorzystania, którego nie rozpoznajesz
Jeśli widok Wykorzystanie pokazuje aktywność, której nie możesz powiązać z żądaniami w logach aplikacji, wykonaj te czynności:
Sprawdź organizację, zakres projektów i okres raportowania. Porównując znaczniki czasu na pulpicie z logami aplikacji, używaj czasu UTC.
Otwórz widok danego projektu lub wybierz go w polu Projekt w sekcji Analityka organizacji. Następnie użyj opcji Filtry, aby zawęzić dane wykorzystania według klucza API i modelu, oraz wybierz krótszy okres raportowania.
Porównaj aktywność z logami dla tego samego okresu, projektu i klucza API. Sprawdź, czy logi obejmują wszystkie aplikacje lub integracje korzystające z tego klucza.
Jeśli kilka aplikacji lub integracji korzysta z tego samego projektu lub klucza API, sama łączna wartość może nie pozwolić ustalić, która z nich wysłała żądanie. Porównaj dane z pulpitu z zapisami z każdej aplikacji dla tego samego okresu w czasie UTC.
Jeśli nadal nie możesz wyjaśnić wykorzystania, skontaktuj się z pomocą techniczną OpenAI, podając okres w czasie UTC, którego dotyczy problem, identyfikatory organizacji i projektu, identyfikator klucza API oraz odpowiednie zrzuty ekranu lub logi. Dołącz identyfikatory żądań, jeśli są dostępne. Nie dołączaj tajnych kluczy API.
Eksportowanie danych wykorzystania
Aby wyeksportować dane wykorzystania, wybierz ikonę Eksportuj CSV na pasku narzędzi sekcji Analityka, a następnie wybierz Dane aktywności.
Wybierz Funkcję API i co najmniej jeden wymiar w opcji Grupuj według.
Sprawdź ustawienia Źródło API, Projekty, Użytkownicy, Klucze API i Modele. Ustawienia Projekty i Źródło API są wstępnie wybrane na podstawie sekcji Analityka; pozostałe filtry eksportu wybierz w oknie dialogowym.
Wybierz Format pliku, Czas rozpoczęcia, Czas zakończenia i Interwał czasowy, a następnie wybierz Pobierz. Daty obejmują pełne dni w czasie UTC.
Dane aktywności i kosztów można przeglądać i eksportować za okres od godziny 00:00 UTC w dniu przypadającym rok kalendarzowy temu do dzisiaj. Aby uzyskać starsze dane, skontaktuj się z pomocą techniczną OpenAI. Dane dzienne są eksportowane w plikach obejmujących kolejne 31-dniowe okresy.
Informacje o uzgadnianiu miesięcznych faktur i eksportowaniu pozycji rozliczeniowych znajdziesz w artykule: Eksportowanie miesięcznych szczegółów wykorzystania.
Jeśli eksport danych aktywności zawiera wiersze z wartościami ujemnymi, porównaj wiersze z tą samą jednostką, grupowaniem i datami. Aby sprawdzić naliczone kwoty, użyj opcji Dane kosztów. Sam wiersz aktywności z wartością ujemną nie oznacza, że kwota na fakturze została pomniejszona.
Sprawdzanie wydatków
Otwórz sekcję Analityka i wybierz Wydatki, aby sprawdzić koszty bieżącego projektu. Aby sprawdzić koszty całej organizacji, wybierz Analityka organizacji, a następnie Wydatki.
Przed porównaniem kosztów z wykorzystaniem sprawdź bieżący zakres dat i filtry. Widoki Wykorzystanie i Wydatki oferują różne filtry; filtr dostępny na jednym pulpicie może nie mieć zastosowania na drugim.
Użyj filtrów Źródła API, Klucze API, Modele i Pozycje rozliczeniowe, aby zawęzić dane wydatków. W analityce organizacji użyj opcji Projekt, aby uwzględnić projekty, które chcesz przejrzeć. Użyj kart tabeli Pozycje rozliczeniowe, Klucze API, Użytkownicy, Projekty i Modele, aby wyświetlić dostępne zestawienia.
Niedostępna wartość limitu wydatków nie oznacza, że limit wynosi zero ani że zastosowano nowy limit. Uprawnienia dostępu, brak ustawionego limitu lub nieudane żądanie mogą uniemożliwić wyświetlenie wartości na pulpicie.
Sprawdzanie stanu usługi
Jeśli Twoja organizacja ma dostęp do pulpitu Stan usługi, otwórz go w sekcji Analityka, aby sprawdzić wydajność API. Warunki dostępu i definicje metryk znajdziesz w artykule: Rozwiązywanie problemów z błędami i opóźnieniami API.
Wyświetlanie przyznanych środków
Szczegóły przyznanych środków są dostępne na stronie rozliczeń Twojej organizacji.
Przyznane środki i wykorzystanie API dostarczają różnych informacji: pierwsze pokazują środki przypisane do Twojej organizacji, a drugie — jej aktywność w API.
Sprawdzanie użycia i kosztów oferty Skalowanej
Jeśli w Twojej organizacji włączono ofertę Skalowaną i masz wymagane uprawnienia, otwórz stronę użycia oferty Skalowanej, aby wyświetlić szczegółowe dane.
Koszty pakietów oferty Skalowanej są przypisywane organizacji, a nie poszczególnym projektom.
Wykorzystanie jest większe od zera, ale wydatki projektu wynoszą zero
Sprawdź, czy wykorzystanie modelu mieści się w przydziale w ramach oferty Skalowanej. Jeśli całe wykorzystanie tego modelu mieści się w przydziale TPM w ramach oferty Skalowanej, projekt może wykazywać wykorzystanie bez dodatkowych wydatków na model.
Koszt subskrypcji oferty Skalowanej pozostaje na poziomie organizacji. Sprawdź wydatki całej organizacji, zamiast opierać się na wydatkach pojedynczego projektu.
Przeglądanie danych wielu organizacji
Pulpit wykorzystania nie łączy danych kosztów ani wykorzystania z różnych organizacji. Każda organizacja, w tym organizacja podrzędna, jest traktowana oddzielnie.
Aby wyświetlić organizację podrzędną, wybierz ją w selektorze organizacji.
Jeśli potrzebujesz zbiorczych raportów, rozważ korzystanie z projektów w jednej organizacji zamiast z oddzielnych organizacji podrzędnych lub użyj API wykorzystania do własnej analizy.
Sprawdzanie wykorzystania tokenów w odpowiedzi API
Nazwy pól wykorzystania tokenów zależą od punktu końcowego.
| Liczba tokenów | Zakończenia czatu | Odpowiedzi |
|---|---|---|
| Tokeny wejściowe | usage.prompt_tokens | usage.input_tokens |
| Tokeny wyjściowe | usage.completion_tokens | usage.output_tokens |
| Łączna liczba tokenów | usage.total_tokens | usage.total_tokens |
Odpowiedzi dotyczące zakończeń czatu mogą zawierać informacje o wykorzystaniu tokenów. Przykłady:
{
"usage": {
"prompt_tokens": 13,
"completion_tokens": 7,
"total_tokens": 20
}
}W zależności od punktu końcowego i modelu szczegóły użycia mogą też obejmować liczbę tokenów wejściowych z pamięci podręcznej oraz tokenów rozumowania. Dane te pomagają wyjaśnić, dlaczego widoczna długość odpowiedzi nie odzwierciedla całkowitej liczby zużytych tokenów.
Objaśnienie poszczególnych kategorii tokenów znajdziesz w artykule: Czym są tokeny i jak je liczyć.
Jeśli odpowiedź z transkrypcją zawiera dane o zużyciu tokenów, wejściowe tokeny audio i tekstu są już uwzględnione w input_tokens. Nie dodawaj ich ponownie do łącznej liczby tokenów wejściowych. Porównaj output_tokens osobno.
Uzyskaj dane o zużyciu tokenów ze strumieniowych odpowiedzi Chat Completions
W żądaniu strumieniowym Chat Completions uwzględnij:
{
"stream": true,
"stream_options": {
"include_usage": true
}
}Gdy opcja include_usage jest włączona, przed data: [DONE] pojawia się dodatkowy fragment zawierający dane o zużyciu tokenów dla całego żądania. Jego tablica choices jest pusta. W pozostałych fragmentach pole usage ma wartość null.
Jeśli strumień zostanie przerwany, możesz nie otrzymać tego końcowego fragmentu z danymi o zużyciu tokenów. Brak końcowego fragmentu nie oznacza, że żądanie nie zużyło żadnych tokenów.
Ta konfiguracja dotyczy wyłącznie Chat Completions. Szczegóły znajdziesz w dokumentacji API zakończenia czatu.
