Viungo Muhimu
Dashibodi ya Afya ya Huduma (kwa sasa inapatikana tu kwa wateja wa Enterprise API)
Anza na Chaguo-msingi Sahihi
Unapofungua dashibodi ya Afya ya Huduma, chaguo-msingi zake ni:
Miradi yote
Siku 30 zilizopita
Mwonekano wa kila saa
Mwonekano huu ni muhimu kwa kujielekeza tu. Utatuzi wenye maana huhitaji uchujaji kila wakati.
Chuja Kabla ya Kuchunguza
Uchujaji sahihi ndio hatua muhimu zaidi. Tafsiri nyingi potovu hutokana na kuchanganya miundo, viwango, au miradi.
Chuja kwa Muundo (Mmoja kwa Wakati)
Chuja kwa muundo mmoja kila wakati.
Sababu:
Matatizo kwenye miundo yenye trafiki ndogo yanaweza kufichwa na trafiki yenye kiasi kikubwa zaidi
Miundo yenye kiasi kikubwa inaweza kufanya matatizo ya eneo maalum yaonekane ya kimataifa
Miundo tofauti ina malengo tofauti ya utendaji
Kumbuka: kuchagua miundo mingi huiunganisha pamoja—hakubadilishi kati yake.
Chuja kwa Kiwango cha Huduma
Ikiwa unatumia zaidi ya kiwango kimoja (cha kawaida, Hali ya haraka (zamani Uchakataji wa Kipaumbele), Kiwango cha Kuongeza Uwezo), chuja kila wakati hadi kiwango unachochunguza.
Sababu:
Viwango vina sifa tofauti za utendaji
Hali ya haraka na Kiwango cha Kuongeza Uwezo vina SLA zilizobainishwa
Kuchanganya viwango kunaficha utendaji wa viwango vinavyolipiwa
Hili ni muhimu hasa katika uchanganuzi wa ucheleweshaji.
Kwa miundo iliyopo, trafiki ya Hali ya haraka bado inaonekana kama priority kwenye dashibodi ya Usage.
Chuja kwa Mradi
Kwa chaguo-msingi, Afya ya Huduma huonyesha miradi yote.
Kwa utatuzi, chuja kwa mradi/miradi ambapo tatizo lilionekana.
Sababu:
Mradi mmoja wenye kiasi kikubwa unaweza kutawala vipimo.
Miradi midogo iliyoathiriwa inaweza kufichwa na trafiki isiyohusiana.
Acha tu "Miradi yote" ikiwa imechaguliwa iwapo unaamini tatizo ni la shirika lote kweli.
Kutatua Hitilafu
Tumia Mwonekano wa Maombi ya HTTP
Ili kuchunguza hitilafu:
Chuja kwa muundo na kiwango cha huduma.
Fungua kichupo cha Maombi ya HTTP badala ya kichupo cha Muda wa Upatikanaji.
Mwonekano huu unaonyesha jumla ya maombi na idadi ya hitilafu kwa msimbo wa hali wa HTTP. Kuza hadi mwonekano wa kiwango cha dakika ili kutambua ongezeko la ghafla au mabadiliko ya kina.
Fasiri Viwango vya Hitilafu, Si Idadi
Baadhi ya hitilafu zinatarajiwa katika mfumo wowote wa uzalishaji. Zingatia asilimia ya hitilafu, si jumla ghafi.
Kadiri kiasi chako cha jumla kinavyokuwa kikubwa, ndivyo idadi inayowezekana ya hitilafu inavyoweza kuwa kubwa hata kwa kiwango cha hitilafu kilicho chini sana.
Hitilafu Zinapokosekana kwenye Afya ya Huduma
Ukiona hitilafu za upande wa mteja lakini hakuna data inayolingana katika Afya ya Huduma:
Huenda maombi hayakufika OpenAI.
Tatizo kwa kawaida liko upande wa awali (muda kuisha, proksi, mtandao).
Hili ni jambo la kawaida kwa muda mkali wa kuisha upande wa mteja.
Kutatua Matatizo ya Ucheleweshaji
Uchanganuzi wa ucheleweshaji una maana zaidi katika viwango vya Hali ya haraka na Kiwango cha Kuongeza Uwezo, ambavyo vina SLA zilizobainishwa. Kiwango cha kawaida kinaweza kuonyesha tofauti kubwa zaidi za ucheleweshaji, na ucheleweshaji wake haujahakikishwa.
Vipimo Muhimu
Ili kuona kila kipimo, bofya kichupo husika:
Kasi ya Tokeni: Tokeni zinazozalishwa kwa sekunde; haitegemei ukubwa wa dokeza.
Muda wa Ombi: Muda wote wa ombi; huathiriwa sana na ukubwa wa matokeo na uwazaji.
Muda hadi Tokeni ya Kwanza (TTFT): Muda hadi tokeni ya kwanza izalishwe; huathiriwa sana na ukubwa wa dokeza la ingizo lisilohifadhiwa kwenye kache na uwazaji.
Kagua kila wakati asilimia za P50 / P75 / P95. Wastani unaweza kuficha athari kwa watumiaji halisi.
Kuhusianisha Muda wa Kusubiri na Matumizi ya Tokeni
Hali ya Huduma inaonyesha wakati utendaji ulibadilika. Data ya matumizi husaidia kueleza sababu.
Kwenye dashibodi ya Matumizi, fanya yafuatayo ili kuhakikisha kuwa unatazama data inayolingana na unachoona kwenye Dashibodi ya Hali ya Huduma:
Chuja ili kuona mradi na muundo uleule.
Panga katika makundi kulingana na Kiwango cha Huduma, inapohusika.
Zingatia tokeni za matokeo, ambazo huathiri zaidi muda wa kusubiri.
Kwa uchambuzi wa kina zaidi, hamisha Data ya Shughuli na uchunguze idadi ya tokeni kwa kila ombi kwa vipindi tofauti.
Taarifa za Kutoa kwa Timu ya Usaidizi (Ikihitajika)
Ukiwasiliana na timu ya usaidizi, jumuisha:
Vitambulisho vya mashirika yaliyoathirika (muhimu)
Vituo vya mwisho vya API vilivyoathirika, kama vile Chat Completions au Responses (muhimu)
Miundo iliyoathirika (muhimu)
Iwapo tatizo linatokea kwenye Hali ya haraka au Kiwango cha Kuongeza Uwezo (muhimu)
Vipindi ambavyo kulikuwa na ucheleweshaji au hitilafu, pamoja na ukanda wa saa (muhimu)
x-request-id au X-Client-Request-Id husika, ikiwa inapatikana
Rekodi za muda pamoja na ukanda wa saa, au angalau tarehe, za maombi unayotoa
Ikiwa zinapatikana, jumuisha pia:
Kitambulisho cha mradi unaohusiana na maombi hayo
Iwapo maombi yenye masharti ya hifadhi ya data yameathirika, na ni yapi
Maelezo ya mielekeo unayoona
Kulingana na aina ya tatizo, jumuisha:
Hitilafu: Makadirio ya asilimia ya maombi yanayoshindwa au yanayopata hitilafu, misimbo ya majibu, ujumbe wa hitilafu, na muda uliochukua kupokea jibu la hitilafu.
Muda wa kusubiri: Persentili zilizoathirika (P50 / P90 / P95 / P99), zimezidi kiwango cha kawaida cha mteja kwa kiasi gani, na mifano ya maombi yanayochukua muda mrefu pamoja na rekodi za muda wa kutuma na kupokea.
Vyote viwili: Picha za skrini au jedwali la data ya hitilafu au muda wa kusubiri, pamoja na jinsi ulivyobaini kuwa viwango vya hitilafu au muda wa kusubiri vilikuwa juu kuliko ilivyotarajiwa.
Matukio ya Kawaida ya Utatuzi
Muda Huisha lakini Afya ya Huduma Inaonekana Kawaida
Sababu inayowezekana: muda wa maombi unaisha kabla hayajafika OpenAI.
Kagua:
Mipangilio ya muda wa kuisha ya mteja au proksi
Mabadiliko ya mtandao wa ndani au kisawazisha mzigo
Uwepo wa hitilafu za 499 katika dashibodi ya Afya ya Huduma (hizi zinaweza kuonekana kama hitilafu za 5xx katika mifumo yako mwenyewe).
Ucheleweshaji Uliongezeka Bila Usambazaji
Sababu inayowezekana: ukubwa wa tokeni za matokeo au matumizi ya uwazaji yaliongezeka na/au trafiki ilihama kati ya viwango vya huduma.
Kagua:
Wastani wa tokeni za matokeo kwa kila ombi katika dashibodi ya Matumizi (inahitaji kupakua data na kugawanya tokeni za matokeo kwa jumla ya maombi).
Asilimia za Muda wa Ombi na TTFT katika dashibodi ya Afya ya Huduma.
Hali ya haraka au Kiwango cha Kuongeza Uwezo Kinaonekana Kuwa Polepole
Sababu inayowezekana: vipimo vimechanganywa baina ya viwango, hivyo trafiki ya kiwango cha kawaida inaficha utendaji wa kiwango kinacholipiwa.
Angalia:
Vichujio vimewekewa kiwango kimoja na muundo mmoja pekee.
Ulinganisho wa kasi ya tokeni baina ya viwango.
Ongezeko la Ghafla la Hitilafu za 5XX
Sababu inayowezekana: kushindwa kwa muda kunakoathiri asilimia ndogo ya trafiki.
Kagua:
Asilimia ya kiwango cha hitilafu
Ikiwa kiasi cha trafiki kilibadilika wakati huo huo
Tatizo Linaathiri Mradi Mmoja Pekee
Sababu inayowezekana: usanidi au muundo wa matumizi maalum kwa mradi.
Kagua:
Uchujaji wa kiwango cha mradi
Ulinganisho na miradi isiyoathiriwa
Mambo Muhimu ya Mwisho
Chuja kwa muundo, kiwango, na mradi panapofaa kabla ya kufasiri vipimo.
Tumia asilimia, si wastani, kwa uchanganuzi wa ucheleweshaji.
Viwango vidogo vya hitilafu vinatarajiwa.
Data inayokosekana kwa kawaida huashiria matatizo ya upande wa awali.
Data ya Matumizi inaweza kusaidia kueleza kwa nini ucheleweshaji ulibadilika; Afya ya Huduma huonyesha lini tabia ilibadilika.