OpenAI
Þessi síða var vélþýdd. Skoða upprunalegu ensku greinina.

Úrræðaleit fyrir API-villur og biðtíma

Þessi grein útskýrir hvernig á að nota mælaborðin Service Health og Usage til að leysa algengar villur og biðtímavandamál við notkun OpenAI API.

Uppfært: yesterday

Mikilvægir tenglar

Byrjaðu með réttum sjálfgefnum stillingum

Þegar þú opnar Service Health-stjórnborðið eru sjálfgefnu stillingarnar:

  • Öll verkefni

  • Síðustu 30 dagar

  • Klukkustundarupplausn

Þessi sýn er aðeins gagnleg til yfirsýnar. Merkingarbær úrræðaleit krefst alltaf síunar.

Sía áður en rannsakað er

Rétt síun er mikilvægasta skrefið. Flestar rangtúlkanir stafa af því að blanda saman líkönum, stigum eða verkefnum.

Sía eftir líkani (einu í einu)

Síaðu alltaf að einu líkani.

Ástæða:

  • Vandamál í líkönum með litla umferð geta falist í umferð með meira magni

  • Líkön með mikla umferð geta látið staðbundin vandamál líta út fyrir að vera hnattræn

  • Mismunandi líkön hafa mismunandi frammistöðumarkmið

Ath.: ef mörg líkön eru valin eru þau sameinuð — ekki skipt á milli þeirra.

Sía eftir Þjónustustigi

Ef þú notar fleiri en eitt stig (staðalstig, Hraðstillingu (áður Priority processing), Kvarðastig) skaltu alltaf sía eftir stiginu sem þú ert að rannsaka.

Ástæða:

  • Stigin hafa ólíka eiginleika hvað afköst varðar

  • Hraðstilling og Kvarðastig hafa skilgreinda þjónustustigssamninga (SLA)

  • Blöndun stiga dylur afköst greiddra stiga

Þetta er sérstaklega mikilvægt við greiningu tafa.

Fyrir eldri líkön birtist umferð um Hraðstillingu enn sem priority á Usage-stjórnborðinu.

Sía eftir verkefni

Sjálfgefið sýnir Service Health öll verkefni.

Við úrræðaleit skaltu sía að verkefninu eða verkefnunum þar sem vandamálið sást.

Ástæða:

  • Eitt verkefni með mikla umferð getur ráðið mælingunum.

  • Smærri verkefni sem verða fyrir áhrifum geta falist í ótengdri umferð.

Hafðu „Öll verkefni“ aðeins valið ef þú telur að vandamálið nái raunverulega til allrar stofnunarinnar.

Úrræðaleit vegna villna

Notaðu sýn HTTP-beiðna

Til að rannsaka villur:

  1. Síaðu eftir líkani og þjónustustigi.

  2. Opnaðu flipann HTTP-beiðnir í stað flipans Rekstrartími.

Þessi sýn sýnir heildarfjölda beiðna og villufjölda eftir HTTP-stöðukóða. Stækkaðu í mínútunákvæmni til að greina nákvæmar sveiflur eða breytingar.

Túlkaðu villuhlutföll, ekki fjölda

Búast má við einhverjum villum í öllum framleiðslukerfum. Einbeittu þér að hlutfalli villna, ekki hráum heildartölum.

Því meira sem heildarmagnið er, því meiri getur fjöldi villna orðið, jafnvel við afar lágt villuhlutfall.

Þegar villur vantar í Service Health

Ef þú sérð villur hjá biðlara en engin samsvarandi gögn í Service Health:

  • Beiðnirnar náðu líklega ekki til OpenAI.

  • Vandamálið er yfirleitt ofar í ferlinu (tímamörk, staðgenglar, netkerfi).

Þetta er algengt þegar tímamörk biðlara eru mjög ströng.

Bilanagreining tafa

Greining tafa er marktækust fyrir Hraðstillingu og Kvarðastig, þar sem skilgreindir þjónustustigssamningar (SLA) gilda. Tafir geta verið breytilegri á staðalstigi og engin trygging er fyrir tilteknum svartíma.

Lykilmælingar

Til að skoða hverja mælingu skaltu smella á viðeigandi flipa:

  • Tókahraði: Tókar myndaðir á sekúndu; óháð stærð kvaðningar.

  • Beiðnitími: Heildarlengd beiðni; hefur sterk tengsl við stærð úttaks og rök.

  • Tími að fyrsta tóka (TTFT): Tími þar til fyrsti tóki er myndaður; hefur sterk tengsl við stærð óvistaðrar inntakskvaðningar og rök.

Skoðaðu alltaf P50 / P75 / P95 hundraðsmörk. Meðaltöl geta falið raunveruleg áhrif á notendur.

6. Tengja biðtíma við tókanotkun

Service Health sýnir hvenær hegðun breyttist. Notkunargögn hjálpa til við að útskýra hvers vegna.

Í notkunarstjórnborðinu skaltu gera eftirfarandi til að tryggja að þú sért að skoða gögnin sem eiga við sýnina þína í Service Health-stjórnborðinu:

  • Síaðu að sama verkefni og líkani.

  • Flokkaðu eftir þjónustustigi, ef við á.

  • Einbeittu þér að úttakstókum, sem hafa mest áhrif á biðtíma.

Til dýpri greiningar skaltu flytja út Activity Data og skoða tóka á hverja beiðni yfir tíma.

7. Hverju á að deila með þjónustuveri (ef þörf krefur)

Ef þú hefur samband við þjónustuver skaltu láta eftirfarandi fylgja:

  • Auðkenni fyrirtækja sem verða fyrir áhrifum (mikilvægt)

  • Endapunktar sem verða fyrir áhrifum, svo sem Chat Completions eða Responses (mikilvægt)

  • Líkön sem verða fyrir áhrifum (mikilvægt)

  • Hvort vandinn kemur upp í Hraðstillingu eða á Kvarðastigi (mikilvægt)

  • Tímabil og tímabelti fyrir tafir eða villur (mikilvægt)

  • Viðeigandi x-request-id eða X-Client-Request-Id, ef tiltækt

  • Tímastimplar með tímabelti, eða að minnsta kosti dagsetning, fyrir beiðnirnar sem þú lætur fylgja

Ef tiltækt skaltu einnig láta eftirfarandi fylgja:

  • Verkefnisauðkenni sem tengist beiðnunum

  • Hvort beiðnir sem lúta að gagnageymslu verði fyrir áhrifum og þá hverjar

  • Lýsingar á þróuninni sem þú sérð

Fyrir hverja tegund vandamáls skaltu láta eftirfarandi fylgja:

  • Villur: Áætlað hlutfall beiðna sem mistakast eða skila villu, svarkóðar, villuboð og hversu langan tíma tók að fá villusvarið.

  • Tafir: Hvaða hundraðshlutamörk verða fyrir áhrifum (P50 / P90 / P95 / P99), hversu há þau eru miðað við grunnviðmið viðskiptavinarins og dæmi um hægar beiðnir með tímastimplum sendingar og móttöku.

  • Hvort tveggja: Skjámyndir eða tafla með gögnum um villur eða tafir, ásamt skýringu á því hvernig komist var að þeirri niðurstöðu að villutíðni eða tafir væru meiri en búist var við.

Algeng úrræðaleitartilvik

Tímamörk verða en Service Health lítur eðlilega út

Hugsanleg orsök: beiðnir renna út á tíma áður en þær ná til OpenAI.

Athugaðu:

  • Tímamarkastillingar biðlara eða staðgengils

  • Breytingar á staðarneti eða álagsjafnara

  • Hvort 499-villur séu til staðar í Service Health-stjórnborðinu (þær kunna að birtast sem 5xx-villur í þínum eigin kerfum).

Biðtími jókst án útgáfu

Hugsanleg orsök: stærð úttakstóka eða rökunotkun jókst og/eða umferð færðist milli þjónustustiga.

Athugaðu:

  • Meðalfjöldi úttakstóka á hverja beiðni í notkunarstjórnborðinu (krefst þess að gögnum sé hlaðið niður og úttakstókum deilt með heildarfjölda beiðna).

  • Hundraðsmörk fyrir beiðnitíma og TTFT í stjórnborði þjónustuheilsu.

Hraðstilling eða Kvarðastig virðist hægvirkt

Hugsanleg orsök: mæligögnum frá ólíkum stigum er blandað saman og umferð á staðalstigi dylur því afköst greiddra stiga.

Athugaðu:

  • Síur takmarkast við eitt stig og eitt líkan.

  • Samanburð á hraða tóka milli stiga.

Aukning í 5XX-villum

Líkleg orsök: tímabundnar bilanir sem hafa áhrif á lítinn hluta umferðar.

Athugaðu:

  • Villuhlutfall

  • Hvort umferðarmagn breyttist á sama tíma

Vandamál hefur aðeins áhrif á eitt verkefni

Líkleg orsök: verkefnissértæk uppsetning eða notkunarmynstur.

Athugaðu:

  • Síun á verkefnastigi

  • Samanburður við verkefni sem urðu ekki fyrir áhrifum

Lokaályktanir

  • Síaðu eftir líkani, stigi og verkefni þar sem það á við áður en þú túlkar mælingar.

  • Notaðu hundraðsmörk, ekki meðaltöl, við greiningu á biðtíma.

  • Búast má við lágum villuhlutföllum.

  • Gögn sem vantar benda yfirleitt til vandamála ofar í ferlinu.

  • Notkunargögn geta hjálpað til við að útskýra hvers vegna biðtími breyttist; Service Health sýnir hvenær hegðun breyttist.

Var þessi grein gagnleg?