OpenAI
Þessi síða var vélþýdd. Skoða upprunalegu ensku greinina.

Úrræðaleit fyrir API-villur og biðtíma

Þessi grein útskýrir hvernig á að nota mælaborðin Service Health og Usage til að leysa algengar villur og biðtímavandamál við notkun OpenAI API.

Uppfært: 8 days ago

Mikilvægir tenglar

Byrjaðu með réttum sjálfgefnum stillingum

Þegar þú opnar Service Health-stjórnborðið eru sjálfgefnu stillingarnar:

  • Öll verkefni

  • Síðustu 30 dagar

  • Klukkustundarupplausn

Þessi sýn er aðeins gagnleg til yfirsýnar. Merkingarbær úrræðaleit krefst alltaf síunar.

Sía áður en rannsakað er

Rétt síun er mikilvægasta skrefið. Flestar rangtúlkanir stafa af því að blanda saman líkönum, stigum eða verkefnum.

Sía eftir líkani (einu í einu)

Síaðu alltaf að einu líkani.

Ástæða:

  • Vandamál í líkönum með litla umferð geta falist í umferð með meira magni

  • Líkön með mikla umferð geta látið staðbundin vandamál líta út fyrir að vera hnattræn

  • Mismunandi líkön hafa mismunandi frammistöðumarkmið

Ath.: ef mörg líkön eru valin eru þau sameinuð — ekki skipt á milli þeirra.

Sía eftir Þjónustustigi

Ef þú notar fleiri en eitt stig (staðalstig, Hraðstillingu (áður Priority processing), Kvarðastig) skaltu alltaf sía eftir stiginu sem þú ert að rannsaka.

Ástæða:

  • Stigin hafa ólíka eiginleika hvað afköst varðar

  • Hraðstilling og Kvarðastig hafa skilgreinda þjónustustigssamninga (SLA)

  • Blöndun stiga dylur afköst greiddra stiga

Þetta er sérstaklega mikilvægt við greiningu tafa.

Fyrir eldri líkön birtist umferð um Hraðstillingu enn sem priority á Usage-stjórnborðinu.

Sía eftir verkefni

Sjálfgefið sýnir Service Health öll verkefni.

Við úrræðaleit skaltu sía að verkefninu eða verkefnunum þar sem vandamálið sást.

Ástæða:

  • Eitt verkefni með mikla umferð getur ráðið mælingunum.

  • Smærri verkefni sem verða fyrir áhrifum geta falist í ótengdri umferð.

Hafðu „Öll verkefni“ aðeins valið ef þú telur að vandamálið nái raunverulega til allrar stofnunarinnar.

Úrræðaleit vegna villna

Notaðu sýn HTTP-beiðna

Til að rannsaka villur:

  1. Síaðu eftir líkani og þjónustustigi.

  2. Opnaðu flipann HTTP-beiðnir í stað flipans Rekstrartími.

Þessi sýn sýnir heildarfjölda beiðna og villufjölda eftir HTTP-stöðukóða. Stækkaðu í mínútunákvæmni til að greina nákvæmar sveiflur eða breytingar.

Túlkaðu villuhlutföll, ekki fjölda

Búast má við einhverjum villum í öllum framleiðslukerfum. Einbeittu þér að hlutfalli villna, ekki hráum heildartölum.

Því meira sem heildarmagnið er, því meiri getur fjöldi villna orðið, jafnvel við afar lágt villuhlutfall.

Þegar villur vantar í Service Health

Ef þú sérð villur hjá biðlara en engin samsvarandi gögn í Service Health:

  • Beiðnirnar náðu líklega ekki til OpenAI.

  • Vandamálið er yfirleitt ofar í ferlinu (tímamörk, staðgenglar, netkerfi).

Þetta er algengt þegar tímamörk biðlara eru mjög ströng.

Bilanagreining tafa

Greining tafa er marktækust fyrir Hraðstillingu og Kvarðastig, þar sem skilgreindir þjónustustigssamningar (SLA) gilda. Tafir geta verið breytilegri á staðalstigi og engin trygging er fyrir tilteknum svartíma.

Lykilmælingar

Til að skoða hverja mælingu skaltu smella á viðeigandi flipa:

  • Tókahraði: Tókar myndaðir á sekúndu; óháð stærð kvaðningar.

  • Beiðnitími: Heildarlengd beiðni; hefur sterk tengsl við stærð úttaks og rök.

  • Tími að fyrsta tóka (TTFT): Tími þar til fyrsti tóki er myndaður; hefur sterk tengsl við stærð óvistaðrar inntakskvaðningar og rök.

Skoðaðu alltaf P50 / P75 / P95 hundraðsmörk. Meðaltöl geta falið raunveruleg áhrif á notendur.

Tengsl milli biðtíma og tókanotkunar

Staða þjónustu sýnir hvenær hegðunin breyttist. Notkunargögn hjálpa til við að skýra hvers vegna.

Gerðu eftirfarandi á notkunaryfirlitinu til að tryggja að þú sért að skoða gögn sem samsvara því sem þú sérð á yfirlitinu yfir stöðu þjónustu:

  • Síaðu eftir sama verkefni og líkani.

  • Flokkaðu eftir þjónustustigi, ef við á.

  • Beindu sjónum að úttakstókum, sem hafa mest áhrif á biðtíma.

Til að greina gögnin nánar skaltu flytja út virknigögn og skoða hvernig fjöldi tóka í hverri beiðni breytist með tímanum.

Upplýsingar fyrir þjónustuver (ef þörf krefur)

Ef þú hefur samband við þjónustuver skaltu láta eftirfarandi fylgja:

  • Auðkenni fyrirtækja sem verða fyrir áhrifum (mikilvægt)

  • Endapunktar sem verða fyrir áhrifum, svo sem Chat Completions eða Responses (mikilvægt)

  • Líkön sem verða fyrir áhrifum (mikilvægt)

  • Hvort vandamálið kemur upp í Hraðstillingu eða á Kvarðastigi (mikilvægt)

  • Tímabil þar sem biðtími eða villur komu fram, ásamt tímabelti (mikilvægt)

  • Viðeigandi x-request-id eða X-Client-Request-Id, ef tiltækt

  • Tímastimplar með tímabelti, eða að minnsta kosti dagsetning, fyrir beiðnirnar sem þú sendir upplýsingar um

Láttu einnig eftirfarandi fylgja, ef tiltækt:

  • Auðkenni verkefnis sem tengist beiðnunum

  • Hvort beiðnir með kröfum um gagnageymslu verða fyrir áhrifum og þá hvaða beiðnir

  • Lýsingar á þeirri þróun sem þú sérð

Láttu eftirfarandi fylgja eftir því hvers konar vandamál um ræðir:

  • Villur: Áætlað hlutfall beiðna sem mistakast eða skila villu, svarkóðar, villuskilaboð og hversu langan tíma tók að fá villusvarið.

  • Biðtími: Hvaða hundraðshlutamörk verða fyrir áhrifum (P50 / P90 / P95 / P99), hversu há þau eru miðað við grunnviðmið viðskiptavinarins og dæmi um hægar beiðnir með tímastimplum fyrir sendingu og móttöku.

  • Hvort tveggja: Skjámyndir eða tafla með gögnum um villur eða biðtíma, ásamt upplýsingum um hvernig þú komst að því að villuhlutfall eða biðtími væri hærra en búist var við.

Algeng úrræðaleitartilvik

Tímamörk verða en Service Health lítur eðlilega út

Hugsanleg orsök: beiðnir renna út á tíma áður en þær ná til OpenAI.

Athugaðu:

  • Tímamarkastillingar biðlara eða staðgengils

  • Breytingar á staðarneti eða álagsjafnara

  • Hvort 499-villur séu til staðar í Service Health-stjórnborðinu (þær kunna að birtast sem 5xx-villur í þínum eigin kerfum).

Biðtími jókst án útgáfu

Hugsanleg orsök: stærð úttakstóka eða rökunotkun jókst og/eða umferð færðist milli þjónustustiga.

Athugaðu:

  • Meðalfjöldi úttakstóka á hverja beiðni í notkunarstjórnborðinu (krefst þess að gögnum sé hlaðið niður og úttakstókum deilt með heildarfjölda beiðna).

  • Hundraðsmörk fyrir beiðnitíma og TTFT í stjórnborði þjónustuheilsu.

Hraðstilling eða Kvarðastig virðist hægvirkt

Hugsanleg orsök: mæligögnum frá ólíkum stigum er blandað saman og umferð á staðalstigi dylur því afköst greiddra stiga.

Athugaðu:

  • Síur takmarkast við eitt stig og eitt líkan.

  • Samanburð á hraða tóka milli stiga.

Aukning í 5XX-villum

Líkleg orsök: tímabundnar bilanir sem hafa áhrif á lítinn hluta umferðar.

Athugaðu:

  • Villuhlutfall

  • Hvort umferðarmagn breyttist á sama tíma

Vandamál hefur aðeins áhrif á eitt verkefni

Líkleg orsök: verkefnissértæk uppsetning eða notkunarmynstur.

Athugaðu:

  • Síun á verkefnastigi

  • Samanburður við verkefni sem urðu ekki fyrir áhrifum

Lokaályktanir

  • Síaðu eftir líkani, stigi og verkefni þar sem það á við áður en þú túlkar mælingar.

  • Notaðu hundraðsmörk, ekki meðaltöl, við greiningu á biðtíma.

  • Búast má við lágum villuhlutföllum.

  • Gögn sem vantar benda yfirleitt til vandamála ofar í ferlinu.

  • Notkunargögn geta hjálpað til við að útskýra hvers vegna biðtími breyttist; Service Health sýnir hvenær hegðun breyttist.

Var þessi grein gagnleg?