OpenAI
Þessi síða var vélþýdd. Skoða upprunalegu ensku greinina.

Úrræðaleit fyrir API-villur og biðtíma

Þessi grein útskýrir hvernig á að nota mælaborðin Service Health og Usage til að leysa algengar villur og biðtímavandamál við notkun OpenAI API.

Uppfært: 8 days ago

Mikilvægir tenglar

Byrjaðu með réttum sjálfgefnum stillingum

Þegar þú opnar Service Health-stjórnborðið eru sjálfgefnu stillingarnar:

  • Öll verkefni

  • Síðustu 30 dagar

  • Klukkustundarupplausn

Þessi sýn er aðeins gagnleg til yfirsýnar. Merkingarbær úrræðaleit krefst alltaf síunar.

Sía áður en rannsakað er

Rétt síun er mikilvægasta skrefið. Flestar rangtúlkanir stafa af því að blanda saman líkönum, stigum eða verkefnum.

Sía eftir líkani (einu í einu)

Síaðu alltaf að einu líkani.

Ástæða:

  • Vandamál í líkönum með litla umferð geta falist í umferð með meira magni

  • Líkön með mikla umferð geta látið staðbundin vandamál líta út fyrir að vera hnattræn

  • Mismunandi líkön hafa mismunandi frammistöðumarkmið

Ath.: ef mörg líkön eru valin eru þau sameinuð — ekki skipt á milli þeirra.

Sía eftir þjónustustigi

Ef þú notar fleiri en eitt stig (staðal, forgang, kvarða) skaltu alltaf sía að stiginu sem þú ert að rannsaka.

Ástæða:

  • Stig hafa mismunandi frammistöðueiginleika

  • Forgangs- og kvarðastig hafa skilgreinda SLA-samninga

  • Blöndun stiga hylur frammistöðu greidds stigs

Þetta er sérstaklega mikilvægt við greiningu á biðtíma.

Sía eftir verkefni

Sjálfgefið sýnir Service Health öll verkefni.

Við úrræðaleit skaltu sía að verkefninu eða verkefnunum þar sem vandamálið sást.

Ástæða:

  • Eitt verkefni með mikla umferð getur ráðið mælingunum.

  • Smærri verkefni sem verða fyrir áhrifum geta falist í ótengdri umferð.

Hafðu „Öll verkefni“ aðeins valið ef þú telur að vandamálið nái raunverulega til allrar stofnunarinnar.

Úrræðaleit vegna villna

Notaðu sýn HTTP-beiðna

Til að rannsaka villur:

  1. Síaðu eftir líkani og þjónustustigi.

  2. Opnaðu flipann HTTP-beiðnir í stað flipans Rekstrartími.

Þessi sýn sýnir heildarfjölda beiðna og villufjölda eftir HTTP-stöðukóða. Stækkaðu í mínútunákvæmni til að greina nákvæmar sveiflur eða breytingar.

Túlkaðu villuhlutföll, ekki fjölda

Búast má við einhverjum villum í öllum framleiðslukerfum. Einbeittu þér að hlutfalli villna, ekki hráum heildartölum.

Því meira sem heildarmagnið er, því meiri getur fjöldi villna orðið, jafnvel við afar lágt villuhlutfall.

Þegar villur vantar í Service Health

Ef þú sérð villur hjá biðlara en engin samsvarandi gögn í Service Health:

  • Beiðnirnar náðu líklega ekki til OpenAI.

  • Vandamálið er yfirleitt ofar í ferlinu (tímamörk, staðgenglar, netkerfi).

Þetta er algengt þegar tímamörk biðlara eru mjög ströng.

Úrræðaleit vegna biðtíma

Greining á biðtíma er gagnlegust á forgangs- og kvarðastigum, sem hafa skilgreinda SLA-samninga. Staðalstig getur sýnt meiri breytileika í biðtíma og hefur ekki tryggðan biðtíma.

Lykilmælingar

Til að skoða hverja mælingu skaltu smella á viðeigandi flipa:

  • Tókahraði: Tókar myndaðir á sekúndu; óháð stærð kvaðningar.

  • Beiðnitími: Heildarlengd beiðni; hefur sterk tengsl við stærð úttaks og rök.

  • Tími að fyrsta tóka (TTFT): Tími þar til fyrsti tóki er myndaður; hefur sterk tengsl við stærð óvistaðrar inntakskvaðningar og rök.

Skoðaðu alltaf P50 / P75 / P95 hundraðsmörk. Meðaltöl geta falið raunveruleg áhrif á notendur.

6. Tengja biðtíma við tókanotkun

Service Health sýnir hvenær hegðun breyttist. Notkunargögn hjálpa til við að útskýra hvers vegna.

Í notkunarstjórnborðinu skaltu gera eftirfarandi til að tryggja að þú sért að skoða gögnin sem eiga við sýnina þína í Service Health-stjórnborðinu:

  • Síaðu að sama verkefni og líkani.

  • Flokkaðu eftir þjónustustigi, ef við á.

  • Einbeittu þér að úttakstókum, sem hafa mest áhrif á biðtíma.

Til dýpri greiningar skaltu flytja út Activity Data og skoða tóka á hverja beiðni yfir tíma.

7. Hvað á að deila með þjónustuveri (ef þarf)

Ef þú hefur samband við þjónustuver skaltu láta fylgja:

  • Auðkenni stofnana sem verða fyrir áhrifum (mikilvægt)

  • Endapunktar sem verða fyrir áhrifum, svo sem Chat Completions eða Responses (mikilvægt)

  • Líkön sem verða fyrir áhrifum (mikilvægt)

  • Hvort þetta sé á Kvarða- eða forgangsstigi (mikilvægt)

  • Tímabil með tímabelti fyrir biðtíma eða villur (mikilvægt)

  • Viðeigandi x-request-id eða X-Client-Request-Id, ef tiltækt

  • Tímastimplar með tímabelti, eða að minnsta kosti dagsetningin, fyrir beiðnirnar sem þú leggur fram

Ef tiltækt skaltu einnig láta fylgja:

  • Verkefnisauðkenni sem tengist beiðnunum

  • Hvort gagnageymslubeiðnir verða fyrir áhrifum og þá hverjar

  • Lýsingar á þróuninni sem þú sérð

Fyrir tegund vandamáls skaltu láta fylgja:

  • Villur: Áætlað hlutfall beiðna sem mistakast eða skila villu, svarkóðar, villuskilaboð og hversu langan tíma tók að fá villusvarið.

  • Biðtími: Hvaða hundraðsmörk verða fyrir áhrifum (P50 / P90 / P95 / P99), hversu há þau eru miðað við grunnlínu viðskiptavinarins og dæmi um hægar beiðnir með tímastimplum sendingar og móttöku.

  • Hvort tveggja: Skjámyndir eða tafla með villu- eða biðtímagögnum, auk þess hvernig þú komst að því að villuhlutföll eða biðtími voru hærri en búist var við.

Algeng úrræðaleitartilvik

Tímamörk verða en Service Health lítur eðlilega út

Hugsanleg orsök: beiðnir renna út á tíma áður en þær ná til OpenAI.

Athugaðu:

  • Tímamarkastillingar biðlara eða staðgengils

  • Breytingar á staðarneti eða álagsjafnara

  • Hvort 499-villur séu til staðar í Service Health-stjórnborðinu (þær kunna að birtast sem 5xx-villur í þínum eigin kerfum).

Biðtími jókst án útgáfu

Hugsanleg orsök: stærð úttakstóka eða rökunotkun jókst og/eða umferð færðist milli þjónustustiga.

Athugaðu:

  • Meðalfjöldi úttakstóka á hverja beiðni í notkunarstjórnborðinu (krefst þess að gögnum sé hlaðið niður og úttakstókum deilt með heildarfjölda beiðna).

  • Hundraðsmörk fyrir beiðnitíma og TTFT í stjórnborði þjónustuheilsu.

Forgangs- eða Kvarðastig virðist hægt

Hugsanleg orsök: mælingum er blandað milli stiga, sem þýðir að umferð á staðalstigi hylur frammistöðu greidds stigs.

Athugaðu:

  • Síur eru takmarkaðar við eitt stig og eitt líkan.

  • Samanburður á tókaflæði milli stiga.

Aukning í 5XX-villum

Líkleg orsök: tímabundnar bilanir sem hafa áhrif á lítinn hluta umferðar.

Athugaðu:

  • Villuhlutfall

  • Hvort umferðarmagn breyttist á sama tíma

Vandamál hefur aðeins áhrif á eitt verkefni

Líkleg orsök: verkefnissértæk uppsetning eða notkunarmynstur.

Athugaðu:

  • Síun á verkefnastigi

  • Samanburður við verkefni sem urðu ekki fyrir áhrifum

Lokaályktanir

  • Síaðu eftir líkani, stigi og verkefni þar sem það á við áður en þú túlkar mælingar.

  • Notaðu hundraðsmörk, ekki meðaltöl, við greiningu á biðtíma.

  • Búast má við lágum villuhlutföllum.

  • Gögn sem vantar benda yfirleitt til vandamála ofar í ferlinu.

  • Notkunargögn geta hjálpað til við að útskýra hvers vegna biðtími breyttist; Service Health sýnir hvenær hegðun breyttist.

Var þessi grein gagnleg?