Энэ хуудсыг машинаар орчуулсан. Англи хэл дээрх нийтлэлийн эх хувилбарыг үзнэ үү.

API алдаа ба саатлыг оношлох

Энэ нийтлэлд OpenAI API-г ашиглах үед гардаг нийтлэг алдаа болон саатлын асуудлыг оношлохдоо Service Health ба Usage хяналтын самбаруудыг хэрхэн ашиглахыг тайлбарлана.

Шинэчилсэн: 2 days ago

Чухал холбоосууд

Хэрэв таны бүртгэлд Үйлчилгээний төлөвийг харах боломж байхгүй бол тусламжийн багтай холбогдохдоо аппликейшнийхээ хүсэлтийн ID, нууц мэдээллийг нь арилгасан алдааны хариу болон хугацааны бүртгэлийг ашиглаарай. Өгөгдөл байршлын зохицуулалт нь дангаараа зөвхөн Enterprise хэрэглэгчдэд зориулсан хяналтын самбаруудад хандах эрх олгохгүй.

Зөв анхдагч тохиргооноос эхлэх

Үйлчилгээний эрүүл мэндийн хяналтын самбарыг нээхэд анхдагчаар:

  • Бүх төсөл

  • Сүүлийн 30 өдөр

  • Цагийн нарийвчлал

Энэ харагдац зөвхөн ерөнхий чиг баримжаанд хэрэгтэй. Утга учиртай оношлон засварлалтад шүүх үргэлж шаардлагатай.

Шалгаж эхлэхээс өмнө шүүнэ үү

Зөв шүүх нь хамгийн чухал алхам юм. Ихэнх буруу тайлбар нь загвар, түвшин эсвэл төслүүдийг хольсноос үүддэг.

Загвараар шүүх (нэг удаад нэг)

Үргэлж нэг загвараар шүүнэ үү.

Яагаад:

  • Бага траффиктай загваруудын асуудал өндөр эзлэхүүнтэй траффикаар далдлагдаж болно

  • Өндөр эзлэхүүнтэй загварууд хэсэгчилсэн асуудлыг нийтлэг мэт харагдуулж болно

  • Өөр өөр загварууд өөр өөр гүйцэтгэлийн зорилготой

Тэмдэглэл: олон загвар сонговол тэдгээрийг нэгтгэнэ—хооронд нь сэлгэхгүй.

Үйлчилгээний түвшнээр шүүх

Хэрэв та нэгээс олон түвшин (стандарт, Хурдан горим (өмнө нь Priority processing), Шатлалын түвшин) ашигладаг бол шалгаж буй түвшнээрээ үргэлж шүүнэ үү.

Учир нь:

  • Түвшин бүрийн гүйцэтгэлийн онцлог ялгаатай

  • Хурдан горим болон Шатлалын түвшин нь тодорхойлсон SLA-тай

  • Түвшнүүдийг холих нь төлбөртэй түвшний гүйцэтгэлийг тодорхойгүй болгодог

Энэ нь саатлын шинжилгээнд онцгой чухал.

Одоогийн загваруудын Хурдан горимын урсгал Usage хяналтын самбарт priority гэж харагдсаар байна.

Төслөөр шүүх

Анхдагчаар Үйлчилгээний эрүүл мэнд бүх төслийг харуулдаг.

Оношлон засварлахдаа асуудал ажиглагдсан төсөл(үүд)-өөр шүүнэ үү.

Яагаад:

  • Нэг өндөр эзлэхүүнтэй төсөл хэмжүүрүүдийг давамгайлж болно.

  • Нөлөөлөлд өртсөн жижиг төслүүд хамааралгүй траффикаар далдлагдаж болно.

Асуудал үнэхээр байгууллагын хэмжээнд байна гэж үзэж байгаа үед л “Бүх төсөл”-ийг сонгосон хэвээр үлдээнэ үү.

Алдааг оношлон засварлах

HTTP хүсэлтүүдийн харагдацыг ашиглах

Алдааг шалгахын тулд:

  1. Загвар болон үйлчилгээний түвшнээр шүүнэ үү.

  2. Uptime табын оронд HTTP Requests табыг нээнэ үү.

Энэ харагдац нь нийт хүсэлт болон алдааны тоог HTTP төлөвийн кодоор харуулна. Нарийвчилсан огцом өсөлт эсвэл өөрчлөлтийг илрүүлэхийн тулд минутын түвшний нарийвчлалд ойртуулна уу.

Тоог бус, алдааны хувийг тайлбарлах

Аливаа үйлдвэрлэлийн системд зарим алдаа гарах нь хүлээгддэг. Түүхий нийт дүн бус, алдааны хувь дээр төвлөрнө үү.

Таны нийт хэмжээ их байх тусам алдааны хувь маш бага байсан ч боломжит алдааны тоо их байна.

Үйлчилгээний эрүүл мэндэд алдаа харагдахгүй үед

Хэрэв та клиент талын алдааг харж байгаа ч Үйлчилгээний эрүүл мэндэд тохирох өгөгдөл байхгүй бол:

  • Хүсэлтүүд OpenAI-д хүрээгүй байх магадлалтай.

  • Асуудал ихэвчлэн upstream талд байдаг (хугацаа хэтрэлт, прокси, сүлжээ).

Энэ нь клиент талын хэт хатуу хугацаа хэтрэлтийн тохиргоотой үед түгээмэл.

Саатлыг оношлох

Саатлын шинжилгээ нь SLA нь тодорхойлогдсон Хурдан горим болон Шатлалын түвшин-д хамгийн үр дүнтэй. Стандарт түвшний саатал илүү өргөн хэлбэлзэж болох бөгөөд саатлын баталгаа байхгүй.

Гол хэмжүүрүүд

Хэмжүүр бүрийг харахын тулд холбогдох таб дээр дарна уу:

  • Токены хурд: Секундэд үүсгэсэн токен; өгөгдлийн хэмжээнээс хамаарахгүй.

  • Хүсэлтийн хугацаа: Хүсэлтийн нийт үргэлжлэх хугацаа; гаралтын хэмжээ болон сэтгэн бодохоос ихээхэн хамаарна.

  • Эхний токен хүртэлх хугацаа (TTFT): Эхний токен үүсэх хүртэлх хугацаа; кэшлэгдээгүй оролтын өгөгдлийн хэмжээ болон сэтгэн бодохоос ихээхэн хамаарна.

P50 / P75 / P95 перцентилүүдийг үргэлж шалгана уу. Дундаж үзүүлэлтүүд бодит хэрэглэгчийн нөлөөг нууж болно.

Хариу өгөх хугацаа ба токены хэрэглээний хамаарлыг судлах

Үйлчилгээний төлөв нь ажиллагаа хэзээ өөрчлөгдсөнийг харуулна. Хэрэглээний өгөгдөл нь яагаад өөрчлөгдсөнийг тайлбарлахад тусална.

Үйлчилгээний төлөвийн хяналтын самбарт харж буй мэдээлэлтэйгээ уялдах өгөгдлийг харахын тулд Хэрэглээний хяналтын самбарт дараах үйлдлүүдийг хийнэ үү:

  • Ижил төсөл болон загвараар шүүнэ үү.

  • Боломжтой бол Үйлчилгээний түвшнээр бүлэглэнэ үү.

  • Хариу өгөх хугацаанд хамгийн их нөлөөлдөг гаралтын токенд анхаарлаа хандуулна уу.

Нарийвчилсан дүн шинжилгээ хийхийн тулд Үйл ажиллагааны өгөгдлийг экспортолж, нэг хүсэлтэд ногдох токены тоо цаг хугацааны явцад хэрхэн өөрчлөгдсөнийг судална уу.

Тусламжийн багт өгөх мэдээлэл (шаардлагатай бол)

Тусламжийн багтай холбогдохдоо дараах мэдээллийг оруулна уу:

  • Асуудалд өртсөн байгууллагуудын ID (чухал)

  • Асуудалд өртсөн эцсийн цэгүүд, жишээлбэл Chat Completions эсвэл Responses (чухал)

  • Асуудалд өртсөн загварууд (чухал)

  • Асуудал гарсан хүсэлтүүдэд ашигласан үйлчилгээний түвшин, жишээлбэл Стандарт, Хурдан горим эсвэл Шатлалын түвшин (чухал)

  • Саатал эсвэл алдаа гарсан хугацааны интервал, цагийн бүсийн хамт (чухал)

  • Холбогдох x-request-id эсвэл X-Client-Request-Id, хэрэв байгаа бол

  • Таны өгч буй хүсэлтүүдийн цагийн тэмдэглэгээ, цагийн бүсийн хамт, эсвэл наад зах нь огноо

Боломжтой бол мөн дараахыг оруулна уу:

  • Хүсэлтүүдэд хамаарах төслийн ID

  • Өгөгдөл байршлын зохицуулалттай хүсэлтүүдэд асуудал гарсан эсэх, гарсан бол аль хүсэлтүүдэд гарсныг, мөн өгөгдөл байршуулахаар заасан бүс нутаг болон ашигласан бүс нутгийн API хостын нэрийг оруулна уу. Төсөл нь газарзүйн тогтмол байршилтай эсэх, эсвэл хүсэлт бүрээр өгөгдлийн байршлыг заадаг Глобал төсөл эсэхийг оруулна уу.

  • Танд ажиглагдаж буй хандлагын тайлбар

Бүс нутаг бүрд одоогоор дэмжигдэж буй загвар болон эцсийн цэгүүдийн талаар API-ийн өгөгдөл байршлын зохицуулалтын гарын авлага-аас үзнэ үү.

Тохиргоо болон алдааны дэлгэрэнгүй мэдээллийг нууц мэдээллийг нь арилгасны дараа илгээнэ үү. Жишээ болон дэлгэцийн зургаас API түлхүүр, нэвтрэх мэдээлэл, загварт өгсөн өгөгдөл болон хэрэглэгчийн бусад нууц агуулгыг арилгана уу.

Асуудлын төрлөөс хамааран дараахыг оруулна уу:

  • Алдаа: Амжилтгүй болсон эсвэл алдаа гарсан хүсэлтүүдийн ойролцоо хувь, хариуны код, алдааны мессеж болон алдааны хариу иртэл хэр хугацаа өнгөрсөн тухай мэдээлэл.

  • Саатал: Аль перцентильд нөлөөлсөн (P50 / P90 / P95 / P99), тэдгээр нь хэрэглэгчийн хэвийн үзүүлэлтээс хэр их өссөн, мөн удаан боловсруулагдсан хүсэлтүүдийн жишээ, илгээсэн болон хариу хүлээн авсан цагийн тэмдэглэгээний хамт.

  • Аль алинд нь: Алдаа эсвэл саатлын өгөгдлийн дэлгэцийн зураг буюу хүснэгт, мөн алдааны хувь эсвэл саатал хүлээгдэж байснаас өндөр байгааг хэрхэн тогтоосон тухай мэдээлэл.

Оношлон засварлах түгээмэл нөхцөлүүд

Хугацаа хэтэрч байгаа ч Үйлчилгээний эрүүл мэнд хэвийн харагдах

Боломжит шалтгаан: хүсэлтүүд OpenAI-д хүрэхээс өмнө хугацаа нь хэтэрч байна.

Шалгах:

  • Клиент эсвэл проксигийн хугацаа хэтрэлтийн тохиргоо

  • Орон нутгийн сүлжээ эсвэл ачаалал тэнцвэржүүлэгчийн өөрчлөлт

  • Үйлчилгээний эрүүл мэндийн хяналтын самбарт 499 алдаа байгаа эсэх (эдгээр нь таны өөрийн системд 5xx алдаа гэж харагдаж болно).

Байршуулалт хийгдээгүй байхад хоцролт нэмэгдсэн

Боломжит шалтгаан: гаралтын токены хэмжээ эсвэл сэтгэн бодох ашиглалт нэмэгдсэн ба/эсвэл траффик үйлчилгээний түвшнүүдийн хооронд шилжсэн.

Шалгах:

  • Ашиглалтын хяналтын самбар дахь хүсэлт бүрийн дундаж гаралтын токен (өгөгдөл татаж аваад гаралтын токеныг нийт хүсэлтэд хуваах шаардлагатай).

  • Үйлчилгээний эрүүл мэндийн хяналтын самбар дахь Request Time болон TTFT перцентилүүд.

Хурдан горим эсвэл Шатлалын түвшин удаан ажиллаж байгаа мэт харагдах

Болзошгүй шалтгаан: өөр өөр түвшний үзүүлэлтүүд холилдсоноор стандарт түвшний урсгал төлбөртэй түвшний гүйцэтгэлийг халхалж байна.

Шалгах зүйлс:

  • Шүүлтүүрүүд нэг түвшин, нэг загвараар хязгаарлагдсан эсэх.

  • Түвшин хоорондын токены хурдны харьцуулалт.

5XX алдааны огцом өсөлт

Магадлалтай шалтгаан: траффикийн бага хувьд нөлөөлж буй түр зуурын доголдлууд.

Шалгах:

  • Алдааны хувь

  • Траффикийн хэмжээ мөн тэр үед өөрчлөгдсөн эсэх

Асуудал зөвхөн нэг төсөлд нөлөөлж байгаа бол

Болзошгүй шалтгаан: тухайн төслийн тохиргоо эсвэл ашиглалтын хэв маяг.

Дараахыг шалгана уу:

  • Төслийн түвшний шүүлт

  • Асуудал гараагүй төслүүдтэй харьцуулах

Бүс нутаг нь тогтмол төсөл эсвэл хүсэлт бүрээр өгөгдлийн байршлыг заадаг Глобал төслийн хувьд хүсэлтийн хостын нэр, загвар, эцсийн цэг, түвшнийг API-ийн өгөгдөл байршлын зохицуулалтын гарын авлага дахь мэдээлэлтэй тулгаж шалгана уу. Тохиргооны сонголтууд харагдахгүй байвал API платформ дээрх төслүүдийг удирдах хэсгийг үзнэ үү. Асуудлыг оношилж, шийдвэрлэх явцад хүсэлтүүдийг шаардлагатай бүс нутгийн чиглүүлэлтээр илгээсэн хэвээр байлгана уу.

Эцсийн дүгнэлтүүд

  • Хэмжүүрүүдийг тайлбарлахаас өмнө шаардлагатай үед загвар, түвшин болон төслөөр шүүнэ үү.

  • Хоцролтын шинжилгээнд дундаж бус перцентилүүдийг ашиглана уу.

  • Бага хэмжээний алдааны хувь гарах нь хүлээгддэг.

  • Өгөгдөл дутуу байх нь ихэвчлэн upstream асуудлыг илтгэнэ.

  • Ашиглалтын өгөгдөл хоцролт яагаад өөрчлөгдсөнийг тайлбарлахад тусална; Үйлчилгээний эрүүл мэнд нь үйлдэл хэзээ өөрчлөгдсөнийг харуулна.

Энэ нийтлэл танд тус болсон уу?