Чухал холбоосууд
Үйлчилгээний эрүүл мэндийн хяналтын самбар (одоогоор зөвхөн Enterprise API хэрэглэгчдэд боломжтой)
Зөв анхдагч тохиргооноос эхлэх
Үйлчилгээний эрүүл мэндийн хяналтын самбарыг нээхэд анхдагчаар:
Бүх төсөл
Сүүлийн 30 өдөр
Цагийн нарийвчлал
Энэ харагдац зөвхөн ерөнхий чиг баримжаанд хэрэгтэй. Утга учиртай оношлон засварлалтад шүүх үргэлж шаардлагатай.
Шалгаж эхлэхээс өмнө шүүнэ үү
Зөв шүүх нь хамгийн чухал алхам юм. Ихэнх буруу тайлбар нь загвар, түвшин эсвэл төслүүдийг хольсноос үүддэг.
Загвараар шүүх (нэг удаад нэг)
Үргэлж нэг загвараар шүүнэ үү.
Яагаад:
Бага траффиктай загваруудын асуудал өндөр эзлэхүүнтэй траффикаар далдлагдаж болно
Өндөр эзлэхүүнтэй загварууд хэсэгчилсэн асуудлыг нийтлэг мэт харагдуулж болно
Өөр өөр загварууд өөр өөр гүйцэтгэлийн зорилготой
Тэмдэглэл: олон загвар сонговол тэдгээрийг нэгтгэнэ—хооронд нь сэлгэхгүй.
Үйлчилгээний түвшнээр шүүх
Хэрэв та нэгээс олон түвшин (стандарт, Хурдан горим (өмнө нь Priority processing), Шатлалын түвшин) ашигладаг бол шалгаж буй түвшнээрээ үргэлж шүүнэ үү.
Учир нь:
Түвшин бүрийн гүйцэтгэлийн онцлог ялгаатай
Хурдан горим болон Шатлалын түвшин нь тодорхойлсон SLA-тай
Түвшнүүдийг холих нь төлбөртэй түвшний гүйцэтгэлийг тодорхойгүй болгодог
Энэ нь саатлын шинжилгээнд онцгой чухал.
Одоогийн загваруудын Хурдан горимын урсгал Usage хяналтын самбарт priority гэж харагдсаар байна.
Төслөөр шүүх
Анхдагчаар Үйлчилгээний эрүүл мэнд бүх төслийг харуулдаг.
Оношлон засварлахдаа асуудал ажиглагдсан төсөл(үүд)-өөр шүүнэ үү.
Яагаад:
Нэг өндөр эзлэхүүнтэй төсөл хэмжүүрүүдийг давамгайлж болно.
Нөлөөлөлд өртсөн жижиг төслүүд хамааралгүй траффикаар далдлагдаж болно.
Асуудал үнэхээр байгууллагын хэмжээнд байна гэж үзэж байгаа үед л “Бүх төсөл”-ийг сонгосон хэвээр үлдээнэ үү.
Алдааг оношлон засварлах
HTTP хүсэлтүүдийн харагдацыг ашиглах
Алдааг шалгахын тулд:
Загвар болон үйлчилгээний түвшнээр шүүнэ үү.
Uptime табын оронд HTTP Requests табыг нээнэ үү.
Энэ харагдац нь нийт хүсэлт болон алдааны тоог HTTP төлөвийн кодоор харуулна. Нарийвчилсан огцом өсөлт эсвэл өөрчлөлтийг илрүүлэхийн тулд минутын түвшний нарийвчлалд ойртуулна уу.
Тоог бус, алдааны хувийг тайлбарлах
Аливаа үйлдвэрлэлийн системд зарим алдаа гарах нь хүлээгддэг. Түүхий нийт дүн бус, алдааны хувь дээр төвлөрнө үү.
Таны нийт хэмжээ их байх тусам алдааны хувь маш бага байсан ч боломжит алдааны тоо их байна.
Үйлчилгээний эрүүл мэндэд алдаа харагдахгүй үед
Хэрэв та клиент талын алдааг харж байгаа ч Үйлчилгээний эрүүл мэндэд тохирох өгөгдөл байхгүй бол:
Хүсэлтүүд OpenAI-д хүрээгүй байх магадлалтай.
Асуудал ихэвчлэн upstream талд байдаг (хугацаа хэтрэлт, прокси, сүлжээ).
Энэ нь клиент талын хэт хатуу хугацаа хэтрэлтийн тохиргоотой үед түгээмэл.
Саатлыг оношлох
Саатлын шинжилгээ нь SLA нь тодорхойлогдсон Хурдан горим болон Шатлалын түвшин-д хамгийн үр дүнтэй. Стандарт түвшний саатал илүү өргөн хэлбэлзэж болох бөгөөд саатлын баталгаа байхгүй.
Гол хэмжүүрүүд
Хэмжүүр бүрийг харахын тулд холбогдох таб дээр дарна уу:
Токены хурд: Секундэд үүсгэсэн токен; өгөгдлийн хэмжээнээс хамаарахгүй.
Хүсэлтийн хугацаа: Хүсэлтийн нийт үргэлжлэх хугацаа; гаралтын хэмжээ болон сэтгэн бодохоос ихээхэн хамаарна.
Эхний токен хүртэлх хугацаа (TTFT): Эхний токен үүсэх хүртэлх хугацаа; кэшлэгдээгүй оролтын өгөгдлийн хэмжээ болон сэтгэн бодохоос ихээхэн хамаарна.
P50 / P75 / P95 перцентилүүдийг үргэлж шалгана уу. Дундаж үзүүлэлтүүд бодит хэрэглэгчийн нөлөөг нууж болно.
Хариу өгөх хугацаа ба токены хэрэглээний хамаарлыг судлах
Үйлчилгээний төлөв нь ажиллагаа хэзээ өөрчлөгдсөнийг харуулна. Хэрэглээний өгөгдөл нь яагаад өөрчлөгдсөнийг тайлбарлахад тусална.
Үйлчилгээний төлөвийн хяналтын самбарт харж буй мэдээлэлтэйгээ уялдах өгөгдлийг харахын тулд Хэрэглээний хяналтын самбарт дараах үйлдлүүдийг хийнэ үү:
Ижил төсөл болон загвараар шүүнэ үү.
Боломжтой бол Үйлчилгээний түвшнээр бүлэглэнэ үү.
Хариу өгөх хугацаанд хамгийн их нөлөөлдөг гаралтын токенд анхаарлаа хандуулна уу.
Нарийвчилсан дүн шинжилгээ хийхийн тулд Үйл ажиллагааны өгөгдлийг экспортолж, нэг хүсэлтэд ногдох токены тоо цаг хугацааны явцад хэрхэн өөрчлөгдсөнийг судална уу.
Тусламжийн багт өгөх мэдээлэл (шаардлагатай бол)
Тусламжийн багтай холбогдохдоо дараах мэдээллийг оруулна уу:
Асуудалд өртсөн байгууллагуудын ID (чухал)
Асуудалд өртсөн API төгсгөлийн цэгүүд, жишээлбэл Chat Completions эсвэл Responses (чухал)
Асуудалд өртсөн загварууд (чухал)
Асуудал Хурдан горимд эсвэл Шатлалын түвшинд гарсан эсэх (чухал)
Хариу удааширсан эсвэл алдаа гарсан хугацааны интервалууд, цагийн бүсийн хамт (чухал)
Байгаа бол холбогдох x-request-id эсвэл X-Client-Request-Id
Таны өгч буй хүсэлтүүдийн цагийн тэмдэглэгээ, цагийн бүсийн хамт, эсвэл ядаж огноо
Боломжтой бол дараах мэдээллийг мөн оруулна уу:
Хүсэлтүүдтэй холбоотой төслийн ID
Өгөгдөл байршлын зохицуулалттай хүсэлтүүд асуудалд өртсөн эсэх, өртсөн бол аль нь болох
Таны ажиглаж буй чиг хандлагын тайлбар
Асуудлын төрлөөс хамааран дараах мэдээллийг оруулна уу:
Алдаа: Амжилтгүй болсон эсвэл алдаа гарсан хүсэлтүүдийн ойролцоо хувь, хариуны код, алдааны мессеж, мөн алдааны хариу хүлээн авахад хэр хугацаа зарцуулсан тухай.
Хариу өгөх хугацаа: Аль перцентильд (P50 / P90 / P95 / P99) нөлөөлсөн, тэдгээр нь хэрэглэгчийн суурь түвшнээс хэр их өссөн, мөн удааширсан хүсэлтүүдийн жишээ, илгээсэн болон хүлээн авсан цагийн тэмдэглэгээний хамт.
Аль алинд нь: Алдаа эсвэл хариу өгөх хугацааны өгөгдлийн дэлгэцийн зураг буюу хүснэгт, мөн алдааны хувь эсвэл хариу өгөх хугацаа хүлээгдэж байснаас өндөр болсныг хэрхэн тогтоосон тухай.
Оношлон засварлах түгээмэл нөхцөлүүд
Хугацаа хэтэрч байгаа ч Үйлчилгээний эрүүл мэнд хэвийн харагдах
Боломжит шалтгаан: хүсэлтүүд OpenAI-д хүрэхээс өмнө хугацаа нь хэтэрч байна.
Шалгах:
Клиент эсвэл проксигийн хугацаа хэтрэлтийн тохиргоо
Орон нутгийн сүлжээ эсвэл ачаалал тэнцвэржүүлэгчийн өөрчлөлт
Үйлчилгээний эрүүл мэндийн хяналтын самбарт 499 алдаа байгаа эсэх (эдгээр нь таны өөрийн системд 5xx алдаа гэж харагдаж болно).
Байршуулалт хийгдээгүй байхад хоцролт нэмэгдсэн
Боломжит шалтгаан: гаралтын токены хэмжээ эсвэл сэтгэн бодох ашиглалт нэмэгдсэн ба/эсвэл траффик үйлчилгээний түвшнүүдийн хооронд шилжсэн.
Шалгах:
Ашиглалтын хяналтын самбар дахь хүсэлт бүрийн дундаж гаралтын токен (өгөгдөл татаж аваад гаралтын токеныг нийт хүсэлтэд хуваах шаардлагатай).
Үйлчилгээний эрүүл мэндийн хяналтын самбар дахь Request Time болон TTFT перцентилүүд.
Хурдан горим эсвэл Шатлалын түвшин удаан ажиллаж байгаа мэт харагдах
Болзошгүй шалтгаан: өөр өөр түвшний үзүүлэлтүүд холилдсоноор стандарт түвшний урсгал төлбөртэй түвшний гүйцэтгэлийг халхалж байна.
Шалгах зүйлс:
Шүүлтүүрүүд нэг түвшин, нэг загвараар хязгаарлагдсан эсэх.
Түвшин хоорондын токены хурдны харьцуулалт.
5XX алдааны огцом өсөлт
Магадлалтай шалтгаан: траффикийн бага хувьд нөлөөлж буй түр зуурын доголдлууд.
Шалгах:
Алдааны хувь
Траффикийн хэмжээ мөн тэр үед өөрчлөгдсөн эсэх
Асуудал зөвхөн нэг төсөлд нөлөөлж байна
Магадлалтай шалтгаан: төсөлд тусгайлсан тохиргоо эсвэл ашиглалтын хэв маяг.
Шалгах:
Төслийн түвшний шүүлтүүр
Нөлөөлөлд өртөөгүй төслүүдтэй харьцуулах
Эцсийн дүгнэлтүүд
Хэмжүүрүүдийг тайлбарлахаас өмнө шаардлагатай үед загвар, түвшин болон төслөөр шүүнэ үү.
Хоцролтын шинжилгээнд дундаж бус перцентилүүдийг ашиглана уу.
Бага хэмжээний алдааны хувь гарах нь хүлээгддэг.
Өгөгдөл дутуу байх нь ихэвчлэн upstream асуудлыг илтгэнэ.
Ашиглалтын өгөгдөл хоцролт яагаад өөрчлөгдсөнийг тайлбарлахад тусална; Үйлчилгээний эрүүл мэнд нь үйлдэл хэзээ өөрчлөгдсөнийг харуулна.