Чухал холбоосууд
Үйлчилгээний эрүүл мэндийн хяналтын самбар (одоогоор зөвхөн Enterprise API хэрэглэгчдэд боломжтой)
Зөв анхдагч тохиргооноос эхлэх
Үйлчилгээний эрүүл мэндийн хяналтын самбарыг нээхэд анхдагчаар:
Бүх төсөл
Сүүлийн 30 өдөр
Цагийн нарийвчлал
Энэ харагдац зөвхөн ерөнхий чиг баримжаанд хэрэгтэй. Утга учиртай оношлон засварлалтад шүүх үргэлж шаардлагатай.
Шалгаж эхлэхээс өмнө шүүнэ үү
Зөв шүүх нь хамгийн чухал алхам юм. Ихэнх буруу тайлбар нь загвар, түвшин эсвэл төслүүдийг хольсноос үүддэг.
Загвараар шүүх (нэг удаад нэг)
Үргэлж нэг загвараар шүүнэ үү.
Яагаад:
Бага траффиктай загваруудын асуудал өндөр эзлэхүүнтэй траффикаар далдлагдаж болно
Өндөр эзлэхүүнтэй загварууд хэсэгчилсэн асуудлыг нийтлэг мэт харагдуулж болно
Өөр өөр загварууд өөр өөр гүйцэтгэлийн зорилготой
Тэмдэглэл: олон загвар сонговол тэдгээрийг нэгтгэнэ—хооронд нь сэлгэхгүй.
Үйлчилгээний түвшнээр шүүх
Хэрэв та нэгээс олон түвшин (стандарт, Хурдан горим (өмнө нь Priority processing), Шатлалын түвшин) ашигладаг бол шалгаж буй түвшнээрээ үргэлж шүүнэ үү.
Учир нь:
Түвшин бүрийн гүйцэтгэлийн онцлог ялгаатай
Хурдан горим болон Шатлалын түвшин нь тодорхойлсон SLA-тай
Түвшнүүдийг холих нь төлбөртэй түвшний гүйцэтгэлийг тодорхойгүй болгодог
Энэ нь саатлын шинжилгээнд онцгой чухал.
Одоогийн загваруудын Хурдан горимын урсгал Usage хяналтын самбарт priority гэж харагдсаар байна.
Төслөөр шүүх
Анхдагчаар Үйлчилгээний эрүүл мэнд бүх төслийг харуулдаг.
Оношлон засварлахдаа асуудал ажиглагдсан төсөл(үүд)-өөр шүүнэ үү.
Яагаад:
Нэг өндөр эзлэхүүнтэй төсөл хэмжүүрүүдийг давамгайлж болно.
Нөлөөлөлд өртсөн жижиг төслүүд хамааралгүй траффикаар далдлагдаж болно.
Асуудал үнэхээр байгууллагын хэмжээнд байна гэж үзэж байгаа үед л “Бүх төсөл”-ийг сонгосон хэвээр үлдээнэ үү.
Алдааг оношлон засварлах
HTTP хүсэлтүүдийн харагдацыг ашиглах
Алдааг шалгахын тулд:
Загвар болон үйлчилгээний түвшнээр шүүнэ үү.
Uptime табын оронд HTTP Requests табыг нээнэ үү.
Энэ харагдац нь нийт хүсэлт болон алдааны тоог HTTP төлөвийн кодоор харуулна. Нарийвчилсан огцом өсөлт эсвэл өөрчлөлтийг илрүүлэхийн тулд минутын түвшний нарийвчлалд ойртуулна уу.
Тоог бус, алдааны хувийг тайлбарлах
Аливаа үйлдвэрлэлийн системд зарим алдаа гарах нь хүлээгддэг. Түүхий нийт дүн бус, алдааны хувь дээр төвлөрнө үү.
Таны нийт хэмжээ их байх тусам алдааны хувь маш бага байсан ч боломжит алдааны тоо их байна.
Үйлчилгээний эрүүл мэндэд алдаа харагдахгүй үед
Хэрэв та клиент талын алдааг харж байгаа ч Үйлчилгээний эрүүл мэндэд тохирох өгөгдөл байхгүй бол:
Хүсэлтүүд OpenAI-д хүрээгүй байх магадлалтай.
Асуудал ихэвчлэн upstream талд байдаг (хугацаа хэтрэлт, прокси, сүлжээ).
Энэ нь клиент талын хэт хатуу хугацаа хэтрэлтийн тохиргоотой үед түгээмэл.
Саатлыг оношлох
Саатлын шинжилгээ нь SLA нь тодорхойлогдсон Хурдан горим болон Шатлалын түвшин-д хамгийн үр дүнтэй. Стандарт түвшний саатал илүү өргөн хэлбэлзэж болох бөгөөд саатлын баталгаа байхгүй.
Гол хэмжүүрүүд
Хэмжүүр бүрийг харахын тулд холбогдох таб дээр дарна уу:
Токены хурд: Секундэд үүсгэсэн токен; өгөгдлийн хэмжээнээс хамаарахгүй.
Хүсэлтийн хугацаа: Хүсэлтийн нийт үргэлжлэх хугацаа; гаралтын хэмжээ болон сэтгэн бодохоос ихээхэн хамаарна.
Эхний токен хүртэлх хугацаа (TTFT): Эхний токен үүсэх хүртэлх хугацаа; кэшлэгдээгүй оролтын өгөгдлийн хэмжээ болон сэтгэн бодохоос ихээхэн хамаарна.
P50 / P75 / P95 перцентилүүдийг үргэлж шалгана уу. Дундаж үзүүлэлтүүд бодит хэрэглэгчийн нөлөөг нууж болно.
6. Хоцролтыг токен ашиглалттай уялдуулах
Үйлчилгээний эрүүл мэнд нь үйлдэл хэзээ өөрчлөгдсөнийг харуулна. Ашиглалтын өгөгдөл яагаад гэдгийг тайлбарлахад тусална.
Ашиглалтын хяналтын самбарт, Үйлчилгээний эрүүл мэндийн хяналтын самбар дахь таны харагдацад хамаарах өгөгдлийг харж байгаа эсэхээ баталгаажуулахын тулд дараахыг хийнэ үү:
Ижил төсөл болон загвараар шүүнэ үү.
Хэрэв тохиромжтой бол үйлчилгээний түвшнээр бүлэглэнэ үү.
Хоцролтод хамгийн хүчтэй нөлөөлдөг гаралтын токенууд дээр төвлөрнө үү.
Илүү гүн шинжилгээ хийхийн тулд Үйл ажиллагааны өгөгдлийг экспортолж, хугацааны явц дахь хүсэлт бүрийн токеныг шалгана уу.
7. Тусламжийн багт юу өгөх вэ (шаардлагатай бол)
Тусламжийн багтай холбогдохдоо дараах мэдээллийг оруулна уу:
Нөлөөлөлд өртсөн байгууллагын ID-ууд (чухал)
Нөлөөлөлд өртсөн Chat Completions, Responses зэрэг эцсийн цэгүүд (чухал)
Нөлөөлөлд өртсөн загварууд (чухал)
Асуудал Хурдан горим эсвэл Шатлалын түвшинд гарсан эсэх (чухал)
Саатал эсвэл алдаа гарсан хугацааны интервал, цагийн бүсийн хамт (чухал)
Боломжтой бол холбогдох x-request-id эсвэл X-Client-Request-Id
Өгөх хүсэлтүүдийн цагийн тэмдэглэгээг цагийн бүстэй нь, эсвэл ядаж огноог нь
Боломжтой бол дараах мэдээллийг мөн оруулна уу:
Хүсэлтүүдтэй холбоотой төслийн ID
Өгөгдөл байршлын зохицуулалттай хүсэлтүүд өртсөн эсэх, мөн аль хүсэлтүүд өртсөн тухай
Таны ажиглаж буй чиг хандлагын тайлбар
Асуудлын төрлөөс хамааран дараахыг оруулна уу:
Алдаа: Амжилтгүй болсон эсвэл алдаа гарсан хүсэлтийн ойролцоо хувь, хариуны код, алдааны мессеж болон алдааны хариуг хүлээн авахад зарцуулсан хугацаа.
Саатал: Аль перцентиль (P50 / P90 / P95 / P99) өртсөн, хэрэглэгчийн суурь үзүүлэлтээс хэр өндөр байгаа болон илгээсэн, хүлээн авсан цагийн тэмдэглэгээ бүхий удаан хүсэлтүүдийн жишээ.
Хоёулаа: Алдаа эсвэл саатлын өгөгдлийн дэлгэцийн агшин эсвэл хүснэгт, мөн алдааны хувь эсвэл саатал хүлээлтээс өндөр байсныг хэрхэн тогтоосон тухай.
Оношлон засварлах түгээмэл нөхцөлүүд
Хугацаа хэтэрч байгаа ч Үйлчилгээний эрүүл мэнд хэвийн харагдах
Боломжит шалтгаан: хүсэлтүүд OpenAI-д хүрэхээс өмнө хугацаа нь хэтэрч байна.
Шалгах:
Клиент эсвэл проксигийн хугацаа хэтрэлтийн тохиргоо
Орон нутгийн сүлжээ эсвэл ачаалал тэнцвэржүүлэгчийн өөрчлөлт
Үйлчилгээний эрүүл мэндийн хяналтын самбарт 499 алдаа байгаа эсэх (эдгээр нь таны өөрийн системд 5xx алдаа гэж харагдаж болно).
Байршуулалт хийгдээгүй байхад хоцролт нэмэгдсэн
Боломжит шалтгаан: гаралтын токены хэмжээ эсвэл сэтгэн бодох ашиглалт нэмэгдсэн ба/эсвэл траффик үйлчилгээний түвшнүүдийн хооронд шилжсэн.
Шалгах:
Ашиглалтын хяналтын самбар дахь хүсэлт бүрийн дундаж гаралтын токен (өгөгдөл татаж аваад гаралтын токеныг нийт хүсэлтэд хуваах шаардлагатай).
Үйлчилгээний эрүүл мэндийн хяналтын самбар дахь Request Time болон TTFT перцентилүүд.
Хурдан горим эсвэл Шатлалын түвшин удаан ажиллаж байгаа мэт харагдах
Болзошгүй шалтгаан: өөр өөр түвшний үзүүлэлтүүд холилдсоноор стандарт түвшний урсгал төлбөртэй түвшний гүйцэтгэлийг халхалж байна.
Шалгах зүйлс:
Шүүлтүүрүүд нэг түвшин, нэг загвараар хязгаарлагдсан эсэх.
Түвшин хоорондын токены хурдны харьцуулалт.
5XX алдааны огцом өсөлт
Магадлалтай шалтгаан: траффикийн бага хувьд нөлөөлж буй түр зуурын доголдлууд.
Шалгах:
Алдааны хувь
Траффикийн хэмжээ мөн тэр үед өөрчлөгдсөн эсэх
Асуудал зөвхөн нэг төсөлд нөлөөлж байна
Магадлалтай шалтгаан: төсөлд тусгайлсан тохиргоо эсвэл ашиглалтын хэв маяг.
Шалгах:
Төслийн түвшний шүүлтүүр
Нөлөөлөлд өртөөгүй төслүүдтэй харьцуулах
Эцсийн дүгнэлтүүд
Хэмжүүрүүдийг тайлбарлахаас өмнө шаардлагатай үед загвар, түвшин болон төслөөр шүүнэ үү.
Хоцролтын шинжилгээнд дундаж бус перцентилүүдийг ашиглана уу.
Бага хэмжээний алдааны хувь гарах нь хүлээгддэг.
Өгөгдөл дутуу байх нь ихэвчлэн upstream асуудлыг илтгэнэ.
Ашиглалтын өгөгдөл хоцролт яагаад өөрчлөгдсөнийг тайлбарлахад тусална; Үйлчилгээний эрүүл мэнд нь үйлдэл хэзээ өөрчлөгдсөнийг харуулна.