Чухал холбоосууд
Үйлчилгээний эрүүл мэндийн хяналтын самбар (одоогоор зөвхөн Enterprise API хэрэглэгчдэд боломжтой)
Зөв анхдагч тохиргооноос эхлэх
Үйлчилгээний эрүүл мэндийн хяналтын самбарыг нээхэд анхдагчаар:
Бүх төсөл
Сүүлийн 30 өдөр
Цагийн нарийвчлал
Энэ харагдац зөвхөн ерөнхий чиг баримжаанд хэрэгтэй. Утга учиртай оношлон засварлалтад шүүх үргэлж шаардлагатай.
Шалгаж эхлэхээс өмнө шүүнэ үү
Зөв шүүх нь хамгийн чухал алхам юм. Ихэнх буруу тайлбар нь загвар, түвшин эсвэл төслүүдийг хольсноос үүддэг.
Загвараар шүүх (нэг удаад нэг)
Үргэлж нэг загвараар шүүнэ үү.
Яагаад:
Бага траффиктай загваруудын асуудал өндөр эзлэхүүнтэй траффикаар далдлагдаж болно
Өндөр эзлэхүүнтэй загварууд хэсэгчилсэн асуудлыг нийтлэг мэт харагдуулж болно
Өөр өөр загварууд өөр өөр гүйцэтгэлийн зорилготой
Тэмдэглэл: олон загвар сонговол тэдгээрийг нэгтгэнэ—хооронд нь сэлгэхгүй.
Үйлчилгээний түвшнээр шүүх
Хэрэв та нэгээс олон түвшин (стандарт, Priority, Scale) ашигладаг бол шалгаж буй түвшнээрээ үргэлж шүүнэ үү.
Яагаад:
Түвшнүүд өөр өөр гүйцэтгэлийн шинж чанартай
Priority болон Scale түвшнүүд тодорхой SLA-тай
Түвшнүүдийг холих нь төлбөртэй түвшний гүйцэтгэлийг бүдгэрүүлдэг
Энэ нь хоцролтын шинжилгээнд ялангуяа чухал.
Төслөөр шүүх
Анхдагчаар Үйлчилгээний эрүүл мэнд бүх төслийг харуулдаг.
Оношлон засварлахдаа асуудал ажиглагдсан төсөл(үүд)-өөр шүүнэ үү.
Яагаад:
Нэг өндөр эзлэхүүнтэй төсөл хэмжүүрүүдийг давамгайлж болно.
Нөлөөлөлд өртсөн жижиг төслүүд хамааралгүй траффикаар далдлагдаж болно.
Асуудал үнэхээр байгууллагын хэмжээнд байна гэж үзэж байгаа үед л “Бүх төсөл”-ийг сонгосон хэвээр үлдээнэ үү.
Алдааг оношлон засварлах
HTTP хүсэлтүүдийн харагдацыг ашиглах
Алдааг шалгахын тулд:
Загвар болон үйлчилгээний түвшнээр шүүнэ үү.
Uptime табын оронд HTTP Requests табыг нээнэ үү.
Энэ харагдац нь нийт хүсэлт болон алдааны тоог HTTP төлөвийн кодоор харуулна. Нарийвчилсан огцом өсөлт эсвэл өөрчлөлтийг илрүүлэхийн тулд минутын түвшний нарийвчлалд ойртуулна уу.
Тоог бус, алдааны хувийг тайлбарлах
Аливаа үйлдвэрлэлийн системд зарим алдаа гарах нь хүлээгддэг. Түүхий нийт дүн бус, алдааны хувь дээр төвлөрнө үү.
Таны нийт хэмжээ их байх тусам алдааны хувь маш бага байсан ч боломжит алдааны тоо их байна.
Үйлчилгээний эрүүл мэндэд алдаа харагдахгүй үед
Хэрэв та клиент талын алдааг харж байгаа ч Үйлчилгээний эрүүл мэндэд тохирох өгөгдөл байхгүй бол:
Хүсэлтүүд OpenAI-д хүрээгүй байх магадлалтай.
Асуудал ихэвчлэн upstream талд байдаг (хугацаа хэтрэлт, прокси, сүлжээ).
Энэ нь клиент талын хэт хатуу хугацаа хэтрэлтийн тохиргоотой үед түгээмэл.
Хоцролтыг оношлон засварлах
Хоцролтын шинжилгээ нь тодорхой SLA-тай Priority болон Scale түвшнүүд дээр хамгийн ач холбогдолтой. Стандарт түвшинд хоцролтын хэлбэлзэл илүү өргөн байж болох бөгөөд баталгаат хоцролтгүй.
Гол хэмжүүрүүд
Хэмжүүр бүрийг харахын тулд холбогдох таб дээр дарна уу:
Токены хурд: Секундэд үүсгэсэн токен; өгөгдлийн хэмжээнээс хамаарахгүй.
Хүсэлтийн хугацаа: Хүсэлтийн нийт үргэлжлэх хугацаа; гаралтын хэмжээ болон сэтгэн бодохоос ихээхэн хамаарна.
Эхний токен хүртэлх хугацаа (TTFT): Эхний токен үүсэх хүртэлх хугацаа; кэшлэгдээгүй оролтын өгөгдлийн хэмжээ болон сэтгэн бодохоос ихээхэн хамаарна.
P50 / P75 / P95 перцентилүүдийг үргэлж шалгана уу. Дундаж үзүүлэлтүүд бодит хэрэглэгчийн нөлөөг нууж болно.
6. Хоцролтыг токен ашиглалттай уялдуулах
Үйлчилгээний эрүүл мэнд нь үйлдэл хэзээ өөрчлөгдсөнийг харуулна. Ашиглалтын өгөгдөл яагаад гэдгийг тайлбарлахад тусална.
Ашиглалтын хяналтын самбарт, Үйлчилгээний эрүүл мэндийн хяналтын самбар дахь таны харагдацад хамаарах өгөгдлийг харж байгаа эсэхээ баталгаажуулахын тулд дараахыг хийнэ үү:
Ижил төсөл болон загвараар шүүнэ үү.
Хэрэв тохиромжтой бол үйлчилгээний түвшнээр бүлэглэнэ үү.
Хоцролтод хамгийн хүчтэй нөлөөлдөг гаралтын токенууд дээр төвлөрнө үү.
Илүү гүн шинжилгээ хийхийн тулд Үйл ажиллагааны өгөгдлийг экспортолж, хугацааны явц дахь хүсэлт бүрийн токеныг шалгана уу.
7. Дэмжлэгтэй юу хуваалцах вэ (шаардлагатай бол)
Хэрэв та дэмжлэгтэй холбогдвол дараахыг оруулна уу:
Нөлөөлөлд өртсөн байгууллагын ID-ууд (чухал)
Нөлөөлөлд өртсөн эцсийн цэгүүд, жишээ нь Chat Completions эсвэл Responses (чухал)
Нөлөөлөлд өртсөн загварууд (чухал)
Энэ нь Scale эсвэл Priority түвшинд байгаа эсэх (чухал)
Хоцролт эсвэл алдааны цагийн бүстэй хугацааны хүрээ (чухал)
Холбогдох x-request-id эсвэл X-Client-Request-Id, хэрэв боломжтой бол
Таны өгч буй хүсэлтүүдийн цагийн бүстэй цагийн тэмдэглэгээ, эсвэл ядаж огноо
Хэрэв боломжтой бол мөн дараахыг оруулна уу:
Хүсэлтүүдтэй холбоотой төслийн ID
Өгөгдөл байршлын зохицуулалтын хүсэлтүүд нөлөөлөлд өртсөн эсэх, мөн аль нь
Таны ажиглаж буй чиг хандлагын тайлбарууд
Асуудлын төрлийн хувьд дараахыг оруулна уу:
Алдаа: Амжилтгүй болж буй эсвэл алдаа өгч буй хүсэлтүүдийн ойролцоох хувь, хариуны кодууд, алдааны мессежүүд болон алдааны хариуг хүлээн авахад зарцуулсан хугацаа.
Хоцролт: Аль перцентилүүд нөлөөлөлд өртсөн (P50 / P90 / P95 / P99), тэдгээр нь хэрэглэгчийн суурь үзүүлэлттэй харьцуулахад хэр өндөр байгаа, мөн илгээсэн ба хүлээн авсан цагийн тэмдэглэгээтэй удаан хүсэлтүүдийн жишээ.
Аль аль нь: Алдаа эсвэл хоцролтын өгөгдлийн дэлгэцийн зураг эсвэл хүснэгт, мөн алдааны хувь эсвэл хоцролт хүлээгдэж байснаас өндөр байсныг хэрхэн тогтоосон.
Оношлон засварлах түгээмэл нөхцөлүүд
Хугацаа хэтэрч байгаа ч Үйлчилгээний эрүүл мэнд хэвийн харагдах
Боломжит шалтгаан: хүсэлтүүд OpenAI-д хүрэхээс өмнө хугацаа нь хэтэрч байна.
Шалгах:
Клиент эсвэл проксигийн хугацаа хэтрэлтийн тохиргоо
Орон нутгийн сүлжээ эсвэл ачаалал тэнцвэржүүлэгчийн өөрчлөлт
Үйлчилгээний эрүүл мэндийн хяналтын самбарт 499 алдаа байгаа эсэх (эдгээр нь таны өөрийн системд 5xx алдаа гэж харагдаж болно).
Байршуулалт хийгдээгүй байхад хоцролт нэмэгдсэн
Боломжит шалтгаан: гаралтын токены хэмжээ эсвэл сэтгэн бодох ашиглалт нэмэгдсэн ба/эсвэл траффик үйлчилгээний түвшнүүдийн хооронд шилжсэн.
Шалгах:
Ашиглалтын хяналтын самбар дахь хүсэлт бүрийн дундаж гаралтын токен (өгөгдөл татаж аваад гаралтын токеныг нийт хүсэлтэд хуваах шаардлагатай).
Үйлчилгээний эрүүл мэндийн хяналтын самбар дахь Request Time болон TTFT перцентилүүд.
Priority эсвэл Шатлалын түвшин удаан мэт харагдах
Боломжит шалтгаан: хэмжүүрүүд түвшнүүдийн хооронд холилдсон тул стандарт түвшний траффик төлбөртэй түвшний гүйцэтгэлийг далдалж байна.
Шалгах:
Шүүлтүүрүүд нэг түвшин болон нэг загвараар хязгаарлагдсан байх.
Түвшнүүдийн хоорондох токены хурдны харьцуулалт.
5XX алдааны огцом өсөлт
Магадлалтай шалтгаан: траффикийн бага хувьд нөлөөлж буй түр зуурын доголдлууд.
Шалгах:
Алдааны хувь
Траффикийн хэмжээ мөн тэр үед өөрчлөгдсөн эсэх
Асуудал зөвхөн нэг төсөлд нөлөөлж байна
Магадлалтай шалтгаан: төсөлд тусгайлсан тохиргоо эсвэл ашиглалтын хэв маяг.
Шалгах:
Төслийн түвшний шүүлтүүр
Нөлөөлөлд өртөөгүй төслүүдтэй харьцуулах
Эцсийн дүгнэлтүүд
Хэмжүүрүүдийг тайлбарлахаас өмнө шаардлагатай үед загвар, түвшин болон төслөөр шүүнэ үү.
Хоцролтын шинжилгээнд дундаж бус перцентилүүдийг ашиглана уу.
Бага хэмжээний алдааны хувь гарах нь хүлээгддэг.
Өгөгдөл дутуу байх нь ихэвчлэн upstream асуудлыг илтгэнэ.
Ашиглалтын өгөгдөл хоцролт яагаад өөрчлөгдсөнийг тайлбарлахад тусална; Үйлчилгээний эрүүл мэнд нь үйлдэл хэзээ өөрчлөгдсөнийг харуулна.