Важные ссылки
Панель мониторинга Service Health (сейчас доступна только клиентам Enterprise API)
Начните с правильных настроек по умолчанию
При открытии панели Service Health по умолчанию выбраны:
Все проекты
Последние 30 дней
Почасовое разрешение
Это представление полезно только для ориентации. Для содержательного устранения неполадок всегда требуется фильтрация.
Сначала примените фильтры
Правильная фильтрация — самый важный шаг. Большинство неверных интерпретаций возникает из-за смешивания моделей, тарифных планов или проектов.
Фильтруйте по модели (по одной за раз)
Всегда фильтруйте до одной модели.
Почему:
Проблемы на моделях с низким трафиком могут быть скрыты более объемным трафиком
Модели с большим объемом трафика могут делать локальные проблемы похожими на глобальные
У разных моделей разные цели производительности
Примечание: выбор нескольких моделей агрегирует их — он не переключает между ними.
Фильтрация по тарифному плану
Если вы используете несколько тарифов — стандартный, Быстрый режим (ранее — Priority processing) или Уровень производительности, — всегда выбирайте в фильтре тот тариф, который исследуете.
Почему это важно:
Тарифы отличаются по характеристикам производительности
Для Быстрого режима и Уровня производительности установлены SLA
Смешение тарифов скрывает показатели платного тарифа
Это особенно важно при анализе задержки.
Для существующих моделей трафик Быстрого режима на панели мониторинга Usage по-прежнему отображается как priority.
Фильтруйте по проекту
По умолчанию Service Health показывает все проекты.
Для устранения неполадок отфильтруйте по проекту или проектам, где наблюдалась проблема.
Почему:
Один проект с большим объемом трафика может доминировать в метриках.
Меньшие затронутые проекты могут быть скрыты несвязанным трафиком.
Оставляйте выбранным «Все проекты» только если считаете, что проблема действительно затрагивает всю организацию.
Устранение ошибок
Используйте представление HTTP Requests
Чтобы исследовать ошибки:
Отфильтруйте по модели и тарифному плану.
Откройте вкладку HTTP Requests вместо вкладки Uptime.
В этом представлении показаны общее число запросов и количество ошибок по коду состояния HTTP. Увеличьте масштаб до поминутного разрешения, чтобы выявить точечные всплески или изменения.
Интерпретируйте долю ошибок, а не их количество
В любой производственной системе ожидается некоторое количество ошибок. Сосредоточьтесь на проценте ошибок, а не на необработанных итоговых значениях.
Чем больше общий объем, тем больше потенциальное число ошибок даже при крайне низкой доле ошибок.
Когда ошибки отсутствуют в Service Health
Если вы видите ошибки на стороне клиента, но в Service Health нет соответствующих данных:
Запросы, вероятно, не достигли OpenAI.
Проблема обычно находится выше по потоку (тайм-ауты, прокси, сеть).
Это часто встречается при агрессивных тайм-аутах на стороне клиента.
Устранение проблем с задержкой
Анализ задержки наиболее показателен для тарифов Быстрый режим и Уровень производительности, для которых установлены SLA. На стандартном тарифе задержка может варьироваться сильнее и не гарантируется.
Ключевые метрики
Чтобы просмотреть каждую метрику, нажмите соответствующую вкладку:
Скорость генерации токенов: токены, генерируемые в секунду; не зависит от размера промпта.
Время запроса: общая длительность запроса; сильно зависит от размера вывода и рассуждений.
Время до первого токена (TTFT): время до генерации первого токена; сильно зависит от размера некэшированного входного промпта и рассуждений.
Всегда просматривайте процентили P50 / P75 / P95. Средние значения могут скрывать влияние на реальных пользователей.
Связь задержки с использованием токенов
Панель состояния сервиса показывает, когда изменилась его работа. Данные об использовании помогают понять, почему это произошло.
На панели использования выполните следующие действия, чтобы выбрать данные, соответствующие текущему представлению на панели состояния сервиса:
Отфильтруйте данные по тому же проекту и модели.
Сгруппируйте данные по тарифному плану, если применимо.
Обратите особое внимание на выходные токены: они сильнее всего влияют на задержку.
Для более глубокого анализа экспортируйте данные об активности и изучите, как меняется количество токенов на запрос с течением времени.
Что сообщить службе поддержки при обращении
При обращении в службу поддержки укажите:
Идентификаторы организаций, столкнувшихся с проблемой (важно)
Конечные точки, с которыми возникла проблема, например Chat Completions или Responses (важно)
Модели, с которыми возникла проблема (важно)
Используется ли Быстрый режим или Уровень производительности (важно)
Периоды, когда наблюдались задержки или ошибки, с указанием часового пояса (важно)
Соответствующие значения x-request-id или X-Client-Request-Id, если они доступны
Временные метки с часовым поясом или хотя бы дату для приводимых вами запросов
По возможности также укажите:
Идентификатор проекта, к которому относятся запросы
Затронуты ли запросы с требованиями к резидентности данных и какие именно
Описание наблюдаемых тенденций
В зависимости от типа проблемы укажите:
Ошибки: примерный процент запросов, завершившихся сбоем или ошибкой, коды ответов, сообщения об ошибках и время ожидания ответа с ошибкой.
Задержки: какие процентили затронуты (P50 / P90 / P95 / P99), насколько их значения превышают обычные для клиента, а также примеры медленных запросов с временными метками отправки и получения ответа.
В обоих случаях: снимки экрана или таблицу с данными об ошибках или задержках, а также пояснение, как вы определили, что частота ошибок или задержки превысили ожидаемые значения.
Распространенные сценарии устранения неполадок
Происходят тайм-ауты, но Service Health выглядит нормально
Возможная причина: время ожидания запросов истекает до того, как они достигают OpenAI.
Проверьте:
Настройки тайм-аута клиента или прокси
Изменения в локальной сети или балансировщике нагрузки
Наличие ошибок 499 на панели Service Health (в ваших собственных системах они могут отображаться как ошибки 5xx).
Задержка увеличилась без развертывания
Возможная причина: увеличился размер выходных токенов или использование рассуждений и/или трафик сместился между тарифными планами.
Проверьте:
Среднее число выходных токенов на запрос на панели использования (требуется скачать данные и разделить выходные токены на общее число запросов).
Процентили Request Time и TTFT на панели Service Health.
Быстрый режим или Уровень производительности работает медленно
Возможная причина: метрики разных тарифов смешаны, поэтому трафик стандартного тарифа скрывает показатели платного тарифа.
Проверьте следующее:
В фильтрах выбран только один тариф и одна модель.
Сравнение скорости выдачи токенов для разных тарифов.
Всплеск ошибок 5XX
Вероятная причина: временные сбои, затрагивающие небольшой процент трафика.
Проверьте:
Процент ошибок
Изменился ли объем трафика в то же время
Проблема затрагивает только один проект
Вероятная причина: конфигурация или шаблон использования, специфичные для проекта.
Проверьте:
Фильтрация на уровне проекта
Сравнение с незатронутыми проектами
Итоговые выводы
Перед интерпретацией метрик фильтруйте по модели, тарифу и проекту, где это уместно.
Для анализа задержки используйте процентили, а не средние значения.
Небольшие доли ошибок ожидаемы.
Отсутствующие данные обычно указывают на проблемы выше по потоку.
Данные об использовании помогают объяснить, почему изменилась задержка; Service Health показывает, когда изменилось поведение.