Переход с GPT-4.x на GPT-6 Luna

При переходе с GPT-4.x рекомендуем начать с GPT-6 Luna. Оптимальная конфигурация зависит от вашего приложения, поэтому оцените модель на типичных рабочих задачах, прежде чем переводить на неё трафик из рабочей среды.

Выберите уровень рассуждений

Для начала установите уровень рассуждений на none. Ожидается, что эта настройка подойдёт для перехода в большинстве сценариев использования GPT-4.x. Протестируйте другие настройки, чтобы найти оптимальный для вашего приложения баланс качества, задержки и стоимости.

Изменения API и технические подробности описаны в руководстве по GPT-6 для разработчиков.

Сравните стоимость и производительность

Цена за токен у GPT-6 Luna ниже, чем у моделей GPT-4.x, с которых предлагается перейти. В большинстве сценариев использования вы получаете более мощную модель по более низкой цене за токен.

Перед переходом сравните общую стоимость на собственных рабочих задачах. Расход токенов и настройки рассуждений могут влиять на стоимость каждой задачи.

Переведите приложение на новую модель

1. Зафиксируйте исходные показатели. Выберите репрезентативные запросы, включая важные пограничные случаи, и зафиксируйте качество, задержку и стоимость работы текущей модели.

2. Оцените Luna. Для начала установите уровень рассуждений на none и сравните результаты с исходными показателями. Проверьте аспекты поведения модели, от которых зависит работа приложения, в том числе форматирование ответов и, если применимо, использование инструментов.

3. Скорректируйте настройки и повторите тестирование. На основе результатов оценки скорректируйте промпты, уровень рассуждений и подробность ответов, затем повторите тестирование.

4. Внедряйте постепенно. Начните с небольшой доли трафика из рабочей среды. Прежде чем завершить переход, отслеживайте качество, задержку, ошибки и стоимость.

Получите поддержку

Клиенты на самообслуживании: свяжитесь со службой поддержки OpenAI через значок чата на сайте help.openai.com.

Клиенты с персональным сопровождением: свяжитесь с вашей командой по работе с клиентами OpenAI, чтобы организовать поддержку со стороны наших инженеров. Мы поможем разработать план перехода с учётом особенностей вашего продукта и определить, как использовать возможности Luna по максимуму.