Рекомендуємо GPT-6 Luna як відправну точку для перенесення наявних сценаріїв використання GPT-4.x. Оптимальна конфігурація залежить від вашого застосунку, тому оцініть модель на типових робочих навантаженнях, перш ніж спрямовувати на неї трафік із робочого середовища.
Виберіть налаштування міркування
Почніть зі значення none для рівня зусиль міркування. Очікується, що цього налаштування вистачить для переходу з GPT-4.x у більшості сценаріїв використання. Протестуйте інші налаштування, щоб знайти оптимальний баланс якості, затримки й вартості для вашого застосунку.
Зміни в API й технічні подробиці наведено в посібнику з GPT-6 для розробників.
Порівняйте вартість і продуктивність
Ціна за токен у GPT-6 Luna нижча, ніж у моделей GPT-4.x, яких стосується цей перехід. Для більшості сценаріїв використання це модель із ширшими можливостями за нижчою ціною за токен.
Перед переходом порівняйте загальну вартість на власних робочих навантаженнях. Кількість використаних токенів і налаштування міркування можуть впливати на вартість кожного завдання.
Переведіть застосунок на нову модель
Зафіксуйте базові показники. Виберіть типові запити, зокрема важливі граничні випадки, і зафіксуйте якість, затримку й вартість поточної моделі.
Оцініть Luna. Почніть зі значення
noneдля рівня зусиль міркування й порівняйте результати з базовими показниками. Перевірте поведінку моделі, від якої залежить робота вашого застосунку, зокрема форматування виводу й використання інструментів, якщо це актуально.Скоригуйте налаштування й повторіть тестування. Скоригуйте промпти, рівень зусиль міркування й докладність відповідей за результатами оцінювання, а потім повторіть тестування.
Впроваджуйте поступово. Почніть із невеликої частки трафіку з робочого середовища. Відстежуйте якість, затримку, помилки й вартість, перш ніж завершити перехід.
Отримайте підтримку
Клієнти на самообслуговуванні: зверніться до служби підтримки OpenAI через значок чату на help.openai.com.
Клієнти, яких обслуговує відділ продажів: зверніться до команди OpenAI, що супроводжує ваш обліковий запис, щоб домовитися про підтримку нашої інженерної команди. Ми допоможемо розробити план переходу з урахуванням вашого продукту й визначити, як найкраще використати можливості Luna.