Migració de GPT-4.x a GPT-6 Luna

GPT-6 Luna és el punt de partida recomanat per migrar els casos d'ús existents de GPT-4.x. La configuració adequada depèn de la teva aplicació. Per tant, avalua el model amb càrregues de treball representatives abans de traslladar-hi el trànsit de producció.

Tria el nivell de raonament

Comença amb l'esforç de raonament definit com a none. Es preveu que la majoria de casos d'ús de GPT-4.x es puguin migrar amb aquesta configuració. Prova altres configuracions per trobar l'equilibri adequat entre qualitat, latència i cost per a la teva aplicació.

Per conèixer els canvis de l'API i els detalls tècnics, consulta la guia de GPT-6 per a desenvolupadors.

Compara el cost i el rendiment

GPT-6 Luna té un preu per segment inferior al dels models GPT-4.x inclosos en aquesta migració. Per a la majoria de casos d'ús, ofereix un model amb més capacitats a un preu per segment inferior.

Compara el cost total amb les teves pròpies càrregues de treball abans de fer la migració. El consum de segments i la configuració de raonament poden afectar el cost de cada tasca.

Migra la teva aplicació

1. Estableix una referència de comparació. Selecciona peticions representatives, inclosos els casos límit importants, i registra la qualitat, la latència i el cost del teu model actual.

2. Avalua Luna. Comença amb l'esforç de raonament definit com a none i compara els resultats amb els valors de referència. Comprova els comportaments dels quals depèn la teva aplicació, inclosos el format de sortida i l'ús d'eines quan sigui pertinent.

3. Fes ajustos i repeteix les proves. Ajusta les instruccions, l'esforç de raonament i el nivell de detall segons els resultats de l'avaluació i, tot seguit, repeteix les proves.

4. Fes el desplegament gradualment. Comença amb una petita part del trànsit de producció. Supervisa la qualitat, la latència, els errors i el cost abans de completar la migració.

Obtén assistència

Clients d'autoservei: Contacta amb el servei d'assistència d'OpenAI mitjançant la bombolla de xat de help.openai.com.

Clients gestionats per l'equip comercial: Contacta amb l'equip d'OpenAI que gestiona el teu compte per sol·licitar assistència del nostre equip d'enginyeria. Podem ajudar-te a elaborar un pla de migració adaptat al teu producte i a identificar com treure el màxim profit de Luna.