Migração do GPT-4.x para o GPT-6 Luna

O GPT-6 Luna é o ponto de partida recomendado para a migração de casos de utilização existentes do GPT-4.x. A configuração adequada depende da sua aplicação, pelo que deve avaliar o modelo com cargas de trabalho representativas antes de transferir tráfego de produção.

Escolha a definição de raciocínio

Comece com o esforço de raciocínio definido como none. Prevê-se que a maioria dos casos de utilização do GPT-4.x possa ser migrada com esta definição. Teste outras definições para encontrar o equilíbrio adequado entre qualidade, latência e custo para a sua aplicação.

Para conhecer as alterações à API e os detalhes técnicos, consulte o guia do GPT-6 para programadores.

Compare o custo e o desempenho

O GPT-6 Luna tem um preço por token inferior ao dos modelos GPT-4.x abrangidos por esta migração. Para a maioria dos casos de utilização, oferece um modelo mais capaz a um preço por token inferior.

Compare o custo total com as suas próprias cargas de trabalho antes de efetuar a migração. O consumo de tokens e as definições de raciocínio podem afetar o custo de cada tarefa.

Migre a sua aplicação

1. Estabeleça uma base de referência. Selecione pedidos representativos, incluindo casos-limite importantes, e registe a qualidade, a latência e o custo do seu modelo atual.

2. Avalie o Luna. Comece com o esforço de raciocínio definido como none e compare os resultados com a sua base de referência. Verifique os comportamentos de que a sua aplicação depende, incluindo a formatação das respostas e a utilização de ferramentas, quando aplicável.

3. Ajuste e volte a testar. Ajuste os prompts, o esforço de raciocínio e o nível de detalhe com base nos resultados da avaliação e, em seguida, volte a testar.

4. Implemente gradualmente. Comece com uma pequena parte do tráfego de produção. Monitorize a qualidade, a latência, os erros e o custo antes de concluir a migração.

Obtenha apoio

Clientes sem acompanhamento comercial: Contacte o Apoio da OpenAI através do balão de chat em help.openai.com.

Clientes com acompanhamento comercial: Contacte a equipa responsável pela sua conta na OpenAI para solicitar apoio da nossa equipa de engenharia. Podemos ajudar a desenvolver um plano de migração adaptado ao seu produto e a identificar formas de tirar o máximo partido do Luna.