GPT-6 Luna je doporučenou výchozí volbou při migraci stávajících řešení využívajících GPT-4.x. Vhodná konfigurace závisí na vaší aplikaci. Než na model převedete produkční provoz, vyhodnoťte ho na reprezentativních úlohách.
Zvolte nastavení uvažování
Začněte s úrovní uvažování nastavenou na none. Očekáváme, že s tímto nastavením půjde migrovat většinu řešení využívajících GPT-4.x. Vyzkoušejte i další nastavení a najděte pro svou aplikaci vhodnou rovnováhu mezi kvalitou, latencí a náklady.
Změny v API a technické podrobnosti najdete v průvodci GPT-6 pro vývojáře.
Porovnejte náklady a výkon
GPT-6 Luna má nižší cenu za token než modely GPT-4.x, kterých se tato migrace týká. Pro většinu případů použití nabízí schopnější model za nižší cenu za token.
Před migrací porovnejte celkové náklady na vlastních úlohách. Spotřeba tokenů a nastavení uvažování mohou ovlivnit náklady na jednotlivé úlohy.
Migrujte svou aplikaci
Změřte výchozí stav. Vyberte reprezentativní požadavky včetně důležitých okrajových případů a zaznamenejte kvalitu, latenci a náklady současného modelu.
Vyhodnoťte model Luna. Začněte s úrovní uvažování nastavenou na
nonea porovnejte výsledky s výchozím stavem. Ověřte chování, na kterém vaše aplikace závisí, včetně formátování výstupů a případného používání nástrojů.Dolaďte nastavení a znovu otestujte. Podle výsledků hodnocení upravte prompty, úroveň uvažování a podrobnost odpovědí a poté testy zopakujte.
Nasazujte postupně. Začněte s omezeným podílem produkčního provozu. Před dokončením migrace sledujte kvalitu, latenci, chyby a náklady.
Získejte podporu
Zákazníci bez přiděleného obchodního týmu: Kontaktujte podporu OpenAI prostřednictvím chatovací bubliny na help.openai.com.
Zákazníci s přiděleným obchodním týmem: Obraťte se na tým OpenAI, který se stará o váš účet, a domluvte si podporu našeho technického týmu. Pomůžeme vám vytvořit plán migrace na míru vašemu produktu a najít způsob, jak model Luna využít naplno.