GPT-6 Luna je odporúčanou východiskovou voľbou pri migrácii existujúcich riešení využívajúcich GPT-4.x. Vhodná konfigurácia závisí od vašej aplikácie, preto model pred presmerovaním produkčnej prevádzky vyhodnoťte na reprezentatívnych úlohách.
Vyberte nastavenie uvažovania
Začnite s úrovňou uvažovania nastavenou na none. Očakáva sa, že toto nastavenie bude vhodné na migráciu väčšiny riešení využívajúcich GPT-4.x. Vyskúšajte aj ďalšie nastavenia a nájdite vhodnú rovnováhu medzi kvalitou, latenciou a nákladmi pre vašu aplikáciu.
Zmeny v API a technické podrobnosti nájdete v príručke pre vývojárov k modelu GPT-6.
Porovnajte náklady a výkon
GPT-6 Luna má nižšiu cenu za token než modely GPT-4.x, ktorých sa táto migrácia týka. Pre väčšinu prípadov použitia ponúka schopnejší model za nižšiu cenu za token.
Pred migráciou porovnajte celkové náklady na vlastných úlohách. Spotreba tokenov a nastavenia uvažovania môžu ovplyvniť náklady na jednotlivé úlohy.
Migrujte svoju aplikáciu
Stanovte východiskové hodnoty. Vyberte reprezentatívne požiadavky vrátane dôležitých hraničných prípadov a zaznamenajte kvalitu, latenciu a náklady súčasného modelu.
Vyhodnoťte model Luna. Začnite s úrovňou uvažovania nastavenou na
nonea porovnajte výsledky s východiskovými hodnotami. Skontrolujte správanie modelu, od ktorého závisí vaša aplikácia, vrátane formátovania výstupov a prípadného používania nástrojov.Dolaďte nastavenia a znova otestujte. Na základe výsledkov vyhodnotenia upravte prompty, úroveň uvažovania a podrobnosť odpovedí a potom testovanie zopakujte.
Nasadzujte postupne. Začnite s malou časťou produkčnej prevádzky. Pred dokončením migrácie sledujte kvalitu, latenciu, chyby a náklady.
Získajte podporu
Zákazníci bez prideleného obchodného tímu: Kontaktujte podporu OpenAI cez chatovú bublinu na stránke help.openai.com.
Zákazníci s prideleným obchodným tímom: Kontaktujte tím OpenAI, ktorý sa stará o váš účet, a dohodnite si podporu nášho technického tímu. Môžeme vám pomôcť vytvoriť plán migrácie prispôsobený vášmu produktu a nájsť spôsob, ako z modelu Luna vyťažiť maximum.