A GPT-6 Luna az ajánlott kiindulópont a meglévő GPT-4.x-alapú megoldások átállításához. A megfelelő konfiguráció az alkalmazásodtól függ, ezért az éles forgalom átirányítása előtt értékeld a modellt a jellemző feladatokon.
Válaszd ki az érvelés beállítását
Kezdésként állítsd az érvelés mértékét none értékre. A legtöbb GPT-4.x-alapú megoldás várhatóan ezzel a beállítással állítható át. Próbálj ki más beállításokat is, hogy megtaláld az alkalmazásodhoz megfelelő egyensúlyt a minőség, a válaszidő és a költségek között.
Az API változásairól és a technikai részletekről a GPT-6 fejlesztői útmutatójában olvashatsz.
Hasonlítsd össze a költségeket és a teljesítményt
A GPT-6 Luna tokenenkénti ára alacsonyabb, mint az átállásban érintett GPT-4.x modelleké. A legtöbb felhasználási területen jobb képességű modellt kínál alacsonyabb tokenenkénti áron.
Az átállás előtt hasonlítsd össze a teljes költséget a saját feladataidon. A tokenfelhasználás és az érvelés beállításai befolyásolhatják az egyes feladatok költségét.
Állítsd át az alkalmazásodat
Rögzítsd a kiindulási értékeket. Válassz ki jellemző kéréseket, köztük fontos szélső eseteket is, és rögzítsd a jelenlegi modelled válaszainak minőségét, válaszidejét és költségét.
Értékeld a Lunát. Kezdésként állítsd az érvelés mértékét
noneértékre, és hasonlítsd össze az eredményeket a kiindulási értékekkel. Ellenőrizd az alkalmazásod működéséhez szükséges modellviselkedést, beleértve a kimenet formázását és adott esetben az eszközhasználatot is.Módosítsd a beállításokat, és tesztelj újra. Az értékelés eredményei alapján módosítsd a promptokat, az érvelés mértékét és a válaszok részletességét, majd tesztelj újra.
Fokozatosan vezesd be az új modellt. Kezdetben csak az éles forgalom kis részét irányítsd át. Az átállás véglegesítése előtt figyeld a minőséget, a válaszidőt, a hibákat és a költségeket.
Kérj segítséget
Önkiszolgáló ügyfelek: Lépj kapcsolatba az OpenAI ügyfélszolgálatával a help.openai.com oldalon található csevegőbuborékon keresztül.
Értékesítési csapat által kezelt ügyfelek: Keresd az OpenAI-nál a fiókodat kezelő csapatot, hogy megszervezzék mérnöki csapatunk támogatását. Segítünk a termékedhez igazított átállási terv kidolgozásában, és annak meghatározásában, hogyan hozhatod ki a legtöbbet a Lunából.
