GPT-6 Luna je priporočeno izhodišče za prehod z modelov GPT-4.x pri obstoječih primerih uporabe. Ustrezna konfiguracija je odvisna od vaše aplikacije, zato model pred preusmeritvijo produkcijskega prometa ovrednotite pri reprezentativnih delovnih obremenitvah.
Izberite nastavitev sklepanja
Začnite z intenzivnostjo sklepanja, nastavljeno na none. Pričakujemo, da bo ta nastavitev primerna za prehod pri večini primerov uporabe modelov GPT-4.x. Preizkusite druge nastavitve, da najdete ustrezno ravnovesje med kakovostjo, zakasnitvijo in stroški za svojo aplikacijo.
Spremembe API-ja in tehnične podrobnosti najdete v vodniku za razvijalce za GPT-6.
Primerjajte stroške in zmogljivost
GPT-6 Luna ima nižjo ceno na žeton kot modeli GPT-4.x, ki jih zajema ta prehod. Za večino primerov uporabe ponuja zmogljivejši model po nižji ceni na žeton.
Pred prehodom primerjajte skupne stroške pri svojih delovnih obremenitvah. Poraba žetonov in nastavitve sklepanja lahko vplivajo na stroške posamezne naloge.
Preidite na novi model v svoji aplikaciji
Določite izhodiščne vrednosti. Izberite reprezentativne zahteve, vključno s pomembnimi robnimi primeri, ter zabeležite kakovost, zakasnitev in stroške trenutnega modela.
Ovrednotite model Luna. Začnite z intenzivnostjo sklepanja, nastavljeno na
none, in rezultate primerjajte z izhodiščnimi vrednostmi. Preverite vedenje modela, od katerega je odvisna vaša aplikacija, vključno z oblikovanjem izhodnih podatkov in uporabo orodij, kjer je to relevantno.Prilagodite in znova preizkusite. Na podlagi rezultatov vrednotenja prilagodite pozive, intenzivnost sklepanja in obširnost odgovorov, nato znova izvedite preizkus.
Novi model uvajajte postopoma. Začnite z omejenim deležem produkcijskega prometa. Preden dokončate prehod, spremljajte kakovost, zakasnitev, napake in stroške.
Poiščite podporo
Stranke s samopostrežnim dostopom: Obrnite se na podporo OpenAI prek oblačka za klepet na help.openai.com.
Stranke, ki jih vodi prodajna ekipa: Obrnite se na ekipo OpenAI, ki skrbi za vaš račun, da vam uredi podporo naše inženirske ekipe. Pomagamo vam lahko pripraviti načrt prehoda, prilagojen vašemu izdelku, in ugotoviti, kako kar najbolje izkoristiti model Luna.