Pereinant nuo GPT-4.x prie naujo modelio, rekomenduojama pirmiausia išbandyti „GPT-6 Luna“. Tinkama konfigūracija priklauso nuo jūsų programos, todėl prieš nukreipdami realių užklausų srautą į naują modelį įvertinkite, kaip jis atlieka jūsų programai būdingas užduotis.
Pasirinkite protavimo nustatymą
Pirmiausia nustatykite protavimo pastangų lygį į none. Tikimasi, kad šis nustatymas tiks daugumai sprendimų, šiuo metu naudojančių GPT-4.x. Išbandykite kitus nustatymus, kad rastumėte jūsų programai tinkamą kokybės, delsos ir sąnaudų pusiausvyrą.
Informaciją apie API pakeitimus ir techninius aspektus rasite GPT-6 kūrėjų vadove.
Palyginkite sąnaudas ir našumą
„GPT-6 Luna“ vieno žetono kaina yra mažesnė nei GPT-4.x modelių, iš kurių pereinama pagal šį vadovą. Daugeliu naudojimo atvejų tai pajėgesnis modelis už mažesnę vieno žetono kainą.
Prieš pereidami prie naujo modelio, palyginkite bendras sąnaudas atlikdami savo užduotis. Sunaudojamų žetonų kiekis ir protavimo nustatymai gali turėti įtakos kiekvienos užduoties sąnaudoms.
Pritaikykite programą naujam modeliui
Nustatykite pradinius rodiklius. Pasirinkite reprezentatyvias užklausas, įskaitant svarbius ribinius atvejus, ir užfiksuokite dabartinio modelio kokybės, delsos ir sąnaudų rodiklius.
Įvertinkite „Luna“. Pirmiausia nustatykite protavimo pastangų lygį į
noneir palyginkite rezultatus su pradiniais rodikliais. Patikrinkite modelio veikimo aspektus, nuo kurių priklauso jūsų programa, įskaitant išvesties formatavimą ir, jei aktualu, įrankių naudojimą.Pakoreguokite ir išbandykite dar kartą. Remdamiesi vertinimo rezultatais, pakoreguokite užklausas, protavimo pastangų lygį ir atsakymų išsamumą, tada išbandykite dar kartą.
Diekite palaipsniui. Iš pradžių nukreipkite tik nedidelę realių užklausų srauto dalį. Prieš visiškai pereidami prie naujo modelio, stebėkite kokybę, delsą, klaidas ir sąnaudas.
Gaukite pagalbos
Savitarnos klientams: susisiekite su „OpenAI“ pagalbos komanda spustelėję pokalbio piktogramą svetainėje help.openai.com.
Pardavimo komandos aptarnaujamiems klientams: susisiekite su jus aptarnaujančia „OpenAI“ komanda, kad susitartumėte dėl mūsų inžinierių pagalbos. Galime padėti parengti jūsų produktui pritaikytą perėjimo planą ir nustatyti, kaip geriausiai išnaudoti „Luna“ galimybes.