GPT-6 Luna preporučena je polazna točka za migraciju postojećih primjena modela GPT-4.x. Odgovarajuća konfiguracija ovisi o vašoj aplikaciji, pa prije preusmjeravanja produkcijskog prometa evaluirajte model na reprezentativnim radnim opterećenjima.
Odaberite postavku rasuđivanja
Za početak postavite razinu rasuđivanja na none. Očekuje se da će ova postavka odgovarati migraciji većine primjena modela GPT-4.x. Isprobajte druge postavke kako biste pronašli odgovarajuću ravnotežu između kvalitete, latencije i troška za svoju aplikaciju.
Promjene API-ja i tehničke pojedinosti potražite u vodiču za razvojne programere za GPT-6.
Usporedite trošak i performanse
GPT-6 Luna ima nižu cijenu po tokenu od modela GPT-4.x obuhvaćenih ovom migracijom. Za većinu primjena nudi sposobniji model po nižoj cijeni po tokenu.
Prije migracije usporedite ukupni trošak na vlastitim radnim opterećenjima. Potrošnja tokena i postavke rasuđivanja mogu utjecati na trošak svakog zadatka.
Migrirajte svoju aplikaciju
Utvrdite početne vrijednosti. Odaberite reprezentativne zahtjeve, uključujući važne rubne slučajeve, i zabilježite kvalitetu, latenciju i trošak trenutačnog modela.
Evaluirajte model Luna. Za početak postavite razinu rasuđivanja na
nonei usporedite rezultate s početnim vrijednostima. Provjerite ponašanja o kojima vaša aplikacija ovisi, uključujući formatiranje izlaznih podataka i upotrebu alata gdje je to relevantno.Prilagodite i ponovno testirajte. Na temelju rezultata evaluacije prilagodite upite, razinu rasuđivanja i opširnost odgovora, a zatim ponovno testirajte.
Uvodite postupno. Započnite s ograničenim udjelom produkcijskog prometa. Prije dovršetka migracije pratite kvalitetu, latenciju, pogreške i trošak.
Zatražite podršku
Korisnici bez dodijeljenog prodajnog tima: Obratite se podršci OpenAI putem ikone za razgovor na stranici help.openai.com.
Korisnici s dodijeljenim prodajnim timom: Obratite se svojem timu za korisničke račune u tvrtki OpenAI kako biste dogovorili podršku našeg inženjerskog tima. Možemo vam pomoći izraditi plan migracije prilagođen vašem proizvodu i utvrditi kako najbolje iskoristiti model Luna.