Ako je parametar temperature postavljen na vrijednost veću od 0, model će generirati odgovore uz određenu dozu slučajnosti, pa su različiti odgovori očekivani. Za dosljedne, ponovljive rezultate postavite temperature = 0.
Ako je parametar temperature već postavljen na 0, a rezultati se i dalje razlikuju, ovo su najčešći uzroci:
Razlike u upitima
Provjerite je li upit potpuno isti u oba okruženja. Čak i jedan dodatni razmak, prijelom retka ili skriveni znak može dovesti do drukčijeg odgovora.
Nepodudaranje parametara
Provjerite podudaraju li se svi relevantni parametri u sučelju Playground i API zahtjevima:
temperature
top_p
max_tokens
frequency_penalty
presence_penalty
Provjerite i je li naziv modela potpuno isti. Različiti modeli prirodno će dati različite odgovore, čak i uz isti upit i postavke.
Zadane postavke sučelja Playground i API-ja
Playground može primijeniti određene zadane postavke. Ako u API zahtjevu izostavite neki parametar, API će upotrijebiti vlastitu zadanu vrijednost, pa se može ponašati drukčije od sučelja Playground. Kako biste osigurali dosljednost, izričito postavite sve parametre u svojem API zahtjevu.
Razlike u formatiranju ili kodiranju
Provjerite je li zahtjev koji šaljete API-ju identičan upitu u Playgroundu. Razlike mogu nastati zbog:
Escapiranja JSON-a
Završetaka redaka ili uvlačenja
Dodatnih praznih znakova
Ako ste sve to dvaput provjerili, a i dalje vidite odstupanja, zatražite pomoć na Forumu zajednice, gdje su korisnici možda imali slične probleme ili vam mogu pomoći u rješavanju vašeg konkretnog slučaja.
