Zašto dobijam različite dovršetke u Playgroundu u odnosu na API?

Ako je vaš parametar temperature postavljen iznad 0, model će generisati izlaze s određenom nasumičnošću, pa je očekivano da vidite različite dovršetke. Kada želite dosljedne, ponovljive rezultate, koristite temperature = 0.

Ako je temperature već 0, a rezultati se i dalje razlikuju, ovo su najčešći uzroci:

---

Razlike u upitu

Provjerite da je upit potpuno isti u oba okruženja. Čak i jedan dodatni razmak, novi red ili skriveni znak može uzrokovati drugačiji izlaz.

---

Nepodudarnosti parametara

Provjerite da se svi relevantni parametri podudaraju između Playgrounda i API zahtjeva:

• temperature

• top_p

• max_tokens

• frequency_penalty

• presence_penalty

Također potvrdite da je naziv modela identičan. Različiti modeli će prirodno proizvesti različite izlaze, čak i s istim upitom i postavkama.

---

Unaprijed postavljene postavke Playgrounda naspram zadanih vrijednosti API-ja

Playground može primijeniti određene zadane postavke. U API-ju, ako izostavite parametar, koristit će se njegova zadana vrijednost, koja se možda ne podudara s ponašanjem Playgrounda. Da biste osigurali dosljednost, eksplicitno postavite sve parametre u svom API zahtjevu.

---

Razlike u formatiranju ili kodiranju

Provjerite da je zahtjev koji šaljete API-ju identičan upitu u Playgroundu. Razlike mogu nastati zbog:

• Escape sekvence u JSON-u

• Završeci redova ili uvlačenje

• Dodatni razmaci

Ako ste sve ovo dvaput provjerili i i dalje vidite neslaganja, zatražite pomoć na Forumu zajednice, gdje su korisnici možda imali slične probleme ili mogu pomoći u rješavanju vašeg konkretnog slučaja.