Zašto dobivam različite dovršetke u Playgroundu u odnosu na API?

Ako je temperature postavljen na vrijednost veću od 0, model će generirati izlaze s određenom dozom nasumičnosti, pa su različita dovršavanja očekivana. Kada želite dosljedne, ponovljive rezultate, upotrijebite temperature = 0.

Ako je temperature već 0, a rezultati se i dalje razlikuju, ovo su najčešći uzroci:

---

Razlike u upitu

Provjerite je li upit potpuno isti u oba okruženja. Čak i jedan dodatni razmak, novi redak ili skriveni znak može uzrokovati drukčiji izlaz.

---

Nepodudaranja parametara

Provjerite podudaraju li se svi relevantni parametri između Playgrounda i API zahtjeva:

• temperature

• top_p

• max_tokens

• frequency_penalty

• presence_penalty

Također provjerite je li naziv modela identičan. Različiti modeli prirodno će proizvesti različite izlaze, čak i uz isti upit i postavke.

---

Zadane postavke Playgrounda u odnosu na zadane vrijednosti API-ja

Playground može primijeniti određene zadane postavke. Ako u API-ju izostavite parametar, upotrijebit će se njegova zadana vrijednost, koja se možda neće podudarati s ponašanjem Playgrounda. Da biste osigurali dosljednost, izričito postavite sve parametre u svojem API zahtjevu.

---

Razlike u formatiranju ili kodiranju

Provjerite je li zahtjev koji šaljete API-ju identičan upitu u Playgroundu. Razlike mogu nastati zbog:

• Escapiranja JSON-a

• Završetaka redaka ili uvlačenja

• Dodatnih praznih znakova

Ako ste sve to dvaput provjerili, a i dalje vidite odstupanja, zatražite pomoć na Forumu zajednice, gdje su korisnici možda imali slične probleme ili vam mogu pomoći u rješavanju vašeg konkretnog slučaja.