Proč dostávám v Playgroundu jiné completions než přes API?

Pokud je vaše temperature nastavena nad 0, model bude generovat výstupy s určitou náhodností, takže lze očekávat různé completions. Když chcete konzistentní, opakovatelné výsledky, použijte temperature = 0.

Pokud je temperature už 0 a výsledky se přesto liší, zde jsou nejčastější příčiny:

---

Rozdíly v prompty

Zkontrolujte, že je prompt v obou prostředích naprosto stejný. I jediná mezera navíc, nový řádek nebo skrytý znak mohou způsobit odlišný výstup.

---

Neshody v parametrech

Ujistěte se, že se všechny relevantní parametry shodují mezi Playgroundem a požadavky API:

• temperature

• top_p

• max_tokens

• frequency_penalty

• presence_penalty

Také ověřte, že je název modelu totožný. Různé modely budou přirozeně vytvářet různé výstupy, i se stejným promptem a nastavením.

---

Předvolby Playgroundu vs. výchozí hodnoty API

Playground může použít určitá výchozí nastavení. Pokud v API vynecháte parametr, použije se jeho vlastní výchozí hodnota, která nemusí odpovídat chování Playgroundu. Pro zajištění konzistence výslovně nastavte všechny parametry ve svém požadavku API.

---

Rozdíly ve formátování nebo kódování

Ujistěte se, že požadavek odeslaný do API je totožný s promptem v Playgroundu. Rozdíly mohou vznikat kvůli:

• Escapování JSONu

• Konce řádků nebo odsazení

• Nadbytečné mezery

Pokud jste všechny tyto věci znovu zkontrolovali a stále vidíte nesrovnalosti, požádejte o pomoc na komunitním fóru, kde uživatelé mohli narazit na podobné problémy nebo vám mohou pomoci s řešením vašeho konkrétního případu.