Pokud je vaše temperature nastavena nad 0, model bude generovat výstupy s určitou náhodností, takže lze očekávat různé completions. Když chcete konzistentní, opakovatelné výsledky, použijte temperature = 0.
Pokud je temperature už 0 a výsledky se přesto liší, zde jsou nejčastější příčiny:
---
Rozdíly v prompty
Zkontrolujte, že je prompt v obou prostředích naprosto stejný. I jediná mezera navíc, nový řádek nebo skrytý znak mohou způsobit odlišný výstup.
---
Neshody parametrů
Ujistěte se, že se všechny relevantní parametry v požadavcích z Playgroundu a přes API shodují:
temperature
top_p
max_tokens
frequency_penalty
presence_penalty
Také ověřte, že je název modelu totožný. Různé modely přirozeně vytvářejí různé výstupy, a to i při stejném promptu a nastavení.
---
Předvolby Playgroundu vs. výchozí hodnoty API
Playground může použít určitá výchozí nastavení. Pokud v API vynecháte parametr, použije se jeho vlastní výchozí hodnota, která nemusí odpovídat chování Playgroundu. Pro zajištění konzistence výslovně nastavte všechny parametry ve svém požadavku API.
---
Rozdíly ve formátování nebo kódování
Ujistěte se, že požadavek odeslaný do API je totožný s promptem v Playgroundu. Rozdíly mohou vznikat kvůli:
Escapování JSONu
Konce řádků nebo odsazení
Nadbytečné mezery
Pokud jste všechny tyto věci znovu zkontrolovali a stále vidíte nesrovnalosti, požádejte o pomoc na komunitním fóru, kde uživatelé mohli narazit na podobné problémy nebo vám mohou pomoci s řešením vašeho konkrétního případu.