Proč dostávám v Playgroundu jiné completions než přes API?

Pokud je vaše temperature nastavena nad 0, model bude generovat výstupy s určitou mírou náhodnosti, takže odlišné completions jsou očekávané. Když chcete konzistentní, opakovatelné výsledky, použijte temperature = 0.

Pokud už je temperature 0 a výsledky se stále liší, tady jsou nejčastější příčiny:

Rozdíly v promptu

Zkontrolujte, že je prompt v obou prostředích naprosto stejný. I jediná mezera navíc, nový řádek nebo skrytý znak může způsobit odlišný výstup.

Neshody v parametrech

Ujistěte se, že se mezi Playgroundem a API požadavky shodují všechny relevantní parametry:

• temperature

• top_p

• max_tokens

• frequency_penalty

• presence_penalty

Také potvrďte, že je název modelu totožný. Různé modely budou přirozeně vytvářet různé výstupy, i při stejném promptu a nastavení.

Předvolby Playgroundu vs. výchozí hodnoty API

Playground může používat určitá výchozí nastavení. V API se při vynechání parametru použije vlastní výchozí hodnota, která se nemusí shodovat s chováním Playgroundu. Pro zajištění konzistence explicitně nastavte všechny parametry v API požadavku.

Rozdíly ve formátování nebo kódování

Ujistěte se, že požadavek, který posíláte do API, je totožný s promptem v Playgroundu. Rozdíly mohou vznikat kvůli:

• escapování JSON

• koncům řádků nebo odsazení

• mezerám navíc

Pokud jste všechny tyto věci znovu zkontrolovali a stále vidíte rozdíly, požádejte o pomoc ve komunitním fóru, kde uživatelé možná řešili podobné problémy nebo mohou pomoci s diagnostikou vašeho konkrétního případu.