Als je temperature hoger is ingesteld dan 0, genereert het model uitvoer met enige willekeur, dus het is te verwachten dat je verschillende aanvullingen ziet. Als je consistente, herhaalbare resultaten wilt, gebruik dan temperature = 0.
Als temperature al 0 is en de resultaten nog steeds verschillen, zijn dit de meest voorkomende oorzaken:
---
Verschillen in prompts
Controleer of de prompt in beide omgevingen exact hetzelfde is. Zelfs één extra spatie, regeleinde of verborgen teken kan een andere uitvoer veroorzaken.
---
Niet-overeenkomende parameters
Zorg dat alle relevante parameters in Playground en API-aanvragen overeenkomen:
temperature
top_p
max_tokens
frequency_penalty
presence_penalty
Controleer ook of de modelnaam exact hetzelfde is. Verschillende modellen leveren vanzelfsprekend verschillende uitvoer op, zelfs met dezelfde prompt en instellingen.
---
Playground-presets versus API-standaardwaarden
Playground kan bepaalde standaardinstellingen toepassen. Als je in de API een parameter weglaat, gebruikt deze zijn eigen standaardwaarde, die mogelijk niet overeenkomt met het gedrag van Playground. Stel voor consistentie expliciet alle parameters in je API-aanvraag in.
---
Verschillen in opmaak of codering
Zorg ervoor dat de aanvraag die je naar de API stuurt identiek is aan de prompt in Playground. Verschillen kunnen ontstaan door:
JSON-escaping
Regeleinden of inspringing
Extra witruimte
Als je al deze zaken dubbel hebt gecontroleerd en nog steeds afwijkingen ziet, vraag dan om hulp op het Communityforum, waar gebruikers mogelijk vergelijkbare problemen hebben ervaren of kunnen helpen bij het oplossen van jouw specifieke geval.