Waarom krijg ik andere completions in Playground dan via de API?

Als je temperature hoger dan 0 is ingesteld, genereert het model outputs met enige willekeur, dus het is normaal dat je verschillende completions ziet. Als je consistente, herhaalbare resultaten wilt, gebruik dan temperature = 0.

Als temperature al 0 is en de resultaten nog steeds verschillen, zijn dit de meest voorkomende oorzaken:

Verschillen in prompts

Controleer of de prompt in beide omgevingen exact hetzelfde is. Zelfs één extra spatie, regeleinde of verborgen teken kan een andere output veroorzaken.

Niet-overeenkomende parameters

Zorg ervoor dat alle relevante parameters overeenkomen tussen Playground en API-verzoeken:

• temperature

• top_p

• max_tokens

• frequency_penalty

• presence_penalty

Controleer ook of de modelnaam identiek is. Verschillende modellen produceren vanzelf verschillende outputs, zelfs met dezelfde prompt en instellingen.

Playground-voorinstellingen versus API-standaarden

Playground kan bepaalde standaardinstellingen toepassen. In de API geldt: als je een parameter weglaat, wordt de eigen standaardwaarde gebruikt, en die komt mogelijk niet overeen met het gedrag van Playground. Voor consistente resultaten stel je alle parameters expliciet in je API-verzoek in.

Verschillen in opmaak of codering

Zorg ervoor dat het verzoek dat je naar de API stuurt identiek is aan de prompt in Playground. Verschillen kunnen ontstaan door:

• JSON-escaping

• Regeleinden of inspringing

• Extra witruimte

Als je dit alles dubbel hebt gecontroleerd en nog steeds verschillen ziet, vraag dan om hulp op het Community Forum, waar gebruikers mogelijk vergelijkbare problemen hebben gehad of kunnen helpen bij het oplossen van jouw specifieke geval.