Warum erhalte ich unterschiedliche Vervollständigungen im Playground im Vergleich zur API?

Wenn Ihre Temperature auf einen Wert über 0 gesetzt ist, erzeugt das Modell Ausgaben mit einer gewissen Zufälligkeit – unterschiedliche Vervollständigungen sind dann zu erwarten. Wenn Sie konsistente, reproduzierbare Ergebnisse möchten, verwenden Sie temperature = 0.

Wenn temperature bereits 0 ist und die Ergebnisse trotzdem abweichen, sind dies die häufigsten Ursachen:

Unterschiede im Prompt

Prüfen Sie, dass der Prompt in beiden Umgebungen exakt derselbe ist. Schon ein einzelnes zusätzliches Leerzeichen, ein Zeilenumbruch oder ein unsichtbares Zeichen kann zu einer anderen Ausgabe führen.

Nicht übereinstimmende Parameter

Stellen Sie sicher, dass alle relevanten Parameter zwischen Playground und API-Requests übereinstimmen:

• temperature

• top_p

• max_tokens

• frequency_penalty

• presence_penalty

Bestätigen Sie außerdem, dass der Modellname identisch ist. Unterschiedliche Modelle erzeugen naturgemäß unterschiedliche Ausgaben – selbst bei gleichem Prompt und denselben Einstellungen.

Playground-Voreinstellungen vs. API-Defaults

Der Playground kann bestimmte Standardeinstellungen anwenden. In der API wird, wenn Sie einen Parameter weglassen, dessen eigener Standardwert verwendet – und der muss nicht dem Verhalten des Playgrounds entsprechen. Um Konsistenz sicherzustellen, setzen Sie alle Parameter in Ihrer API-Anfrage ausdrücklich.

Unterschiede bei Formatierung oder Encoding

Stellen Sie sicher, dass die Anfrage, die Sie an die API senden, identisch mit dem Prompt im Playground ist. Unterschiede können entstehen durch:

• JSON-Escaping

• Zeilenenden oder Einrückung

• Zusätzliche Leerzeichen

Wenn Sie all diese Punkte doppelt geprüft haben und trotzdem Abweichungen sehen, bitten Sie im Community Forum um Hilfe. Dort haben Nutzer möglicherweise ähnliche Probleme erlebt oder können bei der Fehlersuche in Ihrem konkreten Fall unterstützen.