Hvorfor får jeg ulike fullføringer i Playground vs. API-et?

Hvis temperature er satt høyere enn 0, vil modellen generere utdata med noe tilfeldighet, så det er forventet å se ulike fullføringer. Når du ønsker konsekvente, repeterbare resultater, bruk temperature = 0.

Hvis temperature allerede er 0 og resultatene fortsatt er forskjellige, er dette de vanligste årsakene:

Forskjeller i prompt

Sjekk at prompten er helt identisk i begge miljøene. Selv ett ekstra mellomrom, linjeskift eller skjult tegn kan føre til et annet resultat.

Parameteravvik

Sørg for at alle relevante parametere samsvarer mellom Playground og API-forespørsler:

• temperature

• top_p

• max_tokens

• frequency_penalty

• presence_penalty

Bekreft også at modellnavnet er identisk. Ulike modeller vil naturlig gi ulike utdata, selv med samme prompt og innstillinger.

Forhåndsinnstillinger i Playground vs. API-standarder

Playground kan bruke bestemte standardinnstillinger. I API-et vil det bruke sine egne standardverdier hvis du utelater en parameter, og disse samsvarer kanskje ikke med hvordan Playground oppfører seg. For å sikre konsistens bør du angi alle parametere eksplisitt i API-forespørselen.

Forskjeller i formatering eller tegnkoding

Sørg for at forespørselen du sender til API-et er identisk med prompten i Playground. Forskjeller kan oppstå på grunn av:

• JSON-escaping

• Linjeslutt eller innrykk

• Ekstra mellomrom

Hvis du har dobbeltsjekket alle disse tingene og fortsatt ser avvik, kan du be om hjelp i Community Forum, der brukere kan ha opplevd lignende problemer eller kanskje kan hjelpe med å feilsøke den konkrete saken din.