如果你的 temperature 設為高於 0,模型會產生帶有一定隨機性的輸出,因此出現不同的完成結果是預期之內。如想取得一致、可重複的結果,請使用 temperature = 0。
如果 temperature 已經是 0,但結果仍有差異,以下是最常見的原因:
---
提示詞差異
請檢查兩個環境中的提示詞是否完全相同。即使只多出一個空格、換行符或隱藏字元,也可能導致不同輸出。
---
參數不一致
確保 Playground 與 API 請求之間所有相關參數一致:
temperaturetop_pmax_tokensfrequency_penaltypresence_penalty
亦請確認模型名稱完全相同。即使使用相同提示詞和設定,不同模型自然會產生不同輸出。
---
Playground 預設集與 API 預設值
Playground 可能會套用某些預設設定。在 API 中,如果你省略某個參數,它會使用自身的預設值,而這可能與 Playground 的行為不一致。為確保一致,請在 API 請求中明確設定所有參數。
---
格式或編碼差異
確保你傳送至 API 的請求與 Playground 中的提示詞完全相同。差異可能源於:
JSON 逸出處理
換行符或縮排
額外空白
如果你已仔細檢查以上所有事項,但仍然看到差異,請到 Community Forum 尋求協助;其他用戶可能曾遇到類似問題,或能協助排查你的特定情況。
