如果你嘅 temperature 設定高於 0,模型就會帶有一定隨機性咁產生輸出,所以見到唔同嘅完成結果係預期之內。當你想要一致、可重複嘅結果時,請用 temperature = 0。
如果 temperature 已經係 0,但結果仍然有差異,以下係最常見嘅原因:
提示詞差異
請檢查兩個環境入面嘅提示詞係咪 完全一樣。就算只係多咗一個空格、換行,或者隱藏字元,都可能導致輸出唔同。
參數不一致
請確認 Playground 同 API 請求之間,所有相關參數都一致:
temperaturetop_pmax_tokensfrequency_penaltypresence_penalty
亦請確認模型名稱完全相同。唔同模型即使用同一個提示詞同設定,都自然會產生唔同輸出。
Playground 預設值與 API 預設值
Playground 可能會套用某啲預設設定。喺 API 入面,如果你省略某個參數,就會使用佢自己嘅預設值,而呢啲預設值未必同 Playground 嘅行為一致。要確保一致性,請 喺 API 請求中明確設定所有參數。
格式或編碼差異
請確保你傳送去 API 嘅請求,同 Playground 入面嘅提示詞係 完全一致。差異可能來自:
JSON 跳脫
行尾符號或縮排
額外空白
如果你已經再次核對晒以上所有事項,但仍然見到差異,請去 Community Forum 求助,嗰度嘅用戶可能遇過類似問題,或者可以協助你排查你個別情況。
