Playground と API で補完結果が異なるのはなぜですか？

temperature が 0 より大きく設定されている場合、モデルはある程度のランダム性を含む出力を生成するため、補完結果が異なるのは想定どおりです。一貫して再現可能な結果が必要な場合は、temperature = 0 を使用してください。

temperature がすでに 0 なのに結果が異なる場合、よくある原因は次のとおりです。

プロンプトの違い

両方の環境でプロンプトが 完全に同一 であることを確認してください。余分なスペース 1 つ、改行、隠れた文字があるだけでも、出力が変わることがあります。

パラメータの不一致

Playground と API リクエストの間で、関連するパラメータがすべて一致していることを確認してください。

• temperature

• top_p

• max_tokens

• frequency_penalty

• presence_penalty

また、モデル名 が同一であることも確認してください。同じプロンプトと設定でも、異なるモデルであれば当然ながら出力は異なります。

Playground のプリセットと API のデフォルト

Playground では特定のデフォルト設定が適用される場合があります。API ではパラメータを省略すると API 側のデフォルトが使われ、Playground の挙動と一致しないことがあります。一貫性を確保するには、API リクエストですべてのパラメータを明示的に設定してください。

書式やエンコーディングの違い

API に送るリクエストが、Playground のプロンプトと 同一 であることを確認してください。違いが生じる要因としては、次のようなものがあります。

• JSON のエスケープ

• 改行コードやインデント

• 余分な空白

これらをすべて二重に確認してもなお不一致がある場合は、同様の問題を経験したユーザーがいる可能性があり、個別のケースの切り分けを手伝ってもらえることもあるため、コミュニティフォーラムで助けを求めてください。