Mengapa saya mendapatkan completion yang berbeda di Playground vs. API?

Jika temperature Anda diatur di atas 0, model akan menghasilkan output dengan sedikit keacakan, sehingga wajar jika completion yang muncul berbeda. Jika Anda menginginkan hasil yang konsisten dan dapat diulang, gunakan temperature = 0.

Jika temperature sudah 0 dan hasil masih berbeda, berikut penyebab yang paling umum:

---

Perbedaan prompt

Pastikan prompt benar-benar sama di kedua lingkungan. Satu spasi, baris baru, atau karakter tersembunyi tambahan saja dapat menyebabkan output yang berbeda.

---

Ketidakcocokan parameter

Pastikan semua parameter yang relevan cocok antara Playground dan permintaan API:

• temperature

• top_p

• max_tokens

• frequency_penalty

• presence_penalty

Pastikan juga nama model identik. Model yang berbeda secara alami akan menghasilkan output yang berbeda, meskipun dengan prompt dan pengaturan yang sama.

---

Preset Playground vs. default API

Playground dapat menerapkan pengaturan default tertentu. Di API, jika Anda menghilangkan suatu parameter, API akan menggunakan default-nya sendiri, yang mungkin tidak cocok dengan perilaku Playground. Untuk memastikan konsistensi, tetapkan semua parameter secara eksplisit dalam permintaan API Anda.

---

Perbedaan pemformatan atau pengodean

Pastikan permintaan yang Anda kirim ke API identik dengan prompt di Playground. Perbedaan dapat terjadi karena:

• Pelolosan JSON

• Akhiran baris atau indentasi

• Whitespace tambahan

Jika Anda sudah memeriksa ulang semua hal ini dan masih melihat ketidaksesuaian, mintalah bantuan di Forum Komunitas, tempat pengguna mungkin pernah mengalami masalah serupa atau dapat membantu memecahkan masalah untuk kasus spesifik Anda.