Mengapa saya mendapat pelengkapan berbeza di Playground berbanding API?

Jika temperature anda ditetapkan melebihi 0, model akan menjana output dengan sedikit kerawakan, jadi pelengkapan yang berbeza memang dijangka berlaku. Apabila anda mahukan hasil yang konsisten dan boleh diulang, gunakan temperature = 0.

Jika temperature sudah 0 tetapi hasil masih berbeza, berikut ialah punca yang paling lazim:

---

Perbezaan prompt

Pastikan prompt adalah betul-betul sama dalam kedua-dua persekitaran. Walaupun satu ruang tambahan, baris baharu atau aksara tersembunyi boleh menyebabkan output yang berbeza.

---

Ketidakpadanan parameter

Pastikan semua parameter yang berkaitan sepadan antara permintaan Playground dan API:

• temperature

• top_p

• max_tokens

• frequency_penalty

• presence_penalty

Sahkan juga bahawa nama model adalah sama. Model yang berbeza secara semula jadi akan menghasilkan output yang berbeza, walaupun dengan prompt dan tetapan yang sama.

---

Pratetap Playground berbanding nilai lalai API

Playground mungkin menggunakan tetapan lalai tertentu. Dalam API, jika anda tidak menyertakan sesuatu parameter, API akan menggunakan nilai lalainya sendiri, yang mungkin tidak sepadan dengan tingkah laku Playground. Untuk memastikan konsistensi, tetapkan semua parameter secara jelas dalam permintaan API anda.

---

Perbezaan pemformatan atau pengekodan

Pastikan permintaan yang anda hantar kepada API adalah serupa sepenuhnya dengan prompt dalam Playground. Perbezaan boleh berlaku disebabkan oleh:

• Pelepasan aksara JSON

• Pengakhiran baris atau inden

• Ruang kosong tambahan

Jika anda telah menyemak semula semua perkara ini dan masih melihat percanggahan, minta bantuan di Forum Komuniti, tempat pengguna lain mungkin pernah mengalami isu serupa atau dapat membantu menyelesaikan masalah bagi kes khusus anda.