Jika temperature diatur di atas 0, model akan menghasilkan keluaran dengan tingkat keacakan tertentu, jadi wajar jika respons yang dihasilkan berbeda-beda. Untuk mendapatkan hasil yang konsisten dan dapat diulang, gunakan temperature = 0.
Jika temperature sudah diatur ke 0 tetapi hasilnya masih berbeda, berikut penyebab yang paling umum:
Perbedaan prompt
Pastikan prompt di kedua lingkungan sama persis. Bahkan satu spasi tambahan, baris baru, atau karakter tersembunyi dapat menghasilkan keluaran yang berbeda.
Ketidakcocokan parameter
Pastikan semua parameter yang relevan di Playground sama dengan yang ada dalam permintaan API:
temperature
top_p
max_tokens
frequency_penalty
presence_penalty
Pastikan juga nama model sama persis. Model yang berbeda tentu akan menghasilkan keluaran yang berbeda, meskipun prompt dan pengaturannya sama.
Prasetel Playground vs. pengaturan default API
Playground mungkin menerapkan pengaturan default tertentu. Jika Anda tidak menyertakan suatu parameter dalam permintaan API, API akan menggunakan nilai default-nya sendiri, yang mungkin membuat perilakunya berbeda dari Playground. Untuk memastikan konsistensi, tetapkan semua parameter secara eksplisit dalam permintaan API Anda.
Perbedaan pemformatan atau pengodean
Pastikan permintaan yang Anda kirim ke API identik dengan prompt di Playground. Perbedaan dapat terjadi karena:
Pelolosan JSON
Akhiran baris atau indentasi
Whitespace tambahan
Jika Anda sudah memeriksa ulang semua hal ini dan masih melihat ketidaksesuaian, mintalah bantuan di Forum Komunitas, tempat pengguna mungkin pernah mengalami masalah serupa atau dapat membantu memecahkan masalah untuk kasus spesifik Anda.