ทำไมผลลัพธ์บน Playground กับ API ถึงไม่เหมือนกัน?

หากตั้งค่า temperature ไว้สูงกว่า 0 โมเดลจะสร้างเอาต์พุตที่มีความสุ่มอยู่บ้าง ดังนั้นการเห็นผลลัพธ์ที่สมบูรณ์แตกต่างกันจึงเป็นเรื่องที่คาดได้ เมื่อต้องการผลลัพธ์ที่สม่ำเสมอและทำซ้ำได้ ให้ใช้ temperature = 0

หาก temperature เป็น 0 อยู่แล้วแต่ผลลัพธ์ยังแตกต่างกัน สาเหตุที่พบบ่อยที่สุดมีดังนี้:

---

ความแตกต่างของคำสั่ง

ตรวจสอบว่าคำสั่งในทั้งสองสภาพแวดล้อมนั้นเหมือนกันทุกประการ แม้แต่ช่องว่าง การขึ้นบรรทัดใหม่ หรืออักขระที่ซ่อนอยู่เพียงตัวเดียว ก็อาจทำให้เอาต์พุตแตกต่างกันได้

---

พารามิเตอร์ไม่ตรงกัน

ตรวจสอบให้แน่ใจว่าพารามิเตอร์ที่เกี่ยวข้องทั้งหมดตรงกันระหว่าง Playground และคำขอ API:

• temperature

• top_p

• max_tokens

• frequency_penalty

• presence_penalty

นอกจากนี้ ให้ยืนยันว่าชื่อโมเดลเหมือนกันทุกประการ โมเดลที่แตกต่างกันย่อมสร้างเอาต์พุตที่แตกต่างกัน แม้จะใช้คำสั่งและการตั้งค่าเดียวกันก็ตาม

---

พรีเซ็ตของ Playground เทียบกับค่าเริ่มต้นของ API

Playground อาจใช้การตั้งค่าเริ่มต้นบางอย่าง ใน API หากคุณละพารามิเตอร์ไว้ ระบบจะใช้ค่าเริ่มต้นของ API เอง ซึ่งอาจไม่ตรงกับพฤติกรรมของ Playground เพื่อให้สอดคล้องกัน ให้ตั้งค่าพารามิเตอร์ทั้งหมดอย่างชัดเจนในคำขอ API ของคุณ

---

ความแตกต่างด้านการจัดรูปแบบหรือการเข้ารหัส

ตรวจสอบให้แน่ใจว่าคำขอที่คุณส่งไปยัง API เหมือนกันทุกประการกับคำสั่งใน Playground ความแตกต่างอาจเกิดจาก:

• การ escape JSON

• การขึ้นบรรทัดใหม่หรือการเยื้อง

• ช่องว่างส่วนเกิน

หากคุณตรวจสอบสิ่งเหล่านี้ทั้งหมดอีกครั้งแล้วแต่ยังพบความคลาดเคลื่อน ให้ขอความช่วยเหลือในฟอรัมชุมชน ซึ่งผู้ใช้อาจเคยพบปัญหาคล้ายกัน หรืออาจช่วยแก้ไขปัญหาในกรณีเฉพาะของคุณได้