Nếu temperature của bạn được đặt trên 0, mô hình sẽ tạo đầu ra có một mức độ ngẫu nhiên nhất định, nên việc thấy các phần hoàn thành khác nhau là điều được dự kiến. Khi bạn muốn kết quả nhất quán và có thể lặp lại, hãy dùng temperature = 0.
Nếu temperature đã là 0 mà kết quả vẫn khác nhau, đây là những nguyên nhân phổ biến nhất:
---
Khác biệt về câu lệnh
Kiểm tra để bảo đảm câu lệnh hoàn toàn giống nhau trong cả hai môi trường. Chỉ một khoảng trắng, dòng mới hoặc ký tự ẩn thừa cũng có thể khiến đầu ra khác đi.
---
Tham số không khớp
Đảm bảo tất cả tham số liên quan khớp nhau giữa Khu thử nghiệm và các yêu cầu API:
temperaturetop_pmax_tokensfrequency_penaltypresence_penalty
Đồng thời xác nhận rằng tên mô hình là giống hệt nhau. Các mô hình khác nhau đương nhiên sẽ tạo ra đầu ra khác nhau, ngay cả với cùng một câu lệnh và cài đặt.
---
Cài đặt sẵn của Khu thử nghiệm so với mặc định của API
Khu thử nghiệm có thể áp dụng một số cài đặt mặc định nhất định. Trong API, nếu bạn bỏ qua một tham số, API sẽ dùng giá trị mặc định riêng, có thể không khớp với hành vi của Khu thử nghiệm. Để đảm bảo tính nhất quán, hãy đặt rõ ràng tất cả tham số trong yêu cầu API của bạn.
---
Khác biệt về định dạng hoặc mã hóa
Đảm bảo yêu cầu bạn gửi đến API giống hệt với câu lệnh trong Khu thử nghiệm. Khác biệt có thể xảy ra do:
Thoát ký tự JSON
Ký tự kết thúc dòng hoặc thụt lề
Khoảng trắng thừa
Nếu bạn đã kiểm tra kỹ tất cả những điều này mà vẫn thấy có khác biệt, hãy yêu cầu trợ giúp trên Diễn đàn Cộng đồng, nơi người dùng có thể đã gặp vấn đề tương tự hoặc có thể hỗ trợ khắc phục sự cố trong trường hợp cụ thể của bạn.