Tại sao tôi nhận được các kết quả hoàn thành khác nhau trên Khu thử nghiệm so với API?

Nếu temperature của bạn được đặt lớn hơn 0, mô hình sẽ tạo ra đầu ra có некоторую ngẫu nhiên, vì vậy việc thấy các kết quả hoàn thành khác nhau là điều bình thường. Khi bạn muốn có kết quả nhất quán, lặp lại được, hãy dùng temperature = 0.

Nếu temperature đã là 0 mà kết quả vẫn khác nhau, đây là những nguyên nhân phổ biến nhất:

Khác biệt trong câu lệnh

Hãy kiểm tra rằng câu lệnh hoàn toàn giống nhau trong cả hai môi trường. Chỉ một dấu cách thừa, xuống dòng hoặc ký tự ẩn cũng có thể gây ra đầu ra khác.

Thông số không khớp

Đảm bảo rằng tất cả thông số liên quan khớp nhau giữa Khu thử nghiệm và các yêu cầu API:

• temperature

• top_p

• max_tokens

• frequency_penalty

• presence_penalty

Ngoài ra, hãy xác nhận rằng tên mô hình là giống hệt nhau. Các mô hình khác nhau đương nhiên sẽ tạo ra đầu ra khác nhau, ngay cả khi dùng cùng một câu lệnh và cùng các thiết lập.

Preset của Khu thử nghiệm so với mặc định của API

Khu thử nghiệm có thể áp dụng một số thiết lập mặc định. Trong API, nếu bạn bỏ qua một thông số, nó sẽ dùng giá trị mặc định riêng, có thể không khớp với hành vi của Khu thử nghiệm. Để đảm bảo tính nhất quán, hãy đặt tường minh tất cả thông số trong yêu cầu API của bạn.

Khác biệt về định dạng hoặc mã hóa

Đảm bảo rằng yêu cầu bạn gửi tới API là giống hệt với câu lệnh trong Khu thử nghiệm. Khác biệt có thể xảy ra do:

• Escape JSON

• Kết thúc dòng hoặc thụt lề

• Khoảng trắng thừa

Nếu bạn đã kiểm tra kỹ tất cả những điều này mà vẫn thấy khác biệt, hãy nhờ trợ giúp trên Diễn đàn Cộng đồng, nơi người dùng có thể đã gặp các vấn đề tương tự hoặc có thể hỗ trợ bạn khắc phục sự cố cho trường hợp cụ thể của mình.