Nếu temperature của bạn được đặt trên 0, mô hình sẽ tạo đầu ra có một mức độ ngẫu nhiên nhất định, nên việc thấy các phần hoàn thành khác nhau là điều được dự kiến. Khi bạn muốn kết quả nhất quán và có thể lặp lại, hãy dùng temperature = 0.
Nếu temperature đã là 0 mà kết quả vẫn khác nhau, đây là những nguyên nhân phổ biến nhất:
---
Khác biệt về câu lệnh
Kiểm tra để bảo đảm câu lệnh hoàn toàn giống nhau trong cả hai môi trường. Chỉ một khoảng trắng, dòng mới hoặc ký tự ẩn thừa cũng có thể khiến đầu ra khác đi.
---
Thông số không khớp
Đảm bảo tất cả thông số liên quan đều giống nhau giữa yêu cầu trên Khu thử nghiệm và yêu cầu API:
temperature
top_p
max_tokens
frequency_penalty
presence_penalty
Ngoài ra, hãy xác nhận rằng tên mô hình hoàn toàn giống nhau. Các mô hình khác nhau sẽ tạo ra kết quả khác nhau, ngay cả khi dùng cùng câu lệnh và chế độ cài đặt.
---
Cài đặt sẵn của Khu thử nghiệm so với mặc định của API
Khu thử nghiệm có thể áp dụng một số cài đặt mặc định nhất định. Trong API, nếu bạn bỏ qua một tham số, API sẽ dùng giá trị mặc định riêng, có thể không khớp với hành vi của Khu thử nghiệm. Để đảm bảo tính nhất quán, hãy đặt rõ ràng tất cả tham số trong yêu cầu API của bạn.
---
Khác biệt về định dạng hoặc mã hóa
Đảm bảo yêu cầu bạn gửi đến API giống hệt với câu lệnh trong Khu thử nghiệm. Khác biệt có thể xảy ra do:
Thoát ký tự JSON
Ký tự kết thúc dòng hoặc thụt lề
Khoảng trắng thừa
Nếu bạn đã kiểm tra kỹ tất cả những điều này mà vẫn thấy có khác biệt, hãy yêu cầu trợ giúp trên Diễn đàn Cộng đồng, nơi người dùng có thể đã gặp vấn đề tương tự hoặc có thể hỗ trợ khắc phục sự cố trong trường hợp cụ thể của bạn.