Γιατί λαμβάνω διαφορετικές ολοκληρώσεις στο Playground σε σχέση με το API;

Αν η temperature σας είναι ορισμένη πάνω από 0, το μοντέλο θα δημιουργεί εξόδους με κάποια τυχαιότητα, οπότε είναι αναμενόμενο να βλέπετε διαφορετικές ολοκληρώσεις. Όταν θέλετε συνεπή, επαναλήψιμα αποτελέσματα, χρησιμοποιήστε temperature = 0.

Αν το temperature είναι ήδη 0 και τα αποτελέσματα εξακολουθούν να διαφέρουν, εδώ είναι οι πιο συνηθισμένες αιτίες:

Διαφορές στην προτροπή

Ελέγξτε ότι η προτροπή είναι ακριβώς η ίδια και στα δύο περιβάλλοντα. Ακόμη και ένα μόνο επιπλέον κενό, αλλαγή γραμμής ή κρυφός χαρακτήρας μπορεί να προκαλέσει διαφορετική έξοδο.

Ασυμφωνίες παραμέτρων

Βεβαιωθείτε ότι όλες οι σχετικές παράμετροι ταιριάζουν μεταξύ των αιτημάτων του Playground και του API:

• temperature

• top_p

• max_tokens

• frequency_penalty

• presence_penalty

Επιβεβαιώστε επίσης ότι το όνομα του μοντέλου είναι ίδιο. Διαφορετικά μοντέλα θα παράγουν φυσικά διαφορετικές εξόδους, ακόμη και με την ίδια προτροπή και τις ίδιες ρυθμίσεις.

Προεπιλογές του Playground έναντι προεπιλογών του API

Το Playground μπορεί να εφαρμόζει ορισμένες προεπιλεγμένες ρυθμίσεις. Στο API, αν παραλείψετε μια παράμετρο, θα χρησιμοποιηθεί η δική του προεπιλογή, η οποία μπορεί να μη συμφωνεί με τη συμπεριφορά του Playground. Για να διασφαλίσετε τη συνέπεια, ορίστε ρητά όλες τις παραμέτρους στο αίτημα API.

Διαφορές μορφοποίησης ή κωδικοποίησης

Βεβαιωθείτε ότι το αίτημα που στέλνετε στο API είναι πανομοιότυπο με την προτροπή στο Playground. Διαφορές μπορεί να προκύψουν από:

• Διαφυγή χαρακτήρων JSON

• Τέλη γραμμών ή εσοχή

• Επιπλέον κενά

Αν έχετε ελέγξει ξανά όλα αυτά και εξακολουθείτε να βλέπετε αποκλίσεις, ζητήστε βοήθεια στο Φόρουμ Κοινότητας, όπου χρήστες μπορεί να έχουν αντιμετωπίσει παρόμοια ζητήματα ή να μπορούν να βοηθήσουν στην αντιμετώπιση του συγκεκριμένου προβλήματός σας.