Από τις 11 Μαρτίου 2025, έχουμε κυκλοφορήσει τα δομικά στοιχεία της νέας μας πλατφόρμας πρακτόρων. Για λεπτομέρειες, δείτε την τεκμηρίωση API για το API Αποκρίσεων, τα εργαλεία, όπως την Αναζήτηση στον ιστό, την Αναζήτηση αρχείων και τη Χρήση υπολογιστή, καθώς και το SDK πρακτόρων μας με ιχνηλάτηση.
Τα token προτροπής είναι τα token που εισάγετε στο μοντέλο. Αυτός είναι ο αριθμός των token στην προτροπή σας.
Τα token ολοκλήρωσης είναι οποιαδήποτε token δημιουργεί το μοντέλο ως απόκριση στην είσοδό σας. Για ένα τυπικό αίτημα, αυτός είναι ο αριθμός των token στην ολοκλήρωση.
Τα περισσότερα μοντέλα που προσφέρουμε έχουν όρια τόσο στον αριθμό των token που μπορούν να δεχτούν (token προτροπής) όσο και στον αριθμό των token που μπορούν να παράγουν (token ολοκλήρωσης ή δειγμάτων).
Αυτό περιλαμβάνει επίσης οποιαδήποτε token δημιουργούνται όταν χρησιμοποιείται υψηλότερη τιμή για το best_of ή το n. Για παράδειγμα, αν δημιουργείτε 3 υποψήφιες ολοκληρώσεις χρησιμοποιώντας best_of = 3, ο αριθμός των δειγματοληπτημένων token θα είναι το πολύ 3 * max_tokens.
Μπορείτε να διαβάσετε περισσότερα σχετικά με τη διαχείριση token στον οδηγό δημιουργίας κειμένου μας.