Συχνές ερωτήσεις για το Assistants API (v2)

Τι είναι το Assistants API;

Το Assistants API επιτρέπει στους προγραμματιστές να δημιουργούν εύκολα ισχυρούς βοηθούς TN μέσα στις εφαρμογές τους. Αυτό το API καταργεί την ανάγκη διαχείρισης του ιστορικού συνομιλιών και προσθέτει πρόσβαση σε εργαλεία που φιλοξενούνται από την OpenAI, όπως το Code Interpreter και το File Search. Το API υποστηρίζει επίσης βελτιωμένη κλήση λειτουργιών για εργαλεία τρίτων.

Μπορώ ακόμη να χρησιμοποιώ το Assistants API v1 beta;

Όχι. Από τις 18 Δεκεμβρίου 2024, οι χρήστες δεν έχουν πλέον πρόσβαση στην έκδοση v1 του Assistant API beta. Προς το παρόν υποστηρίζουμε μόνο το v2. Ανατρέξτε σε αυτόν τον οδηγό μετεγκατάστασης για να μετατρέψετε τις κλήσεις API σας από v1 σε v2

Πώς αποκτώ πρόσβαση σε αυτό;

Το Assistants API είναι διαθέσιμο σε οποιονδήποτε διαθέτει λογαριασμό OpenAI API, αλλά έχει καταργηθεί και θα αφαιρεθεί τον Αύγουστο του 2026. Για νέα έργα, χρησιμοποιήστε αντ’ αυτού το Responses API. Αν χρησιμοποιείτε ήδη το Assistants API, προγραμματίστε τη μετεγκατάστασή σας στο Responses API. Μπορείτε ακόμη να αποκτάτε πρόσβαση σε υπάρχοντες assistants στο Assistants Playground όσο το API παραμένει διαθέσιμο.

Τι είναι ένας Assistant;

Ένας assistant αντιπροσωπεύει μια ειδικά κατασκευασμένη TN που χρησιμοποιεί τα μοντέλα της OpenAI και μπορεί να έχει πρόσβαση σε αρχεία, να διατηρεί μόνιμα νήματα και να καλεί εργαλεία.

Τι είναι ένα Thread;

Ένα νήμα είναι μια περίοδος συνομιλίας μεταξύ ενός assistant και ενός χρήστη. Τα νήματα απλοποιούν την ανάπτυξη εφαρμογών αποθηκεύοντας το ιστορικό μηνυμάτων και περικόπτοντάς το όταν η συνομιλία γίνεται πολύ μεγάλη για το μήκος περιβάλλοντος του μοντέλου.

Τι είναι το εργαλείο File Search;

Το εργαλείο `file_search` εφαρμόζει εξαρχής αρκετές βέλτιστες πρακτικές ανάκτησης, για να σας βοηθήσει να εξαγάγετε τα σωστά δεδομένα από τα αρχεία σας και να εμπλουτίσετε τις αποκρίσεις του μοντέλου. Για περισσότερες πληροφορίες, διαβάστε την τεκμηρίωση για προγραμματιστές.

Από προεπιλογή, το εργαλείο file_search χρησιμοποιεί τις ακόλουθες ρυθμίσεις:

• Μέγεθος τμήματος: 800 token

• Επικάλυψη τμημάτων: 400 token

• Μοντέλο embedding: `text-embedding-3-large` σε 256 διαστάσεις

• Μέγιστος αριθμός τμημάτων που προστίθενται στο περιβάλλον: 20

Ποιοι είναι οι περιορισμοί για τη μεταφόρτωση αρχείων;

Οι περιορισμοί για τη μεταφόρτωση ενός αρχείου είναι:

• 512 MB ανά αρχείο

• 5 εκατ. token ανά αρχείο

• 10 χιλ. αρχεία ανά vector store

• 1 vector store ανά assistant

• 1 vector store ανά νήμα

Το συνολικό όριο αποθήκευσης για κάθε έργο σε έναν οργανισμό είναι 100 GB.

Ποιοι είναι οι περιορισμοί του εργαλείου File Search;

Έχουμε μερικούς γνωστούς περιορισμούς για τους οποίους εργαζόμαστε ώστε να προσθέσουμε υποστήριξη τους επόμενους μήνες:

1. Προς το παρόν δεν υπάρχει τρόπος τροποποίησης των ρυθμίσεων chunking, embedding ή retrieval.

2. Δεν υποστηρίζουμε την ανάλυση εικόνων μέσα σε έγγραφα.

3. Δεν υποστηρίζουμε ανακτήσεις σε δομημένες μορφές αρχείων (όπως αρχεία .csv ή .jsonl). Δείτε τους υποστηριζόμενους τύπους αρχείων.

Ποια είναι τα όρια ρυθμού για το Assistants API;

Τα όρια ρυθμού για το Assistants API δεν συνδέονται με το επίπεδο χρήσης και το μοντέλο. Αντίθετα, υπάρχουν προεπιλεγμένα όρια ανά τύπο αιτήματος, με μερικές εξαιρέσεις:

• GET: 1000 RPM

• POST: 300 RPM

• DELETE: 300 αιτήματα ανά λεπτό

Πώς τιμολογείται το Code Interpreter στο API;

Το Code Interpreter τιμολογείται στα $0.03 / περίοδο λειτουργίας. Αν ο βοηθός σας καλέσει το Code Interpreter ταυτόχρονα σε δύο διαφορετικά νήματα, αυτό θα δημιουργήσει δύο περιόδους λειτουργίας Code Interpreter (2 * $0.03). Κάθε περίοδος λειτουργίας είναι ενεργή από προεπιλογή για μία ώρα, πράγμα που σημαίνει ότι θα πληρώνατε αυτή τη χρέωση μόνο μία φορά αν ο χρήστης σας συνεχίσει να δίνει οδηγίες στο Code Interpreter στο ίδιο νήμα για έως και μία ώρα.

Πώς τιμολογείται το File Search στο API;

Το File Search τιμολογείται στα $0.10/GB αποθήκευσης vector store ανά ημέρα (το πρώτο GB αποθήκευσης είναι δωρεάν). Το μέγεθος του vector store βασίζεται στο προκύπτον μέγεθος του vector store αφού το αρχείο σας αναλυθεί, χωριστεί σε τμήματα και ενσωματωθεί.

Όσα vector stores δημιουργήθηκαν πριν από τις 17 Απριλίου 2024 θα είναι δωρεάν έως το τέλος του 2024, μετά το οποίο είτε θα:

• Χρεώνονται με τις τρέχουσες τιμές (επί του παρόντος $0.10/GB/ημέρα), αν έχουν χρησιμοποιηθεί τουλάχιστον μία φορά σε ένα Run που δημιουργήθηκε μετά τις 17 Απριλίου 2024.

• Διαγραφούν αν δεν έχουν χρησιμοποιηθεί σε ούτε ένα Run μεταξύ 17 Απριλίου 2024 και 31 Δεκεμβρίου 2024 — αυτό γίνεται για να αποφύγετε τη χρέωση για vector stores που ενδέχεται να δημιουργήσατε πριν ανακοινωθεί αυτή η αλλαγή τιμολόγησης αλλά δεν χρησιμοποιήσατε ποτέ.

Υπάρχει όριο στο πόσους assistants μπορώ να δημιουργήσω;

Δεν υπάρχει όριο στο πόσους assistants μπορεί να δημιουργήσει ένας οργανισμός.

Είναι διαθέσιμο το streaming στο API;

Ναι, το streaming είναι διαθέσιμο στο Assistants API.

Είναι διαθέσιμη η λειτουργία JSON στο Assistants API;

Ναι, η λειτουργία JSON είναι διαθέσιμη στο Assistants API μέσω της παραμέτρου response_format στα αντικείμενα Assistants ή Run.

Θα διαχειρίζεται επίσης το Assistants API αιτήματα για κλήσεις λειτουργιών τρίτων;

Όχι. Παρόλο που η κλήση λειτουργιών επιτρέπει στο μοντέλο να επιλέγει εργαλεία και να μορφοποιεί αιτήματα για αυτά, η εκτέλεση κλήσεων σε εργαλεία τρίτων δεν γίνεται από την OpenAI.

Πώς γίνεται ο χειρισμός των δεδομένων που στέλνω στην OpenAI;

Όπως και με την υπόλοιπη πλατφόρμα μας, τα δεδομένα και τα αρχεία που διαβιβάζονται στο OpenAI API δεν χρησιμοποιούνται ποτέ για την εκπαίδευση των μοντέλων μας και μπορείτε να διαγράψετε τα δεδομένα σας όποτε χρειαστεί. Τα δεδομένα που μεταφορτώνονται στο Assistants API αποθηκεύονται επ’ αόριστον μέχρι να τα διαγράψει χειροκίνητα ένας χρήστης.

Είναι διαθέσιμο το DALL-E μέσω του Assistants API;

Προς το παρόν, το DALL-E δεν είναι διαθέσιμο.

Υπάρχει UI για το Assistants API;

Μπορείτε να δοκιμάσετε το Playground για το Assistants API. Βεβαιωθείτε ότι βρίσκεστε στην προβολή Assistants στην αριστερή πλαϊνή γραμμή και ότι χρησιμοποιείτε ένα μοντέλο συμβατό με τα εργαλεία που θέλετε να ενεργοποιήσετε.

Ποιο είναι το όριο χαρακτήρων για τις οδηγίες assistant στο Assistants API;

Το πεδίο οδηγιών assistant έχει μέγιστο μήκος 256.000 χαρακτήρες.

Λαμβάνω ένα σφάλμα όπως «Ο διακομιστής αντιμετώπισε σφάλμα κατά την επεξεργασία του αιτήματός σας. Λυπούμαστε γι’ αυτό! Μπορείτε να δοκιμάσετε ξανά το αίτημά σας ή να επικοινωνήσετε μαζί μας μέσω του Κέντρου Βοήθειας στο help.openai.com αν το σφάλμα επιμένει. » Τι πρέπει να κάνω;

Αν λαμβάνετε αυτό το σφάλμα, μπορεί να σημαίνει ότι η προτροπή σας δεν έχει ρυθμιστεί σωστά. Αν συνεχίζετε να δοκιμάζετε ξανά το αίτημα και αποτυγχάνει, δοκιμάστε τα εξής:

1. βεβαιωθείτε ότι αναδιαρθρώνετε την προτροπή σας ώστε να αντιμετωπίζει τυχόν εντολές τύπου συνάρτησης ως συναρτήσεις

2. προσθέστε τυχόν εντολές στην προτροπή σας ως συνάρτηση στο tools

Γιατί το εργαλείο File Search δεν λειτουργεί καλά;

Όταν χρησιμοποιείτε το εργαλείο File Search, συνιστούμε να ορίζετε το max_prompt_tokens σε τουλάχιστον 20.000. Για μεγαλύτερες συνομιλίες ή πολλαπλές αλληλεπιδράσεις με το File Search, εξετάστε το ενδεχόμενο να αυξήσετε αυτό το όριο σε 50.000 ή, ιδανικά, να καταργήσετε εντελώς τα όρια max_prompt_tokens για να λάβετε αποτελέσματα υψηλότερης ποιότητας. Διαβάστε περισσότερα εδώ.

Πώς μπορώ να υποβάλω σχόλια;

Θα χαρούμε να ακούσουμε τα σχόλιά σας στο Φόρουμ προγραμματιστών, μέσω του Κέντρου Βοήθειας στο help.openai.com ή στο Twitter @OpenAIDevs.