Συχνές ερωτήσεις για το Assistants API (v2)

Τι είναι το Assistants API;

Το Assistants API δίνει τη δυνατότητα στους προγραμματιστές να δημιουργούν εύκολα ισχυρούς βοηθούς TN μέσα στις εφαρμογές τους. Αυτό το API καταργεί την ανάγκη διαχείρισης του ιστορικού συνομιλιών και προσθέτει πρόσβαση σε εργαλεία που φιλοξενούνται από την OpenAI, όπως το Code Interpreter και το File Search. Το API υποστηρίζει επίσης βελτιωμένη κλήση λειτουργιών για εργαλεία τρίτων.

Μπορώ ακόμα να χρησιμοποιώ το beta Assistants API v1;

Όχι. Από τις 18 Δεκεμβρίου 2024, οι χρήστες δεν έχουν πλέον πρόσβαση στην έκδοση v1 του beta Assistant API. Αυτή τη στιγμή υποστηρίζουμε μόνο τη v2. Δείτε αυτόν τον οδηγό μετεγκατάστασης για να μετατρέψετε τις κλήσεις API σας από v1 σε v2

Πώς μπορώ να αποκτήσω πρόσβαση;

Το Assistants API είναι διαθέσιμο σε οποιονδήποτε διαθέτει λογαριασμό OpenAI API. Μπορείτε επίσης να ξεκινήσετε μέσω του Assistants Playground.

Τι είναι ένα Assistant;

Ένα assistant αντιπροσωπεύει ένα TN ειδικά σχεδιασμένο για συγκεκριμένο σκοπό, που χρησιμοποιεί τα μοντέλα της OpenAI και μπορεί να έχει πρόσβαση σε αρχεία, να διατηρεί μόνιμα νήματα και να καλεί εργαλεία.

Τι είναι ένα Thread;

Ένα thread είναι μια συνεδρία συνομιλίας μεταξύ ενός assistant και ενός χρήστη. Τα threads απλοποιούν την ανάπτυξη εφαρμογών αποθηκεύοντας το ιστορικό μηνυμάτων και περικόπτοντάς το όταν η συνομιλία γίνεται πολύ μεγάλη για το μήκος περιβάλλοντος του μοντέλου.

Τι είναι το εργαλείο File Search;

Το εργαλείο file_search εφαρμόζει εξαρχής αρκετές βέλτιστες πρακτικές ανάκτησης για να σας βοηθήσει να εξάγετε τα σωστά δεδομένα από τα αρχεία σας ώστε να ενισχύσετε τις απαντήσεις του μοντέλου. Για περισσότερες πληροφορίες, διαβάστε την τεκμηρίωση για προγραμματιστές.

Από προεπιλογή, το εργαλείο file_search χρησιμοποιεί τις ακόλουθες ρυθμίσεις:

• Μέγεθος chunk: 800 tokens

• Επικάλυψη chunk: 400 tokens

• Embedding μοντέλο: text-embedding-3-large στις 256 διαστάσεις

• Μέγιστος αριθμός chunk που προστίθενται στο context: 20

Ποιοι είναι οι περιορισμοί για μεταφόρτωση αρχείων;

Οι περιορισμοί για τη μεταφόρτωση ενός αρχείου είναι:

• 512 MB ανά αρχείο

• 5M tokens ανά αρχείο

• 10k αρχεία ανά vector store

• 1 vector store ανά assistant

• 1 vector store ανά thread

Το συνολικό όριο αποθήκευσης για κάθε project σε έναν οργανισμό είναι 100 GB.

Ποιοι είναι οι περιορισμοί του εργαλείου File Search;

Υπάρχουν μερικοί γνωστοί περιορισμοί για τους οποίους εργαζόμαστε ώστε να προσθέσουμε υποστήριξη τους επόμενους μήνες:

1. Προς το παρόν δεν υπάρχει τρόπος να τροποποιηθούν οι ρυθμίσεις chunking, embedding ή retrieval.

2. Δεν υποστηρίζουμε ανάλυση εικόνων μέσα σε έγγραφα.

3. Δεν υποστηρίζουμε ανακτήσεις σε δομημένες μορφές αρχείων (όπως αρχεία .csv ή .jsonl). Δείτε τους υποστηριζόμενους τύπους αρχείων.

Ποια είναι τα όρια ρυθμού για το Assistants API;

Τα όρια ρυθμού για το Assistants API δεν συνδέονται με το επίπεδο χρήσης και το μοντέλο. Αντίθετα, υπάρχουν προεπιλεγμένα όρια ανά τύπο αιτήματος, με μερικές εξαιρέσεις:

• GET: 1000 RPM

• POST: 300 RPM

  • POST προς /v1/threads/<thread_id>/runs: 200 RPM

  • POST προς /v1/threads/runs: 200 RPM

• DELETE: 300 αιτήματα ανά λεπτό

Πώς τιμολογείται το Code Interpreter στο API;

Το Code Interpreter τιμολογείται με $0.03 / συνεδρία. Αν ο assistant σας καλεί το Code Interpreter ταυτόχρονα σε δύο διαφορετικά threads, αυτό θα δημιουργήσει δύο συνεδρίες Code Interpreter (2 * $0.03). Κάθε συνεδρία παραμένει ενεργή από προεπιλογή για μία ώρα, πράγμα που σημαίνει ότι θα πληρώσετε αυτή τη χρέωση μόνο μία φορά αν ο χρήστης σας συνεχίσει να δίνει οδηγίες στο Code Interpreter στο ίδιο thread για έως και μία ώρα.

Πώς τιμολογείται το File Search στο API;

Το File Search τιμολογείται με $0.10/GB αποθήκευσης vector store ανά ημέρα (το πρώτο GB αποθήκευσης είναι δωρεάν). Το μέγεθος του vector store βασίζεται στο τελικό μέγεθος του vector store αφού το αρχείο σας αναλυθεί, τεμαχιστεί και μετατραπεί σε embeddings.

Οποιαδήποτε vector stores δημιουργήθηκαν πριν από τις 17 Απριλίου 2024 θα είναι δωρεάν μέχρι το τέλος του 2024, μετά το οποίο είτε:

• Θα χρεώνονται με τις τρέχουσες τιμές (προς το παρόν $0.10/GB/ημέρα) αν έχουν χρησιμοποιηθεί τουλάχιστον μία φορά σε ένα Run που δημιουργήθηκε μετά τις 17 Απριλίου 2024.

• Θα διαγράφονται αν δεν έχουν χρησιμοποιηθεί ούτε σε ένα Run μεταξύ 17 Απριλίου 2024 και 31 Δεκεμβρίου 2024 — αυτό γίνεται για να αποφευχθεί να χρεωθείτε για vector stores που μπορεί να είχατε δημιουργήσει πριν ανακοινωθεί αυτή η αλλαγή τιμολόγησης αλλά δεν χρησιμοποιήσατε ποτέ.

Υπάρχει όριο στο πόσους assistants μπορώ να δημιουργήσω;

Δεν υπάρχει όριο στο πόσους assistants μπορεί να δημιουργήσει ένας οργανισμός.

Είναι διαθέσιμο το streaming στο API;

Ναι, το streaming είναι διαθέσιμο στο Assistants API.

Είναι διαθέσιμη η λειτουργία JSON στο Assistants API;

Ναι, η λειτουργία JSON είναι διαθέσιμη στο Assistants API μέσω της παραμέτρου response_format στα αντικείμενα Assistants ή Run.

Θα διαχειρίζεται επίσης το Assistants API αιτήματα για κλήσεις λειτουργιών τρίτων;

Όχι. Παρότι η κλήση λειτουργιών επιτρέπει στο μοντέλο να επιλέγει εργαλεία και να μορφοποιεί αιτήματα για αυτά, η εκτέλεση κλήσεων προς εργαλεία τρίτων δεν διαχειρίζεται από την OpenAI.

Πώς γίνεται ο χειρισμός των δεδομένων που στέλνω στην OpenAI;

Όπως και με την υπόλοιπη πλατφόρμα μας, τα δεδομένα και τα αρχεία που αποστέλλονται στο OpenAI API δεν χρησιμοποιούνται ποτέ για την εκπαίδευση των μοντέλων μας και μπορείτε να διαγράψετε τα δεδομένα σας όποτε το χρειαστείτε. Τα δεδομένα που μεταφορτώνονται στο Assistants API αποθηκεύονται επ' αόριστον μέχρι ένας χρήστης να τα διαγράψει χειροκίνητα.

Είναι διαθέσιμο το DALL-E μέσω του Assistants API;

Προς το παρόν, το DALL-E δεν είναι διαθέσιμο.

Υπάρχει UI για το Assistants API;

Μπορείτε να δείτε το Playground για το Assistants API. Βεβαιωθείτε ότι βρίσκεστε στην προβολή Assistants στην αριστερή πλαϊνή γραμμή και ότι χρησιμοποιείτε ένα μοντέλο συμβατό με τα Tools που θέλετε να ενεργοποιήσετε.

Ποιο είναι το όριο χαρακτήρων για τις οδηγίες assistant στο Assistants API;

Οι οδηγίες συστήματος που χρησιμοποιεί ο assistant έχουν μέγιστο μήκος 256.000 χαρακτήρων.

Λαμβάνω ένα σφάλμα όπως «Ο διακομιστής αντιμετώπισε σφάλμα κατά την επεξεργασία του αιτήματός σας. Λυπούμαστε γι’ αυτό! Μπορείτε να δοκιμάσετε ξανά το αίτημά σας ή να επικοινωνήσετε μαζί μας μέσω του κέντρου βοήθειας στο help.openai.com αν το σφάλμα επιμένει.» Τι πρέπει να κάνω;

Αν λαμβάνετε αυτό το σφάλμα, μπορεί να σημαίνει ότι η προτροπή σας δεν έχει ρυθμιστεί σωστά. Αν συνεχίζετε να δοκιμάζετε ξανά το αίτημα και αποτυγχάνει, ορίστε μερικά πράγματα που μπορείτε να δοκιμάσετε:

1. βεβαιωθείτε ότι θα αναδομήσετε την προτροπή σας ώστε να αντιμετωπίζει τυχόν εντολές τύπου function ως functions

2. προσθέστε τυχόν εντολές στην προτροπή σας ως function στο tools

Γιατί το εργαλείο File Search δεν λειτουργεί καλά;

Όταν χρησιμοποιείτε το εργαλείο File Search, συνιστούμε να ορίζετε το max_prompt_tokens σε όχι λιγότερα από 20.000. Για μεγαλύτερες συνομιλίες ή πολλαπλές αλληλεπιδράσεις με το File Search, εξετάστε το ενδεχόμενο να αυξήσετε αυτό το όριο σε 50.000 ή, ιδανικά, να αφαιρέσετε εντελώς τα όρια max_prompt_tokens ώστε να έχετε αποτελέσματα της υψηλότερης ποιότητας. Διαβάστε περισσότερα εδώ.

Πώς μπορώ να υποβάλω σχόλια;

Θα χαρούμε πολύ να ακούσουμε τα σχόλιά σας στο Developer Forum, μέσω του Κέντρου Βοήθειας στη διεύθυνση help.openai.com, ή στο Twitter @OpenAIDevs.