Πώς λειτουργεί το Batch API;
Το τελικό σημείο του Batch API, όπως τεκμηριώνεται εδώ, επιτρέπει στους χρήστες να υποβάλλουν αιτήματα για ασύγχρονη επεξεργασία σε παρτίδες. Θα επεξεργαστούμε αυτά τα αιτήματα εντός 24 ωρών. Οι λεπτομέρειες κάθε αιτήματος θα διαβαστούν από ένα αρχείο που έχει μεταφορτωθεί εκ των προτέρων και οι αποκρίσεις θα εγγραφούν σε ένα αρχείο εξόδου. Μπορείτε να ελέγχετε το αντικείμενο batch για ενημερώσεις κατάστασης και αποτελέσματα.
Ποια είναι η τιμολόγηση για το Batch API;
Κάθε μοντέλο θα προσφέρεται με έκπτωση κόστους 50% σε σύγκριση με τα σύγχρονα API. Ακολουθούν περισσότερες πληροφορίες σχετικά με την τιμολόγηση του API μας.
Ποια μοντέλα μπορώ να χρησιμοποιήσω σε batch;
Το Batch API είναι ευρέως διαθέσιμο στα περισσότερα μοντέλα μας, αλλά όχι σε όλα. Ανατρέξτε στην τεκμηρίωση αναφοράς μοντέλων για να βεβαιωθείτε ότι το μοντέλο που χρησιμοποιείτε υποστηρίζει το Batch API.
Τι συμβαίνει αν το API δεν ολοκληρώσει το αίτημά μου εντός του υποσχεμένου χρόνου;
Στόχος μας είναι να ολοκληρώνουμε όλα τα αιτήματα εντός 24 ωρών. Αν ένα batch λήξει (δηλαδή δεν μπορεί να ολοκληρωθεί εντός του χρονικού παραθύρου SLA), τότε η εργασία που απομένει ακυρώνεται και επιστρέφεται ό,τι έχει ήδη ολοκληρωθεί. Οι προγραμματιστές θα χρεωθούν για κάθε εργασία που έχει ολοκληρωθεί.
Ποιο είναι το όριο στο πόσα αιτήματα μπορώ να βάλω σε batch;
Τα API Embeddings έχουν όριο 1 εκατομμύριο αιτήματα σε ουρά κάθε φορά.
Για όλα τα άλλα API, δεν υπάρχει όριο στον αριθμό των αιτημάτων που μπορείτε να βάλετε σε batch· ωστόσο, κάθε βαθμίδα χρήσης έχει ένα σχετικό όριο ρυθμού batch. Το όριο ρυθμού batch περιλαμβάνει τον μέγιστο αριθμό token εισόδου που έχετε θέσει σε ουρά ταυτόχρονα. Μπορείτε να βρείτε τα όρια ρυθμού σας εδώ.
Μπορώ να αλλάξω τον χρόνο που χρειάζεται για να λάβω απάντηση από το Batch API;
Το τρέχον καθορισμένο χρονικό παράθυρο είναι 24 ώρες. Προς το παρόν δεν μπορούμε να αλλάξουμε αυτή τη χρονική περίοδο.
Υποστηρίζεται το streaming στο Batch API;
Όχι, το streaming δεν υποστηρίζεται στο Batch API. Τα αιτήματα batch επιστρέφουν αποτελέσματα μέσω αρχείων εξόδου και όχι μέσω αποκρίσεων συνεχούς ροής.
Υποστηρίζονται εικόνες στο Batch API;
Ναι, οι εικόνες υποστηρίζονται στο Batch API.
Έλαβα το μήνυμα σφάλματος «The URL provided for this request does not prefix-match the batch endpoint». Τι πρέπει να κάνω;
Αν λάβετε αυτό το σφάλμα, σημαίνει ότι το URL σας έχει λανθασμένη μορφή για το τελικό σημείο του Batch API. Ανατρέξτε στην τεκμηρίωσή μας εδώ για να βεβαιωθείτε ότι καλείτε σωστά το τελικό σημείο.
Η χρήση του Batch API προσμετράται στα άλλα όρια ρυθμού μου;
Τα όρια ρυθμού του Batch API είναι εντελώς ξεχωριστά από τα υπάρχοντα όρια.
Τι συμβαίνει αν ένα batch ακυρωθεί;
Αν ένα batch ακυρωθεί χειροκίνητα, τότε επιστρέφονται όποια αποτελέσματα έχουν ήδη ολοκληρωθεί. Οι προγραμματιστές θα χρεωθούν για κάθε εργασία που έχει ολοκληρωθεί.
Τι συμβαίνει αν ένα batch λήξει;
Αν ένα batch λήξει (δηλαδή δεν μπορεί να ολοκληρωθεί εντός του χρονικού παραθύρου SLA), τότε η εργασία που απομένει ακυρώνεται και επιστρέφεται ό,τι έχει ήδη ολοκληρωθεί. Οι προγραμματιστές θα χρεωθούν για κάθε εργασία που έχει ολοκληρωθεί.
Ποιες καταστάσεις μπορώ να αναμένω στις εργασίες batch;
Η εργασία batch μπορεί να έχει οποιαδήποτε από τις ακόλουθες καταστάσεις: Validating, Failed, In Progress, Finalizing, Completed, Expired, Cancelling και Cancelled. Αν ελέγχετε τις τιμές κατάστασης του API μέσω προγραμματισμού, χρησιμοποιήστε τα πεζά literals: validating, failed, in_progress, finalizing, completed, expired, cancelling και cancelled.
Validating: Η επικύρωση του μεταφορτωμένου αρχείου βρίσκεται σε εξέλιξη πριν μπορέσει να ξεκινήσει το batch.
Failed: Το αρχείο απέτυχε στη διαδικασία επικύρωσης.
In Progress: Το αρχείο επικυρώθηκε επιτυχώς και η διαδικασία batch βρίσκεται σε εξέλιξη.
Finalizing: Η εργασία batch έχει ολοκληρωθεί και τα αποτελέσματα προετοιμάζονται.
Completed: Η εργασία batch έχει ολοκληρωθεί και τα αποτελέσματα είναι έτοιμα.
Expired: Το batch δεν μπόρεσε να ολοκληρωθεί εντός του χρονικού παραθύρου SLA.
Cancelling: Έχει ξεκινήσει η ακύρωση της εργασίας batch.
Cancelled: Η εργασία batch ακυρώθηκε.
Πώς μπορώ να ελέγξω ποιες εργασίες batch έχω ήδη δημιουργήσει;
Μπορείτε να λάβετε μια λίστα με όλες τις εργασίες batch χρησιμοποιώντας την κλήση API που καθορίζεται εδώ.
Υποστηρίζεται η μη διατήρηση δεδομένων σε αυτό το τελικό σημείο;
Αν έχετε ενεργοποιημένη τη μη διατήρηση δεδομένων για τον οργανισμό σας, σημειώστε ότι η μη διατήρηση δεδομένων δεν εφαρμόζεται στο Batch API. Οι οργανισμοί ZDR μπορούν να δημιουργούν εργασίες batch, αλλά τα αρχεία εισόδου batch, τα αποτελέσματα, τα σφάλματα και τα ενδιάμεσα artifacts διατηρούνται σύμφωνα με τις διαμορφωμένες πολιτικές διατήρησης των Batch, File Service και Sediment.