Hvordan fungerer Batch API'en?
Batch API-endepunktet, som dokumenteret her, giver brugere mulighed for at indsende anmodninger til asynkron batchbehandling. Vi behandler disse anmodninger inden for 24 timer. Detaljerne for hver anmodning læses fra en fil, der er uploadet på forhånd, og svarene skrives til en outputfil. Du kan forespørge batchobjektet for statusopdateringer og resultater.
Hvad er prisen for Batch API'en?
Hver model tilbydes med 50 % rabat på omkostningerne sammenlignet med de synkrone API'er. Her er mere information om vores API-priser.
Hvilke modeller kan jeg batche?
Batch API'en er bredt tilgængelig på tværs af de fleste af vores modeller, men ikke alle. Se referencedokumentationen for modeller for at sikre, at den model, du bruger, understøtter Batch API'en.
Hvad sker der, hvis API'en ikke fuldfører min anmodning inden for den lovede tid?
Vi tilstræber at behandle alle anmodninger inden for 24 timer. Hvis en batch udløber (dvs. den ikke kunne fuldføres inden for SLA-tidsvinduet), annulleres resterende arbejde, og alt allerede fuldført arbejde returneres. Udviklere bliver opkrævet betaling for alt fuldført arbejde.
Hvad er grænsen for, hvor mange anmodninger jeg kan batche?
Embeddings-API'er har en grænse på 1 million anmodninger i kø ad gangen.
For alle andre API'er er der ingen grænse for antallet af anmodninger, du kan batche; hvert forbrugsniveau har dog en tilknyttet batchbrugsgrænse. Din batchbrugsgrænse omfatter det maksimale antal inputtokens, du har i kø på én gang. Du kan finde dine brugsgrænser her.
Kan jeg ændre, hvor lang tid det tager at få svar fra Batch API'en?
Vores aktuelt angivne tidsvindue er 24 timer. Vi kan i øjeblikket ikke ændre denne tidsperiode.
Understøttes streaming i Batch API'en?
Nej, streaming understøttes ikke i Batch API'en. Batchanmodninger returnerer resultater via outputfiler i stedet for streamede svar.
Understøttes billeder i Batch API'en?
Ja, billeder understøttes i Batch API'en.
Jeg fik fejlmeddelelsen “The URL provided for this request does not prefix-match the batch endpoint”. Hvad skal jeg gøre?
Hvis du får denne fejl, betyder det, at din URL er formateret forkert til Batch API-endepunktet. Se vores dokumentation her for at sikre, at du kalder endepunktet korrekt.
Tæller brug af Batch API'en med i mine andre brugsgrænser?
Batch API-brugsgrænser er helt adskilt fra eksisterende grænser.
Hvad sker der, hvis en batch annulleres?
Hvis en batch annulleres manuelt, returneres de resultater, der allerede er fuldført. Udviklere bliver opkrævet betaling for alt fuldført arbejde.
Hvad sker der, hvis en batch udløber?
Hvis en batch udløber (dvs. den ikke kunne fuldføres inden for SLA-tidsvinduet), annulleres resterende arbejde, og alt allerede fuldført arbejde returneres. Udviklere bliver opkrævet betaling for alt fuldført arbejde.
Hvilke statusser kan jeg forvente for batchjobs?
Batchjobbet kan have en af følgende statusser: Validerer, Mislykket, I gang, Afslutter, Fuldført, Udløbet, Annullerer og Annulleret. Hvis du kontrollerer API-statusværdier programmatisk, skal du bruge litteralerne med små bogstaver: validating, failed, in_progress, finalizing, completed, expired, cancelling og cancelled.
Validerer: Validering af den uploadede fil er i gang, før batchen kan starte.
Mislykket: Filen gennemførte ikke valideringsprocessen.
I gang: Filen blev valideret, og batchprocessen er i gang.
Afslutter: Batchjobbet er fuldført, og resultaterne forberedes.
Fuldført: Batchjobbet er fuldført, og resultaterne er klar.
Udløbet: Batchen kunne ikke fuldføres inden for SLA-tidsvinduet.
Annullerer: Annullering af batchjobbet er blevet startet.
Annulleret: Batchjobbet blev annulleret.
Hvordan kan jeg se, hvilke batchjobs jeg allerede har oprettet?
Du kan få en liste over alle dine batchjobs ved hjælp af det API-kald, der er angivet her.
Understøttes ingen datalagring på dette endepunkt?
Hvis ingen datalagring er aktiveret for din organisation, skal du være opmærksom på, at ingen datalagring ikke gælder for Batch API'en. ZDR-organisationer kan oprette batchjobs, men batchinputfiler, outputs, fejl og mellemliggende artefakter opbevares i henhold til de konfigurerede opbevaringspolitikker for Batch, File Service og Sediment.