Hvordan fungerer Batch API-et?
Batch API-endepunktet, som er dokumentert her, lar brukere sende inn forespørsler for asynkron batchbehandling. Vi behandler disse forespørslene innen 24 timer. Detaljene for hver forespørsel leses fra en forhåndsopplastet fil, og svarene skrives til en utdatafil. Du kan spørre batchobjektet om statusoppdateringer og resultater.
Hva er prisene for Batch API-et?
Hver modell tilbys med 50 % kostnadsrabatt sammenlignet med de synkrone API-ene. Her er mer informasjon om API-prisene våre.
Hvilke modeller kan jeg batchbehandle?
Batch API-et er bredt tilgjengelig for de fleste av modellene våre, men ikke alle. Se referansedokumentasjonen for modeller for å forsikre deg om at modellen du bruker, støtter Batch API-et.
Hva skjer hvis API-et ikke fullfører forespørselen min innen den lovede tiden?
Vi sikter mot å behandle alle forespørsler innen 24 timer. Hvis en batch utløper (dvs. at den ikke kunne fullføres innen SLA-tidsvinduet), avbrytes gjenværende arbeid, og alt arbeid som allerede er fullført, returneres. Utviklere belastes for alt fullført arbeid.
Hva er grensen for hvor mange forespørsler jeg kan batchbehandle?
Embeddings-API-er har en grense på 1 million forespørsler i kø om gangen.
For alle andre API-er er det ingen grense for antall forespørsler du kan batchbehandle. Hvert bruksnivå har imidlertid en tilknyttet bruksgrense for batch. Bruksgrensen for batch inkluderer det maksimale antallet inndatatokener du har i kø samtidig. Du finner bruksgrensene dine her.
Kan jeg endre hvor lang tid det tar å få svar fra Batch API-et?
Det nåværende angitte tidsvinduet vårt er 24 timer. Vi kan for øyeblikket ikke endre denne tidsperioden.
Støttes strømming i Batch API-et?
Nei, strømming støttes ikke i Batch API-et. Batchforespørsler returnerer resultater via utdatafiler i stedet for strømmede svar.
Støttes bilder i Batch API-et?
Ja, bilder støttes i Batch API-et.
Jeg fikk feilmeldingen «The URL provided for this request does not prefix-match the batch endpoint». Hva bør jeg gjøre?
Hvis du får denne feilen, betyr det at URL-en din er feil formatert for Batch API-endepunktet. Se dokumentasjonen vår her for å forsikre deg om at du kaller endepunktet riktig.
Teller bruk av Batch API-et mot de andre bruksgrensene mine?
Bruksgrensene for Batch API-et er helt atskilt fra eksisterende grenser.
Hva skjer hvis en batch avbrytes?
Hvis en batch avbrytes manuelt, returneres de resultatene som allerede er fullført. Utviklere belastes for alt fullført arbeid.
Hva skjer hvis en batch utløper?
Hvis en batch utløper (dvs. at den ikke kunne fullføres innen SLA-tidsvinduet), avbrytes gjenværende arbeid, og alt arbeid som allerede er fullført, returneres. Utviklere belastes for alt fullført arbeid.
Hvilke statuser kan jeg forvente for batchjobber?
Batchjobben kan ha en av følgende statuser: Validerer, Mislyktes, Pågår, Ferdigstiller, Fullført, Utløpt, Avbryter og Avbrutt. Hvis du sjekker API-statusverdier programmatisk, bruker du litteralene med små bokstaver: validating, failed, in_progress, finalizing, completed, expired, cancelling og cancelled.
Validerer: Validering av den opplastede filen pågår før batchen kan starte.
Mislyktes: Filen besto ikke valideringsprosessen.
Pågår: Filen ble validert, og batchprosessen er i gang.
Ferdigstiller: Batchjobben er fullført, og resultatene klargjøres.
Fullført: Batchjobben er fullført, og resultatene er klare.
Utløpt: Batchen kunne ikke fullføres innen SLA-tidsvinduet.
Avbryter: Avbryting av batchjobben er startet.
Avbrutt: Batchjobben ble avbrutt.
Hvordan kan jeg sjekke hvilke batchjobber jeg allerede har opprettet?
Du kan hente en liste over alle batchjobbene dine ved å bruke API-kallet som er angitt her.
Støttes ingen oppbevaring av data på dette endepunktet?
Hvis du har aktivert ingen oppbevaring av data for organisasjonen din, må du være oppmerksom på at ingen oppbevaring av data ikke gjelder for Batch API-et. ZDR-organisasjoner kan opprette batchjobber, men batch-inndatafiler, utdata, feil og mellomliggende artefakter oppbevares i henhold til de konfigurerte oppbevaringsretningslinjene for Batch, File Service og Sediment.