Hvordan fungerer Batch API?
Batch API-endepunktet, som dokumentert her, lar brukere sende inn forespørsler om asynkron batchbehandling. Vi vil behandle disse forespørslene innen 24 timer. Detaljene for hver forespørsel blir lest fra en forhåndsopplastet fil, og svarene blir skrevet til en utdatafil. Du kan spørre batch-objektet om statusoppdateringer og resultater.
Hva er prisen for Batch API?
Hver modell vil tilbys med 50 % rabatt sammenlignet med de synkrone API-ene. Her finner du mer informasjon om API-prisene våre.
Hvilke modeller kan jeg bruke i batch?
Batch API er bredt tilgjengelig på tvers av de fleste av modellene våre, men ikke alle. Se referansedokumentasjonen for modeller for å sikre at modellen du bruker støtter Batch API.
Hva skjer hvis API-et ikke fullfører forespørselen min innen lovet tid?
Vi tar sikte på å behandle alle forespørsler innen 24 timer. Hvis en batch utløper (dvs. at den ikke kunne fullføres innen SLA-tidsvinduet), blir gjenstående arbeid kansellert og alt arbeid som allerede er fullført blir returnert. Utviklere blir belastet for alt fullført arbeid.
Hva er grensen for hvor mange forespørsler jeg kan batche?
Embeddings-API-er har en grense på 1 million forespørsler i kø om gangen.
For alle andre API-er er det ingen grense for hvor mange forespørsler du kan batche; hvert brukernivå har imidlertid en tilhørende batch-grense. Batch-grensen din inkluderer maksimalt antall inndatatoken du har satt i kø samtidig. Du finner grensene dine her.
Kan jeg endre hvor lang tid det tar før jeg får svar fra Batch API?
Det nåværende angitte tidsvinduet er 24 timer. Vi kan for øyeblikket ikke endre denne tidsperioden.
Støttes streaming i Batch API?
Nei, streaming støttes ikke i Batch API.
Støttes bilder i Batch API?
Ja, bilder støttes i Batch API.
Jeg fikk feilmeldingen «The URL provided for this request does not prefix-match the batch endpoint». Hva bør jeg gjøre?
Hvis du får denne feilen, betyr det at URL-en din er feil formatert for Batch API-endepunktet. Se dokumentasjonen vår her for å forsikre deg om at du kaller endepunktet riktig.
Teller bruk av Batch API mot de andre grenseverdiene mine?
Grenseverdiene for Batch API er helt separate fra eksisterende grenser.
Hva skjer hvis en batch blir kansellert?
Hvis en batch kanselleres manuelt, returneres de resultatene som allerede er fullført. Utviklere blir belastet for alt fullført arbeid.
Hva skjer hvis en batch utløper?
Hvis en batch utløper (dvs. at den ikke kunne fullføres innen SLA-tidsvinduet), blir gjenstående arbeid kansellert og alt arbeid som allerede er fullført blir returnert. Utviklere blir belastet for alt fullført arbeid.
Hvilke statuser kan jeg forvente på batchjobber?
Batchjobben kan ha en av følgende statuser:
Validating: Validering av den opplastede filen pågår før batchen kan starte.
Failed: Filen besto ikke valideringsprosessen.
In Progress: Filen ble validert og batchprosessen er i gang.
Finalizing: Batchjobben er fullført og resultatene blir klargjort.
Completed: Batchjobben er fullført og resultatene er klare.
Expired: Batchen kunne ikke fullføres innen SLA-tidsvinduet.
Canceling: Kansellering av batchjobben er startet.
Canceled: Batchjobben ble kansellert.
Hvordan kan jeg sjekke hvilke batchjobber jeg allerede har opprettet?
Du kan få en liste over alle batchjobbene dine ved å bruke API-kallet som er angitt her.
Støttes ingen oppbevaring av data på dette endepunktet?
Hvis du har aktivert ingen oppbevaring av data for organisasjonen din, vær oppmerksom på at ingen oppbevaring av data ikke støttes på dette endepunktet.