Kuidas Batch API töötab?
Batch API lõpp-punkt, nagu on dokumenteeritud siin, võimaldab kasutajatel esitada taotlusi asünkroonseks pakktöötluseks. Töötleme need taotlused 24 tunni jooksul. Iga taotluse üksikasjad loetakse eelnevalt üles laaditud failist ja vastused kirjutatakse väljundfaili. Saate pärida paketiobjektilt olekuvärskendusi ja tulemusi.
Milline on Batch API hinnastamine?
Iga mudelit pakutakse 50% kulusoodustusega võrreldes sünkroonsete API-dega. Meie API hinnastamise kohta leiate lisateavet siit.
Milliseid mudeleid saan pakettidena töödelda?
Batch API on laialdaselt saadaval enamiku meie mudelite jaoks, kuid mitte kõigi jaoks. Vaadake mudelite viitedokumente, et veenduda, et kasutatav mudel toetab Batch API-t.
Mis juhtub, kui API ei täida minu taotlust lubatud aja jooksul?
Meie eesmärk on täita kõik taotlused 24 tunni jooksul. Kui pakett aegub (st seda ei õnnestunud SLA ajavahemiku jooksul lõpule viia), tühistatakse pooleliolev töö ja tagastatakse juba lõpetatud töö tulemused. Arendajatelt võetakse tasu kogu lõpetatud töö eest.
Mis on piirang sellele, mitu taotlust saan ühte paketti panna?
Embeddings API-del on korraga järjekorras olevate taotluste piirang 1 miljon.
Kõigi muude API-de puhul ei ole paketti lisatavate taotluste arvul piirangut; siiski on igal kasutustasemel seotud paketi kiiruse piirang. Teie paketi kiiruse piirang hõlmab maksimaalset sisendtokenite arvu, mis teil on korraga järjekorras. Oma kiiruse piirangud leiate siit.
Kas saan muuta aega, mis kulub Batch API-lt vastuse saamiseks?
Meie praegu määratud ajaaken on 24 tundi. Praegu ei saa me seda ajavahemikku muuta.
Kas Batch API toetab voogedastust?
Ei, Batch API ei toeta voogedastust. Pakettaotlused tagastavad tulemused väljundfailide kaudu, mitte voogedastatud vastustena.
Kas Batch API toetab pilte?
Jah, Batch API toetab pilte.
Sain veateate „The URL provided for this request does not prefix-match the batch endpoint”. Mida peaksin tegema?
Kui saate selle vea, tähendab see, et teie URL on Batch API lõpp-punkti jaoks valesti vormindatud. Vaadake meie dokumentatsiooni siin, et veenduda, et kutsute lõpp-punkti õigesti välja.
Kas Batch API kasutamine arvestatakse minu muude kiiruse piirangute hulka?
Batch API kiiruse piirangud on olemasolevatest piirangutest täiesti eraldi.
Mis juhtub, kui pakett tühistatakse?
Kui pakett tühistatakse käsitsi, tagastatakse kõik juba valminud tulemused. Arendajatelt võetakse tasu kogu lõpetatud töö eest.
Mis juhtub, kui pakett aegub?
Kui pakett aegub (st seda ei õnnestunud SLA ajavahemiku jooksul lõpule viia), tühistatakse pooleliolev töö ja tagastatakse juba lõpetatud töö tulemused. Arendajatelt võetakse tasu kogu lõpetatud töö eest.
Milliseid olekuid võin pakktöödel oodata?
Pakktööl võib olla mõni järgmistest olekutest: valideerimine, nurjunud, töös, lõpetamine, lõpetatud, aegunud, tühistamine ja tühistatud. Kui kontrollite API olekuväärtusi programmiliselt, kasutage väiketähtedes literaale: validating, failed, in_progress, finalizing, completed, expired, cancelling ja cancelled.
Valideerimine: Üles laaditud faili valideerimine on enne paketi alustamist pooleli.
Nurjunud: Fail ei läbinud valideerimisprotsessi.
Töös: Fail valideeriti edukalt ja paketiprotsess on käimas.
Lõpetamine: Pakktöö on lõpule jõudnud ja tulemusi valmistatakse ette.
Lõpetatud: Pakktöö on lõpetatud ja tulemused on valmis.
Aegunud: Paketti ei õnnestunud SLA ajaaknas lõpule viia.
Tühistamine: Pakktöö tühistamine on algatatud.
Tühistatud: Pakktöö tühistati.
Kuidas saan kontrollida, millised pakktööd olen juba loonud?
Saate kõigi oma pakktööde loendi hankida siin määratud API-kutse abil.
Kas selles lõpp-punktis toetatakse põhimõtet „andmeid ei säilitata”?
Kui teie organisatsioonis on lubatud säte „andmeid ei säilitata”, pange tähele, et „andmeid ei säilitata” ei kehti Batch API-le. ZDR-organisatsioonid saavad luua pakktöid, kuid paketi sisendfailid, väljundid, vead ja vaheartefaktid säilitatakse vastavalt konfigureeritud Batchi, File Service'i ja Sedimenti säilituspoliitikatele.