Miten Batch API toimii?
Batch API -endpointin avulla, kuten tässä on dokumentoitu, käyttäjät voivat lähettää pyyntöjä asynkroniseen eräkäsittelyyn. Käsittelemme nämä pyynnöt 24 tunnin kuluessa. Kunkin pyynnön tiedot luetaan etukäteen ladatusta tiedostosta, ja vastaukset kirjoitetaan tulostiedostoon. Voit tarkistaa batch-objektista tilapäivitykset ja tulokset.
Mikä on Batch API:n hinnoittelu?
Jokainen malli tarjotaan 50 % edullisemmin kuin synkroniset API:t. Tässä on lisätietoa API-hinnoittelustamme täällä.
Mitä malleja voin ajaa erissä?
Batch API on laajasti saatavilla useimmille malleillemme, mutta ei kaikille. Tarkista malliviitedokumentaatiosta, että käyttämäsi malli tukee Batch API:a.
Mitä tapahtuu, jos API ei suorita pyyntöäni luvatun ajan kuluessa?
Tavoitteenamme on käsitellä kaikki pyynnöt 24 tunnin kuluessa. Jos batch vanhenee (eli sitä ei voitu suorittaa SLA:n aikarajan puitteissa), jäljellä oleva työ perutaan ja jo valmistunut työ palautetaan. Kehittäjiltä veloitetaan kaikesta valmistuneesta työstä.
Mikä on enimmäismäärä pyyntöjä, jotka voin ajaa erissä?
Embeddings-APIeissa raja on 1 miljoona jonossa olevaa pyyntöä kerrallaan.
Kaikissa muissa APIeissa erissä ajettavien pyyntöjen määrälle ei ole rajaa. Kullakin käyttöportaalla on kuitenkin siihen liittyvä batch-nopeusraja. Batch-nopeusrajaasi sisältyy enimmäismäärä syötetokeneita, jotka ovat jonossa samanaikaisesti. Löydät nopeusrajasi täältä.
Voinko muuttaa sitä, kuinka nopeasti Batch API vastaa?
Tällä hetkellä määritetty aikaraja on 24 tuntia. Emme voi tällä hetkellä muuttaa tätä ajanjaksoa.
Tukeeko Batch API suoratoistoa?
Ei, Batch API ei tue suoratoistoa. Batch-pyynnöt palauttavat tulokset tulostiedostojen kautta suoratoistettujen vastausten sijaan.
Tuetaanko kuvia Batch API:ssa?
Kyllä, kuvia tuetaan Batch API:ssa.
Sain virheilmoituksen ”The URL provided for this request does not prefix-match the batch endpoint”. Mitä minun pitäisi tehdä?
Jos saat tämän virheen, URL-osoitteesi on muotoiltu väärin Batch API -endpointia varten. Tutustu dokumentaatioomme täällä varmistaaksesi, että kutsut endpointia oikein.
Lasketaanko Batch API:n käyttö mukaan muihin nopeusrajoihini?
Batch API:n nopeusrajat ovat täysin erillisiä nykyisistä rajoista.
Mitä tapahtuu, jos batch peruutetaan?
Jos batch peruutetaan manuaalisesti, kaikki jo valmistuneet tulokset palautetaan. Kehittäjiltä veloitetaan kaikesta valmistuneesta työstä.
Mitä tapahtuu, jos batch vanhenee?
Jos batch vanhenee (eli sitä ei voitu suorittaa SLA:n aikarajan puitteissa), jäljellä oleva työ perutaan ja jo valmistunut työ palautetaan. Kehittäjiltä veloitetaan kaikesta valmistuneesta työstä.
Mitä tiloja batch-töillä voi olla?
Batch-työllä voi olla mikä tahansa seuraavista tiloista: Validating, Failed, In Progress, Finalizing, Completed, Expired, Cancelling ja Cancelled. Jos tarkistat API-tila-arvoja ohjelmallisesti, käytä seuraavia pienaakkoslitteraaleja: validating, failed, in_progress, finalizing, completed, expired, cancelling ja cancelled.
Validating: Ladatun tiedoston validointi on käynnissä ennen kuin batch voi alkaa.
Failed: Tiedosto ei läpäissyt validointiprosessia.
In Progress: Tiedosto validoitiin onnistuneesti ja batch-prosessi on käynnissä.
Finalizing: Batch-työ on valmistunut ja tuloksia valmistellaan.
Completed: Batch-työ on valmis ja tulokset ovat saatavilla.
Expired: Batchia ei voitu suorittaa SLA:n aikarajan puitteissa.
Cancelling: Batch-työn peruutus on aloitettu.
Cancelled: Batch-työ peruutettiin.
Miten voin tarkistaa, mitkä batch-työt olen jo luonut?
Voit hakea luettelon kaikista batch-töistäsi käyttämällä tässä määritettyä API-kutsua.
Tuetaanko tällä endpointilla tietojen määräaikainen säilyttäminen -asetusta?
Jos organisaatiollasi on käytössä tietojen määräaikainen säilyttäminen, huomaa, että tietojen määräaikainen säilyttäminen ei koske Batch API:a. ZDR-organisaatiot voivat luoda batch-töitä, mutta batch-syötetiedostot, tulokset, virheet ja väliaikaiset artefaktit säilytetään määritettyjen Batch-, File Service- ja Sediment-säilytyskäytäntöjen mukaisesti.