Kako funkcioniše Batch API?
Krajnja tačka Batch API-ja, dokumentovana ovdje, omogućava korisnicima da šalju zahtjeve za asinhronu grupnu obradu. Ove zahtjeve ćemo obraditi u roku od 24 sata. Detalji svakog zahtjeva čitat će se iz unaprijed otpremljene datoteke, a odgovori će biti zapisani u izlaznu datoteku. Možete upitati batch objekat za ažuriranja statusa i rezultate.
Koja je cijena za Batch API?
Svaki model bit će ponuđen uz 50% popusta na cijenu u odnosu na sinhrone API-je. Evo više informacija o cijenama našeg API-ja.
Koje modele mogu obrađivati u batchu?
Batch API je široko dostupan za većinu naših modela, ali ne za sve. Pogledajte referentnu dokumentaciju za modele kako biste se uvjerili da model koji koristite podržava Batch API.
Šta se dešava ako API ne dovrši moj zahtjev u obećanom roku?
Nastojimo obraditi sve zahtjeve u roku od 24 sata. Ako batch istekne (tj. nije mogao biti završen unutar SLA vremenskog okvira), preostali rad se otkazuje, a sav već završeni rad se vraća. Programerima će biti naplaćen sav završeni rad.
Koje je ograničenje broja zahtjeva koje mogu poslati u batchu?
Embeddings API-ji imaju ograničenje od 1 milion zahtjeva u redu čekanja odjednom.
Za sve ostale API-je nema ograničenja broja zahtjeva koje možete poslati u batchu; međutim, svaki nivo korištenja ima povezano batch ograničenje brzine. Vaše batch ograničenje brzine uključuje maksimalan broj ulaznih tokena koje imate u redu čekanja odjednom. Svoja ograničenja brzine možete pronaći ovdje.
Mogu li promijeniti vrijeme potrebno da dobijem odgovor od Batch API-ja?
Naš trenutno navedeni vremenski okvir je 24 sata. Trenutno ne možemo promijeniti taj vremenski period.
Da li je streaming podržan na Batch API-ju?
Ne, streaming nije podržan na Batch API-ju. Batch zahtjevi vraćaju rezultate putem izlaznih datoteka, a ne kao streamovane odgovore.
Da li su slike podržane na Batch API-ju?
Da, slike su podržane na Batch API-ju.
Dobio sam poruku o grešci “The URL provided for this request does not prefix-match the batch endpoint”. Šta trebam uraditi?
Ako dobijete ovu grešku, to znači da je vaš URL neispravno formatiran za krajnju tačku Batch API-ja. Pogledajte našu dokumentaciju ovdje kako biste bili sigurni da ispravno pozivate krajnju tačku.
Da li se korištenje Batch API-ja računa u moja druga ograničenja brzine?
Ograničenja brzine za Batch API potpuno su odvojena od postojećih ograničenja.
Šta se dešava ako se batch otkaže?
Ako se batch ručno otkaže, vraćaju se svi rezultati koji su već završeni. Programerima će biti naplaćen sav završeni rad.
Šta se dešava ako batch istekne?
Ako batch istekne (tj. nije mogao biti završen unutar SLA vremenskog okvira), preostali rad se otkazuje, a sav već završeni rad se vraća. Programerima će biti naplaćen sav završeni rad.
Koje statuse mogu očekivati za batch poslove?
Batch posao može imati bilo koji od sljedećih statusa: Validacija, Neuspjelo, U toku, Dovršavanje, Završeno, Isteklo, Otkazivanje i Otkazano. Ako programski provjeravate vrijednosti statusa API-ja, koristite literale malim slovima: validating, failed, in_progress, finalizing, completed, expired, cancelling i cancelled.
Validacija: Validacija otpremljene datoteke je u toku prije nego što batch može početi.
Neuspjelo: Datoteka nije prošla proces validacije.
U toku: Datoteka je uspješno validirana i batch proces je u toku.
Dovršavanje: Batch posao je završen i rezultati se pripremaju.
Završeno: Batch posao je završen i rezultati su spremni.
Isteklo: Batch nije mogao biti završen unutar SLA vremenskog okvira.
Otkazivanje: Pokrenuto je otkazivanje batch posla.
Otkazano: Batch posao je otkazan.
Kako mogu provjeriti koje sam batch poslove već kreirao?
Listu svih svojih batch poslova možete dobiti pomoću API poziva navedenog ovdje.
Da li je bez zadržavanja podataka podržano na ovoj krajnjoj tački?
Ako je za vašu organizaciju omogućeno bez zadržavanja podataka, imajte na umu da se bez zadržavanja podataka ne primjenjuje na Batch API. ZDR organizacije mogu kreirati batch poslove, ali se batch ulazne datoteke, izlazi, greške i međuartefakti zadržavaju u skladu s konfiguriranim pravilima zadržavanja za Batch, File Service i Sediment.