Hogyan működik a Batch API?
A Batch API végpontja, amelynek dokumentációja itt található, lehetővé teszi a felhasználók számára, hogy aszinkron batch-feldolgozásra küldjenek be kéréseket. Ezeket a kéréseket 24 órán belül feldolgozzuk. Az egyes kérések részleteit egy előre feltöltött fájlból olvassuk be, a válaszokat pedig egy kimeneti fájlba írjuk. A batch objektum lekérdezésével állapotfrissítéseket és eredményeket kaphat.
Milyen a Batch API árazása?
Minden modellt 50%-os költségkedvezménnyel kínálunk a szinkron API-khoz képest. API-árazásunkról további információ található itt.
Mely modellekkel használhatom a batch-feldolgozást?
A Batch API a legtöbb modellünk esetében széles körben elérhető, de nem mindegyiknél. Kérjük, tekintse meg a modellreferencia-dokumentációt, hogy megbizonyosodjon arról, hogy az Ön által használt modell támogatja a Batch API-t.
Mi történik, ha az API nem fejezi be a kérésemet az ígért időn belül?
Célunk, hogy minden kérést 24 órán belül feldolgozzunk. Ha egy batch lejár (azaz nem sikerült befejezni az SLA-időablakon belül), akkor a fennmaradó munkát megszakítjuk, és a már elkészült munkát visszaküldjük. A fejlesztőknek minden elvégzett munkáért díjat számítunk fel.
Mekkora a korlát arra, hogy hány kérést küldhetek batch-ben?
Az Embeddings API-k esetében egyszerre legfeljebb 1 millió sorba állított kérés lehet.
Minden más API esetében nincs korlátja annak, hány kérést küldhet batch-ben; azonban minden használati szinthez tartozik egy batch használati korlát. A batch használati korlátja magában foglalja az egyszerre sorba állított bemeneti tokenek maximális számát. A használati korlátait itt találja.
Módosíthatom, mennyi időbe telik, amíg választ kapok a Batch API-tól?
A jelenleg meghatározott időablak 24 óra. Jelenleg nem tudjuk módosítani ezt az időtartamot.
Támogatott a streamelés a Batch API-ban?
Nem, a Batch API nem támogatja a streamelést. A batch-kérések az eredményeket kimeneti fájlokban adják vissza, nem streamelt válaszokként.
Támogatja a Batch API a képeket?
Igen, a Batch API támogatja a képeket.
A „The URL provided for this request does not prefix-match the batch endpoint” hibaüzenetet kaptam. Mit tegyek?
Ha ezt a hibát kapja, az azt jelenti, hogy az URL-je helytelenül van formázva a Batch API végpontjához. Kérjük, tekintse meg itt a dokumentációnkat, hogy megbizonyosodjon róla: helyesen hívja meg a végpontot.
A Batch API használata beleszámít a többi használati korlátomba?
A Batch API használati korlátai teljesen elkülönülnek a meglévő korlátoktól.
Mi történik, ha egy batch-et megszakítanak?
Ha egy batch-et manuálisan megszakítanak, a már elkészült eredményeket visszaküldjük. A fejlesztőknek minden elvégzett munkáért díjat számítunk fel.
Mi történik, ha egy batch lejár?
Ha egy batch lejár (azaz nem sikerült befejezni az SLA-időablakon belül), akkor a fennmaradó munkát megszakítjuk, és a már elkészült munkát visszaküldjük. A fejlesztőknek minden elvégzett munkáért díjat számítunk fel.
Milyen állapotokra számíthatok a batch-feladatoknál?
A batch-feladat a következő állapotok bármelyikében lehet: Validating, Failed, In Progress, Finalizing, Completed, Expired, Cancelling és Cancelled. Ha programozottan ellenőrzi az API állapotértékeit, használja a kisbetűs literálokat: validating, failed, in_progress, finalizing, completed, expired, cancelling és cancelled.
Validating: A feltöltött fájl érvényesítése folyamatban van, mielőtt a batch elindulhat.
Failed: A fájl nem ment át az érvényesítési folyamaton.
In Progress: A fájl érvényesítése sikeres volt, és a batch-folyamat már fut.
Finalizing: A batch-feladat befejeződött, és az eredmények előkészítése folyamatban van.
Completed: A batch-feladat befejeződött, és az eredmények készen állnak.
Expired: A batch nem fejeződött be az SLA-időablakon belül.
Cancelling: A batch-feladat megszakítása elindult.
Cancelled: A batch-feladatot megszakították.
Hogyan ellenőrizhetem, mely batch-feladatokat hoztam már létre?
Az összes batch-feladatáról listát kaphat az itt megadott API-hívással.
Támogatott a zéró adatmegőrzés ezen a végponton?
Ha a szervezeténél engedélyezve van a zéró adatmegőrzés, kérjük, vegye figyelembe, hogy a zéró adatmegőrzés nem vonatkozik a Batch API-ra. A ZDR-szervezetek létrehozhatnak batch-feladatokat, de a batch bemeneti fájljait, kimeneteit, hibáit és köztes artefaktumait a konfigurált Batch-, File Service- és Sediment-megőrzési szabályzatok szerint őrizzük meg.