Hogyan működik a Batch API?
A Batch API-végpont, ahogy az itt dokumentálva van, lehetővé teszi a felhasználók számára, hogy kéréseket küldjenek be aszinkron kötegelt feldolgozásra. Ezeket a kéréseket 24 órán belül feldolgozzuk. Az egyes kérések részleteit egy előre feltöltött fájlból olvassuk ki, a válaszokat pedig egy kimeneti fájlba írjuk. Az állapotfrissítésekért és az eredményekért lekérdezheti a batch objektumot.
Milyen árazás vonatkozik a Batch API-ra?
Minden modell 50%-os költségkedvezménnyel érhető el a szinkron API-khoz képest. Az API-árazásunkról további információ itt található.
Mely modelleket használhatom batchben?
A Batch API széles körben elérhető a legtöbb modellünknél, de nem mindegyiknél. Kérjük, tekintse meg a modellreferencia-dokumentációt, hogy megbizonyosodjon arról, hogy az Ön által használt modell támogatja a Batch API-t.
Mi történik, ha az API nem teljesíti a kérésemet az ígért időn belül?
Célunk, hogy minden kérést 24 órán belül teljesítsünk. Ha egy batch lejár (azaz nem lehetett befejezni az SLA-időablakon belül), akkor a fennmaradó munka törlődik, és a már elkészült munka visszaadásra kerül. A fejlesztőknek a befejezett munkáért díjat számítunk fel.
Mi a felső határa annak, hogy hány kérést kötegelhetek?
Az Embeddings API-k esetében egyszerre legfeljebb 1 millió sorba állított kérés lehet.
Minden más API esetében nincs korlátja annak, hogy hány kérést kötegelhet; ugyanakkor minden használati szinthez tartozik egy batch sebességkorlát. A batch sebességkorlát tartalmazza az egyszerre sorba állított bemeneti tokenek maximális számát. A sebességkorlátokat itt találja.
Módosíthatom, mennyi idő alatt kapok választ a Batch API-tól?
A jelenleg megadott időablak 24 óra. Jelenleg ezt az időtartamot nem tudjuk megváltoztatni.
Támogatott a streaming a Batch API-ban?
Nem, a streaming nem támogatott a Batch API-ban.
Támogatottak a képek a Batch API-ban?
Igen, a képek támogatottak a Batch API-ban.
A következő hibaüzenetet kaptam: „The URL provided for this request does not prefix-match the batch endpoint”. Mit tegyek?
Ha ezt a hibát kapja, az azt jelenti, hogy az URL helytelenül van formázva a Batch API-végponthoz. Kérjük, tekintse meg a dokumentációnkat itt, hogy megbizonyosodjon arról, hogy helyesen hívja meg a végpontot.
A Batch API használata beleszámít a többi sebességkorlátomba?
A Batch API sebességkorlátai teljesen elkülönülnek a meglévő korlátoktól.
Mi történik, ha egy batch törlésre kerül?
Ha egy batch manuálisan törlésre kerül, akkor a már elkészült eredmények visszaadásra kerülnek. A fejlesztőknek a befejezett munkáért díjat számítunk fel.
Mi történik, ha egy batch lejár?
Ha egy batch lejár (azaz nem lehetett befejezni az SLA-időablakon belül), akkor a fennmaradó munka törlődik, és a már elkészült munka visszaadásra kerül. A fejlesztőknek a befejezett munkáért díjat számítunk fel.
Milyen állapotokra számíthatok a batch feladatoknál?
A batch feladat az alábbi állapotok bármelyikében lehet:
Validating: A feltöltött fájl ellenőrzése folyamatban van, mielőtt a batch elindulhatna.
Failed: A fájl nem ment át az ellenőrzési folyamaton.
In Progress: A fájl ellenőrzése sikeresen befejeződött, és a batch feldolgozása folyamatban van.
Finalizing: A batch feladat befejeződött, és az eredmények előkészítése folyamatban van.
Completed: A batch feladat elkészült, és az eredmények készen állnak.
Expired: A batch nem készült el az SLA-időablakon belül.
Canceling: A batch feladat törlése elindult.
Canceled: A batch feladat törölve lett.
Hogyan ellenőrizhetem, mely batch feladatokat hoztam már létre?
Az összes batch feladat listáját az itt megadott API-hívással kérheti le.
Támogatott a zéró adatmegőrzés ezen a végponton?
Ha a szervezeténél engedélyezve van a zéró adatmegőrzés, kérjük, vegye figyelembe, hogy a zéró adatmegőrzés ezen a végponton nem támogatott.