Si funksionon Batch API-ja?
Pika fundore e Batch API-së, siç dokumentohet këtu, u lejon përdoruesve të paraqesin kërkesa për përpunim batch asinkron. Ne do t’i përpunojmë këto kërkesa brenda 24 orësh. Detajet e çdo kërkese do të lexohen nga një skedar i ngarkuar paraprakisht dhe përgjigjet do të shkruhen në një skedar dalës. Mund të kërkoni objektin batch për përditësime statusi dhe rezultate.
Cili është çmimi për Batch API-në?
Çdo model do të ofrohet me 50% zbritje të kostos krahasuar me API-të sinkrone. Ja më shumë informacion lidhur me çmimet tona të API-së.
Cilat modele mund t’i përdor në batch?
Batch API është gjerësisht e disponueshme në shumicën e modeleve tona, por jo në të gjitha. Ju lutemi referojuni dokumenteve referuese të modeleve për t’u siguruar që modeli që po përdorni e mbështet Batch API-në.
Çfarë ndodh nëse API-ja nuk e përfundon kërkesën time brenda kohës së premtuar?
Synojmë t’i përpunojmë të gjitha kërkesat brenda 24 orësh. Nëse një batch skadon (d.m.th. nuk mundi të përfundohej brenda dritares kohore të SLA-së), atëherë puna e mbetur anulohet dhe kthehet çdo punë tashmë e përfunduar. Zhvilluesit do të tarifohen për çdo punë të përfunduar.
Cili është kufiri për sa kërkesa mund të dërgoj në batch?
API-të e embeddings kanë një kufi prej 1 milion kërkesash në radhë njëherësh.
Për të gjitha API-të e tjera, nuk ka kufi për numrin e kërkesave që mund të dërgoni në batch; megjithatë, çdo nivel përdorimi ka një kufi të normës për batch të lidhur me të. Kufiri juaj i normës për batch përfshin numrin maksimal të tokenëve të hyrjes që keni në radhë në një moment. Kufijtë tuaj të normës mund t’i gjeni këtu.
A mund ta ndryshoj kohën që duhet për të marrë përgjigje nga Batch API?
Dritarja jonë kohore e specifikuar aktualisht është 24 orë. Aktualisht nuk mund ta ndryshojmë këtë periudhë kohore.
A mbështetet streaming-u në Batch API?
Jo, streaming-u nuk mbështetet në Batch API. Kërkesat batch i kthejnë rezultatet përmes skedarëve dalës, jo përmes përgjigjeve të transmetuara.
A mbështeten imazhet në Batch API?
Po, imazhet mbështeten në Batch API.
Mora mesazhin e gabimit “The URL provided for this request does not prefix-match the batch endpoint”. Çfarë duhet të bëj?
Nëse merrni këtë gabim, kjo do të thotë se URL-ja juaj është formatuar gabimisht për pikën fundore të Batch API-së. Ju lutemi referojuni dokumentacionit tonë këtu për t’u siguruar që po e thërrisni saktë pikën fundore.
A llogaritet përdorimi i Batch API-së kundrejt kufijve të tjerë të normës?
Kufijtë e normës për Batch API-në janë plotësisht të ndarë nga kufijtë ekzistues.
Çfarë ndodh nëse anulohet një batch?
Nëse një batch anulohet manualisht, atëherë kthehen rezultatet që janë përfunduar tashmë. Zhvilluesit do të tarifohen për çdo punë të përfunduar.
Çfarë ndodh nëse një batch skadon?
Nëse një batch skadon (d.m.th. nuk mundi të përfundohej brenda dritares kohore të SLA-së), atëherë puna e mbetur anulohet dhe kthehet çdo punë tashmë e përfunduar. Zhvilluesit do të tarifohen për çdo punë të përfunduar.
Çfarë statusesh mund të pres për punët batch?
Puna batch mund të ketë cilindo nga statuset e mëposhtme: Në validim, Dështuar, Në progres, Në finalizim, Përfunduar, Skaduar, Në anulim dhe Anuluar. Nëse po kontrolloni vlerat e statusit të API-së në mënyrë programatike, përdorni literalet me shkronja të vogla: validating, failed, in_progress, finalizing, completed, expired, cancelling dhe cancelled.
Në validim: Validimi i skedarit të ngarkuar është në proces përpara se batch-i të mund të fillojë.
Dështuar: Skedari ka dështuar në procesin e validimit.
Në progres: Skedari u validua me sukses dhe procesi batch është në zhvillim.
Në finalizim: Puna batch ka përfunduar dhe rezultatet po përgatiten.
Përfunduar: Puna batch ka përfunduar dhe rezultatet janë gati.
Skaduar: Batch-i nuk mundi të përfundohej brenda dritares kohore të SLA-së.
Në anulim: Anulimi i punës batch është nisur.
Anuluar: Puna batch u anulua.
Si mund të kontrolloj cilat punë batch kam krijuar tashmë?
Mund të merrni një listë të të gjitha punëve tuaja batch duke përdorur thirrjen e API-së të specifikuar këtu.
A mbështetet pa mbajtje të dhënash në këtë pikë fundore?
Nëse keni të aktivizuar pa mbajtje të dhënash për organizatën tuaj, ju lutemi vini re se pa mbajtje të dhënash nuk zbatohet për Batch API-në. Organizatat ZDR mund të krijojnë punë batch, por skedarët hyrës batch, daljet, gabimet dhe artefaktet e ndërmjetme ruhen sipas politikave të konfiguruara të mbajtjes për Batch, File Service dhe Sediment.