Kif taħdem l-API tal-Batch?
Il-punt ta' tmiem tal-API tal-Batch, kif dokumentat hawn, jippermetti lill-utenti jissottomettu talbiet għal ipproċessar batch mhux sinkroniku. Aħna nipproċessaw dawn it-talbiet fi żmien 24 siegħa. Id-dettalji ta’ kull talba jinqraw minn fajl imtella’ minn qabel, u t-tweġibiet jinkitbu f’fajl tal-output. Tista’ tfittex fl-oġġett batch għal aġġornamenti tal-istatus u riżultati.
X’inhu l-ipprezzar għall-API tal-Batch?
Kull mudell se jiġi offrut bi skont ta’ 50% fuq l-ispiża meta mqabbel mal-APIs sinkroniċi. Hawn aktar informazzjoni dwar l-ipprezzar tal-API tagħna.
Liema mudelli nista’ nuża f’batch?
L-API tal-Batch hija disponibbli b’mod wiesa’ f’ħafna mill-mudelli tagħna, iżda mhux kollha. Jekk jogħġbok irreferi għad-dokumenti ta’ referenza tal-mudelli biex tiżgura li l-mudell li qed tuża jappoġġja l-API tal-Batch.
X'jiġri jekk l-API ma tlestix it-talba tiegħi fiż-żmien imwiegħed?
L-għan tagħna hu li nipproċessaw it-talbiet kollha fi żmien 24 siegħa. Jekk lott jiskadi (jiġifieri ma jkunx seta' jitlesta fiż-żmien stipulat fl-SLA), ix-xogħol li jkun fadal jiġi kkanċellat u jintbagħat lura kull xogħol li jkun diġà tlesta. L-iżviluppaturi jiġu ċċarġjati għal kull xogħol li jkun tlesta.
X’inhu l-limitu ta’ kemm talbiet nista’ nagħmel f’batch?
L-APIs tal-embeddings għandhom limitu ta’ miljun talba fil-kju kull darba.
Għall-APIs l-oħra kollha, m’hemm l-ebda limitu fuq in-numru ta’ talbiet li tista’ tagħmel f’batch; madankollu, kull livell ta’ użu għandu limitu tal-veloċità batch assoċjat. Il-limitu tal-veloċità batch tiegħek jinkludi n-numru massimu ta’ tokens tal-input li għandek fil-kju f’ħin wieħed. Tista’ ssib il-limiti tal-veloċità tiegħek hawn.
Nista’ nbiddel iż-żmien li jieħu biex nirċievi tweġiba mill-API tal-Batch?
It-tieqa ta’ żmien speċifikata attwali tagħna hija ta’ 24 siegħa. Bħalissa ma nistgħux nibdlu dan il-perjodu ta’ żmien.
L-istreaming huwa appoġġjat fuq l-API tal-Batch?
Le, l-istreaming mhuwiex appoġġjat fuq l-API tal-Batch. It-talbiet batch jirritornaw ir-riżultati permezz ta’ fajls tal-output minflok tweġibiet streamjati.
L-immaġnijiet huma appoġġjati fuq l-API tal-Batch?
Iva, l-immaġnijiet huma appoġġjati fuq l-API tal-Batch.
Irċevejt messaġġ ta’ żball “The URL provided for this request does not prefix-match the batch endpoint”. X’għandi nagħmel?
Jekk tirċievi dan l-iżball, dan ifisser li l-URL tiegħek hija fformattjata ħażin għall-punt ta' tmiem tal-API tal-Batch. Jekk jogħġbok irreferi għad-dokumentazzjoni tagħna hawn biex tiżgura li qed issejjaħ il-punt ta' tmiem b’mod korrett.
L-użu tal-API tal-Batch jingħadd mal-limiti tal-veloċità l-oħra tiegħi?
Il-limiti tal-veloċità tal-API tal-Batch huma kompletament separati mil-limiti eżistenti.
X'jiġri jekk lott jiġi kkanċellat?
Jekk lott jiġi kkanċellat manwalment, jintbagħtu lura r-riżultati kollha li jkunu diġà tlestew. L-iżviluppaturi jiġu ċċarġjati għal kull xogħol li jkun tlesta.
X'jiġri jekk lott jiskadi?
Jekk lott jiskadi (jiġifieri ma jkunx seta' jitlesta fiż-żmien stipulat fl-SLA), ix-xogħol li jkun fadal jiġi kkanċellat u jintbagħat lura kull xogħol li jkun diġà tlesta. L-iżviluppaturi jiġu ċċarġjati għal kull xogħol li jkun tlesta.
X’istatusijiet nista’ nistenna fuq xogħlijiet batch?
Ix-xogħol batch jista’ jkollu kwalunkwe minn dawn l-istatusijiet: Qed jiġi vvalidat, Falla, Għaddej, Qed jiġi finalizzat, Lest, Skada, Qed jiġi kkanċellat, u Kkanċellat. Jekk qed tiċċekkja l-valuri tal-istatus tal-API b’mod programmatiku, uża l-litterali b’ittri żgħar: validating, failed, in_progress, finalizing, completed, expired, cancelling, u cancelled.
Qed jiġi vvalidat: Il-validazzjoni tal-fajl imtella’ tinsab għaddejja qabel ma l-batch ikun jista’ jibda.
Falla: Il-fajl falla fil-proċess ta’ validazzjoni.
Għaddej: Il-fajl ġie vvalidat b’suċċess u l-proċess batch jinsab għaddej.
Qed jiġi finalizzat: Ix-xogħol batch tlesta u r-riżultati qed jitħejjew.
Lest: Ix-xogħol batch huwa lest u r-riżultati huma lesti.
Skada: Il-batch ma setax jitlesta fit-tieqa ta’ żmien tal-SLA.
Qed jiġi kkanċellat: Inbeda l-kanċellament tax-xogħol batch.
Kkanċellat: Ix-xogħol batch ġie kkanċellat.
Kif nista’ niċċekkja liema xogħlijiet batch diġà ħloqt?
Tista’ tikseb lista tax-xogħlijiet batch kollha tiegħek billi tuża s-sejħa tal-API speċifikata hawn.
L-ebda żamma tad-dejta hija appoġġjata fuq dan il-punt ta' tmiem?
Jekk għandek l-ebda żamma tad-dejta attivata għall-organizzazzjoni tiegħek, jekk jogħġbok innota li l-ebda żamma tad-dejta ma tapplikax għall-API tal-Batch. L-organizzazzjonijiet ZDR jistgħu joħolqu xogħlijiet batch, iżda l-fajls tal-input batch, l-outputs, l-iżbalji, u l-artifatti intermedji jinżammu skont il-politiki kkonfigurati taż-żamma tal-Batch, File Service, u Sediment.