Batch API ఎలా పని చేస్తుంది?
ఇక్కడ డాక్యుమెంట్ చేసినట్లుగా, Batch API ఎండ్పాయింట్ అసింక్రోనస్ బ్యాచ్ ప్రాసెసింగ్ కోసం అభ్యర్థనలను సమర్పించడానికి వినియోగదారులను అనుమతిస్తుంది. మేము ఈ అభ్యర్థనలను 24 గంటల్లో ప్రాసెస్ చేస్తాము. ప్రతి అభ్యర్థన వివరాలు ముందే అప్లోడ్ చేసిన ఫైల్ నుండి చదవబడతాయి, మరియు ప్రతిస్పందనలు అవుట్పుట్ ఫైల్కు వ్రాయబడతాయి. స్థితి అప్డేట్లు మరియు ఫలితాల కోసం మీరు బ్యాచ్ ఆబ్జెక్ట్ను క్వెరీ చేయవచ్చు.
Batch API ధర ఎంత?
సింక్రోనస్ APIలతో పోలిస్తే ప్రతి మోడల్ 50% ఖర్చు తగ్గింపుతో అందించబడుతుంది. మా API ధరల గురించి మరింత సమాచారం ఇక్కడ ఉంది.
నేను ఏ మోడల్లను బ్యాచ్ చేయగలను?
Batch API మా చాలా మోడల్లలో విస్తృతంగా అందుబాటులో ఉంది, కానీ అన్నింటిలో కాదు. మీరు ఉపయోగిస్తున్న మోడల్ Batch APIకు మద్దతు ఇస్తుందో లేదో నిర్ధారించుకోవడానికి దయచేసి మోడల్ రిఫరెన్స్ డాక్యుమెంట్లను చూడండి.
API వాగ్దానం చేసిన సమయంలో నా అభ్యర్థనను పూర్తి చేయకపోతే ఏమవుతుంది?
మేము అన్ని అభ్యర్థనలను 24 గంటల్లో పూర్తి చేయాలని లక్ష్యంగా పెట్టుకున్నాము. ఒక బ్యాచ్ గడువు ముగిస్తే (అంటే, SLA సమయ విండోలో దాన్ని పూర్తి చేయలేకపోయినట్లయితే), మిగిలిన పని రద్దు చేయబడుతుంది మరియు ఇప్పటికే పూర్తయిన ఏ పనైనా తిరిగి ఇవ్వబడుతుంది. పూర్తయిన ఏ పనికైనా డెవలపర్లకు ఛార్జ్ చేయబడుతుంది.
నేను బ్యాచ్ చేయగల అభ్యర్థనల సంఖ్యకు లిమిట్ ఏమిటి?
Embeddings APIలకు ఒకేసారి క్యూలో ఉంచగల అభ్యర్థనల లిమిట్ 1 మిలియన్.
మిగతా అన్ని APIలకు, మీరు బ్యాచ్ చేయగల అభ్యర్థనల సంఖ్యపై లిమిట్ లేదు; అయితే, ప్రతి వినియోగ టైర్కు సంబంధిత బ్యాచ్ రేట్ లిమిట్ ఉంటుంది. మీ బ్యాచ్ రేట్ లిమిట్లో మీరు ఒకేసారి క్యూలో ఉంచిన గరిష్ఠ ఇన్పుట్ టోకెన్ల సంఖ్య ఉంటుంది. మీరు మీ రేట్ లిమిట్లను ఇక్కడ కనుగొనవచ్చు.
Batch API నుండి ప్రతిస్పందన రావడానికి పట్టే సమయాన్ని నేను మార్చగలనా?
మా ప్రస్తుత పేర్కొన్న సమయ విండో 24 గంటలు. మేము ప్రస్తుతం ఈ సమయ వ్యవధిని మార్చలేము.
Batch APIలో స్ట్రీమింగ్కు మద్దతు ఉందా?
లేదు, Batch APIలో స్ట్రీమింగ్కు మద్దతు లేదు. బ్యాచ్ అభ్యర్థనలు స్ట్రీమ్ చేసిన ప్రతిస్పందనల బదులుగా అవుట్పుట్ ఫైల్ల ద్వారా ఫలితాలను తిరిగి ఇస్తాయి.
Batch APIలో ఇమేజ్లకు మద్దతు ఉందా?
అవును, Batch APIలో ఇమేజ్లకు మద్దతు ఉంది.
నాకు “The URL provided for this request does not prefix-match the batch endpoint” అనే ఎర్రర్ సందేశం వచ్చింది. నేను ఏమి చేయాలి?
మీకు ఈ ఎర్రర్ వస్తే, మీ URL Batch API ఎండ్పాయింట్ కోసం తప్పుగా ఫార్మాట్ చేయబడిందని అర్థం. మీరు ఎండ్పాయింట్ను సరిగ్గా కాల్ చేస్తున్నారని నిర్ధారించుకోవడానికి దయచేసి ఇక్కడ మా డాక్యుమెంటేషన్ను చూడండి.
Batch API వినియోగం నా ఇతర రేట్ లిమిట్లలో లెక్కించబడుతుందా?
Batch API రేట్ లిమిట్లు ఇప్పటికే ఉన్న లిమిట్ల నుండి పూర్తిగా వేరుగా ఉంటాయి.
ఒక బ్యాచ్ రద్దు చేయబడితే ఏమవుతుంది?
ఒక బ్యాచ్ను మాన్యువల్గా రద్దు చేస్తే, ఇప్పటికే పూర్తయిన ఫలితాలు తిరిగి ఇవ్వబడతాయి. పూర్తయిన ఏ పనికైనా డెవలపర్లకు ఛార్జ్ చేయబడుతుంది.
ఒక బ్యాచ్ గడువు ముగిస్తే ఏమవుతుంది?
ఒక బ్యాచ్ గడువు ముగిస్తే (అంటే, SLA సమయ విండోలో దాన్ని పూర్తి చేయలేకపోయినట్లయితే), మిగిలిన పని రద్దు చేయబడుతుంది మరియు ఇప్పటికే పూర్తయిన ఏ పనైనా తిరిగి ఇవ్వబడుతుంది. పూర్తయిన ఏ పనికైనా డెవలపర్లకు ఛార్జ్ చేయబడుతుంది.
బ్యాచ్ జాబ్లలో నేను ఏ స్థితులను ఆశించవచ్చు?
బ్యాచ్ జాబ్కు ఈ స్థితుల్లో ఏదైనా ఉండవచ్చు: ధృవీకరిస్తోంది, విఫలమైంది, ప్రోగ్రెస్లో ఉంది, తుది దశలో ఉంది, పూర్తయింది, గడువు ముగిసింది, రద్దు చేస్తోంది, మరియు రద్దు చేయబడింది. మీరు API స్థితి విలువలను ప్రోగ్రామాటిక్గా తనిఖీ చేస్తుంటే, లోయర్కేస్ లిటరల్లను ఉపయోగించండి: validating, failed, in_progress, finalizing, completed, expired, cancelling, మరియు cancelled.
ధృవీకరిస్తోంది: బ్యాచ్ ప్రారంభం కావడానికి ముందు అప్లోడ్ చేసిన ఫైల్ ధృవీకరణ ప్రోగ్రెస్లో ఉంది.
విఫలమైంది: ఫైల్ ధృవీకరణ ప్రక్రియలో విఫలమైంది.
ప్రోగ్రెస్లో ఉంది: ఫైల్ విజయవంతంగా ధృవీకరించబడింది మరియు బ్యాచ్ ప్రక్రియ జరుగుతోంది.
తుది దశలో ఉంది: బ్యాచ్ జాబ్ పూర్తయింది మరియు ఫలితాలు సిద్ధం చేయబడుతున్నాయి.
పూర్తయింది: బ్యాచ్ జాబ్ పూర్తయింది మరియు ఫలితాలు సిద్ధంగా ఉన్నాయి.
గడువు ముగిసింది: SLA సమయ విండోలో బ్యాచ్ను పూర్తి చేయలేకపోయాం.
రద్దు చేస్తోంది: బ్యాచ్ జాబ్ రద్దు ప్రారంభించబడింది.
రద్దు చేయబడింది: బ్యాచ్ జాబ్ రద్దు చేయబడింది.
నేను ఇప్పటికే సృష్టించిన బ్యాచ్ జాబ్లను ఎలా తనిఖీ చేయగలను?
ఇక్కడ పేర్కొన్న API కాల్ను ఉపయోగించి మీరు మీ అన్ని బ్యాచ్ జాబ్ల జాబితాను పొందవచ్చు.
ఈ ఎండ్పాయింట్లో జీరో డేటా రిటెన్షన్కు మద్దతు ఉందా?
మీ సంస్థకు జీరో డేటా రిటెన్షన్ ప్రారంభించబడినట్లయితే, జీరో డేటా రిటెన్షన్ Batch APIకి వర్తించదని దయచేసి గమనించండి. ZDR సంస్థలు బ్యాచ్ జాబ్లను సృష్టించవచ్చు, కానీ బ్యాచ్ ఇన్పుట్ ఫైల్లు, అవుట్పుట్లు, ఎర్రర్లు, మరియు మధ్యంతర ఆర్టిఫ్యాక్ట్లు కాన్ఫిగర్ చేసిన Batch, File Service, మరియు Sediment రిటెన్షన్ పాలసీల ప్రకారం నిల్వ చేయబడతాయి.