በተወሰኑ ሞዴሎች ላይ ፈጣን እና ይበልጥ ተከታታይ አፈጻጸም መድረስ ለሚፈልጉ የEnterprise API ደንበኞች አሁን ቅድሚያ ማቀናበርን እናቀርባለን። ከዚህ በታች ስለሚሠራበት መንገድ፣ ዋጋ አሰጣጥ፣ የሞዴል ተገኝነት፣ የተመን ገደቦች፣ አስተማማኝነት፣ ፖሊሲዎች እና ብቁነት ለተለመዱ ጥያቄዎች መልሶች አሉ።

ተጨማሪ ይወቁ እዚህ።

መዳረሻ

ቅድሚያ ማቀናበርን ማን መድረስ ይችላል?

ቅድሚያ ማቀናበር በአሁኑ ጊዜ ለEnterprise ደንበኞች ይገኛል።

ቅድሚያ ማቀናበር በሁሉም ክልሎች ይገኛል?

የቅድሚያ ማቀናበር ተገኝነት በእያንዳንዱ የሕግ ስልጣን ላይ በሚተገበሩ ሕጎች እና ደንቦች ላይ ይመሰረታል። በክልልዎ ውስጥ ስለ ተገኝነት ጥያቄዎች ካሉዎት፣ እባክዎ የመለያ ዳይሬክተርዎን ያነጋግሩ።

ዋጋ አሰጣጥ

ቅድሚያ ማቀናበርን መጠቀም እንዴት እጀምራለሁ?

ደንበኞች ነባሩን service_tier ግቤት በመጠቀም፣ service_tier="priority" አማራጭ ጋር፣ በጥያቄ መሠረት ትራፊክን ወደ ቅድሚያ ማቀናበር ሊመሩ ይችላሉ።

ይህ ከየመመዘኛ ደረጃ ጋር እንዴት ይገናኛል?

የመመዘኛ ደረጃ ከቅድሚያ ማቀናበር ተለይቶ ይቆያል። ወደ ቅድሚያ ማቀናበር የተላኩ ጥያቄዎች በተለይ ይከፈላሉ እና በገዙት የመመዘኛ ደረጃ TPM ጥቅሎች ላይ አይቆጠሩም።

የመመዘኛ ደረጃ ትርፍ ትራፊኬን በራስ-ሰር ወደ ቅድሚያ ማቀናበር መላክ እችላለሁ?

አይ። ወደ የመመዘኛ ደረጃ የተላከ ትራፊክ በራስ-ሰር ወደ ቅድሚያ ማቀናበር አይፈስም።

ቅድሚያ ማቀናበር እንዴት ይከፈላል?

በቅድሚያ ማቀናበር የሚቀርቡ tokenዎች በtoken መሠረት ይከፈላሉ፣ ከመደበኛ ማቀናበር ተመኖች ጋር ሲነጻጸር በፕሪሚየም ዋጋ ይተመናሉ።

የዓመታዊ ቃል ኪዳኔ ከተወሰነ የማቀናበር ሁነታ ጋር የተያያዘ ነው?

አይ። ሁሉም የማቀናበር ሁነታዎች በዓመታዊ የEnterprise ወጪ ቃል ኪዳንዎ ላይ ይቆጠራሉ።

በተሸጎጡ የግቤት tokenዎች ላይ አሁንም ቅናሽ አገኛለሁ?

አዎ! የተሸጎጡ ግቤቶች በመደበኛ ማቀናበር እንደሚያገኙት ተመሳሳይ 50-75% ቅናሽ ያገኛሉ።

የቅድሚያ ማቀናበር አጠቃቀሜን እና ወጪዬን እንዴት ማየት እችላለሁ?

በቅድሚያ ማቀናበር የተሰሩ tokenዎችን ለማየት፣ ወደ Usage ዳሽቦርድ ይሂዱ፣ Chat Completions ወይም Responses ይምረጡ፣ እና Group by Service Tier ይምረጡ። የቅድሚያ ማቀናበር ወጪን ለማየት፣ ወደ Usage ዳሽቦርድ ይሂዱ፣ እና Group by Line Item ይምረጡ።

ሞዴሎች

ቅድሚያ ማቀናበር ለረጅም አውድ፣ ለተጣሩ ሞዴሎች፣ ለembeddings ወዘተ ይገኛል?

በአሁኑ ጊዜ አይደለም። ከአዲሶቹ ሞዴሎቻችን ባሻገር በተጨማሪ ምርቶች ላይ ቅድሚያ ማቀናበርን ማቅረብ አለመቻላችንን ወደፊት እንገመግማለን።

ሌሎች ሞዳሊቲዎች ከቅድሚያ ማቀናበር ጋር እንዴት ይሰራሉ?

ቅድሚያ ማቀናበር በመደበኛ ላይ የሚገኙትን ተመሳሳይ ባለብዙ ሞዳሊቲ ችሎታዎች ይደግፋል። በተለይም፣ ምስሎች ለቅድሚያ ማቀናበር እንደ ግቤቶች ሊጠቀሙ ይችላሉ እና በተመሳሳይ ፈጣን መዘግየት ይሰራሉ።

የወደፊት ሞዴሎች ይደገፋሉ?

በአዲስ GPT ሞዴሎች ላይ ቅድሚያ ማቀናበርን ለማቅረብ እቅድ አለን፣ ግን እያንዳንዱ ሞዴል እንደሚደገፍ ዋስትና አንሰጥም።

የተመን ገደቦች

የተመን ገደቦቹ ምንድናቸው?

የቅድሚያ ማቀናበር ፍጆታ ለየተመን ገደቦች እንደ መደበኛ API ትራፊክ ተመሳሳይ ይታያል።

የማሳደጊያ የተመን ገደቦች ምንድናቸው?

ቅድሚያ ማቀናበር ለሁሉም ደንበኞች በተከታታይ ከፍተኛ አፈጻጸም ለማረጋገጥ፣ ተለዋዋጭ እና በፍላጎት ላይ የተመሠረተ ዋጋ አሰጣጥንም እያቀረበ፣ የማሳደጊያ የተመን ገደቦች አሉት። (ሀ) የቅድሚያ ማቀናበር አፈጻጸም ከተቀነሰ እና (ለ) የደንበኛ ትራፊክ በፍጥነት እየጨመረ ከሆነ፣ በአልፎ አልፎ አጋጣሚዎች አንዳንድ የቅድሚያ ጥያቄዎች በምትኩ ወደ መደበኛ ማቀናበር ሊወርዱ ይችላሉ።

የአሁኑ የቅድሚያ ማቀናበር የማሳደጊያ የተመን ገደብ በዋና ሰነዳችን እዚህ ተገልጿል።

በማሳደጊያ የተመን ገደብዎ ውስጥ ለመቆየት ምርጥ ልምዶች

• ሞዴሎችን ሲቀይሩ ትራፊክን ቀስ በቀስ ይጨምሩ። ለምሳሌ፣ መተግበሪያዎ ከቀድሞ ስናፕሾት ወደ አዲስ ስናፕሾት እየተሸጋገረ ከሆነ፣ ትራፊክን በአንድ ጊዜ ሳይሆን በጥቂት ሰዓታት ውስጥ ለማሸጋገር የባህሪ ፍላግ ይጠቀሙ።

• በቅድሚያ ማቀናበር ላይ ትልቅ የውሂብ ማቀናበር ወይም አሲንክሮነስ ሥራዎችን ከማስኬድ ይቆጠቡ። እነዚህ ሥራዎች ትራፊክን በጣም በፍጥነት ሊያሳድጉ ይችላሉ፣ እና ብዙ ጊዜ የቅድሚያ ማቀናበር የተሻሻለ አፈጻጸም አያስፈልጋቸውም።

• በተደጋጋሚ የማሳደጊያ የተመን ገደቦች ካጋጠሙዎት፣ በምትኩ የመመዘኛ ደረጃ ኮታ መግዛትን ያስቡ።

የማሳደጊያ የተመን ገደቦች በፕሮጀክቶቼ ወይም ድርጅቶቼ መካከል ይጋራሉ?

አዎ፣ ሁሉም ትራፊክዎ ለተመሳሳይ የማሳደጊያ የተመን ገደብ ያበረክታል።

ፖሊሲዎች

ቅድሚያ ማቀናበር የመዘግየት ግቡን ካላሟላ ምን ይከሰታል?

ማንኛውም ጥያቄዎች ወይም ስጋቶች ካሉዎት እባክዎ የእርስዎን AD ያነጋግሩ። የቅድሚያ ማቀናበር SLAዎች እንደ የመመዘኛ ደረጃ SLAዎች ተመሳሳይ ይታያሉ፤ በተወሰነ የጊዜ መስኮት ውስጥ በEnterprise ስምምነቶች ላይ ላሉ ደንበኞች እነዚያን SLAዎች ማሟላት ካልቻልን የአገልግሎት ክሬዲቶች ይቀርባሉ።

ቅድሚያ ማቀናበር ከየውሂብ ነዋሪነት ጋር ተኳሃኝ ነው?

አዎ።

ቅድሚያ ማቀናበር ከZDR እና BAA ጋር ተኳሃኝ ነው?

አዎ።