আমরা API গ্রাহকদের জন্য দ্রুত মোড দিই, যারা নির্দিষ্ট মডেলে আরও দ্রুত ও বেশি ধারাবাহিক পারফরম্যান্স পেতে চান. এটি কীভাবে কাজ করে, মূল্য নির্ধারণ, মডেলের প্রাপ্যতা, সীমা, নির্ভরযোগ্যতা, নীতিমালা ও যোগ্যতা সম্পর্কে সাধারণ প্রশ্নের উত্তর নিচে দেওয়া হলো.

দ্রষ্টব্য: অগ্রাধিকার প্রক্রিয়াকরণের নাম ৩০ জুলাই ২০২৬-এ দ্রুত মোড করা হয়েছে. আপনার API অনুরোধে আপনি service_tier: priority বা service_tier: fast—যেকোনোটি ব্যবহার করতে পারেন. 

আরও জানুন এখানে.

দ্রুত মোড কি সব অঞ্চলে পাওয়া যায়?

দ্রুত মোডের প্রাপ্যতা প্রতিটি বিচারব্যবস্থার প্রযোজ্য আইন ও বিধিবিধানের ওপর নির্ভর করে. আপনার অঞ্চলে প্রাপ্যতা নিয়ে প্রশ্ন থাকলে অনুগ্রহ করে আপনার অ্যাকাউন্ট ডিরেক্টরের সঙ্গে যোগাযোগ করুন.

এটি যেভাবে কাজ করে

বিদ্যমান service_tier প্যারামিটারে service_tier = "fast" বিকল্পটি ব্যবহার করে গ্রাহকেরা প্রতিটি অনুরোধ আলাদাভাবে দ্রুত মোডে পাঠাতে পারেন.

দ্রুত মোডে প্রক্রিয়া করা টোকেনের বিল প্রতি টোকেনের ভিত্তিতে গণনা করা হবে, যার মূল্য সাধারণ প্রক্রিয়াকরণের চেয়ে বেশি.

প্রতিটি অনুরোধের জন্য আলাদাভাবে নির্ধারণ করার পাশাপাশি, প্রকল্পের সেটিংস > ডিফল্ট সার্ভিস টিয়ার: দ্রুত থেকে প্রকল্পের ডিফল্ট মোড হিসেবেও দ্রুত মোড বেছে নিতে পারেন. এর পরও প্রতিটি অনুরোধের জন্য এই সেটিং বদলাতে পারবেন. প্রকল্পের সেটিংসে দ্রুত বেছে নেওয়া আর অগ্রাধিকার বেছে নেওয়া একই.

স্কেল টিয়ারের সঙ্গে এটি কীভাবে কাজ করে?

স্কেল টিয়ার দ্রুত মোড থেকে আলাদাই থাকবে. দ্রুত মোডে পাঠানো অনুরোধের জন্য আলাদা বিল করা হবে এবং সেগুলো আপনার কেনা স্কেল টিয়ারের প্রতি মিনিটে টোকেন ব্যবহারের বান্ডেল থেকে কাটা হবে না.

আমার স্কেল টিয়ারের কোটা ছাড়িয়ে যাওয়া ট্রাফিক কি স্বয়ংক্রিয়ভাবে দ্রুত মোডে পাঠাতে পারি?

না. স্কেল টিয়ারে পাঠানো ট্রাফিক কোটা ছাড়িয়ে গেলে তা স্বয়ংক্রিয়ভাবে দ্রুত মোডে যাবে না.

দ্রুত মোডের বিল কীভাবে গণনা করা হয়?

দ্রুত মোডে প্রক্রিয়া করা টোকেনের বিল প্রতি টোকেনের ভিত্তিতে গণনা করা হবে, যার মূল্য সাধারণ প্রক্রিয়াকরণের চেয়ে বেশি.

আমার বার্ষিক ব্যয়ের অঙ্গীকার কি কোনো নির্দিষ্ট প্রক্রিয়াকরণ মোডের সঙ্গে যুক্ত?

না. সব প্রক্রিয়াকরণ মোডের খরচ আপনার এন্টারপ্রাইজ চুক্তির বার্ষিক ব্যয়ের অঙ্গীকার পূরণের হিসাবে ধরা হয়.

ক্যাশে সংরক্ষিত ইনপুট টোকেনের ওপর কি আমি এখনও ছাড় পাব?

হ্যাঁ. সাধারণ প্রক্রিয়াকরণের মতোই ক্যাশে সংরক্ষিত ইনপুটে ৫০–৭৫% ছাড় পাওয়া যায়.

দ্রুত মোডে আমার ব্যবহার ও খরচ কীভাবে দেখব?

দ্রুত মোডে (আগের নাম অগ্রাধিকারভিত্তিক প্রক্রিয়াকরণ) প্রক্রিয়া করা টোকেন দেখতে, ব্যবহারের ড্যাশবোর্ডে যান, চ্যাট কমপ্লিশন বা রেসপন্সেস বেছে নিন এবং সার্ভিস টিয়ার অনুযায়ী ভাগ করুন.

দ্রুত মোডের খরচ দেখতে ব্যবহারের ড্যাশবোর্ডে যান এবং খরচের খাত অনুযায়ী ভাগ করার বিকল্প বেছে নিন.

ব্যবহারের ড্যাশবোর্ডে, service_tier হিসেবে priority বা fast ব্যবহার করা অনুরোধগুলো আগের মতোই priority হিসেবে দেখানো হবে. ভবিষ্যতের মডেলগুলোর জন্য এটি হালনাগাদ করা হবে.

মডেল

দীর্ঘ প্রসঙ্গ, ফাইন-টিউন করা মডেল, এমবেডিং ইত্যাদির জন্য কি দ্রুত মোড ব্যবহার করা যায়?

এই মুহূর্তে নয়. আমাদের সর্বশেষ মডেলগুলোর বাইরে অন্য পণ্যেও দ্রুত মোড চালু করা হবে কি না, তা আমরা ভবিষ্যতে বিবেচনা করব.

দ্রুত মোডে অন্যান্য ধরনের ইনপুট ও আউটপুট কীভাবে কাজ করে?

সাধারণ প্রক্রিয়াকরণে একাধিক ধরনের ইনপুট ও আউটপুট ব্যবহারের যেসব সুবিধা রয়েছে, দ্রুত মোডেও সেগুলো পাওয়া যায়. বিশেষ করে, অগ্রাধিকারভিত্তিক প্রক্রিয়াকরণে ইনপুট হিসেবে ছবি ব্যবহার করা যায় এবং সেগুলোও একই রকম কম বিলম্বে প্রক্রিয়া করা হয়.

ভবিষ্যতের মডেলগুলো কি সমর্থিত হবে?

নতুন GPT মডেলগুলোতে দ্রুত মোড চালু করার পরিকল্পনা আমাদের আছে, তবে প্রতিটি মডেল সমর্থিত হবে বলে আমরা নিশ্চয়তা দিচ্ছি না.

ব্যবহারের সীমা

ব্যবহারের সীমা কত?

সীমা নির্ধারণের ক্ষেত্রে অগ্রাধিকারভিত্তিক প্রক্রিয়াকরণের ব্যবহারকে সাধারণ এপিআই ট্রাফিকের মতোই গণনা করা হয়.

র‍্যাম্প রেটের সীমা কত?

সব গ্রাহকের জন্য ধারাবাহিকভাবে উন্নত কর্মক্ষমতা নিশ্চিত করতে দ্রুত মোডে র‍্যাম্প রেটের সীমা রয়েছে. পাশাপাশি, চাহিদা অনুযায়ী ব্যবহারের নমনীয় মূল্যব্যবস্থাও বজায় থাকে. যদি (ক) দ্রুত মোডের কর্মক্ষমতা কমে যায় এবং একই সঙ্গে (খ) কোনো গ্রাহকের ট্রাফিক খুব দ্রুত বাড়তে থাকে, তবে বিরল কিছু ক্ষেত্রে কিছু অনুরোধ সাধারণ প্রক্রিয়াকরণে নামিয়ে দেওয়া হতে পারে.

দ্রুত মোডের বর্তমান র‍্যাম্প রেট সীমা এখানে আমাদের মূল নির্দেশিকায় নির্ধারণ করা আছে.

র‍্যাম্প রেট সীমার মধ্যে থাকার সেরা পদ্ধতি

মডেল বদলানোর সময় ধীরে ধীরে ট্রাফিক বাড়ান. উদাহরণস্বরূপ, আপনার অ্যাপ্লিকেশন আগের স্ন্যাপশট থেকে নতুনটিতে স্থানান্তর করলে, একবারে সব ট্রাফিক সরানোর বদলে ফিচার ফ্ল্যাগ ব্যবহার করে কয়েক ঘণ্টা ধরে ধাপে ধাপে সরান.

দ্রুত মোডে বিপুল পরিমাণ ডেটা প্রক্রিয়াকরণ বা অ্যাসিঙ্ক্রোনাস কাজ চালানো এড়িয়ে চলুন. এসব কাজ খুব দ্রুত ট্রাফিক বাড়িয়ে দিতে পারে, অথচ প্রায়ই এগুলোর জন্য দ্রুত মোডের উন্নত কর্মক্ষমতার প্রয়োজন হয় না.

নিয়মিত র‍্যাম্প রেট সীমায় পৌঁছে গেলে, বিকল্প হিসেবে স্কেল টিয়ার কোটা কেনার কথা বিবেচনা করুন.

আমার সব প্রকল্প বা প্রতিষ্ঠানের জন্য কি একই র‍্যাম্প রেট সীমা প্রযোজ্য?

হ্যাঁ, আপনার সব ট্রাফিক একই র‍্যাম্প রেট সীমার হিসাবে ধরা হয়.

নীতিমালা

দ্রুত মোডে সাড়া দেওয়ার নির্ধারিত সময়সীমা পূরণ না হলে কী হবে?

কোনো প্রশ্ন বা উদ্বেগ থাকলে আপনার এডির সঙ্গে যোগাযোগ করুন. দ্রুত মোডের সেবার মানসংক্রান্ত চুক্তিগুলো স্কেল টিয়ারের একই ধরনের চুক্তির মতোই বিবেচিত হবে. নির্দিষ্ট সময়সীমার মধ্যে এন্টারপ্রাইজ চুক্তির আওতায় থাকা গ্রাহকদের জন্য আমরা ওই শর্তগুলো পূরণ করতে না পারলে সার্ভিস ক্রেডিট দেওয়া হবে.

দ্রুত মোড কি ডাটা রেসিডেন্সির সঙ্গে সামঞ্জস্যপূর্ণ?

হ্যাঁ.

দ্রুত মোড কি জেডডিআর ও বিএএ-এর সঙ্গে সামঞ্জস্যপূর্ণ?

হ্যাঁ.

GPT-6 Astra-এর জন্য অতিদ্রুত

যেসব কাজে GPT-6 Astra থেকে কম বিলম্বে উত্তর প্রয়োজন, যেমন ইন্টারঅ্যাকটিভ অ্যাপ্লিকেশন ও কোড লেখার কর্মপ্রবাহ, সেগুলোর জন্য অতিদ্রুত একটি আলাদা সার্ভিস টিয়ার.

service_tier="fast" ব্যবহার করা অনুরোধের ক্ষেত্রে দ্রুত মোডের মূল্য, সীমা ও নীতিমালার নির্দেশনা প্রযোজ্য. অতিদ্রুত অনুরোধের জন্য আলাদা service_tier="ultrafast" টিয়ার ব্যবহার করা হয়.

আমি কীভাবে অতিদ্রুত অনুরোধ পাঠাব?

অতিদ্রুত ব্যবহারের অনুমতি থাকা প্রতিষ্ঠানের জন্য নিচের সেটিংস দিয়ে রেসপন্সেস এপিআই ব্যবহার করুন:

• মডেল: gpt-6-astra

• সার্ভিস টিয়ার: ultrafast

• অনুরোধের হেডার: OpenAI-Service-Tier: ultrafast

সার্ভিস টিয়ারের সেটিংয়ের পাশাপাশি অনুরোধের হেডারটিও আবশ্যক.

যেসব অ্যাপ্লিকেশন টুল কল চালায়, সেগুলোতে ওয়েবসকেট মোড ব্যবহার করে একাধিক পালায় একই সংযোগ পুনরায় ব্যবহার করা যায় এবং সংযোগ স্থাপনের বাড়তি চাপ কমানো যায়.

অন্য সার্ভিস টিয়ারের জন্য কি আমি একই অনুরোধের হেডার ব্যবহার করতে পারি?

অতিদ্রুতের আলফা পর্যায়ে, OpenAI-Service-Tier হেডার শুধু ultrafast গ্রহণ করে. default, fast বা flex সহ অন্য কোনো মান পাঠালে HTTP 400 ত্রুটি ফেরত আসে. অন্য টিয়ার ব্যবহার করার সময় এই হেডার বাদ দিন.

আমি কি কাজ বা Codex-এ অতিদ্রুত ব্যবহার করতে পারি?

যোগ্য প্ল্যান ও ওয়ার্কস্পেসের জন্য কাজ ও Codex-এও অতিদ্রুত পাওয়া যায়. ChatGPT প্ল্যানের যোগ্যতা ও ব্যবহারের শর্ত এপিআই অ্যাক্সেসের শর্ত থেকে আলাদা.

প্রাপ্যতা ও ব্যবহার সম্পর্কে বিস্তারিত জানতে ChatGPT কাজ ও Codex দেখুন.