11 मार्च, 2025 तक, हमने अपने नए एजेंट प्लेटफ़ॉर्म के बिल्डिंग ब्लॉक रिलीज़ कर दिए हैं. विवरण के लिए, हमारी Responses API के लिए हमारे API दस्तावेज़, वेब खोज, फ़ाइल खोज और कंप्यूटर उपयोग सहित टूल, और एजेंट SDK को ट्रेसिंग के साथ देखें.
प्रॉम्प्ट टोकन वे टोकन होते हैं जिन्हें आप मॉडल में इनपुट करते हैं. यह आपके प्रॉम्प्ट में मौजूद टोकन की संख्या है.
पूर्णता टोकन वे सभी टोकन होते हैं जिन्हें मॉडल आपके इनपुट के जवाब में जनरेट करता है. एक मानक अनुरोध के लिए, यह पूर्णता में मौजूद टोकन की संख्या है.
हमारे ज़्यादातर मॉडल में उन टोकन की संख्या पर सीमाएँ होती हैं जिन्हें वे इनपुट के रूप में ले सकते हैं (प्रॉम्प्ट टोकन) और उन टोकन की संख्या पर भी जिन्हें वे आउटपुट कर सकते हैं (पूर्णता या नमूना टोकन).
इसमें best_of या n के उच्च मान का उपयोग करते समय जनरेट किए गए सभी टोकन भी शामिल हैं. उदाहरण के लिए, अगर आप best_of = 3 का उपयोग करके 3 उम्मीदवार पूर्णताएँ जनरेट कर रहे हैं, तो नमूना लिए गए टोकन की संख्या अधिकतम 3 * max_tokens होगी.
टोकन प्रबंधित करने के बारे में आप हमारी टेक्स्ट जनरेशन गाइड में और पढ़ सकते हैं.