11 मार्च, 2025 तक, हमने अपने नए Agents प्लेटफ़ॉर्म के बिल्डिंग ब्लॉक्स रिलीज़ कर दिए हैं। विवरण के लिए, हमारे Responses API के लिए API डॉक्युमेंटेशन, Web Search, File Search, और Computer Use सहित Tools, और Agents SDK ( Tracing के साथ) देखें।
प्रॉम्प्ट टोकन वे टोकन हैं जिन्हें आप मॉडल में इनपुट करते हैं। यह आपके प्रॉम्प्ट में मौजूद टोकनों की संख्या होती है।
कम्प्लीशन टोकन वे सभी टोकन हैं जो मॉडल आपके इनपुट के जवाब में जनरेट करता है। एक मानक अनुरोध में, यह कम्प्लीशन में मौजूद टोकनों की संख्या होती है।
हमारे ज़्यादातर मॉडलों में दोनों तरह की सीमाएँ होती हैं: वे जितने टोकन अंदर ले सकते हैं (प्रॉम्प्ट टोकन) और वे जितने टोकन आउटपुट कर सकते हैं (कम्प्लीशन या सैम्पल टोकन)।
इसमें वे टोकन भी शामिल हैं जो best_of या n का उच्च मान इस्तेमाल करने पर जनरेट होते हैं। उदाहरण के लिए, यदि आप best_of = 3 का उपयोग करके 3 उम्मीदवार कम्प्लीशन जनरेट कर रहे हैं, तो सैम्पल किए गए टोकनों की संख्या अधिकतम 3 * max_tokens होगी।
टोकन मैनेज करने के बारे में आप हमारी टेक्स्ट जनरेशन गाइड में और पढ़ सकते हैं।