પ્રોમ્પ્ટ ટોકન અને કમ્પ્લીશન ટોકન વચ્ચે શું તફાવત છે?

પ્રોમ્પ્ટ ટોકન્સ એ તે ટોકન્સ છે જે તમે મોડલમાં ઇનપુટ કરો છો. આ તમારા પ્રોમ્પ્ટમાં રહેલા ટોકન્સની સંખ્યા છે.

પૂર્ણતા ટોકન્સ એ એવા કોઈપણ ટોકન્સ છે જે મોડલ તમારા ઇનપુટના પ્રતિસાદમાં ઉત્પન્ન કરે છે. માનક વિનંતી માટે, આ પૂર્ણતામાં રહેલા ટોકન્સની સંખ્યા છે.

અમે પ્રદાન કરતા મોટા ભાગના મોડલમાં તેઓ સ્વીકારી શકે તેવા ટોકન્સની સંખ્યા (પ્રોમ્પ્ટ ટોકન્સ) અને તેઓ ઉત્પન્ન કરી શકે તેવા ટોકન્સની સંખ્યા (પૂર્ણતા અથવા નમૂના ટોકન્સ) બંને પર મર્યાદાઓ હોય છે.

આમાં best_of અથવા nના વધારે મૂલ્યનો ઉપયોગ કરતી વખતે ઉત્પન્ન થતા કોઈપણ ટોકન્સ પણ સામેલ છે. ઉદાહરણ તરીકે, જો તમે best_of = 3નો ઉપયોગ કરીને 3 ઉમેદવાર પૂર્ણતાઓ ઉત્પન્ન કરી રહ્યા છો, તો નમૂના તરીકે લેવાયેલા ટોકન્સની સંખ્યા વધુમાં વધુ 3 * max_tokens હશે.

ટોકન્સનું સંચાલન કરવા વિશે તમે અમારી પાઠ્ય ઉત્પન્ન કરવાની માર્ગદર્શિકામાં વધુ વાંચી શકો છો.