ದರ ಮಿತಿಗಳ ಪರಿಚಯ
ದರ ಮಿತಿಗಳು ಎಂದರೆ, ನಿರ್ದಿಷ್ಟ ಅವಧಿಯಲ್ಲಿ ಬಳಕೆದಾರ ಅಥವಾ ಕ್ಲೈಂಟ್ ನಮ್ಮ ಸೇವೆಗಳನ್ನು ಎಷ್ಟು ಬಾರಿ ಪ್ರವೇಶಿಸಬಹುದು ಎಂಬುದರ ಮೇಲೆ ನಮ್ಮ API ವಿಧಿಸುವ ನಿರ್ಬಂಧಗಳು.
ದರ ಮಿತಿಗಳನ್ನು ಕ್ವಾಂಟೈಸ್ ಮಾಡಬಹುದು, ಅಂದರೆ ಅವುಗಳನ್ನು ಕಡಿಮೆ ಅವಧಿಗಳಲ್ಲಿ ಜಾರಿಗೊಳಿಸಲಾಗುತ್ತದೆ (ಉದಾ. 60,000 ವಿನಂತಿಗಳು/ನಿಮಿಷ ಅನ್ನು 1,000 ವಿನಂತಿಗಳು/ಸೆಕೆಂಡ್ ಎಂದು ಜಾರಿಗೊಳಿಸಬಹುದು). ತಾಂತ್ರಿಕವಾಗಿ ನೀವು ಪ್ರತಿ ನಿಮಿಷದ ದರ ಮಿತಿಗಿಂತ ಕಡಿಮೆ ಇದ್ದರೂ, ತುಂಬಾ ದೀರ್ಘವಾಗಿರುವ ವಿನಂತಿಗಳ ಸಣ್ಣ ಸ್ಫೋಟಗಳು ಅಥವಾ ಸಂದರ್ಭಗಳನ್ನು (ಪ್ರಾಂಪ್ಟ್ಗಳು+max_completion_tokens) ಕಳುಹಿಸುವುದರಿಂದ ದರ ಮಿತಿ ದೋಷಗಳು ಉಂಟಾಗಬಹುದು.
ದರ ಮಿತಿ ದೋಷಗಳನ್ನು ತಡೆಯಲು ಉತ್ತಮ ಅಭ್ಯಾಸಗಳು
ಡೀಫಾಲ್ಟ್ ಸಂಸ್ಥೆ
ನೀವು ವಿಭಿನ್ನ ಬಿಲ್ಲಿಂಗ್ ಪ್ಲ್ಯಾನ್ಗಳು ಮತ್ತು ಬಳಕೆ ಹಂತಗಳನ್ನು ಹೊಂದಿರುವ ಅನೇಕ ಸಂಸ್ಥೆಗಳಿಗೆ ಸೇರಿದವರಾಗಿದ್ದರೆ, ನಿಮ್ಮ API ಕೀಗಳೊಂದಿಗೆ ವಿನಂತಿಗಳನ್ನು ಮಾಡುವಾಗ ಯಾವ ಸಂಸ್ಥೆಯನ್ನು ಡೀಫಾಲ್ಟ್ ಆಗಿ ಬಳಸಲಾಗುತ್ತದೆ ಎಂಬುದನ್ನು ನಿಯಂತ್ರಿಸಲು ನಿಮ್ಮ ಡೀಫಾಲ್ಟ್ ಸಂಸ್ಥೆ ಸೂಕ್ತ ಸಂಸ್ಥೆಗೆ ಸೆಟ್ ಆಗಿದೆ ಎಂದು ಖಚಿತಪಡಿಸಿಕೊಳ್ಳಿ.
ಘಾತೀಯ ಬ್ಯಾಕ್ಆಫ್
ನಿಮ್ಮ ಕೋಡ್ನಲ್ಲಿ ಘಾತೀಯ ಬ್ಯಾಕ್ಆಫ್ ಲಾಜಿಕ್ ಸೇರಿಸಿ. ಇದು ವಿಫಲವಾದ ವಿನಂತಿಗಳನ್ನು ಹಿಡಿದು ಮತ್ತೆ ಪ್ರಯತ್ನಿಸುತ್ತದೆ.
ಟೋಕನ್ ಮಿತಿಗಳು
ನಿಮ್ಮ ಪೂರ್ಣಗೊಳಿಸುವಿಕೆಗಳ ಗಾತ್ರಕ್ಕೆ ಹೊಂದುವಂತೆ max_completion_tokens ಅನ್ನು ಕಡಿಮೆ ಮಾಡಿ. ಬಳಕೆಯ ಅಗತ್ಯಗಳನ್ನು ಈ ಮೌಲ್ಯದಿಂದ ಅಂದಾಜಿಸಲಾಗುತ್ತದೆ, ಆದ್ದರಿಂದ ಇದನ್ನು ಕಡಿಮೆ ಮಾಡಿದರೆ ನೀವು ಅನಿರೀಕ್ಷಿತವಾಗಿ ದರ ಮಿತಿ ದೋಷವನ್ನು ಸ್ವೀಕರಿಸುವ ಸಾಧ್ಯತೆ ಕಡಿಮೆಯಾಗುತ್ತದೆ. ಉದಾಹರಣೆಗೆ, ನಿಮ್ಮ ಪ್ರಾಂಪ್ಟ್ ಸುಮಾರು 400 ಟೋಕನ್ಗಳ ಪೂರ್ಣಗೊಳಿಸುವಿಕೆಗಳನ್ನು ರಚಿಸಿದರೆ, max_tokens ಮೌಲ್ಯವೂ ಸುಮಾರು ಅದೇ ಗಾತ್ರದಲ್ಲಿರಬೇಕು.
ನಿಮ್ಮ ಪ್ರಾಂಪ್ಟ್ಗಳನ್ನು ಉತ್ತಮಗೊಳಿಸಿ. ನಿಮ್ಮ ಸೂಚನೆಗಳನ್ನು ಚಿಕ್ಕದಾಗಿಸಿ, ಹೆಚ್ಚುವರಿ ಪದಗಳನ್ನು ತೆಗೆದುಹಾಕಿ, ಮತ್ತು ಹೆಚ್ಚುವರಿ ಉದಾಹರಣೆಗಳನ್ನು ತೆಗೆದುಹಾಕುವ ಮೂಲಕ ಇದನ್ನು ಮಾಡಬಹುದು. ಈ ಬದಲಾವಣೆಗಳ ನಂತರವೂ ಅದು ಚೆನ್ನಾಗಿ ಕೆಲಸ ಮಾಡುತ್ತದೆ ಎಂದು ಖಚಿತಪಡಿಸಿಕೊಳ್ಳಲು ನೀವು ನಿಮ್ಮ ಪ್ರಾಂಪ್ಟ್ ಮೇಲೆ ಕೆಲಸ ಮಾಡಿ ಅದನ್ನು ಪರೀಕ್ಷಿಸಬೇಕಾಗಬಹುದು. ಚಿಕ್ಕ ಪ್ರಾಂಪ್ಟ್ನ ಹೆಚ್ಚುವರಿ ಪ್ರಯೋಜನವೆಂದರೆ ನಿಮಗೆ ಕಡಿಮೆ ವೆಚ್ಚ. ನಿಮಗೆ ಸಹಾಯ ಬೇಕಿದ್ದರೆ, ನಮಗೆ ತಿಳಿಸಿ.
ಬಳಕೆ ಹಂತ
ನೀವು ಈ ಉತ್ತಮ ಅಭ್ಯಾಸಗಳನ್ನು ಜಾರಿಗೊಳಿಸಿದ್ದರೂ ಇನ್ನೂ ದರ ಮಿತಿ ದೋಷಗಳನ್ನು ಎದುರಿಸುತ್ತಿದ್ದರೆ, ನಿಮ್ಮ ಬಳಕೆ ಹಂತವನ್ನು ಹೆಚ್ಚಿಸುವ ಮೂಲಕ ನಿಮ್ಮ ದರ ಮಿತಿಗಳನ್ನು ಹೆಚ್ಚಿಸಬಹುದು. ನಿಮ್ಮ ಖಾತೆ ಸೆಟ್ಟಿಂಗ್ಗಳ ಮಿತಿಗಳ ವಿಭಾಗದಲ್ಲಿ ನಿಮ್ಮ ಪ್ರಸ್ತುತ ದರ ಮಿತಿಗಳು, ಪ್ರಸ್ತುತ ಬಳಕೆ ಹಂತ, ಮತ್ತು ನಿಮ್ಮ ಬಳಕೆ ಹಂತ/ಮಿತಿಗಳನ್ನು ಹೇಗೆ ಹೆಚ್ಚಿಸುವುದು ಎಂಬುದನ್ನು ನೋಡಬಹುದು.
ಇನ್ನಷ್ಟು ಓದಲು
ಬಳಕೆ ಹಂತಗಳು ಮತ್ತು ದರ ಮಿತಿಗಳ ಕುರಿತು ನಮ್ಮ ಸಮಗ್ರ ದಸ್ತಾವೇಜನ್ನು ಇಲ್ಲಿ ಪರಿಶೀಲಿಸಿ.