OpenAI
הדף הזה תורגם באופן אוטומטי. לצפייה במאמר המקורי באנגלית.

פתרון בעיות במגבלות קצב ב-API ובשגיאות 429

זהו את הגורם לשגיאת API מסוג 429, צמצמו עומסי בקשות ובחרו את הצעד הבא המתאים לטיפול במגבלות קצב, קרדיטים או שימוש.

עודכן: 19 days ago

סקירה כללית

השימוש ב-API כפוף למגבלות קצב. מגבלות אלה מגבילות את מספר הבקשות, הטוקנים או שימוש אחר בפרק זמן מוגדר.

תגובה עם קוד 429 יכולה להצביע על מגבלת קצב זמנית, על יתרה ששולמה מראש ואזלה, או על מגבלת הוצאות או שימוש. בדקו את פרטי השגיאה לפני שתנסו שוב או תשנו את הגדרות החיוב.

זיהוי הגורם

קראו את הודעת השגיאה ואת error.code, אם הוא מופיע. גם בשגיאות הקשורות לחיוב, הערך של error.type עשוי להיות הערך הכללי יותר insufficient_quota.

שגיאה או קודהמשמעותמה לעשות
הגעתם למגבלת הקצב של בקשות או טוקניםהבקשות חורגות ממגבלת קצב שחלה עליהן.ווסתו את קצב הבקשות ופעלו לפי ההנחיות לניסיונות חוזרים שבהמשך.
credit_balance_exhaustedלא נותרו לארגון קרדיטים ששולמו מראש.הוסיפו קרדיטים בהגדרות החיוב של ה-API.
organization_usage_limit_exceededהארגון הגיע למגבלת השימוש ש-OpenAI הקצתה לו.בקשו אישור למגבלת שימוש גבוהה יותר.
organization_spend_limit_exceededהארגון הגיע למגבלת ההוצאות הנאכפת שלו.הגדילו או הסירו את המגבלה, או המתינו לאיפוס החודשי.
project_spend_limit_exceededהפרויקט הגיע למגבלת ההוצאות הנאכפת שלו.הגדילו או הסירו את מגבלת הפרויקט, או המתינו לאיפוס החודשי.

ניסיון חוזר לאחר שגיאת חיוב, הוצאות או מכסה לא יחזיר את הגישה. טפלו תחילה ביתרה או במגבלה שצוינה בשגיאה. ייתכן שיחלוף זמן עד ששינויים במגבלות ההוצאות הנאכפות ייכנסו לתוקף.

שינוי מגבלת הוצאות מחייב הרשאה לניהול ההגדרות של הארגון או הפרויקט הרלוונטיים. אם אין לכם גישה, פנו למי שמנהל את ההגדרות האלה.

למידע על רכישת קרדיטים בתשלום מראש, עיינו במאמר: הגדרה וניהול של חיוב API בתשלום מראש.

למידע על אפשרויות הבקרה השונות על ההוצאות, עיינו במדריך למגבלות הוצאות ב-API.

בדיקת מגבלות הקצב החלות

עברו אל הדף מגבלות של הארגון שלכם כדי לבדוק את רמת השימוש והמגבלות הנוכחיות שלו.

מגבלות קצב יכולות לחול ברמת הארגון וברמת הפרויקט. אלה אינן מכסות אישיות לכל משתמש. המגבלות משתנות גם לפי מודל, ולחלק ממשפחות המודלים יש מגבלה משותפת.

בדקו איזו מגבלה מצוינת בשגיאה. לדוגמה, מספר הבקשות לדקה ומספר הטוקנים לדקה כפופים למגבלות נפרדות. אפשר להגיע לאחת מהן גם בלי להגיע לאחרת.

בדיקת הארגון שאליו משויכת הבקשה

אם אתם חברים בכמה ארגונים, ודאו שהבקשות שלכם משויכות לארגון ולפרויקט הרצויים.

כאשר מפתח ה-API שלכם משתמש בארגון ברירת מחדל, בדקו את הגדרת ארגון ברירת המחדל. לארגונים שונים עשויים להיות הסדרי חיוב ורמות שימוש שונים.

צמצום שגיאות זמניות עקב מגבלת קצב

ויסות קצב הבקשות והימנעות מעומסים

פזרו את הבקשות לאורך זמן במקום לשלוח מספר גדול בבת אחת.

מגבלות קצב עשויות להיאכף בפרקי זמן קצרים יותר מטווח הזמן המוצג. לדוגמה, מגבלה של 60 בקשות לדקה עשויה להיאכף גם בפרקי זמן של שנייה אחת. לכן, עומס בקשות קצר עלול לגרום לשגיאה גם אם נראה שהשימוש הממוצע שלכם נמוך מהמגבלה לדקה.

גם פרומפטים ארוכים והקצאות גדולות שלא לצורך של טוקני פלט עלולים לתרום לשגיאות עקב מגבלת קצב הטוקנים.

ניסיון חוזר לאחר השהיה

במקרה של שגיאות זמניות עקב מגבלת קצב:

  1. בדקו אם התגובה כוללת כותרת Retry-After.

  2. אם הכותרת מכילה זמן השהיה תקין, המתינו לפחות למשך הזמן הזה לפני שתנסו שוב.

  3. אם הכותרת חסרה או אינה תקינה, השתמשו בהשהיה מעריכית עם רכיב אקראי: הגדילו את ההשהיה לאחר כל ניסיון שנכשל והוסיפו השהיה אקראית קצרה.

  4. הגבילו גם את מספר הניסיונות החוזרים וגם את משך הזמן הכולל המוקדש להם.

ערכות ה-SDK הרשמיות של OpenAI כבר מבצעות ניסיונות חוזרים בשגיאות מגבלת קצב המתאימות לכך, ופועלות לפי Retry-After כשהכותרת קיימת. הביאו בחשבון את הניסיונות החוזרים האלה לפני שתוסיפו לולאה נוספת של ניסיונות חוזרים.

גם בקשות שנכשלו נספרות במסגרת המגבלות לדקה. שליחה חוזרת ונשנית של אותה בקשה עלולה להאריך את משך הבעיה.

להנחיות יישום ולדוגמאות, עיינו במדריך למגבלות קצב ב-API. בדקו כל ספריית צד שלישי לניסיונות חוזרים לפני שתשתמשו בה באפליקציה שלכם.

בדיקת גודל הפרומפט והפלט

הסירו מהפרומפטים הוראות מיותרות, הקשר שחוזר על עצמו ודוגמאות. בדקו את הפרומפט המעודכן כדי לוודא שהוא עדיין מפיק את התוצאה הרצויה.

השתמשו בפרמטר טוקני הפלט שנתמך ב-endpoint ובמודל שלכם:

  • ב-Chat Completions משתמשים ב-max_completion_tokens.

  • ב-Responses משתמשים ב-max_output_tokens.

הימנעו מהגדרת הקצאה גדולה בהרבה ממה שנדרש לבקשה. הפרמטרים האלה כוללים טוקני reasoning וגם פלט גלוי, לכן בשימוש במודל reasoning הקצו מספיק טוקנים לשניהם.

בדיקת רמת השימוש שלכם

אם השגיאות נמשכות גם לאחר שצמצמתם עומסי בקשות ובדקתם את השימוש בטוקנים, בדקו בדף מגבלות אילו אפשרויות זמינות להגדלת המגבלות שלכם.

רמת השימוש בתשלום של הארגון שלכם משתדרגת אוטומטית כאשר הסכום הכולל של רכישות הקרדיטים שלו מגיע לספים של Build,‏ Launch ו-Grow. רמות גבוהות יותר מעניקות בדרך כלל מגבלות קצב גבוהות יותר. לדרישות של כל רמה, עיינו במדריך למגבלות קצב ב-API.

מגבלת השימוש החודשית שאושרה לכם נפרדת ממגבלות הקצב של בקשות וטוקנים. הגדלה של מגבלה אחת אינה מעידה על כך שהמגבלה האחרת השתנתה.

אם הבעיה נמשכת

לפני הפנייה לתמיכה

הכינו את נוסח הודעת השגיאה המדויק, קוד שגיאה אם קיים, מזהי בקשות רלוונטיים, שעת השגיאה כולל אזור הזמן שלכם והמגבלה הרלוונטית שמוצגת בחשבון. תעדו את הצעדים שכבר ניסיתם.

פנייה לתמיכה של OpenAI

אם לא הצלחתם לפתור את הבעיה לאחר בדיקת המגבלה שצוינה בשגיאה, פנו לתמיכה של OpenAI דרך מרכז העזרה. אל תכללו מפתחות API או פרטי אימות סודיים אחרים.

האם המאמר הזה היה מועיל?