אנו מציעים מצב מהיר ללקוחות API שמעוניינים בביצועים מהירים ועקביים יותר במודלים מסוימים. להלן תשובות לשאלות נפוצות על אופן הפעולה, תמחור, זמינות מודלים, מגבלות קצב, אמינות, מדיניות וזכאות.

הערה: ב-30 ביולי 2026 שונה השם של עיבוד בעדיפות למצב מהיר. אפשר להשתמש ב-service_tier: priority או ב-service_tier: fast בבקשות ה-API שלכם. 

למידע נוסף, לחצו כאן.

האם מצב מהיר זמין בכל האזורים?

הזמינות של מצב מהיר תלויה בחוקים ובתקנות החלים בכל תחום שיפוט. לשאלות בנוגע לזמינות באזור שלכם, פנו למנהל הלקוח שלכם.

איך זה עובד

לקוחות יכולים להפנות תעבורה למצב מהיר לכל בקשה בנפרד באמצעות הפרמטר הקיים service_tier, עם האפשרות service_tier = "fast".

טוקנים שמעובדים במצב מהיר יחויבו לפי טוקן, בתעריף גבוה יותר מתעריפי העיבוד הרגיל.

מלבד ההגדרה ברמת הבקשה, אפשר גם לקבוע מצב מהיר כברירת המחדל לפרויקט דרך הגדרות הפרויקט > רמת שירות ברירת מחדל: מהיר. עדיין אפשר לעקוף את ההגדרה בכל בקשה בנפרד. בחירה באפשרות ״מהיר״ בהגדרות הפרויקט שקולה לבחירה באפשרות ״עדיפות״.

איך מצב מהיר משתלב עם רמת קנה מידה?

רמת קנה מידה תישאר נפרדת ממצב מהיר. בקשות שנשלחות למצב מהיר יחויבו בנפרד ולא ינוכו מחבילות הטוקנים לדקה (TPM) שרכשתם ברמת קנה מידה.

האם אפשר להפנות אוטומטית למצב מהיר תעבורה שחורגת מהמכסה שלי ברמת קנה מידה?

לא. תעבורה שנשלחת לרמת קנה מידה וחורגת מהמכסה לא תועבר אוטומטית למצב מהיר.

איך מתבצע החיוב על מצב מהיר?

טוקנים שמעובדים במצב מהיר יחויבו לפי טוקן, בתעריף גבוה יותר מתעריפי העיבוד הרגיל.

האם ההתחייבות השנתית שלי קשורה למצב עיבוד מסוים?

לא. ההוצאות על כל מצבי העיבוד נספרות לצורך עמידה בהתחייבות ההוצאה השנתית שלכם במסגרת Enterprise.

האם עדיין ניתנת הנחה על טוקנים של קלט שנשמר במטמון?

כן! על קלט שנשמר במטמון ניתנת אותה הנחה של 50–75% כמו בעיבוד רגיל.

איך אפשר לצפות בשימוש ובהוצאות שלי במצב מהיר?

כדי לצפות בטוקנים שעובדו במצב מהיר (לשעבר עיבוד בעדיפות), עברו ללוח בקרת השימוש, בחרו Chat Completions או Responses, ואז בחרו קיבוץ לפי רמת שירות.

כדי לצפות בעלות של מצב מהיר, עברו ללוח בקרת השימוש ובחרו קיבוץ לפי סעיף חיוב.

בלוח בקרת השימוש, בקשות שבהן הערך של service_tier הוא priority או fast ימשיכו להופיע כ-priority. התצוגה הזו תעודכן עבור מודלים עתידיים.

מודלים

האם מצב מהיר זמין להקשרים ארוכים, למודלים שעברו כוונון עדין, להטמעות וכדומה?

לא כרגע. בעתיד נבחן אם להציע מצב מהיר במוצרים נוספים, מעבר למודלים העדכניים ביותר שלנו.

איך פועלים סוגי מדיה אחרים במצב מהיר?

מצב מהיר תומך באותן יכולות רב-מודאליות שזמינות בעיבוד רגיל. בפרט, אפשר להשתמש בתמונות כקלט לעיבוד בעדיפות, והן מעובדות באותה השהיה נמוכה.

האם תהיה תמיכה במודלים עתידיים?

אנו מתכננים להציע מצב מהיר במודלי GPT חדשים, אך איננו מבטיחים תמיכה בכל מודל.

מגבלות קצב

מהן מגבלות הקצב?

לצורך מגבלות הקצב, השימוש בעיבוד בעדיפות נחשב כמו תעבורת API רגילה.

מהן מגבלות קצב העלייה?

במצב מהיר חלות מגבלות על קצב העלייה כדי להבטיח ביצועים גבוהים באופן עקבי לכל הלקוחות, לצד תמחור גמיש לפי דרישה. אם (א) יש ירידה בביצועי המצב המהיר וגם (ב) תעבורת הלקוח עולה מהר מדי, במקרים נדירים חלק מהבקשות עשויות לעבור לעיבוד רגיל במקום זאת.

מגבלת קצב העלייה הנוכחית במצב מהיר מוגדרת כאן בתיעוד הראשי שלנו.

המלצות לשמירה על קצב עלייה במסגרת המגבלה

הגדילו את התעבורה בהדרגה בעת החלפת מודלים. לדוגמה, אם היישום שלכם עובר מתמונת מצב קודמת לחדשה, השתמשו בדגל תכונה כדי להעביר את התעבורה לאורך כמה שעות, ולא בבת אחת.

הימנעו מהרצת משימות גדולות לעיבוד נתונים או משימות אסינכרוניות במצב מהיר. משימות אלו עלולות להגדיל את התעבורה במהירות רבה, ולעיתים קרובות אינן זקוקות לביצועים המשופרים של מצב מהיר.

אם אתם מגיעים למגבלות קצב העלייה באופן קבוע, שקלו לרכוש במקום זאת מכסה ברמת קנה מידה.

האם מגבלות קצב העלייה משותפות לכל הפרויקטים או הארגונים שלי?

כן, כל התעבורה שלכם נכללת בחישוב של אותה מגבלת קצב עלייה.

מדיניות

מה קורה אם מצב מהיר לא עומד ביעד ההשהיה?

בכל שאלה או חשש, פנו למנהל הלקוח שלכם. הסכמי רמת השירות (SLA) של מצב מהיר יטופלו באותו אופן כמו אלה של רמת קנה מידה; אם לא נעמוד בהסכמים אלה במהלך פרק זמן נתון, יוצעו זיכויי שירות ללקוחות עם הסכמי Enterprise.

האם מצב מהיר תואם לדרישות תושבות נתונים?

כן.

האם מצב מהיר תואם ל-ZDR ול-BAA?

כן.

Ultrafast עבור GPT-6 Astra

Ultrafast היא רמת שירות נפרדת לעומסי עבודה שדורשים תגובות של GPT-6 Astra בהשהיה נמוכה יותר, כגון יישומים אינטראקטיביים ותהליכי עבודה לכתיבת קוד.

ההנחיות בנושא תמחור, מגבלות קצב ומדיניות של מצב מהיר חלות על בקשות שמשתמשות ב-service_tier="fast". בקשות Ultrafast משתמשות ברמת השירות הנפרדת service_tier="ultrafast".

איך שולחים בקשת Ultrafast?

בארגון שיש לו גישה ל-Ultrafast, השתמשו ב-Responses API עם ההגדרות הבאות:

• מודל: gpt-6-astra

• רמת שירות: ultrafast

• כותרת בקשה: OpenAI-Service-Tier: ultrafast

כותרת הבקשה נדרשת בנוסף להגדרת רמת השירות.

ביישומים שמבצעים קריאות לכלים, מצב WebSocket מאפשר להשתמש באותו חיבור לאורך סבבי השיחה ולהפחית את התקורה הכרוכה ביצירת חיבורים.

האם אפשר להשתמש באותה כותרת בקשה ברמות שירות אחרות?

בשלב האלפא של Ultrafast, הכותרת OpenAI-Service-Tier מקבלת רק את הערך ultrafast. שליחת ערך אחר, כולל default, fast או flex, מחזירה שגיאת HTTP 400. כשמשתמשים ברמה אחרת, יש להשמיט את הכותרת הזו.

האם אפשר להשתמש ב-Ultrafast ב-Work או ב-Codex?

Ultrafast זמין גם ב-Work וב-Codex בתוכניות ובסביבות עבודה שעומדות בתנאי הזכאות. תנאי הזכאות והשימוש בתוכניות ChatGPT שונים מאלה של הגישה דרך ה-API.

לפרטים על זמינות ושימוש, ראו ChatGPT Work ו-Codex.