OpenAI
הדף הזה תורגם באופן אוטומטי. לצפייה במאמר המקורי באנגלית.

איך משתמשים ברצפי עצירה ב-API של OpenAI?

מה שצריך לדעת על הפרמטר של רצף העצירה ב-API להשלמת צ'אטים של OpenAI

עודכן: 28 days ago

רצפי עצירה משמשים כדי לגרום למודל להפסיק לייצר טוקנים בנקודה הרצויה, למשל בסוף משפט או רשימה. באמצעות API להשלמת צ'אטים, אפשר להגדיר את הפרמטר stop ולהעביר בו את הרצף. תגובת המודל לא תכלול את רצף העצירה. אפשר להעביר עד ארבעה רצפי עצירה.

דוגמה פשוטה:

בדוגמת הצ'אט הפשוטה הזו נעשה שימוש ברצף עצירה אחד: המילה "world". הודעת המערכת והודעת המשתמש נועדו לנסות לגרום למודל להפיק את הפלט "Hello world". כשהטקסט שנוצר מגיע לרצף העצירה המדויק "world", התגובה נעצרת לפני הכללת הרצף הזה. לכן הפלט שמוחזר הוא הטקסט שלפני "world" (שמוצג כ-"Hello" בסביבת ההתנסות).

אפשר לבדוק דוגמאות נוספות לרצפי עצירה באמצעות סביבת ההתנסות בצ'אט של OpenAI.

האם המאמר הזה היה מועיל?