Sekvence zastavení se používají k tomu, aby model přestal generovat tokeny v požadovaném bodě, například na konci věty nebo seznamu. Pomocí API na dokončování chatu můžete zadat parametr stop a předat sekvenci. Odpověď modelu nebude obsahovat sekvenci zastavení a můžete předat až čtyři sekvence zastavení.
Jednoduchý příklad:
V tomto jednoduchém příkladu chatu se používá jedna sekvence zastavení, slovo „world“. Systémová zpráva a zpráva uživatele jsou navrženy tak, aby se pokusily přimět model k výstupu „Hello world“; když vygenerovaný text dosáhne přesné sekvence zastavení „world“, odpověď se zastaví před zahrnutím této sekvence zastavení, takže vráceným výstupem je text před „world“ (v playgroundu zobrazený jako „Hello“).
Další příklady sekvencí zastavení si můžete vyzkoušet pomocí chatového playgroundu OpenAI.