Ukončovací sekvence slouží k tomu, aby model přestal generovat tokeny na požadovaném místě, například na konci věty nebo seznamu. Pomocí API na dokončování chatu můžete zadat parametr stop a předat mu příslušnou sekvenci. Odpověď modelu nebude ukončovací sekvenci obsahovat. Předat můžete až čtyři ukončovací sekvence.
Jednoduchý příklad:
V tomto jednoduchém příkladu chatu se používá jedna sekvence zastavení, slovo „world“. Systémová zpráva a zpráva uživatele jsou navrženy tak, aby se pokusily přimět model k výstupu „Hello world“; když vygenerovaný text dosáhne přesné sekvence zastavení „world“, odpověď se zastaví před zahrnutím této sekvence zastavení, takže vráceným výstupem je text před „world“ (v playgroundu zobrazený jako „Hello“).
Další příklady sekvencí zastavení si můžete vyzkoušet pomocí chatového playgroundu OpenAI.