Sekvence stop se používají k tomu, aby model přestal generovat tokeny v požadovaném bodě, například na konci věty nebo seznamu. Pomocí API na dokončování chatu můžete zadat parametr stop a předat danou sekvenci. Odpověď modelu nebude sekvenci stop obsahovat a můžete zadat až čtyři sekvence stop.
Jednoduchý příklad:
V tomto jednoduchém příkladu chatu se používá jedna sekvence stop, slovo „World“. Systémová zpráva a zpráva uživatele jsou navrženy tak, aby se model pokusil vrátit „Hello world“, ale jak uvidíte, pokud příklad spustíte v playgroundu, model se obvykle zastaví už po „Hello“, protože world je sekvence stop.
Další příklady sekvencí stop můžete prozkoumat v chat playgroundu OpenAI.