Последователностите за спиране се използват, за да може моделът да прекрати генерирането на токени в желан момент, например в края на изречение или списък. Когато използвате API за завършване на чат, можете да зададете параметъра stop и да подадете последователността. Отговорът на модела няма да съдържа последователността за спиране, а вие можете да подадете до четири такива последователности.
Прост пример:
В този прост пример за чат се използва една последователност за спиране — думата „world“. Системното съобщение и съобщението на потребителя са проектирани така, че да се опитат да накарат модела да изведе „Hello world“; когато генерираният текст достигне точната последователност за спиране „world“, отговорът спира, преди да включи тази последователност за спиране, така че върнатият изход е текстът преди „world“ (показан като „Hello“ в playground).
Можете да разгледате допълнителни примери за последователности за спиране чрез площадката за чат на OpenAI.
