Sekwencje stop służą do zatrzymania generowania tokenów przez model w wybranym momencie, na przykład na końcu zdania lub listy. Korzystając z API zakończenia czatu, możesz określić parametr stop i przekazać sekwencję. Odpowiedź modelu nie będzie zawierać sekwencji stop, a możesz przekazać maksymalnie cztery sekwencje stop.
Prosty przykład:
W tym prostym przykładzie czatu użyto jednej sekwencji stop, słowa „World”. Komunikat systemowy i komunikat użytkownika są skonstruowane tak, by skłonić model do wygenerowania „Hello world”, ale jak zobaczysz po uruchomieniu przykładu w playgroundzie, model zwykle zatrzymuje się po samym „Hello”, ponieważ world jest sekwencją stop.
Możesz przejrzeć dodatkowe przykłady sekwencji stop, korzystając z playgroundu czatu OpenAI.