중지 시퀀스는 문장이나 목록의 끝처럼 원하는 지점에서 모델이 토큰 생성을 멈추도록 하는 데 사용됩니다. Chat Completions API를 사용할 때 stop 파라미터를 지정하고 시퀀스를 전달할 수 있습니다. 모델 응답에는 중지 시퀀스가 포함되지 않으며, 최대 네 개의 중지 시퀀스를 전달할 수 있습니다.
간단한 예:
이 간단한 채팅 예시에서는 중지 시퀀스로 "World"라는 단어 하나를 사용합니다. 시스템 메시지와 사용자 메시지는 모델이 "Hello world"를 출력하도록 유도하도록 설계되어 있지만, 플레이그라운드에서 예시를 실행해 보면 "World"가 중지 시퀀스이기 때문에 모델은 보통 "Hello"까지만 말하고 멈추는 것을 확인할 수 있습니다.
OpenAI 채팅 플레이그라운드에서 추가 중지 시퀀스 예시도 살펴볼 수 있습니다.