중지 시퀀스는 문장이나 목록의 끝처럼 원하는 지점에서 모델이 토큰 생성을 멈추게 하는 데 사용됩니다. Chat Completions API를 사용하면 stop 매개변수를 지정하고 시퀀스를 전달할 수 있습니다. 모델 응답에는 중지 시퀀스가 포함되지 않으며, 최대 네 개의 중지 시퀀스를 전달할 수 있습니다.
간단한 예시:
이 간단한 채팅 예시에서는 하나의 중지 시퀀스, 즉 "world"라는 단어가 사용됩니다. 시스템 메시지와 사용자 메시지는 모델이 "Hello world"를 출력하도록 유도하게 설계되어 있습니다. 생성된 텍스트가 정확한 중지 시퀀스 "world"에 도달하면, 응답은 해당 중지 시퀀스를 포함하기 전에 멈추므로 반환되는 출력은 "world" 앞의 텍스트(플레이그라운드에서는 "Hello"로 표시됨)입니다.
OpenAI 채팅 플레이그라운드를 사용하여 추가 중지 시퀀스 예시를 살펴볼 수 있습니다.
