停止序列用于让模型在所需位置停止生成 Token,例如句子或列表的结尾。使用 Chat Completions API,你可以指定 stop 参数并传入该序列。模型响应不会包含停止序列,并且你最多可以传入四个停止序列。
简单示例:
在这个简单聊天示例中,使用了一个停止序列,即单词“world”。系统消息和用户消息旨在让模型输出“Hello world”;当生成的文本达到确切的停止序列“world”时,响应会在包含该停止序列之前停止,因此返回的输出是“world”之前的文本(在 playground 中显示为“Hello”)。
你可以使用 OpenAI 聊天 playground 探索更多停止序列示例。
