停止序列用于让模型在期望的位置停止生成 token,例如在一句话或一个列表的末尾。使用 Chat Completions API 时,你可以指定 stop 参数并传入该序列。模型的响应中不会包含停止序列,并且你最多可以传入四个停止序列。
简单示例:
在这个 简单聊天示例 中,使用了一个停止序列,即单词 "World"。系统消息和用户消息的设计是为了尽量让模型输出 "Hello world",但正如你在 Playground 里运行该示例时会看到的那样,模型通常只说到 "Hello" 就会停止,因为 world 是一个停止序列。
你可以使用 OpenAI 聊天 Playground 探索更多停止序列示例。
