Stop sekvence se koriste kako bi model prestao generirati tokene na željenoj tački, kao što je kraj rečenice ili liste. Koristeći API za dovršavanje razgovora, možete navesti parametar stop i proslijediti sekvencu. Odgovor modela neće sadržavati stop sekvencu, a možete proslijediti do četiri stop sekvence.
Jednostavan primjer:
U ovom jednostavnom primjeru razgovora koristi se jedna stop sekvenca, riječ „world“. Sistemska poruka i korisnička poruka osmišljene su tako da pokušaju navesti model da ispiše „Hello world“; kada generirani tekst dođe do tačne stop sekvence „world“, odgovor se zaustavlja prije uključivanja te stop sekvence, pa je vraćeni izlaz tekst prije „world“ (prikazan kao „Hello“ u playgroundu).
Dodatne primjere stop sekvenci možete istražiti pomoću OpenAI chat playgrounda.
