Kako deluje inženiring pozivov
Zaradi načina, kako so modeli OpenAI usposobljeni, obstajajo določene oblike pozivov, ki delujejo posebej dobro in vodijo do uporabnejših izhodov modela. Uradni vodnik OpenAI za inženiring pozivov je običajno najboljše izhodišče za nasvete o pozivih.
Spodaj predstavljamo več oblik pozivov, za katere ugotavljamo, da dobro delujejo, vendar lahko raziščete tudi druge oblike, ki morda bolje ustrezajo vaši nalogi.
Praktična pravila in primeri
Opomba: »{tukaj vnesite besedilo}« je ograda za dejansko besedilo/kontekst
1. Uporabite najnovejši model
Za najboljše rezultate na splošno priporočamo uporabo najnovejših, najzmogljivejših modelov. Pri novejših modelih je inženiring pozivov praviloma lažji.
Opomba: Pri pozivanju modela sklepanja v primerjavi s pozivanjem modela GPT je treba upoštevati nekaj razlik. Več podrobnosti najdete tukaj.
2. Navodila postavite na začetek poziva in uporabite ### ali """ za ločitev navodil od konteksta
Manj učinkovito ❌:
Povzemi spodnje besedilo kot seznam najpomembnejših točk.
{text input here}Boljše ✅:
Povzemi spodnje besedilo kot seznam najpomembnejših točk.
Besedilo: """
{text input here}
"""3. Bodite čim bolj specifični, opisni in podrobni glede želenega konteksta, izida, dolžine, oblike, sloga itd.
Bodite specifični glede konteksta, izida, dolžine, oblike, sloga itd.
Manj učinkovito ❌:
Napiši pesem o OpenAI. Boljše ✅:
Napiši kratko navdihujočo pesem o OpenAI, osredotočeno na nedavno predstavitev izdelka DALL-E (DALL-E je model ML za pretvorbo besedila v sliko) v slogu {famous poet}4. Želeno obliko izhoda izrazite s primeri
Manj učinkovito ❌:
Izlušči entitete, omenjene v spodnjem besedilu. Izlušči naslednje 4 vrste entitet: imena podjetij, imena oseb, specifične teme in teme.
Besedilo: {text}Pokažite in povejte – modeli se bolje odzivajo, ko jim pokažete specifične zahteve glede oblike. S tem je tudi lažje programsko zanesljivo razčleniti več izhodov.
Boljše ✅:
Izlušči pomembne entitete, omenjene v spodnjem besedilu. Najprej izlušči vsa imena podjetij, nato vsa imena oseb, nato specifične teme, ki ustrezajo vsebini, in nazadnje splošne krovne teme
Želena oblika:
Imena podjetij: <z_vejicami_ločen_seznam_imen_podjetij>
Imena oseb: -||-
Specifične teme: -||-
Splošne teme: -||-
Besedilo: {text}5. Začnite z učenjem iz nič primerov, nato z učenjem iz malo primerov; če nobeno ne deluje, izvedite fino nastavljanje
✅ Učenje iz nič primerov
Izlušči ključne besede iz spodnjega besedila.
Besedilo: {text}
Ključne besede:✅ Učenje iz malo primerov – navedite nekaj primerov
Izlušči ključne besede iz ustreznih spodnjih besedil.
Besedilo 1: Stripe ponuja API-je, ki jih lahko spletni razvijalci uporabijo za integracijo obdelave plačil v svoja spletna mesta in mobilne aplikacije.
Ključne besede 1: Stripe, obdelava plačil, API-ji, spletni razvijalci, spletna mesta, mobilne aplikacije
##
Besedilo 2: OpenAI je usposobil najsodobnejše jezikovne modele, ki zelo dobro razumejo in ustvarjajo besedilo. Naš API omogoča dostop do teh modelov in ga je mogoče uporabiti za reševanje praktično vsake naloge, ki vključuje obdelavo jezika.
Ključne besede 2: OpenAI, jezikovni modeli, obdelava besedila, API.
##
Besedilo 3: {text}
Ključne besede 3:✅ Fino nastavljanje: oglejte si najboljše prakse za fino nastavljanje tukaj.
6. Zmanjšajte »puhaste« in nenatančne opise
Manj učinkovito ❌:
Opis tega izdelka naj bo dokaj kratek, le nekaj stavkov, in ne veliko daljši od tega.Boljše ✅:
Za opis tega izdelka uporabi odstavek s 3 do 5 stavki.7. Namesto da poveste le, česa naj ne naredi, povejte, kaj naj naredi namesto tega
Manj učinkovito ❌:
Sledi pogovor med agentom in stranko. NE SPRAŠUJ PO UPORABNIŠKEM IMENU ALI GESLU. NE PONAVLJAJ.
Stranka: Ne morem se prijaviti v svoj račun.
Agent:Boljše ✅:
Sledi pogovor med agentom in stranko. agent bo poskusil diagnosticirati težavo in predlagati rešitev, pri tem pa se bo vzdržal postavljanja kakršnih koli vprašanj, povezanih z OPI. Namesto spraševanja po OPI, kot sta uporabniško ime ali geslo, uporabnika usmeri na članek s pomočjo www.samplewebsite.com/help/faq
Stranka: Ne morem se prijaviti v svoj račun.
Agent:8. Posebej za generiranje kode – uporabite »uvodne besede«, da model usmerite k določenemu vzorcu
Manj učinkovito ❌:
# Napiši preprosto funkcijo v pythonu, ki
# 1. me vpraša za število milj
# 2. pretvori milje v kilometreV spodnjem primeru kode dodajanje »import« modelu namigne, naj začne pisati v Pythonu. (Podobno je »SELECT« dober namig za začetek stavka SQL.)
Boljše ✅:
# Napiši preprosto funkcijo v pythonu, ki
# 1. me vpraša za število milj
# 2. pretvori milje v kilometre
import9. Uporabite funkcijo Ustvari kar koli
Razvijalci lahko uporabijo funkcijo »Ustvari kar koli«, da opišejo nalogo ali pričakovani izhod v naravnem jeziku in prejmejo prilagojen poziv.
Preberite več o uporabi funkcije »Ustvari kar koli«.
Parametri
Na splošno ugotavljamo, da sta `model` in `temperature` najpogosteje uporabljena parametra za spreminjanje izhoda modela.
`model` – Zmogljivejši modeli so na splošno dražji in imajo lahko večjo zakasnitev.
`temperature` – Merilo, kako pogosto model izpiše manj verjeten žeton. Višja kot je vrednost
temperature, bolj naključen (in običajno ustvarjalen) je izhod. Vendar to ni isto kot »resnicoljubnost«. Za večino dejanskih primerov uporabe, kot sta izluščenje podatkov in resnična vprašanja in odgovori, je najboljša vrednosttemperature0.`max_completion_tokens` (največja dolžina) – Ne nadzira dolžine izhoda, temveč določa strogo omejitev za generiranje žetonov. V idealnem primeru te omejitve ne boste pogosto dosegli, saj se bo model ustavil, ko bo presodil, da je končal, ali ko bo naletel na zaporedje zaustavitve, ki ste ga določili.
`stop` (zaporedja zaustavitve) – Nabor znakov (žetonov), ki ob generiranju povzročijo, da se generiranje besedila ustavi.
Za opise drugih parametrov glejte referenco API-ja.