Kā darbojas uzvedņu inženierija
Tā kā OpenAI modeļi tiek apmācīti noteiktā veidā, ir konkrēti uzvedņu formāti, kas darbojas īpaši labi un nodrošina noderīgākas modeļa izvades. OpenAI oficiālā uzvedņu inženierijas rokasgrāmata parasti ir labākā vieta, kur sākt, ja meklējat uzvedņu veidošanas padomus.
Tālāk piedāvājam vairākus uzvedņu formātus, kas, mūsuprāt, darbojas labi, taču droši izpētiet arī citus formātus, kas var labāk atbilst jūsu uzdevumam.
Pamatprincipi un piemēri
Piezīme: „{text input here}” ir vietturis faktiskajam tekstam/kontekstam
1. Izmantojiet jaunāko modeli
Lai iegūtu labākos rezultātus, parasti iesakām izmantot jaunākos un spējīgākos modeļus. Jaunākiem modeļiem parasti ir vieglāk veikt uzvedņu inženieriju.
Piezīme: Veidojot uzvednes spriestspējas modelim, salīdzinājumā ar uzvedņu veidošanu GPT modelim, jāņem vērā dažas atšķirības. Plašāka informācija šeit.
2. Ievietojiet norādījumus uzvednes sākumā un izmantojiet ### vai """, lai atdalītu norādījumus no konteksta
Mazāk efektīvi ❌:
Apkopojiet tālāk esošo tekstu svarīgāko punktu sarakstā ar aizzīmēm.
{text input here}Labāk ✅:
Apkopojiet tālāk esošo tekstu svarīgāko punktu sarakstā ar aizzīmēm.
Teksts: """
{text input here}
"""3. Esiet pēc iespējas konkrētāks, aprakstošāks un detalizētāks par vēlamo kontekstu, rezultātu, garumu, formātu, stilu utt.
Esiet konkrēts par kontekstu, rezultātu, garumu, formātu, stilu utt.
Mazāk efektīvi ❌:
Uzrakstiet dzejoli par OpenAI. Labāk ✅:
Uzrakstiet īsu iedvesmojošu dzejoli par OpenAI, koncentrējoties uz neseno DALL-E produkta izlaišanu (DALL-E ir teksta-attēla ML modelis) {famous poet} stilā4. Izskaidrojiet vēlamo izvades formātu ar piemēriem
Mazāk efektīvi ❌:
Izgūstiet tālāk esošajā tekstā minētās entītijas. Izgūstiet šos 4 entītiju veidus: uzņēmumu nosaukumus, personu vārdus, konkrētas tēmas un vispārīgas tēmas.
Teksts: {text}Rādiet un stāstiet — modeļi reaģē labāk, ja tiem parāda konkrētas formāta prasības. Tas arī atvieglo vairāku izvadu drošu programmātisku parsēšanu.
Labāk ✅:
Izgūstiet tālāk esošajā tekstā minētās svarīgās entītijas. Vispirms izgūstiet visus uzņēmumu nosaukumus, pēc tam visus personu vārdus, tad konkrētas tēmas, kas atbilst saturam, un visbeidzot vispārīgas virsaptverošās tēmas
Vēlamais formāts:
Uzņēmumu nosaukumi: <ar_komatiem_atdalīts_uzņēmumu_nosaukumu_saraksts>
Personu vārdi: -||-
Konkrētas tēmas: -||-
Vispārīgas tēmas: -||-
Teksts: {text}5. Sāciet ar bezpiemēru metodi, pēc tam izmantojiet dažpiemēru metodi; ja neviena nedarbojās, veiciet precizējošo apmācību
✅ Bezpiemēru metode
Izgūstiet atslēgvārdus no tālāk esošā teksta.
Teksts: {text}
Atslēgvārdi:✅ Dažpiemēru metode — sniedziet pāris piemēru
Izgūstiet atslēgvārdus no attiecīgajiem tālāk esošajiem tekstiem.
Teksts 1: Stripe piedāvā API, ko tīmekļa izstrādātāji var izmantot, lai integrētu maksājumu apstrādi savās vietnēs un mobilajās lietotnēs.
Atslēgvārdi 1: Stripe, maksājumu apstrāde, API, tīmekļa izstrādātāji, vietnes, mobilās lietotnes
##
Teksts 2: OpenAI ir apmācījis modernākos valodas modeļus, kas ļoti labi saprot un ģenerē tekstu. Mūsu API nodrošina piekļuvi šiem modeļiem un to var izmantot, lai atrisinātu praktiski jebkuru uzdevumu, kas saistīts ar valodas apstrādi.
Atslēgvārdi 2: OpenAI, valodas modeļi, teksta apstrāde, API.
##
Teksts 3: {text}
Atslēgvārdi 3:✅ Precizējošā apmācība: skatiet precizējošās apmācības paraugpraksi šeit.
6. Samaziniet „pūkainus” un neprecīzus aprakstus
Mazāk efektīvi ❌:
Šī produkta aprakstam jābūt diezgan īsam, tikai dažu teikumu garam un ne daudz vairāk.Labāk ✅:
Izmantojiet 3 līdz 5 teikumu rindkopu, lai aprakstītu šo produktu.7. Tā vietā, lai tikai pateiktu, ko nedarīt, pasakiet, ko darīt tā vietā
Mazāk efektīvi ❌:
Tālāk redzama saruna starp aģentu un klientu. NEPRASIET LIETOTĀJVĀRDU VAI PAROLI. NEATKĀRTOJIET.
Klients: Es nevaru pieteikties savā kontā.
Aģents:Labāk ✅:
Tālāk redzama saruna starp aģentu un klientu. Aģents mēģinās diagnosticēt problēmu un ieteikt risinājumu, vienlaikus atturoties no jebkādu ar PII saistītu jautājumu uzdošanas. Tā vietā, lai prasītu PII, piemēram, lietotājvārdu vai paroli, novirziet lietotāju uz palīdzības rakstu www.samplewebsite.com/help/faq
Klients: Es nevaru pieteikties savā kontā.
Aģents:8. Īpaši koda ģenerēšanai — izmantojiet „ievadvārdus”, lai virzītu modeli uz konkrētu šablonu
Mazāk efektīvi ❌:
# Uzrakstiet vienkāršu python funkciju, kas
# 1. Prasa man skaitli jūdzēs
# 2. Pārvērš jūdzes kilometrosTālāk redzamajā koda piemērā „import” pievienošana modelim norāda, ka tam jāsāk rakstīt Python valodā. (Līdzīgi „SELECT” ir labs mājiens SQL priekšraksta sākumam.)
Labāk ✅:
# Uzrakstiet vienkāršu python funkciju, kas
# 1. Prasa man skaitli jūdzēs
# 2. Pārvērš jūdzes kilometros
import9. Izmantojiet funkciju „Ģenerēt jebko”
Izstrādātāji var izmantot funkciju „Ģenerēt jebko”, lai aprakstītu uzdevumu vai gaidāmo dabiskās valodas izvadi un saņemtu pielāgotu uzvedni.
Uzziniet vairāk par funkcijas „Ģenerēt jebko” izmantošanu.
Parametri
Kopumā esam konstatējuši, ka modeļa izvades mainīšanai visbiežāk izmanto parametrus modelis un temperatūra.
modelis — augstākas veiktspējas modeļi parasti ir dārgāki, un tiem var būt lielāks latentums.
temperatūra — mērs, kas nosaka, cik bieži modelis izvada mazāk varbūtīgu tekstvienību. Jo augstāka ir temperatūra, jo nejaušāka (un parasti radošāka) ir izvade. Tomēr tas nav tas pats, kas „patiesums”. Vairumam faktoloģisku lietojumu, piemēram, datu izgūšanai un patiesu atbilžu sniegšanai uz jautājumiem, vispiemērotākā temperatūra ir 0.
max_completion_tokens (maksimālais garums) — nekontrolē izvades garumu, bet nosaka stingru tekstvienību ģenerēšanas robežu. Ideālā gadījumā šī robeža netiks bieži sasniegta, jo modelis apstāsies, kad uzskatīs, ka ir pabeidzis, vai sasniegs jūsu definēto apturēšanas secību.
stop (apturēšanas secības) — rakstzīmju (tekstvienību) kopa, kuras ģenerēšana aptur teksta ģenerēšanu.
Citu parametru aprakstus skatiet API uzziņu dokumentācijā.