Cum funcționează ingineria solicitare

Datorită modului în care sunt antrenate modelele OpenAI, există formate specifice de solicitare care funcționează deosebit de bine și duc la rezultate mai utile ale modelului.

Ghidul oficial OpenAI pentru inginerie solicitare este, de obicei, cel mai bun loc de unde să începi pentru sfaturi despre formularea solicitărilor.

Mai jos prezentăm o serie de formate de solicitare pe care le considerăm eficiente, dar nu ezita să explorezi și formate diferite, care s-ar putea potrivi mai bine sarcinii tale.

Reguli practice și exemple

Notă: „{text input here}” este un substituent pentru textul/contextul real

1. Folosește cel mai nou model

Pentru cele mai bune rezultate, recomandăm în general folosirea celor mai noi și mai capabile modele. Modelele mai noi tind să fie mai ușor de ghidat prin inginerie solicitare.


Notă: Există unele diferențe de luat în considerare când formulezi solicitări pentru un model de raţionament față de un model GPT. Mai multe detalii aici.

2. Pune instrucțiunile la începutul solicitării și folosește ### sau """ pentru a separa instrucțiunea de context

Mai puțin eficient ❌:

Rezumă textul de mai jos ca listă cu puncte a celor mai importante idei.

{text input here}

Mai bine ✅:

Rezumă textul de mai jos ca listă cu puncte a celor mai importante idei.

Text: """
{text input here}
"""

3. Fii specific, descriptiv și cât mai detaliat posibil cu privire la contextul, rezultatul, lungimea, formatul, stilul etc. dorite

Fii specific în privința contextului, rezultatului, lungimii, formatului, stilului etc.

Mai puțin eficient ❌:

Scrie un poem despre OpenAI. 

Mai bine ✅:

Scrie un poem scurt și inspirațional despre OpenAI, concentrându-te pe recenta lansare a produsului DALL-E (DALL-E este un model ML text-imagine), în stilul lui {famous poet}

4. Exprimă formatul de ieșire dorit prin exemple

Mai puțin eficient ❌:

Extrage entitățile menționate în textul de mai jos. Extrage următoarele 4 tipuri de entități: nume de companii, nume de persoane, subiecte specifice și teme.

Text: {text}

Arată și spune — modelele răspund mai bine când li se arată cerințe specifice de format. Acest lucru face, de asemenea, mai ușoară extragerea programatică fiabilă a mai multor ieșiri.

Mai bine ✅:

Extrage entitățile importante menționate în textul de mai jos. Mai întâi extrage toate numele de companii, apoi extrage toate numele de persoane, apoi subiectele specifice care se potrivesc conținutului și, în final, temele generale dominante

Format dorit:
Nume de companii: <listă_de_nume_de_companii_separate_prin_virgulă>
Nume de persoane: -||-
Subiecte specifice: -||-
Teme generale: -||-

Text: {text}

5. Începe cu zero exemple, apoi cu câteva exemple; dacă niciuna nu funcționează, atunci ajustează fin

✅ Zero exemple

Extrage cuvinte-cheie din textul de mai jos.

Text: {text}

Cuvinte-cheie:

✅ Câteva exemple - oferă câteva exemple

Extrage cuvinte-cheie din textele corespunzătoare de mai jos.

Text 1: Stripe oferă API-uri pe care dezvoltatorii web le pot folosi pentru a integra procesarea plăților în site-urile și aplicațiile lor mobile.
Cuvinte-cheie 1: Stripe, procesarea plăților, API-uri, dezvoltatori web, site-uri, aplicații mobile
##
Text 2: OpenAI a antrenat modele lingvistice de ultimă generație care sunt foarte bune la înțelegerea și generarea textului. API-ul nostru oferă acces la aceste modele și poate fi folosit pentru a rezolva practic orice sarcină care implică procesarea limbajului.
Cuvinte-cheie 2: OpenAI, modele lingvistice, procesarea textului, API.
##
Text 3: {text}
Cuvinte-cheie 3:

✅Ajustare fină: vezi bunele practici pentru ajustare fină aici.

6. Redu descrierile „vagi” și imprecise

Mai puțin eficient ❌:

Descrierea acestui produs ar trebui să fie destul de scurtă, doar câteva propoziții și nu cu mult mai mult.

Mai bine ✅:

Folosește un paragraf de 3 până la 5 propoziții pentru a descrie acest produs.

7. În loc să spui doar ce să nu faci, spune ce să faci în schimb

Mai puțin eficient ❌:

Următorul este un dialog între un agent și un client. NU CERE NUMELE DE UTILIZATOR SAU PAROLA. NU REPETA.

Client: Nu mă pot conecta la contul meu.
Agent:

Mai bine ✅:

Următorul este un dialog între un agent și un client. Agentul va încerca să diagnosticheze problema și să sugereze o soluție, evitând totodată să pună întrebări legate de PII. În loc să ceară PII, cum ar fi numele de utilizator sau parola, îndrumă utilizatorul către articolul de ajutor www.samplewebsite.com/help/faq

Client: Nu mă pot conecta la contul meu.
Agent:

8. Specific generării de cod - folosește „cuvinte de început” pentru a orienta modelul spre un anumit tipar

Mai puțin eficient ❌:

# Scrie o funcție python simplă care
# 1. Îmi cere un număr în mile
# 2. Convertește milele în kilometri

În exemplul de cod de mai jos, adăugarea lui „import” îi sugerează modelului că ar trebui să înceapă să scrie în Python. (În mod similar, „SELECT” este un indiciu bun pentru începutul unei instrucțiuni SQL.)

Mai bine ✅:

# Scrie o funcție python simplă care
# 1. Îmi cere un număr în mile
# 2. Convertește milele în kilometri
 
import

9. Folosește funcția Generate Anything

Dezvoltatorii pot folosi funcția „Generate Anything” pentru a descrie o sarcină sau ieșirea așteptată în limbaj natural și a primi o solicitare adaptată.

Află mai multe despre folosirea funcției „Generate Anything”.

Parametri

În general, constatăm că model și temperature sunt parametrii folosiți cel mai des pentru a modifica ieșirea modelului.

1. model - Modelele cu performanță mai ridicată sunt în general mai scumpe și pot avea o latență mai mare.

2. temperature - O măsură a frecvenței cu care modelul produce un token mai puțin probabil. Cu cât temperature este mai mare, cu atât ieșirea este mai aleatorie (și de obicei mai creativă). Totuși, aceasta nu este același lucru cu „veridicitatea”. Pentru majoritatea cazurilor de utilizare factuale, cum ar fi extragerea datelor și întrebări și răspunsuri veridice, valoarea temperature 0 este cea mai bună.

3. max_completion_tokens (lungime maximă) - Nu controlează lungimea ieșirii, ci o limită strictă de întrerupere pentru generarea de tokenuri. Ideal, nu vei atinge des această limită, deoarece modelul se va opri fie când consideră că a terminat, fie când atinge o secvență de oprire definită de tine.

4. stop (secvențe de oprire) - Un set de caractere (tokenuri) care, atunci când sunt generate, vor face ca generarea textului să se oprească.

Pentru alte descrieri ale parametrilor, consultă referința API.