Πώς λειτουργεί η μηχανική προτροπών

Λόγω του τρόπου με τον οποίο εκπαιδεύονται τα μοντέλα της OpenAI, υπάρχουν συγκεκριμένες μορφές προτροπών που λειτουργούν ιδιαίτερα καλά και οδηγούν σε πιο χρήσιμα αποτελέσματα από το μοντέλο.

Ο επίσημος οδηγός μηχανικής προτροπών της OpenAI είναι συνήθως το καλύτερο σημείο εκκίνησης για συμβουλές σχετικά με τις προτροπές.

Παρακάτω παρουσιάζουμε αρκετές μορφές προτροπών που θεωρούμε ότι λειτουργούν καλά, αλλά μπορείτε ελεύθερα να εξερευνήσετε διαφορετικές μορφές, οι οποίες μπορεί να ταιριάζουν καλύτερα στην εργασία σας.

Κανόνες εμπειρίας και παραδείγματα

Σημείωση: το "{text input here}" είναι ένα placeholder για πραγματικό κείμενο/πλαίσιο

1. Χρησιμοποιήστε το πιο πρόσφατο μοντέλο

Για καλύτερα αποτελέσματα, συνήθως συνιστούμε να χρησιμοποιείτε τα πιο πρόσφατα και πιο ικανά μοντέλα. Τα νεότερα μοντέλα τείνουν να είναι πιο εύκολα στη μηχανική προτροπών.


Σημείωση: Υπάρχουν ορισμένες διαφορές που πρέπει να λάβετε υπόψη όταν γράφετε προτροπές για ένα μοντέλο συλλογιστικής σε σύγκριση με ένα μοντέλο GPT. Περισσότερες λεπτομέρειες εδώ.

2. Τοποθετήστε τις οδηγίες στην αρχή της προτροπής και χρησιμοποιήστε ### ή """ για να διαχωρίσετε την οδηγία από το περιεχόμενο

Λιγότερο αποτελεσματικό ❌:

Σύνοψισε το παρακάτω κείμενο ως λίστα κουκκίδων με τα πιο σημαντικά σημεία.

{text input here}

Καλύτερο ✅:

Σύνοψισε το παρακάτω κείμενο ως λίστα κουκκίδων με τα πιο σημαντικά σημεία.

Κείμενο: """
{text input here}
"""

3. Να είστε συγκεκριμένοι, περιγραφικοί και όσο το δυνατόν πιο λεπτομερείς σχετικά με το επιθυμητό πλαίσιο, αποτέλεσμα, μήκος, μορφή, ύφος κ.λπ.

Να είστε συγκεκριμένοι σχετικά με το πλαίσιο, το αποτέλεσμα, το μήκος, τη μορφή, το ύφος κ.λπ.

Λιγότερο αποτελεσματικό ❌:

Γράψε ένα ποίημα για την OpenAI. 

Καλύτερο ✅:

Γράψε ένα σύντομο εμπνευσμένο ποίημα για την OpenAI, εστιάζοντας στην πρόσφατη κυκλοφορία του προϊόντος DALL-E (το DALL-E είναι ένα μοντέλο ML μετατροπής κειμένου σε εικόνα) στο ύφος του/της {famous poet}

4. Διατυπώστε την επιθυμητή μορφή εξόδου μέσω παραδειγμάτων

Λιγότερο αποτελεσματικό ❌:

Εξήγαγε τις οντότητες που αναφέρονται στο παρακάτω κείμενο. Εξήγαγε τους εξής 4 τύπους οντοτήτων: ονόματα εταιρειών, ονόματα προσώπων, συγκεκριμένα θέματα και θεματικές.

Κείμενο: {text}

Δείξτε και πείτε - τα μοντέλα ανταποκρίνονται καλύτερα όταν τους δείχνεται συγκεκριμένες απαιτήσεις μορφοποίησης. Αυτό επίσης διευκολύνει την αξιόπιστη προγραμματιστική ανάλυση πολλαπλών εξόδων.

Καλύτερο ✅:

Εξήγαγε τις σημαντικές οντότητες που αναφέρονται στο παρακάτω κείμενο. Πρώτα εξήγαγε όλα τα ονόματα εταιρειών, μετά εξήγαγε όλα τα ονόματα προσώπων, στη συνέχεια εξήγαγε συγκεκριμένα θέματα που ταιριάζουν στο περιεχόμενο και τέλος εξήγαγε γενικά υπερκείμενα θέματα

Επιθυμητή μορφή:
Ονόματα εταιρειών: <λίστα_ονομάτων_εταιρειών_χωρισμένη_με_κόμματα>
Ονόματα προσώπων: -||-
Συγκεκριμένα θέματα: -||-
Γενικά θέματα: -||-

Κείμενο: {text}

5. Ξεκινήστε με με μηδενικά παραδείγματα (zero-shot), μετά με λίγα παραδείγματα (few-shot), αν δεν λειτουργήσει κανένα από τα δύο, τότε κάντε fine-tune

✅ Με μηδενικά παραδείγματα (zero-shot)

Εξήγαγε λέξεις-κλειδιά από το παρακάτω κείμενο.

Κείμενο: {text}

Λέξεις-κλειδιά:

✅ Με λίγα παραδείγματα (few-shot) - δώστε μερικά παραδείγματα

Εξήγαγε λέξεις-κλειδιά από τα αντίστοιχα παρακάτω κείμενα.

Κείμενο 1: Η Stripe παρέχει API που οι προγραμματιστές ιστού μπορούν να χρησιμοποιήσουν για να ενσωματώσουν την επεξεργασία πληρωμών στους ιστότοπους και τις εφαρμογές κινητών τους.
Λέξεις-κλειδιά 1: Stripe, επεξεργασία πληρωμών, API, προγραμματιστές ιστού, ιστότοποι, εφαρμογές κινητών
##
Κείμενο 2: Η OpenAI έχει εκπαιδεύσει προηγμένα γλωσσικά μοντέλα που είναι πολύ καλά στην κατανόηση και παραγωγή κειμένου. Το API μας παρέχει πρόσβαση σε αυτά τα μοντέλα και μπορεί να χρησιμοποιηθεί για την επίλυση σχεδόν κάθε εργασίας που περιλαμβάνει επεξεργασία γλώσσας.
Λέξεις-κλειδιά 2: OpenAI, γλωσσικά μοντέλα, επεξεργασία κειμένου, API.
##
Κείμενο 3: {text}
Λέξεις-κλειδιά 3:

✅Fine-tune: δείτε τις βέλτιστες πρακτικές για fine-tune εδώ.

6. Μειώστε τις «φλύαρες» και ασαφείς περιγραφές

Λιγότερο αποτελεσματικό ❌:

Η περιγραφή για αυτό το προϊόν πρέπει να είναι αρκετά σύντομη, μόνο λίγες προτάσεις, και όχι πολύ μεγαλύτερη.

Καλύτερο ✅:

Χρησιμοποίησε μια παράγραφο 3 έως 5 προτάσεων για να περιγράψεις αυτό το προϊόν.

7. Αντί να λέτε μόνο τι να μην κάνετε, πείτε τι να κάνετε αντ’ αυτού

Λιγότερο αποτελεσματικό ❌:

Το παρακάτω είναι μια συνομιλία μεταξύ ενός Πράκτορα και ενός Πελάτη. ΜΗ ΖΗΤΗΣΕΙΣ ΟΝΟΜΑ ΧΡΗΣΤΗ Ή ΚΩΔΙΚΟ ΠΡΟΣΒΑΣΗΣ. ΜΗΝ ΕΠΑΝΑΛΑΒΕΙΣ.

Πελάτης: Δεν μπορώ να συνδεθώ στον λογαριασμό μου.
Πράκτορας:

Καλύτερο ✅:

Το παρακάτω είναι μια συνομιλία μεταξύ ενός Πράκτορα και ενός Πελάτη. Ο πράκτορας θα προσπαθήσει να διαγνώσει το πρόβλημα και να προτείνει μια λύση, αποφεύγοντας παράλληλα να κάνει οποιεσδήποτε ερωτήσεις σχετικές με PII. Αντί να ζητάς PII, όπως όνομα χρήστη ή κωδικό πρόσβασης, παρέπεμψε τον χρήστη στο άρθρο βοήθειας www.samplewebsite.com/help/faq

Πελάτης: Δεν μπορώ να συνδεθώ στον λογαριασμό μου.
Πράκτορας:

8. Ειδικά για δημιουργία κώδικα - Χρησιμοποιήστε «λέξεις εισαγωγής» για να κατευθύνετε το μοντέλο προς ένα συγκεκριμένο μοτίβο

Λιγότερο αποτελεσματικό ❌:

# Γράψε μια απλή συνάρτηση python που
# 1. Μου ζητά έναν αριθμό σε μίλια
# 2. Μετατρέπει τα μίλια σε χιλιόμετρα

Στο παρακάτω παράδειγμα κώδικα, η προσθήκη του «import» υποδεικνύει στο μοντέλο ότι πρέπει να αρχίσει να γράφει σε Python. (Αντίστοιχα, το «SELECT» είναι μια καλή ένδειξη για την αρχή μιας δήλωσης SQL.)

Καλύτερο ✅:

# Γράψε μια απλή συνάρτηση python που
# 1. Μου ζητά έναν αριθμό σε μίλια
# 2. Μετατρέπει τα μίλια σε χιλιόμετρα
 
import

9. Χρησιμοποιήστε τη δυνατότητα Generate Anything

Οι προγραμματιστές μπορούν να χρησιμοποιούν τη δυνατότητα 'Generate Anything' για να περιγράψουν μια εργασία ή το αναμενόμενο αποτέλεσμα σε φυσική γλώσσα και να λάβουν μια προσαρμοσμένη προτροπή.

Μάθετε περισσότερα για τη χρήση της δυνατότητας 'Generate Anything'.

Παράμετροι

Γενικά, διαπιστώνουμε ότι οι παράμετροι model και temperature είναι οι πιο συχνά χρησιμοποιούμενες για την τροποποίηση της εξόδου του μοντέλου.

1. model - Τα μοντέλα υψηλότερης απόδοσης είναι γενικά ακριβότερα και μπορεί να έχουν μεγαλύτερη καθυστέρηση.

2. temperature - Ένα μέτρο του πόσο συχνά το μοντέλο παράγει ένα λιγότερο πιθανό token. Όσο υψηλότερο είναι το temperature, τόσο πιο τυχαία (και συνήθως πιο δημιουργική) είναι η έξοδος. Αυτό, ωστόσο, δεν είναι το ίδιο με την «αληθοφάνεια». Για τις περισσότερες πραγματολογικές χρήσεις όπως η εξαγωγή δεδομένων και οι ακριβείς ερωτήσεις και απαντήσεις, το temperature 0 είναι το καλύτερο.

3. max_completion_tokens (μέγιστο μήκος) - Δεν ελέγχει το μήκος της εξόδου, αλλά αποτελεί ένα αυστηρό όριο αποκοπής για τη δημιουργία token. Ιδανικά δεν θα φτάνετε συχνά αυτό το όριο, καθώς το μοντέλο θα σταματά είτε όταν νομίζει ότι έχει ολοκληρώσει, είτε όταν φτάνει σε μια ακολουθία διακοπής που έχετε ορίσει.

4. stop (ακολουθίες διακοπής) - Ένα σύνολο χαρακτήρων (tokens) που, όταν δημιουργηθούν, θα προκαλέσουν τη διακοπή της δημιουργίας κειμένου.

Για περιγραφές άλλων παραμέτρων, δείτε την αναφορά API.