Πώς λειτουργεί η μηχανική προτροπών
Λόγω του τρόπου με τον οποίο εκπαιδεύονται τα μοντέλα της OpenAI, υπάρχουν συγκεκριμένες μορφές προτροπών που λειτουργούν ιδιαίτερα καλά και οδηγούν σε πιο χρήσιμες εξόδους μοντέλου. Ο επίσημος οδηγός μηχανικής προτροπών της OpenAI είναι συνήθως το καλύτερο σημείο εκκίνησης για συμβουλές σχετικά με προτροπές.
Παρακάτω παρουσιάζουμε διάφορες μορφές προτροπών που θεωρούμε ότι λειτουργούν καλά, αλλά μη διστάσετε να εξερευνήσετε διαφορετικές μορφές, οι οποίες μπορεί να ταιριάζουν καλύτερα στην εργασία σας.
Πρακτικοί κανόνες και παραδείγματα
Σημείωση: το «{εισαγωγή κειμένου εδώ}» είναι ένα σύμβολο κράτησης θέσης για πραγματικό κείμενο/περιεχόμενο
1. Χρησιμοποιήστε το πιο πρόσφατο μοντέλο
Για τα καλύτερα αποτελέσματα, γενικά συνιστούμε να χρησιμοποιείτε τα πιο πρόσφατα και ικανά μοντέλα. Τα νεότερα μοντέλα τείνουν να είναι ευκολότερα στη μηχανική προτροπών.
Σημείωση: Υπάρχουν ορισμένες διαφορές που πρέπει να λάβετε υπόψη όταν συντάσσετε προτροπές για ένα μοντέλο συλλογιστικής σε σύγκριση με ένα μοντέλο GPT. Περισσότερες λεπτομέρειες εδώ.
2. Τοποθετήστε τις οδηγίες στην αρχή της προτροπής και χρησιμοποιήστε ### ή """ για να διαχωρίσετε την οδηγία από το περιεχόμενο
Λιγότερο αποτελεσματικό ❌:
Σύνοψισε το παρακάτω κείμενο ως λίστα κουκκίδων με τα πιο σημαντικά σημεία.
{text input here}Καλύτερο ✅:
Σύνοψισε το παρακάτω κείμενο ως λίστα κουκκίδων με τα πιο σημαντικά σημεία.
Κείμενο: """
{text input here}
"""3. Να είστε συγκεκριμένοι, περιγραφικοί και όσο το δυνατόν πιο λεπτομερείς σχετικά με το επιθυμητό περιεχόμενο, αποτέλεσμα, μήκος, μορφή, ύφος κ.λπ.
Να είστε συγκεκριμένοι σχετικά με το περιεχόμενο, το αποτέλεσμα, το μήκος, τη μορφή, το ύφος κ.λπ.
Λιγότερο αποτελεσματικό ❌:
Γράψε ένα ποίημα για την OpenAI. Καλύτερο ✅:
Γράψε ένα σύντομο εμπνευσμένο ποίημα για την OpenAI, εστιάζοντας στην πρόσφατη κυκλοφορία του προϊόντος DALL-E (το DALL-E είναι ένα μοντέλο ML μετατροπής κειμένου σε εικόνα) στο ύφος του/της {famous poet}4. Διατυπώστε την επιθυμητή μορφή εξόδου μέσω παραδειγμάτων
Λιγότερο αποτελεσματικό ❌:
Εξήγαγε τις οντότητες που αναφέρονται στο παρακάτω κείμενο. Εξήγαγε τους εξής 4 τύπους οντοτήτων: ονόματα εταιρειών, ονόματα προσώπων, συγκεκριμένα θέματα και θεματικές.
Κείμενο: {text}Δείξτε και εξηγήστε - τα μοντέλα ανταποκρίνονται καλύτερα όταν τους παρουσιάζονται συγκεκριμένες απαιτήσεις μορφής. Αυτό διευκολύνει επίσης την αξιόπιστη ανάλυση πολλαπλών εξόδων μέσω κώδικα.
Καλύτερο ✅:
Εξήγαγε τις σημαντικές οντότητες που αναφέρονται στο παρακάτω κείμενο. Πρώτα εξήγαγε όλα τα ονόματα εταιρειών, μετά εξήγαγε όλα τα ονόματα προσώπων, στη συνέχεια εξήγαγε συγκεκριμένα θέματα που ταιριάζουν στο περιεχόμενο και τέλος εξήγαγε γενικά υπερκείμενα θέματα
Επιθυμητή μορφή:
Ονόματα εταιρειών: <λίστα_ονομάτων_εταιρειών_χωρισμένη_με_κόμματα>
Ονόματα προσώπων: -||-
Συγκεκριμένα θέματα: -||-
Γενικά θέματα: -||-
Κείμενο: {text}5. Ξεκινήστε με μηδενικά παραδείγματα (zero-shot), έπειτα με λίγα παραδείγματα (few-shot) και, αν κανένα δεν λειτουργήσει, κάντε fine-tune
✅ Με μηδενικά παραδείγματα (zero-shot)
Εξήγαγε λέξεις-κλειδιά από το παρακάτω κείμενο.
Κείμενο: {text}
Λέξεις-κλειδιά:✅ Με λίγα παραδείγματα (few-shot) - παρέχετε μερικά παραδείγματα
Εξήγαγε λέξεις-κλειδιά από τα αντίστοιχα παρακάτω κείμενα.
Κείμενο 1: Η Stripe παρέχει API που οι προγραμματιστές ιστού μπορούν να χρησιμοποιήσουν για να ενσωματώσουν την επεξεργασία πληρωμών στους ιστότοπους και τις εφαρμογές κινητών τους.
Λέξεις-κλειδιά 1: Stripe, επεξεργασία πληρωμών, API, προγραμματιστές ιστού, ιστότοποι, εφαρμογές κινητών
##
Κείμενο 2: Η OpenAI έχει εκπαιδεύσει προηγμένα γλωσσικά μοντέλα που είναι πολύ καλά στην κατανόηση και παραγωγή κειμένου. Το API μας παρέχει πρόσβαση σε αυτά τα μοντέλα και μπορεί να χρησιμοποιηθεί για την επίλυση σχεδόν κάθε εργασίας που περιλαμβάνει επεξεργασία γλώσσας.
Λέξεις-κλειδιά 2: OpenAI, γλωσσικά μοντέλα, επεξεργασία κειμένου, API.
##
Κείμενο 3: {text}
Λέξεις-κλειδιά 3:✅Λεπτομερής ρύθμιση (fine-tune): δείτε τις βέλτιστες πρακτικές fine-tune εδώ.
6. Μειώστε τις «φλύαρες» και ασαφείς περιγραφές
Λιγότερο αποτελεσματικό ❌:
Η περιγραφή για αυτό το προϊόν πρέπει να είναι αρκετά σύντομη, μόνο λίγες προτάσεις, και όχι πολύ μεγαλύτερη.Καλύτερο ✅:
Χρησιμοποίησε μια παράγραφο 3 έως 5 προτάσεων για να περιγράψεις αυτό το προϊόν.7. Αντί να λέτε απλώς τι δεν πρέπει να γίνει, πείτε τι πρέπει να γίνει στη θέση του
Λιγότερο αποτελεσματικό ❌:
Το παρακάτω είναι μια συνομιλία μεταξύ ενός Πράκτορα και ενός Πελάτη. ΜΗ ΖΗΤΗΣΕΙΣ ΟΝΟΜΑ ΧΡΗΣΤΗ Ή ΚΩΔΙΚΟ ΠΡΟΣΒΑΣΗΣ. ΜΗΝ ΕΠΑΝΑΛΑΒΕΙΣ.
Πελάτης: Δεν μπορώ να συνδεθώ στον λογαριασμό μου.
Πράκτορας:Καλύτερο ✅:
Το παρακάτω είναι μια συνομιλία μεταξύ ενός Πράκτορα και ενός Πελάτη. Ο πράκτορας θα προσπαθήσει να διαγνώσει το πρόβλημα και να προτείνει μια λύση, αποφεύγοντας παράλληλα να κάνει οποιεσδήποτε ερωτήσεις σχετικές με PII. Αντί να ζητάς PII, όπως όνομα χρήστη ή κωδικό πρόσβασης, παρέπεμψε τον χρήστη στο άρθρο βοήθειας www.samplewebsite.com/help/faq
Πελάτης: Δεν μπορώ να συνδεθώ στον λογαριασμό μου.
Πράκτορας:8. Ειδικά για τη δημιουργία κώδικα - χρησιμοποιήστε «λέξεις-οδηγούς» για να ωθήσετε το μοντέλο προς ένα συγκεκριμένο μοτίβο
Λιγότερο αποτελεσματικό ❌:
# Γράψε μια απλή συνάρτηση python που
# 1. Μου ζητά έναν αριθμό σε μίλια
# 2. Μετατρέπει τα μίλια σε χιλιόμετραΣτο παρακάτω παράδειγμα κώδικα, η προσθήκη του «import» υποδεικνύει στο μοντέλο ότι πρέπει να αρχίσει να γράφει σε Python. (Παρομοίως, το «SELECT» είναι μια καλή ένδειξη για την αρχή μιας δήλωσης SQL.)
Καλύτερο ✅:
# Γράψε μια απλή συνάρτηση python που
# 1. Μου ζητά έναν αριθμό σε μίλια
# 2. Μετατρέπει τα μίλια σε χιλιόμετρα
import9. Χρησιμοποιήστε τη λειτουργία «Δημιουργία οτιδήποτε»
Οι προγραμματιστές μπορούν να χρησιμοποιήσουν τη λειτουργία «Δημιουργία οτιδήποτε» για να περιγράψουν μια εργασία ή μια αναμενόμενη έξοδο φυσικής γλώσσας και να λάβουν μια προσαρμοσμένη προτροπή.
Μάθετε περισσότερα σχετικά με τη χρήση της λειτουργίας «Δημιουργία οτιδήποτε».
Παράμετροι
Γενικά, διαπιστώνουμε ότι τα `model` και `temperature` είναι οι πιο συχνά χρησιμοποιούμενες παράμετροι για την αλλαγή της εξόδου του μοντέλου.
`model` - Τα μοντέλα υψηλότερης απόδοσης είναι γενικά πιο ακριβά και μπορεί να έχουν μεγαλύτερη καθυστέρηση.
`temperature` - Μέτρο του πόσο συχνά το μοντέλο παράγει ένα λιγότερο πιθανό token. Όσο υψηλότερη είναι η
temperature, τόσο πιο τυχαία (και συνήθως δημιουργική) είναι η έξοδος. Ωστόσο, αυτό δεν είναι το ίδιο με την «ακρίβεια ως προς την αλήθεια». Για τις περισσότερες πραγματολογικές περιπτώσεις χρήσης, όπως η εξαγωγή δεδομένων και οι αξιόπιστες Ε&Α, ηtemperature0 είναι η καλύτερη επιλογή.`max_completion_tokens` (μέγιστο μήκος) - Δεν ελέγχει το μήκος της εξόδου, αλλά θέτει ένα αυστηρό όριο αποκοπής για τη δημιουργία token. Ιδανικά, δεν θα φτάνετε συχνά αυτό το όριο, καθώς το μοντέλο σας θα σταματά είτε όταν θεωρεί ότι ολοκλήρωσε είτε όταν φτάσει σε μια ακολουθία διακοπής που έχετε ορίσει.
`stop` (ακολουθίες διακοπής) - Ένα σύνολο χαρακτήρων (token) που, όταν δημιουργηθούν, θα προκαλέσουν τη διακοπή της δημιουργίας κειμένου.
Για περιγραφές άλλων παραμέτρων, δείτε την αναφορά API.
