Ο βασικός οδηγός για τη μηχανική προτροπών στο ChatGPT

Από την κυκλοφορία του, το ChatGPT έχει κάνει κύματα στη σφαίρα του AI, συγκεντρώνοντας πάνω από 100 εκατομμύρια χρήστες σε ρεκόρ χρόνου. Το μυστικό που κρύβεται πίσω από την εντυπωσιακή απόδοση και την ευελιξία του ChatGPT βρίσκεται σε μια τέχνη διακριτικά ενσωματωμένη στον προγραμματισμό του: τη μηχανική προτροπών.

Η κυκλοφορία του DALL-E, MidJourney και StableDiffusion το 2022 υπογράμμισε το ανατρεπτικό δυναμικό της παραγωγικής ΤΝ. Όμως, ήταν το ChatGPT της OpenAI που πραγματικά βρέθηκε στο επίκεντρο αργότερα το 2022. Και αυτή η δυναμική δεν έδειξε κανένα σημάδι να επιβραδύνει.

Η ανακοίνωση του Bard της Google και η απάντηση της Meta με το Llama 2 έχουν ενισχύσει σημαντικά την ορμή της AI. Παρέχοντας αυτά τα μοντέλα με εισόδους, καθοδηγούμε τη συμπεριφορά και τις απαντήσεις τους. Αυτό μας κάνει όλους μηχανικούς προτροπής σε κάποιο βαθμό. Η τεχνολογική βιομηχανία έχει λάβει σοβαρά υπόψη αυτό το γεγονός. Οι επενδυτές ρίχνουν κεφάλαια σε startups που εστιάζουν στη μηχανική προτροπής, όπως η Vellum AI. Επιπλέον, το Forbes αναφέρει ότι οι μηχανικοί προτροπής διαθέτουν μισθούς που υπερβαίνουν τα $300,000, ενδεικτικό μιας ακμάζουσας αγοράς εργασίας υψηλής αξίας.

Σε αυτό το άρθρο, θα απομυθοποιήσουμε τον κόσμο της μηχανικής προτροπής στο πλαίσιο του ChatGPT. Θα εξερευνήσουμε τις βασικές αρχές και τεχνικές, και θα εξετάσουμε τις εμπορικές τους εφαρμογές.

Ας κατανοήσουμε πρώτα πώς λειτουργεί το ChatGPT και τον κρίσιμο ρόλο που διαδραματίζει η μηχανική προτροπής σε αυτή τη διαδικασία.

Η Μηχανική Πίσω από τη Μηχανική Προτροπής του ChatGPT

Το μυστικό πίσω από την επιτυχία του ChatGPT είναι η ικανότητά του να κατανοήσει και να μιμηθεί τις αποχρώσεις της ανθρώπινης συνομιλίας. Το μοντέλο έχει εκπαιδευτεί σε μια ποικιλία διαδικτυακών κειμένων, αλλά κρίσιμο είναι ότι δεν γνωρίζει συγκεκριμένα έγγραφα ή πηγές στο σύνολο εκπαίδευσής του, εξασφαλίζοντας γενίκευση πάνω από συγκεκριμενοποίηση. Αυτή η προσέγγιση εκπαίδευσης επιτρέπει στο ChatGPT να παράγει δημιουργικές απαντήσεις, να πλοηγηθεί σε σύνθετους διαλόγους και ακόμη να εκδηλώσει ένα αίσθημα του χιούμορ. Όμως, είναι σημαντικό να θυμόμαστε ότι το ChatGPT δεν κατανοεί πραγματικά ούτε έχει πεποιθήσεις· παράγει απαντήσεις με βάση τα μοτίβα που έμαθε κατά τη διάρκεια της εκπαίδευσής του.

Η ικανότητα του ChatGPT να κατανοήσει και να απαντήσει στην ανθρώπινη γλώσσα με τρόπο που αποδίδει αποχρώσεις και λαμβάνει υπόψη τα συμφραζόμενα, το κάνει ένα εξαιρετικά ευέλικτο εργαλείο.

Η μηχανική των μοντέλων αυτών βασίζεται στην έννοια των ‘tokens’ – διακριτά κομμάτια γλώσσας που μπορούν να κυμαίνονται από έναν μόνο χαρακτήρα έως μια ολόκληρη λέξη. Αυτά τα μοντέλα δουλεύουν με ένα συγκεκριμένο αριθμό tokens κάθε φορά (4096 για το GPT-3.5-Turbo ή 8192 ή 32768 για το GPT-4), προβλέποντας την επόμενη ακολουθία των πιθανών tokens. Τα μοντέλα επεξεργάζονται τα tokens χρησιμοποιώντας σύνθετη γραμμική άλγεβρα, προβλέποντας το πιο πιθανό επόμενο token.

Για παράδειγμα, μια απλή πρόταση με εννέα λέξεις μπορεί να μετατραπεί σε δέκα tokens. Ακόμη και μια μόνο σύνθετη λέξη μπορεί να μετατραπεί σε πολλά tokens, που βοηθούν το μοντέλο να κατανοήσει και να παράγει γλώσσα. Ακόμη και γλώσσες με σύνθετες λέξεις, όπως η γερμανική, διαχειρίζονται μέσω της διαδικασίας tokenization.

Τα μοντέλα GPT (Generative Pre-trained Transformer) δουλεύουν παράγοντας ένα token κάθε φορά, ξεκινώντας από το πρώτο token και συνεχίζοντας μέχρι το τελευταίο. Μετά την παραγωγή κάθε token, το μοντέλο επανεξετάζει όλη την ακολουθία και την επεξεργάζεται ξανά για να παράγει το επόμενο token. Αυτή η επαναλαμβανόμενη διαδικασία συνεχίζεται μέχρι την παραγωγή του τελικού token, καθιστώντας την παραγωγή κειμένου παρόμοια με ένα μεγάλο βρόχο.

Αλλά εδώ είναι το κλειδί – η ποιότητα αυτών των απαντήσεων εξαρτάται σε μεγάλο βαθμό από τις προτροπές που λαμβάνει. Όπως και η οδήγηση μιας συζήτησης με έναν άνθρωπο, η καθοδήγηση ενός διαλόγου με το ChatGPT απαιτεί ένα ορισμένο επίπεδο δεξιοτήτων και κατανόησης. Εκεί είναι που η μηχανική προτροπής έρχεται στο παιχνίδι.

Τι είναι η Μηχανική Προτροπής;

Η Μηχανική Προτροπής είναι η τέχνη της δημιουργίας ακριβών, αποτελεσματικών προτροπών/εισόδων για να οδηγήσει τα μοντέλα AI (NLP/υπολογιστικής όρασης) όπως το ChatGPT προς την παραγωγή των πιο οικονομικά αποδοτικών, ακριβών, χρήσιμων και ασφαλών εξόδων.

Η μηχανική προτροπής δεν περιορίζεται μόνο στην παραγωγή κειμένου αλλά έχει ευρύτατες εφαρμογές σε ολόκληρο το πεδίο της ΤΝ. Χρησιμοποιείται όλο και περισσότερο σε περιοχές όπως η αυτοματοποίηση ροών εργασιών, τα 3D assets, τα σενάρια, οι οδηγίες ρομπότ και άλλα είδη περιεχομένου και ψηφιακού μέσου. Παρέχει ένα μοναδικό μείγμα λογικής, κωδικοποίησης, τέχνης και, σε ορισμένες περιπτώσεις, ειδικών τροποποιητών.

Ενώ μια προτροπή μπορεί να περιλαμβάνει φυσική γλώσσα, εικόνες ή άλλα είδη δεδομένων εισόδου, η έξοδος μπορεί να ποικίλλει σημαντικά μεταξύ των υπηρεσιών και εργαλείων AI. Κάθε εργαλείο έχει τους δικούς του ειδικούς τροποποιητές που περιγράφουν το βάρος των λέξεων, τα στυλ, τις προοπτικές, τη διάταξη ή άλλες ιδιότητες της επιθυμητής απάντησης.

Αυτό το πεδίο είναι απαραίτητο για τη δημιουργία καλύτερων υπηρεσιών που βασίζονται στο AI και για την απόκτηση ανώτερων αποτελεσμάτων από τα υπάρχοντα παραγωγικά μοντέλα ΤΝ. Οι προγραμματιστές επιχειρηματικών εφαρμογών, για παράδειγμα, χρησιμοποιούν συχνά τη μηχανική προτροπής για να προσαρμόσουν τα Μεγάλα Μοντέλα Γλώσσας (LLMs) όπως το GPT-3 για να υποστηρίξουν ένα chatbot που απευθύνεται στους πελάτες ή για να χειριστούν καθήκοντα όπως η δημιουργία συμβάσεων που αφορούν τον κλάδο.

Αυτή η επαναλαμβανόμενη διαδικασία της βελτίωσης προτροπής και της μέτρησης της απόδοσης του AI είναι ένα κρίσιμο στοιχείο για την ενεργοποίηση των μοντέλων AI να παράγουν εξαιρετικά στοχευμένες και χρήσιμες απαντήσεις σε διάφορα πλαίσια.

Γίνετε Μηχανικός Προτροπής

Το μοντέλο GPT-4 έχει μια αξιοσημείωτη ικανότητα να κατανοήσει σύνθετες οδηγίες και να λύσει σύνθετα προβλήματα με ακρίβεια, καθιστώντας το έναν ανεκτίμητο πόρο. Ωστόσο, υπάρχουν διαφορετικές μέθοδοι για να αποκτήσετε πρόσβαση στις ικανότητες αυτού του μοντέλου, και η κατανόηση αυτών είναι κρίσιμη για τον ρόλο του μηχανικού προτροπής στη βελτίωση της αποτελεσματικότητας και της αποδοτικότητας.

Υπάρχουν δύο βασικοί τρόποι να αλληλεπιδράσετε με τα μοντέλα GPT όπως το GPT-4. Ο ένας τρόπος είναι μέσω του API της OpenAI, όπου το κόστος υπολογίζεται ανά token εισόδου και εξόδου. Σε αυτή την περίπτωση, το κόστος ανά 1K tokens μπορεί να ποικίλλει με βάση το μέγεθος του πλαισίου. Για παράδειγμα, σε ένα μεγαλύτερο παράθυρο συμφραζομένων 32K, το κόστος θα μπορούσε να ανέβει στα $0,06 για tokens εισόδου και $0,12 για tokens εξόδου. Έτσι, όταν χειριζόμαστε έναν υψηλό όγκο αιτημάτων, το κόστος χρήσης μπορεί να συσσωρευτεί γρήγορα.

Εναλλακτικά, το ChatGPT, που χρησιμοποιεί το μοντέλο GPT-4, λειτουργεί με ένα μοντέλο συνδρομής.

Ένα άλλο κρίσιμο καθήκον στη μηχανική προτροπής περιλαμβάνει τη ρύθμιση των παραμέτρων του μοντέλου. Αυτή η διαδικασία περιλαμβάνει τη ρύθμιση των μεταβλητών που το μοντέλο χρησιμοποιεί για να κάνει προβλέψεις. Ρυθμίζοντας αυτές τις παραμέτρους, οι μηχανικοί προτροπής μπορούν να βελτιώσουν την ποιότητα και την ακρίβεια των απαντήσεων του μοντέλου, καθιστώντας τις πιο σχετικές και χρήσιμες.

Αν και πολλοί μηχανικοί προτροπής έρχονται από ένα τεχνολογικό υπόβαθρο, η πολυεπίπεδη φύση του πεδίου το καθιστά προσιτό σε άτομα από διαφορετικά επαγγελματικά υπόβαθρα. Όλο και περισσότερο, συγγραφείς, ερευνητές και ακόμη καλλιτέχνες αξιοποιούν τις μοναδικές τους δεξιότητες για να ενισχύσουν την αποτελεσματικότητα των μοντέλων AI. Αυτή η μετατόπιση αντικατοπτρίζεται στην αγορά εργασίας, με έναν αυξανόμενο αριθμό εταιρειών που αναζητούν μηχανικούς προτροπής με μια ποικιλία δεξιοτήτων και υπόβαθρων.

Σχεδιασμός και Μηχανική Προτροπής στο ChatGPT

Ο Σχεδιασμός και η Μηχανική Προτροπής παίζουν έναν κρίσιμο ρόλο στη βελτίωση της απόδοσης των μοντέλων γλώσσας και περιλαμβάνουν περισσότερα από το να δημιουργούν ερωτήσεις· απαιτούν μια βαθιά κατανόηση του μοντέλου AI και μια εξαιρετικά επαναλαμβανόμενη και ραφινάτη προσέγγιση.

Σχεδιασμός Προτροπής

Ο Σχεδιασμός Προτροπής, στην ουσία του, είναι η τέχνη και η επιστήμη της δημιουργίας της τέλειας προτροπής για ένα δεδομένο μεγάλο μοντέλο γλώσσας (LLM) όπως το ChatGPT, για να επιτύχει ένα σαφώς δηλωμένο στόχο. Είναι ένα μείγμα:

• Κατανόηση του LLM: Διαφορετικά μοντέλα γλώσσας μπορεί να απαντήσουν διαφορετικά στην ίδια προτροπή. Επιπλέον, ορισμένα μοντέλα γλώσσας μπορεί να έχουν μοναδικά κλειδιά ή ερεθίσματα, τα οποία ερμηνεύουν με έναν συγκεκριμένο τρόπο.
• Γνώση του πεδίου: Η εξειδίκευση στο σχετικό πεδίο είναι κρίσιμη όταν σχεδιάζουμε προτροπές. Για παράδειγμα, η δημιουργία μιας προτροπής για να συναγάγει μια ιατρική διάγνωση θα απαιτούσε ιατρικές γνώσεις.
• Επαναλαμβανόμενη προσέγγιση και μέτρηση ποιότητας: Η διαδικασία της δημιουργίας της ιδανικής προτροπής συχνά περιλαμβάνει δοκιμή και λάθος. Έτσι, είναι απαραίτητο να υπάρχει ένας τρόπος για να αξιολογήσουμε την ποιότητα της εξόδου πέρα από την υποκειμενική κρίση, ιδιαίτερα όταν χρησιμοποιούμε την προτροπή σε μεγαλύτερη κλίμακα.

Μηχανική Προτροπής

Η Μηχανική Προτροπής είναι ένα επεκταμένο πεδίο του Σχεδιασμού Προτροπής που περιλαμβάνει πολλές κρίσιμες διαδικασίες:

• Σχεδιασμός Προτροπών σε Κλίμακα: Αυτή η διαδικασία περιλαμβάνει τον σχεδιασμό μετα-προτροπών (προτροπών που παράγουν άλλες προτροπές) και προτύπων προτροπών, τα οποία είναι παραμετρικές προτροπές που μπορούν να αρχικοποιηθούν σε χρόνο εκτέλεσης.
• Σχεδιασμός Εργαλείων και Ολοκλήρωση: Οι προτροπές μπορούν να περιλαμβάνουν αποτελέσματα από εξωτερικά εργαλεία, και η ολοκλήρωση αυτών των εργαλείων στο σύστημα είναι κρίσιμη.
• Ροή Εργασιών, Σχεδιασμός και Διαχείριση Προτροπής: Η ανάπτυξη μιας εφαρμογής LLM, όπως ένα chatbot, συχνά απαιτεί τη διαχείριση βιβλιοθηκών προτροπών, τον σχεδιασμό και την επιλογή των σωστών προτροπών, και την αποτελεσματική ολοκλήρωση διαφόρων εργαλείων.
• Αξιολόγηση και Ποιότητα Προτροπής: Αυτό το στοιχείο περιλαμβάνει τον ορισμό μετρήσεων και διαδικασιών για να αξιολογήσουμε τις προτροπές τόσο αυτόματα όσο και με ανθρώπινη συμμετοχή.
• Βελτίωση Προτροπής: Το κόστος και η καθυστέρηση του μοντέλου AI μπορούν να εξαρτηθούν από την επιλογή του μοντέλου και το μήκος της προτροπής (αριθμός tokens).

Πολλές αυτοματοποιημένες προσεγγίσεις σχεδιασμού προτροπής, εργαλεία και πλαίσια έχουν αναπτυχθεί για να διαχειριστούν προτροπές σε κλίμακα. Ωστόσο, είναι σημαντικό να κατανοήσουμε ότι κανένα από αυτά τα εργαλεία δεν μπορεί να αντικαταστήσει την ιδιαίτερη κατανόηση, κρίση και εμπειρία ενός έμπειρου μηχανικού προτροπής.

Μηχανική Προτροπής: Τεχνικές και Καλύτερες Πρακτικές

1) Θέση και Περιγραφή Προτροπής

Η τοποθέτηση οδηγιών στο ξεκίνημα της προτροπής μπορεί να επηρεάσει σημαντικά την κατανόηση και την απάντηση του AI. Σκεφτείτε την εργασία της περίληψης ενός κειμένου σε μορφή λίστας με τα σημαντικότερα σημεία. Μια λιγότερο αποτελεσματική προσέγγιση θα ήταν:

Χρήστης: Περίληψη του κειμένου παρακάτω ως λίστα με τα σημαντικότερα σημεία.
{text input here}

Αντίθετα, μια πιο αποτελεσματική τεχνική θα μπορούσε να είναι:

Χρήστης: Περίληψη του κειμένου παρακάτω ως λίστα με τα σημαντικότερα σημεία.
Κείμενο: “””
{text input here}
“””

Διαχωρίζοντας σαφώς τις οδηγίες και τα συμφραζόμενα με σύμβολα όπως ### ή “””, το μοντέλο AI μπορεί να ξεχωρίσει καλύτερα την εργασία του και το κείμενο που πρέπει να επεξεργαστεί, δίνοντάς μας πιο ακριβείς και σχετικές απαντήσεις.

Δεύτερον, είναι σημαντικό να είμαστε συγκεκριμένοι, περιγραφικοί και λεπτομερείς σχετικά με το πλαίσιο, το αναμενόμενο αποτέλεσμα, το μήκος, το στυλ, κ.λπ., για να βελτιώσουμε την ακρίβεια των απαντήσεων του AI. Υποθέστε ότι χρειάζεστε να δημιουργήσετε μια σύντομη περίληψη ενός επιστημονικού άρθρου σε ένα ελκυστικό, φιλικό προς τον χρήστη στυλ. Μια ασαφής οδηγία όπως “Περίληψη του επιστημονικού άρθρου” θα οδηγούσε σε λιγότερο αποτελεσματικά αποτελέσματα σε σύγκριση με μια συγκεκριμένη, λεπτομερή προτροπή:

Χρήστης: Δημιουργήστε μια σύντομη (περίπου 200 λέξεις) περίληψη του ακόλουθου επιστημονικού άρθρου. Η περίληψη πρέπει να είναι κατανοητή από κάποιον χωρίς επιστημονικό υπόβαθρο, ενώ ταυτόχρονα αντανακλά ακριβώς τις βασικές ανακαλύψεις του άρθρου.
Άρθρο: “””
{scientific paper text here}
“””

2) Πρότυπο Προσώπου

Το Πρότυπο Προσώπου είναι μια στρατηγική που ορίζει το AI να λειτουργεί από μια συγκεκριμένη προοπτική, όπως ένας επαγγελματικός ρόλος ή ένας φανταστικός χαρακτήρας. Αυτή η τακτική επιτρέπει στο μοντέλο να παρέχει εξόδους που σχετίζονται με τους συγκεκριμένους ρόλους που το πρόσωπο θα χειριζόταν. Για παράδειγμα, θα μπορούσατε να ζητήσετε από την ΤΝ να ενεργήσει ως ειδικός κυβερνοασφάλειας κατά τον έλεγχο κώδικα. Αυτό το πρότυπο είναι ιδιαίτερα χρήσιμο όταν οι χρήστες χρειάζονται βοήθεια, αλλά δεν γνωρίζουν με βεβαιότητα τις ακριβείς λεπτομέρειες που απαιτούνται στην έξοδο.

Χρήστης: “Υιοθετήστε τον ρόλο ενός έμπειρου ιστορικού που ειδικεύεται στη Γαλλική Επανάσταση. Με βάση αυτόν τον ρόλο, εξηγήστε τα κρίσιμα γεγονότα και τους λόγους που οδήγησαν στην πτώση της Γαλλικής μοναρχίας.”

Σε αυτή την περίπτωση, το AI αναμένεται να απαντήσει με μια ενδελεχή ανάλυση της Γαλλικής Επανάστασης, εστιάζοντας στην πτώση της μοναρχίας, όπως θα έκανε ένας ιστορικός.

Εισαγωγή Νέας Πληροφόρησης

Το ChatGPT δεν διαθέτει γνώσεις πέρα από το χρονικό σημείο εκπαίδευσής του, επομένως δεν μπορεί να παρέχει πληροφορίες για πρόσφατα γεγονότα ή ενημερώσεις μετά από αυτό. Ωστόσο, μπορείτε να εισαγάγετε νέες πληροφορίες στο μοντέλο μέσω των προτροπών σας.

Χρήστης: “Τι είναι το κρυπτονόμισμα;”
ChatGPT: “Το κρυπτονόμισμα είναι ένα είδος ψηφιακού ή εικονικού νομίσματος που χρησιμοποιεί κρυπτογράφηση για ασφάλεια. Το πιο γνωστό κρυπτονόμισμα είναι το Bitcoin.”

Τώρα, αν προσθέσουμε λίγη περισσότερη πληροφορία στην προτροπή, μπορούμε να κάνουμε την εξήγηση ακόμη πιο εύκολη:

Χρήστης: “Εξηγήστε την έννοια του κρυπτονομίσματος σε ένα μαθητή λυκείου που μελετά ψηφιακή οικονομία”
ChatGPT: “Φανταστείτε ότι παίζετε ένα online βίντεο παιχνίδι και υπάρχει χρήματα μέσα στο παιχνίδι που μπορείτε να κερδίσετε για να αγοράσετε αναβαθμίσεις ή νέους χαρακτήρες. Το κρυπτονόμισμα είναι κάτι παρόμοιο, αλλά αντί να είναι περιορισμένο στο παιχνίδι, μπορείτε να το χρησιμοποιήσετε για να αγοράσετε πραγματικά αγαθά και υπηρεσίες. Είναι σαν ψηφιακό χρήμα που δεν ελέγχεται από καμία τράπεζα ή κυβέρνηση.”

3) Περιορισμοί Μέγεθους Προτροπής

Η κατανόηση των περιορισμών μεγέθους του ChatGPT είναι απαραίτητη, καθώς επηρεάζει απευθείας τον όγκο και τον τύπο της πληροφορίας που μπορούμε να εισαγάγουμε. Τα μοντέλα γλώσσας δεν είναι κατασκευασμένα για να επεξεργάζονται απεριόριστα δεδομένα ταυτόχρονα. Έχουν έναν εσωτερικό περιορισμό στο μέγεθος της προτροπής που μπορούμε να δημιουργήσουμε και να εισαγάγουμε. Αυτός ο περιορισμός έχει βαθιές επιπτώσεις για τον σχεδιασμό και την εκτέλεση των προτροπών.

Το ChatGPT έχει έναν περιορισμό tokens (συνήθως 2048 tokens), ο οποίος περιλαμβάνει τόσο την προτροπή όσο και την παραγόμενη απάντηση. Αυτό σημαίνει ότι μεγάλες προτροπές μπορούν να περιορίσουν το μήκος της απάντησης. Επομένως, είναι σημαντικό να κρατάμε τις προτροπές σύντομες αλλά κατατοπιστικές.

Στην πράξη, πρέπει να λειτουργούμε ως επιμελητές, επιλέγοντας τις πληροφορίες που σχετίζονται περισσότερο με την εργασία. Φανταστείτε ότι γράφετε άρθρο ή εργασία με όριο λέξεων ή σελίδων: δεν μπορείτε απλώς να προσθέσετε τυχαία γεγονότα, αλλά πρέπει να επιλέξετε και να οργανώσετε προσεκτικά τις πληροφορίες που αφορούν το θέμα.

Χρήστης: “Λαμβάνοντας υπόψη τους περιορισμούς token του μοντέλου, συνοψίστε τα κρίσιμα γεγονότα του Β’ Παγκοσμίου Πολέμου σε λιγότερες από 1000 λέξεις.”

Βάσει του περιορισμού tokens του μοντέλου, αυτή η προτροπή κατευθύνει το AI να παρέχει μια σύντομη αλλά ολοκληρωμένη περίληψη του Β’ Παγκοσμίου Πολέμου.

Προτροπές για επαναλαμβανόμενη χρήση: Σε μια συνομιλία μπορείτε να επαναχρησιμοποιείτε προτροπές ή να τις βελτιώνετε με βάση προηγούμενες απαντήσεις. Αυτό δημιουργεί ροή στη συνομιλία και διατηρεί τα συμφραζόμενα της αλληλεπίδρασης.

4) Πρότυπο Βελτίωσης Ερωτήσεων

Το ChatGPT μπορεί επίσης να βοηθήσει στη βελτίωση των ερωτήσεών σας. Για παράδειγμα, αν κάνετε μια ερώτηση, μπορεί να προτείνει μια καλύτερα διατυπωμένη ερώτηση για πιο ακριβή αποτελέσματα.

Το Πρότυπο Βελτίωσης Ερωτήσεων περιλαμβάνει το LLM να βελτιώνει τις ερωτήσεις που κάνει ο χρήστης. Είναι ιδιαίτερα χρήσιμο όταν οι χρήστες δεν είναι ειδικοί σε ένα πεδίο ή δεν είναι σίγουροι για το πώς να διατυπώσουν την ερώτησή τους.

Ένα παράδειγμα προτροπής θα μπορούσε να είναι:

Χρήστης: “Όταν κάνω μια ερώτηση σχετικά με την επιστήμη των δεδομένων, προτείνετε μια πιο εξειδικευμένη ερώτηση που λαμβάνει υπόψη τις λεπτομέρειες της στατιστικής ανάλυσης και ρωτήστε αν θέλω να συνεχίσω με την εξειδικευμένη ερώτηση.”

Εδώ, το AI αναμένεται να βελτιώσει τις γενικές ερωτήσεις σας σχετικά με την επιστήμη των δεδομένων σε πιο λεπτομερείς ερωτήσεις που λαμβάνουν υπόψη τις στατιστικές ανάλυσεις.

5) Πρότυπο Γνωστικής Επαλήθευσης

Το Πρότυπο Γνωστικής Επαλήθευσης διασπάει σύνθετες ερωτήσεις σε μικρότερες, διαχειρίσιμες υπο-ερωτήσεις. Οι απαντήσεις σε αυτές τις υπο-ερωτήσεις συνδυάζονται για να παρέχουν μια ολοκληρωμένη απάντηση στην αρχική ερώτηση. Αυτή η προσέγγιση είναι χρήσιμη όταν οι αρχικές ερωτήσεις είναι πολύ υψηλού επιπέδου ή όταν απαιτείται πρόσθετη σαφήνεια για να παρέχεται μια πλήρης απάντηση.

Για παράδειγμα:

Χρήστης: “Αν κάνω μια ερώτηση σχετικά με την κλιματική αλλαγή, διασπάστε την σε τρεις μικρότερες ερωτήσεις που θα σας βοηθήσουν να δώσετε μια πιο ακριβή απάντηση. Συνδυάστε τις απαντήσεις σε αυτές τις υπο-ερωτήσεις για να δώσετε την τελική απάντηση.”

Σε αυτή την περίπτωση, το AI θα διασπάσει την ερώτηση για την κλιματική αλλαγή σε τρεις διαχειρίσιμες υπο-ερωτήσεις. Μετά τη λήψη των απαντήσεων σε αυτές τις υπο-ερωτήσεις, το AI θα συνδυάσει αυτές τις απαντήσεις για να παρέχει μια πιο ολοκληρωμένη και ακριβή απάντηση.

Αυτή η τακτική περιλαμβάνει την παραγωγή πολλών ερωτήσεων για να ληφθεί μια πιο ακριβής τελική απάντηση. Είναι μια διαδικασία επαλήθευσης και ενοποίησης πληροφοριών για μια ισχυρή τελική έξοδο.

6) Προσέγγιση Few-Shot

Η προσέγγιση Few-Shot είναι μια ισχυρή τεχνική για τη διδασκαλία των μοντέλων AI να ακολουθούν συγκεκριμένα πρότυπα ή να εκτελούν καθήκοντα. Η ιδέα είναι να ταΐσετε το μοντέλο με μερικά παραδείγματα πριν από την ερώτηση που θέλετε να απαντήσει. Αυτό βοηθά να οριστεί η επιθυμητή συμπεριφορά και να κατευθύνει τις απαντήσεις του μοντέλου.

Σκεφτείτε μια περίπτωση όπου ένας χρήστης προσπαθεί να δημιουργήσει μια σύντομη, ελκυστική μάρκετινγκ προώθηση για ένα νέο τεχνολογικό gadget:

Χρήστης: “Δώστε παραδείγματα μάρκετινγκ προώθησης για τεχνολογικά προϊόντα: ‘Βιώστε τη μουσική σαν ποτέ πριν με τα καινούρια ασύρματα ακουστικά μας.’ ‘Καταγράψτε τον κόσμο σας σε εκπληκτική 4K με την υπερ-σχεδιασμένη μας action camera.’ Με βάση αυτά τα παραδείγματα, δημιουργήστε μια μάρκετινγκ προώθηση για το καινούριο AI-ενισχυμένο smartwatch μας.”

ChatGPT: “Ενισχύστε τον τρόπο ζωής σας με το AI-ενισχυμένο smartwatch μας, τον σύντροφό σας για υγεία, σύνδεση και παραγωγικότητα.” Η αξιοσημείωτη ιδιότητα της few-shot μάθησης είναι ότι δεν απαιτεί μια λεπτομερή περιγραφή του πώς να εκτελέσει το καθήκον. Αντίθετα, απαιτεί παραδείγματα του τι γίνεται, τα οποία μπορούν να κάνουν αυτή την τεχνική κατάλληλη για πολλές εφαρμογές.

Επιπλέον, αυτή η τεχνική επεκτείνεται πέρα από την απλή εισαγωγή-έξοδο. Το μοντέλο μπορεί επίσης να διδαχθεί να χειρίζεται ενδιάμεσα βήματα για να επιτύχει ένα στόχο.

7) Προσέγγιση Chain-of-Thought

Σε μια πρόσφατη έρευνα, “Chain-of-Thought Prompting Elicits Reasoning in Large Language Models“, οι ερευνητές Jason Wei και η ομάδα του επιδιώκουν να διεγείρουν τη σκέψη μέσα στα μεγάλα μοντέλα γλώσσας. Αντί να χρησιμοποιούν παραδοσιακές, απευθείας προτροπές, η ομάδα χρησιμοποιεί μια σειρά διασυνδεδεμένων προτροπών, σχηματίζοντας μια ‘αλυσίδα σκέψης’.

Για παράδειγμα, ένας χρήστης μπορεί να ενδιαφέρεται για τις πιθανές επιπτώσεις της τεχνητής νοημοσύνης στις αγορές εργασίας:

Χρήστης: “Μπορείτε να εξηγήσετε την έννοια της τεχνητής νοημοσύνης;”

ChatGPT: “Η Τεχνητή Νοημοσύνη, ή AI, αναφέρεται στην ικανότητα μιας μηχανής να μιμηθεί την ευφυή ανθρώπινη συμπεριφορά. Είναι σχετικά με το να σχεδιάζουμε μηχανές που μπορούν να σκέφτονται και να μαθαίνουν όπως οι άνθρωποι, επιτρέποντάς τους να εκτελούν καθήκοντα όπως η μετάφραση γλώσσας, η λήψη αποφάσεων και η επίλυση προβλημάτων, μεταξύ άλλων.”

Χρήστης: “Πώς η AI επηρεάζει την τρέχουσα αγορά εργασίας;”

ChatGPT: “Η AI δημιουργεί νέες θέσεις εργασίας και αλλάζει τη φύση των υφιστάμενων. Από την μια πλευρά, αυτοματοποιεί καθήκοντα, οδηγώντας σε απώλεια εργασίας σε ορισμένους τομείς. Από την άλλη πλευρά, δημιουργεί ζήτηση για ρόλους που δεν υπήρχαν προηγουμένως, όπως οι αξιωματούχοι ηθικής AI, οι αναλυτές δεδομένων και οι μηχανικοί μηχανικής μάθησης. Επιπλέον, η AI μπορεί να ενισχύσει τους ανθρώπινους ρόλους, επιτρέποντας στους ανθρώπους να ολοκληρώσουν καθήκοντα πιο αποτελεσματικά και ακριβώς.”

Η προσέγγιση chain-of-thought ακολουθεί μια πρόοδο σχετικών προτροπών, διατηρώντας μια ‘συζήτηση’ με το μοντέλο που το οδηγεί σε πιο ακριβείς και προσαρμοσμένες στο πλαίσιο απαντήσεις.

Κατανόηση του API του ChatGPT και της Μηχανικής Προτροπής από την οπτική του προγραμματιστή

Από την οπτική του προγραμματιστή ή του ερευνητή, η μηχανική προτροπής είναι μια πιο σύνθετη διαδικασία. Περιλαμβάνει τον σχεδιασμό αλγορίθμων και τεχνικών για να βοηθήσει το μοντέλο AI να κατανοήσει και να απαντήσει στις προτροπές πιο αποτελεσματικά. Αυτό μπορεί να περιλαμβάνει στρατηγικές για την αντιμετώπιση αμφίβολων προτροπών, την αναγνώριση του πλαισίου των προτροπών ή την αλυσίδα προτροπών για να διεγείρει πιο σύνθετες σκέψεις στο AI.

Στην ανωτέρω εικόνα, ένας χρήστης αλληλεπιδρά με μια διεπαφή chat, που τροφοδοτείται από το GPT-4. Η είσοδος του χρήστη ενισχύεται για σαφήνεια και συνειδητότητα του πλαισίου από ένα εξειδικευμένο στοιχείο λογισμικού πριν να τροφοδοτηθεί στο μοντέλο AI. Ο ρόλος αυτού του στοιχείου είναι να βελτιώσει και να ενισχύσει την είσοδο του χρήστη για καλύτερη κατανόηση, διατηρώντας παράλληλα το πλαίσιο της συζήτησης. Η απάντηση του AI, που δημιουργείται με βάση τη βελτιωμένη προτροπή, επιστρέφεται στον χρήστη μέσω της διεπαφής chat. Το ιστορικό της αλληλεπίδρασης ενημερώνεται συνεχώς, διατηρώντας το πλαίσιο της συζήτησης. Συνολικά, αυτό το διάγραμμα εικονογραφεί μια δυναμική αλληλεπίδραση μεταξύ του χρήστη και του AI, που ενεργοποιείται από τεχνικές μηχανικής προτροπής.

Το API του ChatGPT έχει μια διεπαφή που σχεδιάστηκε με διάφορες υπερπαραμέτρους που επιτρέπουν στους χρήστες να βελτιώσουν τις απαντήσεις του AI στις προτροπές, καθιστώντας τις πιο αποτελεσματικές και ευέλικτες. Αυτοί περιλαμβάνουν τις παραμέτρους θερμοκρασίας, μέγιστου μήκους και ακολουθιών διακοπής. Ας εξερευνήσουμε πώς λειτουργούν και πώς μπορούν να χρησιμοποιηθούν σε διαφορετικές περιπτώσεις.

1) Θερμοκρασία

Η παράμετρος θερμοκρασίας επηρεάζει την τυχαιότητα των απαντήσεων του AI. Μια υψηλότερη θερμοκρασία, όπως 1.0, ενθαρρύνει πιο τυχαίες εξόδους, οδηγώντας σε ποικιλόμορφες αλλά πιθανώς εκτός θέματος απαντήσεις. Αντίθετα, μια χαμηλότερη θερμοκρασία, όπως 0.2, οδηγεί το AI να επιλέξει πιο καθορισμένες απαντήσεις, οι οποίες μπορούν να είναι χρήσιμες για εστιασμένες και συγκεκριμένες εξόδους αλλά μπορεί να λείπουν σε ποικιλία.

Παράδειγμα: Αν γράφετε μια δημιουργική ιστορία και θέλετε απρόβλεπτα, φανταστικά στοιχεία, θα μπορούσατε να ορίσετε τη θερμοκρασία σε υψηλή τιμή. Μια προτροπή θα μπορούσε να είναι: “Γράψτε μια σύντομη ιστορία για μια γάτα που ταξίδεψε στο χρόνο.” Με υψηλή θερμοκρασία, θα μπορούσατε να λάβετε μια άγρια, φανταστική ιστορία με απρόβλεπτες ανατροπές.

2) Μέγιστο Μήκος

Αυτή η παράμετρος ελέγχει το μέγιστο μήκος των tokens της εξόδου του μοντέλου, το οποίο περιλαμβάνει τα tokens τόσο στην είσοδο όσο και στην έξοδο. Ορίζοντας ένα υψηλότερο όριο, επιτρέπεται η δημιουργία πιο εκτεταμένων απαντήσεων, ενώ ένα χαμηλότερο όριο διατηρεί την έξοδο σύντομη και συνεπή.

Παράδειγμα: Για σύντομες απαντήσεις σε ερωτήσεις τύπου trivia, όπως “Ποιος κέρδισε το Βραβείο Νόμπελ Λογοτεχνίας το 2020;”, θα μπορούσατε να ορίσετε το μέγιστο μήκος σε μια χαμηλή τιμή, εξασφαλίζοντας ότι η απάντηση είναι σύντομη και άμεση.

3) Ακολουθίες διακοπής

Οι ακολουθίες διακοπής είναι συγκεκριμένες σειρές κειμένου όπου, όταν το μοντέλο τις συναντά, σταματά να παράγει περαιτέρω έξοδο. Αυτή η λειτουργία μπορεί να είναι χρήσιμη για τον έλεγχο του μήκους της εξόδου ή για να οδηγήσει το μοντέλο να σταματήσει σε λογικά σημεία ολοκλήρωσης.

Παράδειγμα: Για μια επίσημη επιστολή, θα μπορούσατε να χρησιμοποιήσετε “Ευχαριστώ πολύ” ως ακολουθία διακοπής για να διασφαλίσετε ότι το AI δεν παράγει επιπλέον κείμενο πέρα από το σωστό τέλος της επιστολής.

4) Top P

Η παράμετρος Top P, επίσης γνωστή ως δειγματοληψία πυρήνα, είναι μια μέθοδος που παρέχει μια δυναμική επιλογή του αριθμού των λέξεων που λαμβάνονται υπόψη σε κάθε βήμα των προβλέψεων του μοντέλου. Μια χαμηλότερη τιμή, όπως 0.5, οδηγεί σε πιο ασφαλείς, πιο εστιασμένες εξόδους. Μια υψηλότερη τιμή, όπως 0.9, περιλαμβάνει μια ευρύτερη επιλογή λέξεων, οδηγώντας σε πιο ποικιλόμορφες εξόδους.

Παράδειγμα: Αν δημιουργείτε ένα AI για να γράφει ποιήματα και θέλετε να χρησιμοποιήσει μια ευρεία γκάμα λεξιλογίου και στιλιστικών φράσεων, θα μπορούσατε να ορίσετε το Top P σε υψηλή τιμή. Μια προτροπή θα μπορούσε να είναι: “Συνθέστε ένα ποίημα για την ομορφιά του φθινοπώρου.”

5) Ποινή συχνότητας

Η ποινή συχνότητας ελέγχει πόσο το μοντέλο πρέπει να ευνοεί λιγότερο συχνές λέξεις. Μια υψηλότερη ποινή (μέχρι 1) ενθαρρύνει το μοντέλο να χρησιμοποιήσει λιγότερο συχνές λέξεις, ενώ μια χαμηλότερη τιμή (μέχρι -1) ενθαρρύνει το μοντέλο να χρησιμοποιήσει πιο συχνές λέξεις.

Παράδειγμα: Αν δημιουργείτε μια επιχειρηματική πρόταση και θέλετε να αποφύγετε την εξειδικευμένη ορολογία, θα μπορούσατε να ορίσετε την ποινή συχνότητας σε μια χαμηλότερη τιμή για να διατηρήσετε τη γλώσσα σαφή και προσιτή.

6) Ποινή παρουσίας

Η ποινή παρουσίας επηρεάζει πόσο το μοντέλο θα πρέπει να ποινικοποιείται για την παραγωγή νέων ιδεών ή θεμάτων που δεν ήταν παρόντα στο ιστορικό της συζήτησης. Υψηλότερες τιμές ενθαρρύνουν το μοντέλο να σταθεί στα θέματα που έχουν ήδη αναφερθεί, ενώ χαμηλότερες τιμές επιτρέπουν στο μοντέλο να εισαγάγει νέες έννοιες πιο ελεύθερα.

Παράδειγμα: Για μια συνεδρίαση εύρεσης ιδεών, θα μπορούσατε να ορίσετε την ποινή παρουσίας σε μια χαμηλότερη τιμή για να ενθαρρύνετε μια ποικιλία ιδεών. Μια προτροπή θα μπορούσε να είναι: “Δημιουργήστε καινοτόμες μάρκετινγκ στρατηγικές για μια online εκπαιδευτική πλατφόρμα.”

Βιομηχανική Εφαρμογή της Μηχανικής Προτροπής