Η Ουσιαστική Οδηγία για την Μηχανική Προτροπής στο ChatGPT

Από την κυκλοφορία του, το ChatGPT έχει κάνει κύματα στην σφαίρα του AI, आकरώντας πάνω από 100 εκατομμύρια χρήστες σε ρεκόρ χρόνου. Το μυστικό που κρύβεται πίσω από την εντυπωσιακή απόδοση και την ευελιξία του ChatGPT βρίσκεται σε μια τέχνη που είναι απαρίβλεπτα εμβυθισμένη στην προγραμματιστική του – την μηχανική προτροπής.

Η κυκλοφορία του DALL-E, MidJourney και StableDiffusion το 2022 υπογράμμισε το ανατρεπτικό δυναμικό της Γεννητικής AI. Όμως, ήταν το Open AI που真正ά Took το κέντρο της σκηνής αργότερα το 2022. Και αυτή η δυναμική δεν έδειξε κανένα σημάδι να επιβραδύνει.

Η ανακοίνωση του Bard της Google (GOOGL ) και η απάντηση της Meta με το Llama 2 έχουν ενισχύσει σημαντικά την ορμή της AI. Παρέχοντας αυτές τις μοντέλα με εισόδους, καθοδηγούμε τη συμπεριφορά και τις απαντήσεις τους. Αυτό μας κάνει όλους μηχανικούς προτροπής σε κάποιο βαθμό. Η τεχνολογική βιομηχανία έχει λάβει σοβαρά υπόψη αυτό το γεγονός. Οι επενδυτές ρίχνουν κεφάλαια σε startups που εστιάζουν στην μηχανική προτροπής, όπως η Vellum AI. Επιπλέον, το Forbes αναφέρει ότι οι μηχανικοί προτροπής διαθέτουν μισθούς που υπερβαίνουν τα $300,000, ενδεικτικό ενός ευημερούς και πολύτιμου αγορά εργασίας.

Σε αυτό το άρθρο, θα απομυθοποιήσουμε τον κόσμο της μηχανικής προτροπής στο πλαίσιο του ChatGPT. Θα εξερευνήσουμε τις βασικές αρχές και τεχνικές, και θα εξετάσουμε τις εμπορικές τους εφαρμογές.

Ας κατανοήσουμε πρώτα πώς λειτουργεί το ChatGPT και τον κρίσιμο ρόλο που διαδραματίζει η μηχανική προτροπής σε αυτή τη διαδικασία.

Η Μηχανική Πίσω από την Μηχανική Προτροπής του ChatGPT

Το μυστικό πίσω από την επιτυχία του ChatGPT είναι η ικανότητά του να κατανοήσει και να μιμηθεί τις νουάνς της ανθρώπινης συζήτησης. Το μοντέλο έχει εκπαιδευτεί σε eine ποικιλία διαδικτυακών κειμένων, αλλά κρίσιμο είναι ότι δεν γνωρίζει συγκεκριμένα έγγραφα ή πηγές στο σύνολο εκπαίδευσής του, εξασφαλίζοντας γενίκευση πάνω από συγκεκριμενοποίηση. Αυτή η προσέγγιση εκπαίδευσης επιτρέπει στο ChatGPT να γεννήσει δημιουργικές απαντήσεις, να πλοηγηθεί σε σύνθετες διαλόγους και ακόμη να εκδηλώσει ένα αίσθημα του χιούμορ. Όμως, είναι σημαντικό να θυμόμαστε ότι το ChatGPT δεν κατανοεί πραγματικά ή έχει πιστεύω· παράγει απαντήσεις με βάση τα μοτίβα που έμαθε κατά τη διάρκεια της εκπαίδευσής του.

Η ικανότητα του ChatGPT να κατανοήσει και να απαντήσει στην ανθρώπινη γλώσσα με einen τρόπο που είναι νουάνς και συνειδητός του контέκστου, το κάνει ένα εξαιρετικά ευέλικτο εργαλείο.

Η μηχανική των μοντέλων αυτών βασίζεται στην έννοια των ‘tokens’ – διακριτά κομμάτια γλώσσας που possono να κυμαίνονται από ένα單ικό χαρακτήρα μέχρι ένα ολόκληρο λέξη. Αυτά τα μοντέλα δουλεύουν με ένα συγκεκριμένο αριθμό tokens κάθε φορά (4096 για το GPT-3.5-Turbo ή 8192 ή 32768 για το GPT-4), προβλέποντας την επόμενη ακολουθία των πιθανών tokens. Τα μοντέλα επεξεργάζονται τα tokens χρησιμοποιώντας σύνθετη γραμμική άλγεβρα, προβλέποντας το πιο πιθανό επόμενο token.

Για παράδειγμα, μια απλή πρόταση με εννέα λέξεις μπορεί να μετατραπεί σε δέκα tokens. Ακόμη και μια seule σύνθετη λέξη μπορεί να μετατραπεί σε πολλά tokens, που βοηθούν το μοντέλο να κατανοήσει και να γεννήσει γλώσσα. Ακόμη και γλώσσες με σύνθετες λέξεις, όπως η γερμανική, διαχειρίζονται μέσω της διαδικασίας tokenization.

Τα μοντέλα GPT (Generative Pre-trained Transformer) δουλεύουν παράγοντας ένα token κάθε φορά, ξεκινώντας από το πρώτο token και συνεχίζοντας μέχρι το τελευταίο. Μετά τη γεννήση κάθε token, το μοντέλο επανεξετάζει όλη την ακολουθία και την επεξεργάζεται ξανά για να γεννήσει το επόμενο token. Αυτή η επαναλαμβανόμενη διαδικασία συνεχίζεται μέχρι τη γεννήση του τελικού token, καθιστώντας τη γεννήση κειμένου παρόμοια με ένα μεγάλο βρόχο.

Αλλά εδώ είναι το κλειδί – η ποιότητα αυτών των απαντήσεων εξαρτάται σε μεγάλο βαθμό από τις προτροπές που λαμβάνει. Όπως και η οδήγηση μιας συζήτησης με έναν άνθρωπο, η καθοδήγηση ενός διαλόγου με το ChatGPT απαιτεί ένα certo επίπεδο δεξιοτήτων και κατανόησης. Εκεί είναι που η μηχανική προτροπής έρχεται στο παιχνίδι.

Τι είναι η Μηχανική Προτροπής;

Η Μηχανική Προτροπής είναι η τέχνη της δημιουργίας ακριβών, αποτελεσματικών προτροπών/εισόδων για να οδηγήσει τα μοντέλα AI (NLP/Οράσεως) όπως το ChatGPT toward τη γεννήση των πιο αποδοτικών, ακριβών, χρήσιμων και ασφαλών εξόδων.

Η μηχανική προτροπής δεν περιορίζεται μόνο στη γεννήση κειμένου αλλά έχει ευρύτατες εφαρμογές σε όλο το domaine του AI. Χρησιμοποιείται όλο και περισσότερο σε περιοχές όπως η αυτοματοποίηση ροών εργασιών, τα 3D assets, τα σενάρια, οι οδηγίες ρομπότ και άλλα είδη περιεχομένου και ψηφιακού μέσου. Παρέχει ένα μοναδικό μείγμα λογικής, κωδικοποίησης, τέχνης και, σε ορισμένες περιπτώσεις, ειδικών модifikatorων.

Ενώ μια προτροπή μπορεί να περιλαμβάνει φυσική γλώσσα, εικόνες ή άλλα είδη δεδομένων εισόδου, η έξοδος μπορεί να ποικίλλει σημαντικά μεταξύ των υπηρεσιών και εργαλείων AI. Κάθε εργαλείο έχει τους δικούς του ειδικούς modifikatores που περιγράφουν το βάρος των λέξεων, τα στυλ, τις προοπτικές, το layout ή άλλες ιδιότητες της επιθυμητής απάντησης.

Αυτό το πεδίο είναι απαραίτητο για τη δημιουργία καλύτερων υπηρεσιών που βασίζονται στο AI και για την απόκτηση ανώτερων αποτελεσμάτων από τα υπάρχοντα γεννητικά μοντέλα AI. Οι dévelopπεurs επιχειρήσεων, για παράδειγμα, χρησιμοποιούν συχνά τη μηχανική προτροπής για να προσαρμόσουν τα Μεγάλα Μοντέλα Γλώσσας (LLMs) όπως το GPT-3 για να ενεργοποιήσουν ένα chatbot που προσανατολίζεται στον πελάτη ή για να χειριστούν καθήκοντα όπως η δημιουργία συμβάσεων που αφορούν την βιομηχανία.

Αυτή η επαναλαμβανόμενη διαδικασία της βελτίωσης προτροπής και της μέτρησης της απόδοσης του AI είναι ένα κρίσιμο στοιχείο για την ενεργοποίηση των μοντέλων AI να γεννήσουν εξαιρετικά στοχευμένες και χρήσιμες απαντήσεις σε διάφορους контέκστους.

Γίνετε Μηχανικός Προτροπής

Το μοντέλο GPT-4 έχει μια αξιοσημείωτη ικανότητα να κατανοήσει σύνθετες οδηγίες και να λύσει σύνθετα προβλήματα με ακρίβεια, καθιστώντας το ένα απαραίτητο πόρο. Ωστόσο, υπάρχουν διαφορετικά μέθοδοι για να αποκτήσετε πρόσβαση στις ικανότητες αυτού του μοντέλου, και η κατανόηση αυτών είναι κρίσιμη για τον ρόλο του μηχανικού προτροπής στην βελτίωση της αποτελεσματικότητας και της αποδοτικότητας.

Υπάρχουν δύο βασικοί τρόποι να αλληλεπιδράσετε με τα μοντέλα GPT όπως το GPT-4. Ο ένας τρόπος είναι μέσω του API της OpenAI, όπου το κόστος υπολογίζεται ανά token εισόδου και εξόδου. Σε αυτή τη περίπτωση, το κόστος ανά 1K tokens μπορεί να ποικίλλει με βάση το μέγεθος του контέκστου. Για παράδειγμα, σε ένα μεγαλύτερο контέκστ 32K, το κόστος θα μπορούσε να ανέβει στα $0,06 για tokens εισόδου και $0,12 για tokens εξόδου. Έτσι, όταν χειριζόμαστε ένα υψηλό όγκο αιτημάτων, το κόστος χρήσης μπορεί να συσσωρευτεί γρήγορα.

Εναλλακτικά, το ChatGPT, που χρησιμοποιεί το μοντέλο GPT-4, λειτουργεί με ένα μοντέλο συνδρομής.

Ένα άλλο κρίσιμο καθήκον στη μηχανική προτροπής περιλαμβάνει τη ρύθμιση των παραμέτρων του μοντέλου. Αυτή η διαδικασία περιλαμβάνει τη ρύθμιση των متαβλητών που το μοντέλο χρησιμοποιεί για να κάνει προβλέψεις. Ρυθμίζοντας αυτές τις παραμέτρους, οι μηχανικοί προτροπής μπορούν να βελτιώσουν την ποιότητα και την ακρίβεια των απαντήσεων του μοντέλου, καθιστώντας τις πιο σχετικές και χρήσιμες.

Αν και πολλοί μηχανικοί προτροπής έρχονται από ένα τεχνολογικό υπόβαθρο, η πολυεπίπεδη φύση του πεδίου το καθιστά προσιτό σε άτομα από διαφορετικά επαγγελματικά υπόβαθρα. Όλο και περισσότερο, συγγραφείς, ερευνητές και ακόμη καλλιτέχνες αξιοποιούν τις μοναδικές τους δεξιότητες για να ενισχύσουν την αποτελεσματικότητα των μοντέλων AI. Αυτή η μετατόπιση αντικατοπτρίζεται στην αγορά εργασίας, με έναν αυξανόμενο αριθμό εταιρειών που αναζητούν μηχανικούς προτροπής με eine ποικιλία δεξιοτήτων και υπόβαθρων.

Σχεδιασμός και Μηχανική Προτροπής στο ChatGPT

Ο Σχεδιασμός και η Μηχανική Προτροπής παίζουν einen κρίσιμο ρόλο στην βελτίωση της απόδοσης των μοντέλων γλώσσας και περιλαμβάνουν περισσότερα από το να δημιουργούν ερωτήσεις· απαιτούν μια βαθιά κατανόηση του μοντέλου AI και μια εξαιρετικά επαναλαμβανόμενη και ραφινάτη προσέγγιση.

Σχεδιασμός Προτροπής

Ο Σχεδιασμός Προτροπής, στην ουσία του, είναι η τέχνη και η επιστήμη της δημιουργίας της τέλειας προτροπής για ένα δεδομένο μεγάλο μοντέλο γλώσσας (LLM) όπως το ChatGPT, για να επιτύχει ένα σαφώς δηλωμένο στόχο. Είναι ένα μείγμα:

• Κατανόηση του LLM: Διαφορετικά μοντέλα γλώσσας μπορεί να απαντήσουν διαφορετικά στην ίδια προτροπή. Επιπλέον, ορισμένα μοντέλα γλώσσας μπορεί να έχουν μοναδικά κλειδιά ή ερεθίσματα, τα οποία ερμηνεύουν με έναν συγκεκριμένο τρόπο.
• Γνώση του domaine: Η εξειδίκευση στο σχετικό πεδίο είναι κρίσιμη όταν σχεδιάζουμε προτροπές. Για παράδειγμα, η γεννήση μιας προτροπής για να συναγάγει μια ιατρική διάγνωση θα απαιτούσε ιατρικές γνώσεις.
• Επαναλαμβανόμενη προσέγγιση και μέτρηση ποιότητας: Η διαδικασία της δημιουργίας της ιδανικής προτροπής συχνά περιλαμβάνει δοκιμή και λάθος. Έτσι, είναι απαραίτητο να υπάρχει ένας τρόπος για να αξιολογήσουμε την ποιότητα της εξόδου πέρα από την υποκειμενική κρίση, ιδιαίτερα όταν χρησιμοποιούμε την προτροπή σε μεγαλύτερη κλίμακα.

Μηχανική Προτροπής

Η Μηχανική Προτροπής είναι ένα επεκταμένο πεδίο του Σχεδιασμού Προτροπής που περιλαμβάνει plusieurs κρίσιμες διαδικασίες:

• Σχεδιασμός Προτροπών σε Κλίμακα: Αυτή η διαδικασία περιλαμβάνει τον σχεδιασμό μετα-προτροπών (προτροπών που γεννούν άλλες προτροπές) και προτυπών προτροπών, τα οποία είναι παραμετρικές προτροπές που μπορούν να αρχικοποιηθούν σε χρόνο εκτέλεσης.
• Σχεδιασμός Εργαλείων και Ολοκλήρωση: Οι προτροπές μπορούν να περιλαμβάνουν αποτελέσματα από εξωτερικά εργαλεία, και η ολοκλήρωση αυτών των εργαλείων στο σύστημα είναι κρίσιμη.
• Ροή Εργασιών, Σχεδιασμός και Διαχείριση Προτροπής: Η ανάπτυξη μιας εφαρμογής LLM, όπως ένα chatbot, συχνά απαιτεί τη διαχείριση βιβλιοθηκών προτροπών, τον σχεδιασμό και την επιλογή των σωστών προτροπών, και την αποτελεσματική ολοκλήρωση διαφόρων εργαλείων.
• Αξιολόγηση και Ποιότητα Προτροπής: Αυτό το στοιχείο περιλαμβάνει τον ορισμό μετρήσεων και διαδικασιών για να αξιολογήσουμε τις προτροπές τόσο αυτόματα όσο και με ανθρώπινη συμμετοχή.
• Βελτίωση Προτροπής: Το κόστος και η καθυστέρηση του μοντέλου AI μπορούν να εξαρτηθούν από την επιλογή του μοντέλου και το μήκος της προτροπής (αριθμός tokens).

Πολλές αυτοματοποιημένες προσεγγίσεις σχεδιασμού προτροπής, εργαλεία και πλαίσια έχουν αναπτυχθεί για να διαχειριστούν προτροπές σε κλίμακα. Ωστόσο, είναι σημαντικό να κατανοήσουμε ότι κανένα από αυτά τα εργαλεία δεν μπορεί να αντικαταστήσει την ιδιαίτερη κατανόηση, κρίση και εμπειρία ενός έμπειρου μηχανικού προτροπής.

Μηχανική Προτροπής: Τεχνικές και Καλύτερες Πρακτικές

1) Θέση και Περιγραφή Προτροπής

Η τοποθέτηση οδηγιών στο ξεκίνημα της προτροπής μπορεί να επηρεάσει σημαντικά την κατανόηση και την απάντηση του AI. Σκεφτείτε την εργασία της περίληψης ενός κειμένου σε μορφή λίστας με τις πιο σημαντικές σημεία. Μια λιγότερο αποτελεσματική προσέγγιση θα ήταν:

Χρήστης: Περίληψη του κειμένου παρακάτω ως λίστα με τις πιο σημαντικές σημεία.
{text input here}

Αντίθετα, μια πιο αποτελεσματική τεχνική θα μπορούσε να είναι:

Χρήστης: Περίληψη του κειμένου παρακάτω ως λίστα με τις πιο σημαντικές σημεία.
Κείμενο: “””
{text input here}
“””

Βάζοντας σαφώς τις οδηγίες και το контέκστ με σύμβολα όπως ### ή “”, το μοντέλο AI μπορεί να ξεχωρίσει καλύτερα την εργασία του και το κείμενο που πρέπει να επεξεργαστεί, δίνοντάς μας πιο ακριβείς και σχετικές απαντήσεις.

Δεύτερον, είναι σημαντικό να είμαστε συγκεκριμένοι, περιγραφικοί και λεπτομερείς σχετικά με το контέκστ, το αναμενόμενο αποτέλεσμα, το μήκος, το στυλ, κ.λπ., για να βελτιώσουμε την ακρίβεια των απαντήσεων του AI. Υπόθεση ότι χρειάζεστε να γεννήσετε μια σύντομη περίληψη ενός επιστημονικού άρθρου σε ένα ελκυστικό, φιλικό προς τον χρήστη στυλ. Μια ασαφής οδηγία όπως “Περίληψη του επιστημονικού άρθρου” θα οδηγούσε σε λιγότερο αποτελεσματικά αποτελέσματα σε σύγκριση με μια συγκεκριμένη, λεπτομερή προτροπή:

Χρήστης: Γεννήστε μια σύντομη (περίπου 200 λέξεις) περίληψη του ακόλουθου επιστημονικού άρθρου. Η περίληψη πρέπει να είναι κατανοητή από κάποιον χωρίς επιστημονικό υπόβαθρο, ενώ ταυτόχρονα αντανακλά ακριβώς τις βασικές ανακαλύψεις του άρθρου.
Άρθρο: “””
{scientific paper text here}
“””

2) Πρότυπο Προσώπου

Το Πρότυπο Προσώπου είναι μια στρατηγική που ορίζει το AI να λειτουργεί από μια συγκεκριμένη προοπτική, όπως ένας επαγγελματικός ρόλος ή ένας φανταστικός χαρακτήρας. Αυτή η τακτική επιτρέπει στο μοντέλο να παρέχει εξόδους που σχετίζονται με τους συγκεκριμένους ρόλους που το πρόσωπο θα χειριζόταν. Για παράδειγμα, θα μπορούσατε να οδηγήσετε το AI να ενεργεί ως ένας ανώτερος ιστορικός που ειδικεύεται στη Γαλλική Επανάσταση.

Χρήστης: “Υποθέστε το πρόσωπο ενός ανώτερου ιστορικού που ειδικεύεται στη Γαλλική Επανάσταση. Με βάση αυτό το πρόσωπο, εξηγήστε τα κρίσιμα γεγονότα και τους λόγους που οδήγησαν στην πτώση της Γαλλικής μοναρχίας.”

Σε αυτή τη περίπτωση, το AI αναμένεται να απαντήσει με μια ενδελεχή ανάλυση της Γαλλικής Επανάστασης, εστιάζοντας στην πτώση της μοναρχίας, όπως θα έκανε ένας ιστορικός.

Εισαγωγή Νέας Πληροφόρησης

Το ChatGPT δεν διαθέτει γνώσεις πέρα από το χρονικό σημείο εκπαίδευσής του, επομένως δεν μπορεί να παρέχει πληροφορίες για πρόσφατα γεγονότα ή ενημερώσεις μετά από αυτό. Ωστόσο, μπορείτε να εισαγάγετε νέα πληροφορίες στο μοντέλο μέσω των προτροπών σας.

Χρήστης: “Τι είναι η κρυπτονομίσματος;”
ChatGPT: “Η κρυπτονομίσματος είναι ένα είδος ψηφιακής ή εικονικής νομίσματος που χρησιμοποιεί κρυπτογράφηση για ασφάλεια. Το πιο γνωστό κρυπτονομίσματος είναι το Bitcoin.”

Τώρα, αν προσθέσουμε λίγη περισσότερη πληροφορία στην προτροπή, μπορούμε να κάνουμε την εξήγηση ακόμη πιο εύκολη:

Χρήστης: “Εξηγήστε την έννοια της κρυπτονομίσματος σε ένα μαθητή λυκείου που μελετά ψηφιακή οικονομία”
ChatGPT: “Φανταστείτε ότι παίζετε ένα online βίντεο παιχνίδι και υπάρχει ένα παιχνίδι-νομίσματος που μπορείτε να κερδίσετε για να αγοράσετε αναβαθμίσεις ή καινούρια χαρακτήρες. Η κρυπτονομίσματος είναι κάτι παρόμοιο, αλλά αντί να είναι περιορισμένο στο παιχνίδι, μπορείτε να τη χρησιμοποιήσετε για να αγοράσετε πραγματικά αγαθά και υπηρεσίες. Είναι σαν ψηφιακό χρήμα που δεν ελέγχεται από καμία τράπεζα ή κυβέρνηση.”

3) Περιορισμοί Μέγεθους Προτροπής

Η κατανόηση των περιορισμών μεγέθους του ChatGPT είναι απαραίτητη, καθώς επηρεάζει trực tiếp τον όγκο και τον τύπο της πληροφορίας που μπορούμε να εισαγάγουμε. Τα μοντέλα γλώσσας δεν είναι κατασκευασμένα για να επεξεργάζονται απεριόριστα δεδομένα σε μια seule φορά. Έχουν einen εσωτερικό περιορισμό στο μέγεθος της προτροπής που μπορούμε να δημιουργήσουμε και να εισαγάγουμε. Αυτός ο περιορισμός έχει βαθιές επιπτώσεις για τον σχεδιασμό και την εκτέλεση των προτροπών.

Το ChatGPT έχει einen περιορισμό tokens (συνήθως 2048 tokens), ο οποίος περιλαμβάνει cả την προτροπή και την γεννημένη απάντηση. Αυτό σημαίνει ότι μεγάλες προτροπές μπορούν να περιορίσουν το μήκος της απάντησης. Επομένως, είναι σημαντικό να κρατάμε τις προτροπές συντομές αλλά πληροφοριακές.

Χρήστης: “Δώστε μια περίληψη των κρίσιων γεγονότων του Β’ Παγκοσμίου Πολέμου σε λιγότερες από 1000 λέξεις.”

Βάσει του περιορισμού tokens του μοντέλου, αυτή η προτροπή κατευθύνει το AI να παρέχει μια σύντομη αλλά ολοκληρωμένη περίληψη του Β’ Παγκοσμίου Πολέμου.

4) Πρότυπο Βελτίωσης Ερωτήσεων

Το ChatGPT μπορεί επίσης να βοηθήσει στη βελτίωση των ερωτήσεών σας. Για παράδειγμα, αν κάνετε μια ερώτηση, μπορεί να προτείνει μια καλύτερα διατυπωμένη ερώτηση για πιο ακριβή αποτελέσματα.

Το Πρότυπο Βελτίωσης Ερωτήσεων περιλαμβάνει το LLM να βελτιώνει τις ερωτήσεις που κάνει ο χρήστης. Είναι ιδιαίτερα χρήσιμο όταν οι χρήστες δεν είναι ειδικοί σε ένα domaine ή δεν είναι σίγουροι για το πώς να διατυπώσουν την ερώτησή τους.

Ένα παράδειγμα προτροπής θα μπορούσε να είναι:

Χρήστης: “Όταν κάνω μια ερώτηση σχετικά με την επιστήμη των δεδομένων, προτείνετε μια πιο εξειδικευμένη ερώτηση που λαμβάνει υπόψη τις λεπτομέρειες της στατιστικής ανάλυσης και ρωτήστε αν θέλω να συνεχίσω με την εξειδικευμένη ερώτηση.”

Εδώ, το AI αναμένεται να βελτιώσει τις γενικές ερωτήσεις σας σχετικά με την επιστήμη των δεδομένων σε πιο λεπτομερείς ερωτήσεις που λαμβάνουν υπόψη τις στατιστικές ανάλυσεις.

5) Πρότυπο Γνωστικής Επαλήθευσης

Το Πρότυπο Γνωστικής Επαλήθευσης διασπάει σύνθετες ερωτήσεις σε μικρότερες, διαχειρίσιμες υπο-ερωτήσεις. Οι απαντήσεις σε αυτές τις υπο-ερωτήσεις συνδυάζονται για να παρέχουν μια ολοκληρωμένη απάντηση στην αρχική ερώτηση. Αυτή η προσέγγιση είναι χρήσιμη όταν οι αρχικές ερωτήσεις είναι πολύ υψηλού επιπέδου ή όταν απαιτείται πρόσθετη σαφήνεια για να παρέχεται μια πλήρης απάντηση.

Για παράδειγμα:

Χρήστης: “Αν κάνω μια ερώτηση σχετικά με την κλιματική αλλαγή, διασπάστε την σε τρεις μικρότερες ερωτήσεις που θα με βοηθήσουν να παρέχετε μια πιο ακριβή απάντηση. Συνδυάστε τις απαντήσεις σε αυτές τις υπο-ερωτήσεις για να δώσετε την τελική απάντηση.”

Σε αυτή τη περίπτωση, το AI θα διασπάσει την ερώτηση για την κλιματική αλλαγή σε τρεις διαχειρίσιμες υπο-ερωτήσεις. Μετά τη λήψη των απαντήσεων σε αυτές τις υπο-ερωτήσεις, το AI θα συνδυάσει αυτές τις απαντήσεις για να παρέχει μια πιο ολοκληρωμένη και ακριβή απάντηση.

Αυτή η τακτική περιλαμβάνει τη γεννήση πολλών ερωτήσεων για να ληφθεί μια πιο ακριβής τελική απάντηση. Είναι μια διαδικασία επαλήθευσης και ενοποίησης πληροφοριών για μια ισχυρή τελική έξοδο.

6) Προσέγγιση Few-Shot

Η προσέγγιση Few-Shot είναι μια ισχυρή τεχνική για τη διδασκαλία των μοντέλων AI να ακολουθούν συγκεκριμένα πρότυπα ή να εκτελούν καθήκοντα. Η ιδέα είναι να ταΐσετε το μοντέλο με quelques παραδείγματα πριν από την ερώτηση που θέλετε να απαντήσει. Αυτό βοηθά να οριστεί η επιθυμητή συμπεριφορά και να κατευθύνει τις απαντήσεις του μοντέλου.

Σκεφτείτε μια περίπτωση όπου ένας χρήστης προσπαθεί να δημιουργήσει μια σύντομη, ελκυστική μάρκετινγκ προώθηση για ένα νέο τεχνολογικό gadget:

Χρήστης: “Δώστε παραδείγματα μάρκετινγκ προώθησης για τεχνολογικά προϊόντα: ‘Βιώστε τη μουσική σαν ποτέ πριν με τα καινούρια ασύρματα ακουστικά μας.’ ‘Καταγράψτε τον κόσμο σας σε εκπληκτική 4K με την υπερ-σχεδιασμένη μας action camera.’ Με βάση αυτά τα παραδείγματα, δημιουργήστε μια μάρκετινγκ προώθηση για το καινούριο AI-ενισχυμένο smartwatch μας.”

ChatGPT: “Εμπower την ζωή σας με το AI-ενισχυμένο smartwatch μας, τον σύντροφό σας για υγεία, σύνδεση και παραγωγικότητα.” Η αξιοσημείωτη ιδιότητα της few-shot μάθησης είναι ότι δεν απαιτεί μια λεπτομερή περιγραφή του πώς να εκτελέσει το καθήκον. Αντίθετα, απαιτεί παραδείγματα του τι γίνεται, τα οποία μπορούν να κάνουν αυτή τη τεχνική κατάλληλη για πολλές εφαρμογές.

Επιπλέον, αυτή η τεχνική επεκτείνεται πέρα από την απλή εισαγωγή-έξοδο. Το μοντέλο μπορεί επίσης να διδαχθεί να χειρίζεται ενδιάμεσους βήμους για να επιτύχει ένα στόχο.

7) Προσέγγιση Chain-of-Thought

Σε μια πρόσφατη έρευνα, “Chain-of-Thought Prompting Elicits Reasoning in Large Language Models“, οι ερευνητές Jason Wei και η ομάδα του επιδιώκουν να διεγείρουν τη σκέψη μέσα στα μεγάλα μοντέλα γλώσσας. Αντί να χρησιμοποιούν παραδοσιακές, απευθείας προτροπές, η ομάδα χρησιμοποιεί μια σειρά διασυνδεδεμένων προτροπών, σχηματίζοντας μια ‘αλυσίδα σκέψης’.

Για παράδειγμα, ένας χρήστης μπορεί να ενδιαφέρεται για τις πιθανές επιπτώσεις της τεχνητής νοημοσύνης στις αγορές εργασίας:

Χρήστης: “Μπορείτε να εξηγήσετε τη概念 της τεχνητής νοημοσύνης;”

ChatGPT: “Η Τεχνητή Νοημοσύνη, ή AI, αναφέρεται στην ικανότητα μιας μηχανής να μιμηθεί την智能 ανθρώπινη συμπεριφορά. Είναι σχετικά με το να σχεδιάζουμε μηχανές που μπορούν να σκέφτονται και να μαθαίνουν όπως οι άνθρωποι, επιτρέποντάς τους να εκτελούν καθήκοντα όπως η μετάφραση γλώσσας, η λήψη αποφάσεων και η επίλυση προβλημάτων, μεταξύ άλλων.”

Χρήστης: “Πώς η AI επηρεάζει την τρέχουσα αγορά εργασίας;”

ChatGPT: “Η AI δημιουργεί καινούρια εργασίες και αλλάζει τη φύση των υφιστάμενων. Από την μια πλευρά, αυτοματοποιεί καθήκοντα, οδηγώντας σε απώλεια εργασίας σε ορισμένους τομείς. Από την άλλη πλευρά, δημιουργεί ζήτηση για ρόλους που δεν υπήρχαν προηγουμένως, όπως οι αξιωματούχοι ηθικής AI, οι αναλυτές δεδομένων και οι μηχανικοί μάθησης. Επιπλέον, η AI μπορεί να ενισχύσει τους ανθρώπινους ρόλους, επιτρέποντας στους ανθρώπους να ολοκληρώσουν καθήκοντα πιο αποτελεσματικά και ακριβώς.”

Η προσέγγιση chain-of-thought ακολουθεί μια πρόοδο σχετικών προτροπών, διατηρώντας μια ‘συζήτηση’ με το μοντέλο που το οδηγεί σε πιο ακριβείς και контέκστ-συνειδητές απαντήσεις.

Κατανόηση του API του ChatGPT και της Μηχανικής Προτροπής από την Προοπτική του Ανάπτυξης

Από την προοπτική του ανάπτυξης, η μηχανική προτροπής είναι μια πιο σύνθετη διαδικασία. Περιλαμβάνει τον σχεδιασμό αλγορίθμων και τεχνικών για να βοηθήσει το μοντέλο AI να κατανοήσει και να απαντήσει στις προτροπές πιο αποτελεσματικά. Αυτό μπορεί να περιλαμβάνει στρατηγικές για την αντιμετώπιση αμφίβολων προτροπών, την αναγνώριση του контέκστου των προτροπών ή την αλυσίδα προτροπών για να διεγείρει πιο σύνθετες σκέψεις στο AI.

Στην ανωτέρω εικόνα, ένας χρήστης αλληλεπιδρά με μια διεπαφή chat, που τροφοδοτείται από το GPT-4. Η είσοδος του χρήστη ενισχύεται για σαφήνεια και συνειδητότητα του контέκστου από ένα εξειδικευμένο module πριν να τροφοδοτηθεί στο μοντέλο AI. Ο ρόλος αυτού του module είναι να βελτιώσει και να συνεχίσει την είσοδο του χρήστη για καλύτερη κατανόηση, διατηρώντας παράλληλα το контέκστ της συζήτησης. Η απάντηση του AI, που δημιουργείται με βάση τη βελτιωμένη προτροπή, επιστρέφεται στον χρήστη μέσω της διεπαφής chat. Η ιστορία της αλληλεπίδρασης ενημερώνεται συνεχώς, διατηρώντας το контέκστ της συζήτησης. Συνολικά, αυτό το διάγραμμα εικονογραφεί μια δυναμική αλληλεπίδραση μεταξύ του χρήστη και του AI, που ενεργοποιείται από τεχνικές μηχανικής προτροπής.

Το API του ChatGPT έχει μια διεπαφή που σχεδιάστηκε με διάφορους υπερπαράμετρους που επιτρέπουν στους χρήστες να βελτιώσουν τις απαντήσεις του AI στις προτροπές, καθιστώντας τις πιο αποτελεσματικές και ευέλικτες. Αυτοί περιλαμβάνουν τους παράμετρους Θερμοκρασίας, Μέγιστου Μήκους και Διακοπής Σειρών. Ας εξερευνήσουμε πώς λειτουργούν και πώς μπορούν να χρησιμοποιηθούν σε διαφορετικές περιπτώσεις.

1) Θερμοκρασία

Ο παράμετρος Θερμοκρασίας επηρεάζει την τυχαιότητα των απαντήσεων του AI. Μια υψηλότερη θερμοκρασία, όπως 1.0, ενθαρρύνει πιο τυχαιές εξόδους, οδηγώντας σε ποικιλόμορφες αλλά πιθανώς εκτός θέματος απαντήσεις. Αντίθετα, μια χαμηλότερη θερμοκρασία, όπως 0.2, οδηγεί το AI να επιλέξει πιο καθορισμένες απαντήσεις, οι οποίες μπορούν να είναι полезικές για εστιασμένες και συγκεκριμένες εξόδους αλλά μπορεί να λείπουν σε ποικιλία.

Παράδειγμα: Αν γράφετε μια δημιουργική ιστορία και θέλετε απρόβλεπτα, φανταστικά στοιχεία, θα μπορούσατε να ορίσετε τη θερμοκρασία σε υψηλή τιμή. Μια προτροπή θα μπορούσε να είναι: “Γράψτε μια σύντομη ιστορία για μια γάτα που ταξίδεψε στο χρόνο.” Με υψηλή θερμοκρασία, θα μπορούσατε να λάβετε μια άγρια, φανταστική ιστορία με απρόβλεπτους στροφές.

2) Μέγιστο Μήκος

Αυτός ο παράμετρος ελέγχει το μέγιστο μήκος των tokens της εξόδου του μοντέλου, το οποίο περιλαμβάνει cả τα tokens στην είσοδο και την έξοδο. Ορίζοντας ένα υψηλότερο όριο, επιτρέπεται η δημιουργία πιο εκτεταμένων απαντήσεων, ενώ ένα χαμηλότερο όριο διατηρεί την έξοδο σύντομη και συνεπή.

Παράδειγμα: Για σύντομες απαντήσεις σε ερωτήσεις τύπου trivia, όπως “Ποιος κέρδισε το Βραβείο Νόμπελ Λογοτεχνίας το 2020;”, θα μπορούσατε να ορίσετε το μέγιστο μήκος σε μια χαμηλή τιμή, εξασφαλίζοντας ότι η απάντηση είναι σύντομη και άμεση.

3) Διακοπή Σειρών

Οι σειρές διακοπής είναι συγκεκριμένες σειρές κειμένου όπου, όταν το μοντέλο τις συναντά, σταματά να γεννάει περαιτέρω έξοδο. Αυτή η λειτουργία μπορεί να είναι χρήσιμη για τον έλεγχο του μήκους της εξόδου ή για να οδηγήσει το μοντέλο να σταματήσει σε λογικά τελικά σημεία.

Παράδειγμα: Για μια επίσημη επιστολή, θα μπορούσατε να χρησιμοποιήσετε “Ευχαριστώ πολύ” ως σειρά διακοπής για να διασφαλίσετε ότι το AI δεν γεννάει επιπλέον κείμενο πέρα από το σωστό τέλος της επιστολής.

4) Top P

Ο παράμετρος Top P, επίσης γνωστός ως δειγματοληψία πυρήνα, είναι μια μέθοδος που παρέχει μια δυναμική επιλογή του αριθμού των λέξεων που λαμβάνονται υπόψη σε κάθε βήμα των προβλέψεων του μοντέλου. Μια χαμηλότερη τιμή, όπως 0.5, οδηγεί σε πιο ασφαλείς, πιο εστιασμένες εξόδους. Μια υψηλότερη τιμή, όπως 0.9, περιλαμβάνει một ευρύτερη επιλογή λέξεων, οδηγώντας σε πιο ποικιλόμορφες εξόδους.

Παράδειγμα: Αν δημιουργείτε ένα AI για να γράφει ποιήματα και θέλετε να χρησιμοποιήσει eine ευρεία γκάμα λεξιλογίου και στιλιστικών φράσεων, θα μπορούσατε να ορίσετε το Top P σε υψηλή τιμή. Μια προτροπή θα μπορούσε να είναι: “Συνθέστε ένα ποίημα για την ομορφιά του φθινοπώρου.”

5) Ποινική Επίπτωση Συχνότητας

Η ποινική επίπτωση συχνότητας ελέγχει πόσο το μοντέλο πρέπει να ευνοεί λιγότερο συχνές λέξεις. Μια υψηλότερη ποινή (μέχρι 1) ενθαρρύνει το μοντέλο να χρησιμοποιήσει λιγότερο συχνές λέξεις, ενώ μια χαμηλότερη τιμή (μέχρι -1) ενθαρρύνει το μοντέλο να χρησιμοποιήσει πιο συχνές λέξεις.

Παράδειγμα: Αν δημιουργείτε một επιχειρηματικό πρόταση και θέλετε να αποφύγετε τον жарγώνα, θα μπορούσατε να ορίσετε την ποινή συχνότητας σε μια χαμηλότερη τιμή για να διατηρήσετε τη γλώσσα σαφή και προσιτή.

6) Ποινική Επίπτωση Παρουσίας

Η ποινική επίπτωση παρουσίας επηρεάζει πόσο το μοντέλο θα πρέπει να ποινικοποιείται για τη γεννήθεια νέων ιδεών ή θεμάτων που δεν ήταν παρόντα στην ιστορία της συζήτησης. Υψηλότερες τιμές ενθαρρύνουν το μοντέλο να σταθεί στα θέματα που έχουν ήδη αναφερθεί, ενώ χαμηλότερες τιμές επιτρέπουν στο μοντέλο να εισαγάγει νέα έννοιες πιο ελεύθερα.

Παράδειγμα: Για μια συνεδρίαση εύρεσης ιδεών, θα μπορούσατε να ορίσετε την ποινή παρουσίας σε μια χαμηλότερη τιμή για να ενθαρρύνετε μια ποικιλία ιδεών. Μια προτροπή θα μπορούσε να είναι: “Γεννήστε καινοτόμες μάρκετινγκ στρατηγικές για μια online εκπαιδευτική πλατφόρμα.”

Βιομηχανική Εφαρμογή της Μηχανικής Προτροπής