Γιατί τα Μεγάλα Γλωσσικά Μοντέλα Παραλείπουν τις Οδηγίες και Πώς να Διορθωθεί το Πρόβλημα

Τα Μεγάλα Γλωσσικά Μοντέλα (LLMs) έχουν γίνει γρήγορα απαραίτητα Εργαλεία Τεχνητής Νοημοσύνης (AI), παρέχοντας ισχύ σε εφαρμογές από chatbots και δημιουργία περιεχομένου μέχρι βοήθεια σε κωδικοποίηση.尽管 έχουν εντυπωσιακές ικανότητες, μια κοινή πρόκληση που αντιμετωπίζουν οι χρήστες είναι ότι αυτά τα μοντέλα đôiες φορές παραλείπουν μέρη των οδηγιών που λαμβάνουν, ιδιαίτερα όταν αυτές οι οδηγίες είναι μακρές ή περιλαμβάνουν πολλαπλά βήματα. Αυτό το παραλείψιμο οδηγεί σε ατελείς ή ανακριβείς εξόδους, που possono προκαλέσουν σύγχυση και υπονομεύσουν την εμπιστοσύνη στα συστήματα AI. Η κατανόηση του γιατί τα LLMs παραλείπουν οδηγίες και πώς να διορθωθεί αυτό το ζήτημα είναι απαραίτητη για τους χρήστες που εξαρτώνται από αυτά τα μοντέλα για ακριβείς και αξιόπιστες απαντήσεις.

Γιατί τα LLMs Παραλείπουν Οδηγίες;

Τα LLMs λειτουργούν διαβάζοντας το εισαγόμενο κείμενο ως μια σειρά token. Τα token είναι τα μικρά κομμάτια στα οποία το κείμενο διαιρείται. Το μοντέλο επεξεργάζεται αυτά τα token ένα μετά το άλλο, από την αρχή μέχρι το τέλος. Αυτό σημαίνει ότι οι οδηγίες στην αρχή της εισαγωγής τείνουν να λαμβάνουν περισσότερη προσοχή. Οι μεταγενέστερες οδηγίες μπορεί να λαμβάνουν λιγότερη προσοχή και μπορεί να αγνοηθούν.

Αυτό συμβαίνει επειδή τα LLMs έχουν μια περιορισμένη ικανότητα προσοχής. Η προσοχή είναι ο μηχανισμός που χρησιμοποιούν τα μοντέλα για να αποφασίσουν ποια μέρη της εισαγωγής είναι απαραίτητα όταν παράγουν απαντήσεις. Όταν η εισαγωγή είναι σύντομη, η προσοχή λειτουργεί καλά. Αλλά η προσοχή γίνεται λιγότερη καθώς η εισαγωγή μεγαλώνει ή οι οδηγίες γίνονται σύνθετες. Αυτό αποδυναμώνει την εστίαση στα μεταγενέστερα μέρη, προκαλώντας παραλείψιμο.

Επιπλέον, πολλές οδηγίες μαζί αυξάνουν τη σύνθετη. Όταν οι οδηγίες перекrývουν ή έρχονται σε σύγκρουση, τα μοντέλα μπορεί να μπερδευτούν. Μπορεί να προσπαθήσουν να απαντήσουν σε όλα αλλά να παράγουν ασαφείς ή αντίθετες απαντήσεις. Αυτό συχνά οδηγεί στο να παραλειφθούν οδηγίες.

Τα LLMs μοιράζονται ορισμένα ανθρώπινα όρια. Για παράδειγμα, οι άνθρωποι μπορούν να χάσουν την προσοχή τους όταν διαβάζουν μακρά ή επαναλαμβανόμενα κείμενα. Παρόμοια, τα LLMs μπορούν να ξεχάσουν μεταγενέστερες οδηγίες καθώς επεξεργάζονται περισσότερα token. Αυτή η απώλεια προσοχής είναι μέρος του σχεδιασμού και των ορίων του μοντέλου.

Ένας άλλος λόγος είναι ο τρόπος με τον οποίο τα LLMs εκπαιδεύονται. Βλέπουν πολλά παραδείγματα απλών οδηγιών αλλά λιγότερα σύνθετα, πολλαπλά βήματα. Λόγω αυτού, τα μοντέλα τείνουν να προτιμούν την ακολουθία απλών οδηγιών που είναι πιο συχνές στα δεδομένα εκπαίδευσής τους. Αυτή η προκατάληψη τα κάνει να παραλείπουν σύνθετες οδηγίες. Επίσης, τα όρια token περιορίζουν την ποσότητα εισαγωγής που μπορεί να επεξεργαστεί το μοντέλο. Όταν οι εισαγωγές υπερβαίνουν αυτά τα όρια, οι οδηγίες πέρα από το όριο αγνοούνται.

Παράδειγμα: Υποθέστε ότι δίνετε σε ένα LLM πέντε οδηγίες σε μια seule πρόταση. Το μοντέλο μπορεί να εστιάσει κυρίως στις δύο πρώτες οδηγίες και να παραλείψει εν μέρει ή πλήρως τις τρεις τελευταίες. Αυτό επηρεάζει直接 την επεξεργασία token και τα όρια προσοχής του μοντέλου.

Πώς τα LLMs Διαχειρίζονται τις Σειριακές Οδηγίες με βάση τα Ευρήματα του SIFo 2024

Πρόσφατες μελέτες έχουν εξετάσει προσεκτικά πώς τα LLMs ακολουθούν πολλές οδηγίες που δίνονται μια μετά την άλλη. Μια σημαντική μελέτη είναι ο Δεδομένο Sequential Instructions Following (SIFo) Benchmark 2024. Αυτό το benchmark ελέγχει τα μοντέλα σε εργασίες που απαιτούν βήμα-προς-βήμα ολοκλήρωση οδηγιών, όπως τροποποίηση κειμένου, απάντηση σε ερωτήσεις, μαθηματικά και ακολουθία ασφαλειών. Κάθε οδηγία στην ακολουθία εξαρτάται από την σωστή ολοκλήρωση της προηγούμενης. Αυτή η προσέγγιση βοηθά να ελέγξει αν το μοντέλο έχει ακολουθήσει όλη την ακολουθία σωστά.

Τα αποτελέσματα από το SIFo δείχνουν ότι ακόμη και τα καλύτερα LLMs, όπως το GPT-4 και το Claude-3, συχνά δυσκολεύονται να ολοκληρώσουν όλες τις οδηγίες σωστά. Αυτό είναι ιδιαίτερα αλήθεια όταν οι οδηγίες είναι μακρές ή σύνθετες. Η έρευνα υπογραμμίζει τρία основικά προβλήματα που αντιμετωπίζουν τα LLMs με την ακολουθία οδηγιών:

Κατανόηση: Πλήρης κατανόηση του τι σημαίνει κάθε οδηγία.

Λογική: Σύνδεση πολλών οδηγιών λογικά για να διατηρηθεί η σαφήνεια της απάντησης.

Αξιόπιστη Έξοδος: Παραγωγή πλήρης και ακριβούς απάντησης, που καλύπτει όλες τις οδηγίες.

Τεχνικές όπως η μηχανική πρόθεσης και η λεπτομέρεια βοηθούν να βελτιώσουν πώς τα μοντέλα ακολουθούν οδηγίες. Ωστόσο, αυτές οι μεθόδους δεν βοηθούν πλήρως με το πρόβλημα του παραλειψιμού οδηγιών. Η χρήση Ενίσχυσης Μάθησης από Ανθρώπινη Ανταπόκριση (RLHF) βελτιώνει περαιτέρω την ικανότητα του μοντέλου να απαντάει σωστά. Παρόλα αυτά, τα μοντέλα έχουν δυσκολία όταν οι οδηγίες απαιτούν πολλά βήματα ή είναι πολύ σύνθετες.

Η μελέτη δείχνει επίσης ότι τα LLMs λειτουργούν καλύτερα όταν οι οδηγίες είναι απλές, σαφώς διαχωρισμένες και καλά οργανωμένες. Όταν οι εργασίες απαιτούν μακρές αλυσίδες λογικής ή πολλά βήματα, η ακρίβεια του μοντέλου μειώνεται. Αυτά τα ευρήματα βοηθούν να προτείνουν καλύτερες τρόπους χρήσης των LLMs και να δείξουν την ανάγκη για την κατασκευή ισχυρότερων μοντέλων που μπορούν πραγματικά να ακολουθήσουν οδηγίες μια μετά την άλλη.

Γιατί τα LLMs Παραλείπουν Οδηγίες: Τεχνικές και Πρακτικές Προσέγγισεις

Τα LLMs μπορεί να παραλείπουν οδηγίες λόγω πολλών τεχνικών και πρακτικών παραγόντων που έχουν τις ρίζες τους στον τρόπο με τον οποίο επεξεργάζονται και κωδικοποιούν το εισαγόμενο κείμενο.

Περιορισμένη Προσοχή και Διασπορά Πληροφοριών

Τα LLMs βασίζονται σε μηχανισμούς προσοχής για να ανατεθούν προτεραιότητες σε διαφορετικά μέρη της εισαγωγής. Όταν οι πρόθεσεις είναι συντομές, η προσοχή του μοντέλου είναι εστιασμένη και αποτελεσματική. Ωστόσο, καθώς η πρόθεση μεγαλώνει ή γίνεται πιο επαναλαμβανόμενη, η προσοχή γίνεται λιγότερη και τα μεταγενέστερα token ή οδηγίες λαμβάνουν λιγότερη προσοχή, αυξάνοντας την πιθανότητα να παραλειφθούν. Αυτό το φαινόμενο, γνωστό ως διασπορά πληροφοριών, είναι ιδιαίτερα προβληματικό για οδηγίες που εμφανίζονται αργά σε μια πρόθεση. Επιπλέον, τα μοντέλα έχουν σταθερά όρια token (π.χ. 2048 token); οποιοδήποτε κείμενο πέρα από αυτό το όριο είναι αποκομμένο και αγνοείται, προκαλώντας τις οδηγίες στο τέλος να παραλειφθούν ολικά.

Σύνθετη Έξοδος και Αμφισημία

Τα LLMs μπορούν να δυσκολευτούν να παράγουν σαφείς και πλήρεις απαντήσεις όταν αντιμετωπίζουν πολλές ή αντίθετες οδηγίες. Το μοντέλο μπορεί να παράγει μερικές ή ασαφείς απαντήσεις για να αποφύγει αντίθετες ή σύγχυση, αποτελεσματικά παραλείποντας οδηγίες. Η αμφισημία στον τρόπο με τον οποίο οι οδηγίες είναι γραμμένες επίσης θέτει προκλήσεις: ασαφείς ή ανακριβείς πρόθεσεις κάνουν δύσκολο για το μοντέλο να καθορίσει τις προτεινόμενες ενέργειες, αυξάνοντας τον κίνδυνο παραλείψιμού ή εσφαλμένης ερμηνείας μερών της εισαγωγής.

Σχεδιασμός Πρόθεσης και Ευαισθησία Μορφοποίησης

Η δομή και η μορφοποίηση των προθέσεων παίζουν επίσης κρίσιμο ρόλο στην ακολουθία οδηγιών. Η έρευνα δείχνει ότι ακόμη και μικρές αλλαγές στον τρόπο με τον οποίο οι οδηγίες γράφονται ή μορφοποιούνται μπορούν να επηρεάσουν σημαντικά αν το μοντέλο τις ακολουθεί.

Πoorly δομημένες πρόθεσεις, που λείπουν σαφούς διαχωρισμού, σημεία ή αριθμοί, κάνουν δύσκολο για το μοντέλο να διακρίνει μεταξύ βημάτων, αυξάνοντας την πιθανότητα να παραλειφθούν οδηγίες. Η εσωτερική αναπαράσταση της πρόθεσης από το μοντέλο είναι υψηλά ευαίσθητη σε αυτές τις παραλλαγές, που εξηγεί γιατί η μηχανική πρόθεσης (επανασύνθεση ή επαναδιαμόρφωση προθέσεων) μπορεί να βελτιώσει σημαντικά την ακολουθία οδηγιών, ακόμη και αν το υποκείμενο περιεχόμενο παραμείνει το ίδιο.

Πώς να Διορθωθεί το Παραλείψιμο Οδηγιών στα LLMs

Η βελτίωση της ικανότητας των LLMs να ακολουθούν οδηγίες ακριβώς είναι απαραίτητη για την παραγωγή αξιόπιστων και ακριβών αποτελεσμάτων. Οι ακόλουθες besten πρακτικές πρέπει να ληφθούν υπόψη για να ελαχιστοποιηθεί το παραλείψιμο οδηγιών και να βελτιωθεί η ποιότητα των απαντήσεων AI:

Οι Εργασίες Πρέπει να Διασπαστούν σε Μικρότερα Μέρη

Μακρές ή πολλαπλά βήματα πρόθεσεις πρέπει να διαιρεθούν σε μικρότερα, πιο εστιασμένα τμήματα. Η παροχή μιας ή δύο οδηγιών κάθε φορά επιτρέπει στο μοντέλο να διατηρήσει καλύτερη προσοχή και μειώνει την πιθανότητα να παραλειφθούν βήματα.

Παράδειγμα

Αντί να συνδυάσετε όλες τις οδηγίες σε μια seule πρότηση, όπως, “Συνοψίστε το κείμενο, καταγράψτε τα κύρια σημεία, προτείνετε βελτιώσεις και μεταφράστε το στα Γαλλικά,” κάθε οδηγία πρέπει να παρουσιαστεί ξεχωριστά ή σε μικρότερες ομάδες.

Οι Οδηγίες Πρέπει να Μορφοποιηθούν Χρησιμοποιώντας Αριθμημένες Λίστες ή Σημεία

Η οργάνωση οδηγιών με σαφή μορφοποίηση, όπως αριθμημένες λίστες ή σημεία, βοηθά να δείξει ότι κάθε στοιχείο είναι một ξεχωριστή εργασία. Αυτή η σαφήνεια αυξάνει τις πιθανότητες ότι η απάντηση θα αντιμετωπίσει όλες τις οδηγίες.

Παράδειγμα

• Συνοψίστε το ακόλουθο κείμενο.
• Καταγράψτε τα κύρια σημεία.
• Προτείνετε βελτιώσεις.

Αυτή η μορφοποίηση παρέχει οπτικές ενδείξεις που βοηθούν το μοντέλο να αναγνωρίσει και να διαχωρίσει ξεχωριστές εργασίες μέσα σε μια πρόθεση.

Οι Οδηγίες Πρέπει να Είναι Σαφείς και Αμφισβητούμενες

Είναι απαραίτητο ότι οι οδηγίες δηλώνουν σαφώς την απαίτηση να ολοκληρωθεί κάθε βήμα. Ασαφής ή αμφίσημη γλώσσα πρέπει να αποφευχθεί. Η πρόθεση πρέπει να δείξει σαφώς ότι δεν επιτρέπεται να παραλειφθούν βήματα.

Παράδειγμα

“Παρακαλούμε, ολοκληρώστε όλες τις τρεις εργασίες παρακάτω. Το παραλείψιμο οδηγιών δεν είναι αποδεκτό.”

Απευθείας δηλώσεις όπως αυτή μειώνουν τη σύγχυση και ενθαρρύνουν το μοντέλο να παράγει πλήρεις απαντήσεις.

Ξεχωριστές Πρόθεσεις Πρέπει να Χρησιμοποιηθούν για Κρίσιμες ή Κρίσιμες Εργασίες

Κάθε οδηγία πρέπει να υποβληθεί ως ξεχωριστή πρόθεση για εργασίες όπου η ακρίβεια και η ολοκλήρωση είναι κρίσιμες. Αν και αυτή η προσέγγιση μπορεί να αυξήσει τον χρόνο αλληλεπίδρασης, βελτιώνει σημαντικά την πιθανότητα να ληφθούν πλήρεις και ακριβείς εξόδους. Αυτή η μέθοδος διασφαλίζει ότι το μοντέλο εστιάζει αποκλειστικά σε μια εργασία κάθε φορά, μειώνοντας τον κίνδυνο παραλειμμένων οδηγιών.

Προηγμένα Στρατηγικά για την Ισορροπία Ολοκλήρωσης και Αποδοτικότητας

Η αναμονή για απάντηση μετά από κάθε einzel οδηγία μπορεί να είναι χρονοβόρα για τους χρήστες. Για να βελτιωθεί η αποδοτικότητα ενώ διατηρείται η σαφήνεια και μειώνεται το παραλείψιμο οδηγιών, οι ακόλουθες προηγμένες τεχνικές πρόθεσης μπορεί να είναι αποτελεσματικές:

Συγκέντρωση Οδηγιών με Σαφή Μορφοποίηση και Σαφείς Ετικέτες

Πολλές συναφείς οδηγίες μπορούν να συνδυαστούν σε μια seule πρόθεση, αλλά κάθε μια πρέπει να διαχωριστεί χρησιμοποιώντας αριθμοί ή κεφαλίδες. Η πρόθεση πρέπει επίσης να οδηγήσει το μοντέλο να απαντήσει σε όλες τις οδηγίες πλήρως και με τη σειρά.

Παράδειγμα Πρόθεσης

Παρακαλούμε, ολοκληρώστε όλες τις ακόλουθες εργασίες προσεκτικά χωρίς να παραλείψετε καμία:

1. Συνοψίστε το κείμενο παρακάτω.
2. Καταγράψτε τα κύρια σημεία από τη σύνοψή σας.
3. Προτείνετε βελτιώσεις με βάση τα κύρια σημεία.
4. Μεταφράστε το βελτιωμένο κείμενο στα Γαλλικά.

Συλλογή Σκέψης Στυλ Πρόθεσης

Η συλλογή σκέψης πρόθεσης οδηγεί το μοντέλο να σκεφτεί κάθε εργασία πριν παράγει απάντηση. Η ενθάρρυνση του μοντέλου να επεξεργαστεί οδηγίες σειριακά μέσα σε μια seule απάντηση βοηθά να διασφαλίσει ότι δεν παραλείπονται βήματα, μειώνοντας την πιθανότητα παραλείψιμου οδηγιών και βελτιώνοντας την ολοκλήρωση.

Παράδειγμα Πρόθεσης

Διαβάστε το κείμενο παρακάτω και κάνετε τις ακόλουθες εργασίες με τη σειρά. Δείξτε το έργο σας σαφώς:

• Συνοψίστε το κείμενο.
• Καταγράψτε τα κύρια σημεία από τη σύνοψή σας.
• Προτείνετε βελτιώσεις στο κείμενο.
• Μεταφράστε το βελτιωμένο κείμενο στα Γαλλικά.

Παρακαλούμε, απαντήστε σε όλες τις εργασίες πλήρως και ξεχωριστά σε μια απάντηση.

Προσθήκη Οδηγιών Ολοκλήρωσης και Υπενθυμίσεων

Σαφής υπενθύμιση στο μοντέλο να:

• “Απαντήστε σε κάθε εργασία πλήρως.”
• “Μην παραλείψετε καμία οδηγία.”
• “Διαχωρίστε τις απαντήσεις σας σαφώς.”

Αυτές οι υπενθυμίσεις βοηθούν το μοντέλο να εστιάσει στην ολοκλήρωση όταν συνδυάζονται πολλές οδηγίες.

Διαφορετικά Μοντέλα και Ρυθμίσεις Παραμέτρων Πρέπει να Εξεταστούν

Όχι όλα τα LLMs εκτελούν εξίσου καλά στην ακολουθία πολλών οδηγιών. Είναι συνιστό να αξιολογηθούν διάφορα μοντέλα για να ταυτοποιηθούν αυτά που excelling σε εργασίες πολλαπλών βημάτων. Επιπλέον, η ρύθμιση παραμέτρων όπως η θερμοκρασία, το μέγιστο token και οι συστήματος πρόθεσης μπορεί να βελτιώσει περαιτέρω την εστίαση και την ολοκλήρωση των απαντήσεων. Η δοκιμή αυτών των ρυθμίσεων βοηθά να προσαρμόσει τη συμπεριφορά του μοντέλου στις συγκεκριμένες απαιτήσεις της εργασίας.

Βελτίωση Μοντέλων και Χρήση Εξωτερικών Εργαλείων Πρέπει να Συμβουλευτεί

Τα μοντέλα πρέπει να βελτιστοποιηθούν σε δεδομένα που περιλαμβάνουν πολλαπλά βήματα ή σειριακές οδηγίες για να βελτιώσουν την ακολουθία τους. Τεχνικές όπως η RLHF μπορούν να βελτιώσουν περαιτέρω την ακολουθία οδηγιών.

Για προηγμένα σενάρια, η ενσωμάτωση εξωτερικών εργαλείων όπως APIs, εργαλεία-ειδικά για εργασίες ή Συστήματα Γεννήσεως με Αναζήτηση (RAG) μπορεί να παρέχει πρόσθετο контέκστ και έλεγχο, βελτιώνοντας την αξιοπιστία και την ακρίβεια των εξόδων.

Η Κύρια Ιδέα

Τα LLMs είναι ισχυρά εργαλεία αλλά μπορούν να παραλείπουν οδηγίες όταν οι πρόθεσεις είναι μακρές ή σύνθετες. Αυτό συμβαίνει λόγω του τρόπου με τον οποίο διαβάζουν την εισαγωγή και εστιάζουν την προσοχή τους. Οι οδηγίες πρέπει να είναι σαφείς, απλές και καλά οργανωμένες για καλύτερα και πιο αξιόπιστα αποτελέσματα. Η διάσπαση εργασιών σε μικρότερα μέρη, η χρήση λιστών και η δήλωση σαφών οδηγιών βοηθούν τα μοντέλα να ακολουθούν βήματα πλήρως.

Ξεχωριστές πρόθεσεις μπορούν να βελτιώσουν την ακρίβεια για κρίσιμες εργασίες, αν και αυτές χρειάζονται περισσότερο χρόνο. Επιπλέον, προηγμένα μέθοδοι πρόθεσης όπως η συλλογή σκέψης και η σαφή μορφοποίηση βοηθούν να ισορροπήσουν ταχύτητα και ακρίβεια. Επιπλέον, η δοκιμή διαφορετικών μοντέλων και η βελτίωση μπορεί επίσης να βελτιώσει τα αποτελέσματα. Αυτές οι ιδέες θα βοηθήσουν τους χρήστες να λάβουν συνεπείς, πλήρεις απαντήσεις και να κάνουν τα εργαλεία AI πιο χρήσιμα στην πραγματική εργασία.