Προληπτική Μέτρα για την ‘Εξαπάτηση’ στα Μοντέλα Γλώσσας GPT-3 και Άλλα Συμπλέγματα Μοντέλα Γλώσσας

Ένα καθοριστικό χαρακτηριστικό των ‘ψευδών ειδήσεων’ είναι ότι συχνά παρουσιάζουν ψευδείς πληροφορίες σε ένα πλαίσιο πραγματικά σωστών πληροφοριών, με τις ψευδείς données να κερδίζουν μια φαινομενική εξουσία μέσω μιας λογοτεχνικής ωσμώσεως – μια ανησυχητική επίδειξη της δύναμης των ημι-αληθειών.

Συμπλέγματα μοντέλων γλωσσών, όπως το GPT-3, έχουν επίσης την τάση να ‘εξαπατούν’ αυτό το είδος ψευδών δεδομένων. Εν μέρει, αυτό οφείλεται στο ότι τα μοντέλα γλωσσών απαιτούν την ικανότητα να ξαναφράζουν και να συνοψίζουν μεγάλες και συχνά λαβυρινθώδεις εκτάσεις κειμένου, χωρίς κανένα αρχιτεκτονικό περιορισμό που θα μπορούσε να ορίσει, να περιβάλει και να ‘σφραγίσει’ τα γεγονότα και τις πληροφορίες, ώστε να προστατεύονται από τη διαδικασία της σημασιολογικής ανακατασκευής.

Επομένως, τα γεγονότα δεν είναι ιερά για ένα μοντέλο γλωσσών· μπορούν εύκολα να αντιμετωπιστούν στο πλαίσιο ‘σημασιολογικών Lego кирпич’特别, όπου το σύνθετο γλωσσικό ή το απώλεια υλικό κάνει δύσκολο να διαχωρίσει διακριτά οντότητες από τη γλωσσική δομή.

Μια παρατήρηση του τρόπου με τον οποίο τα δυσκόλως-εξηγημένα πηγαία υλικό μπορεί να συγχύσει τα σύνθετα μοντέλα γλωσσών όπως το GPT-3. Πηγή: Paraphrase Generation Using Deep Reinforcement Learning

Το πρόβλημα αυτό υπερβαίνει τα μοντέλα γλωσσών και επηρεάζει την έρευνα της οπτικής ανίχνευσης, ιδιαίτερα σε τομείς που χρησιμοποιούν τη σημασιολογική διάκριση για την αναγνώριση ή περιγραφή αντικειμένων.

Η εξαπάτηση και η ανακριβής ‘κοσμητική’ ερμηνεία επηρεάζει επίσης την έρευνα της οπτικής ανίχνευσης.

Στην περίπτωση του GPT-3, το μοντέλο μπορεί να γίνει δυσαρεστημένο με επαναλαμβανόμενες ερωτήσεις σε ένα θέμα που έχει ήδη απαντηθεί όσο καλά γίνεται. Στην καλύτερη περίπτωση, θα ομολογήσει την ήττα του:

Μια πρόσφατη πειραματική δοκιμή μου με το βασικό Davinci κινητήρα στο GPT-3. Το μοντέλο βρίσκει την σωστή απάντηση στην πρώτη προσπάθεια, αλλά είναι ενοχλημένο από το να ζητηθεί η ερώτηση για δεύτερη φορά. Πηγή: https://www.scalr.ai/post/business-applications-for-gpt-3

Το Davinci και το Davinci Instruct (Βήτα) κάνουν καλύτερα σε αυτό το σημείο από άλλα μοντέλα GPT-3 που είναι διαθέσιμα μέσω του API. Εδώ, το μοντέλο Curie δίνει την λανθασμένη απάντηση, ενώ το μοντέλο Babbage επεκτείνει με αυτοπεποίθηση μια εξίσου λανθασμένη απάντηση:

Πράγματα που ο Αϊνστάιν Δεν Έχει Πει

Όταν ζητήθηκε από το GPT-3 Davinci Instruct (το οποίο φαίνεται να είναι το πιο ικανό) για την περίφημη φράση του Αϊνστάιν ‘Ο Θεός δεν παίζει ζάρια με το σύμπαν’, το Davinci Instruct απέτυχε να βρει την φράση και εφεύρε μια μη-φράση, και συνέχισε να εξαπατά τρεις άλλες σχετικά πιθανές και完全 μη-υπάρχουσες φράσεις (από τον Αϊνστάιν ή οποιονδήποτε) σε απάντηση σε παρόμοιες ερωτήσεις:

Το GPT-3 παράγει τέσσερις πιθανές φράσεις από τον Αϊνστάιν, καμία από τις οποίες δεν παράγει κανένα αποτέλεσμα σε μια πλήρη αναζήτηση στο διαδίκτυο, αν και κάποιες προκαλούν άλλες (πραγματικές) φράσεις από τον Αϊνστάιν για το θέμα της ‘φαντασίας’.

Εάν το GPT-3 ήταν συνεχώς λανθασμένο στην αναφορά, θα ήταν ευκολότερο να απορρίψουμε αυτές τις εξαπάσεις προγραμματικά. Ωστόσο, όσο πιο διασκορπισμένο και διάσημο είναι μια φράση, τόσο πιο πιθανό είναι να βρει την σωστή φράση το GPT-3:

Το GPT-3 φαίνεται να βρίσκει τις σωστές φράσεις όταν είναι καλά-αντιπροσωπεύονται στα συνεισφερόμενα δεδομένα.

Ένα δεύτερο πρόβλημα μπορεί να προκύψει όταν τα δεδομένα ιστορίας συνεδρίας του GPT-3 διαρρέουν σε μια νέα ερώτηση:

Ο Αϊνστάιν θα ήταν πιθανότατα σκανδαλισμένος να έχει αυτή τη φράση να του αποδοθεί. Η φράση φαίνεται να είναι μια ανοησία εξαπάτηση μιας πραγματικής αφορισμού του Winston Churchill. Η προηγούμενη ερώτηση στη συνεδρία του GPT-3 σχετιζόταν με τον Churchill (όχι τον Αϊνστάιν), και το GPT-3 φαίνεται να έχει λανθασμένα χρησιμοποιήσει αυτό το σύμβολο συνεδρίας για να ενημερώσει την απάντηση.

Αντιμετωπίζοντας την Εξαπάτηση Οικονομικά

Η εξαπάτηση είναι ένα αξιοσημείωτο εμπόδιο στην υιοθέτηση των σύνθετων μοντέλων γλωσσών ως εργαλείων έρευνας – τόσο περισσότερο, καθώς η έξοδος από τέτοιους κινητήρες είναι υψηλά αφηρημένη από το πηγαίο υλικό που τη διαμόρφωσε, ώστε να καθιερωθεί η αυθεντικότητα των φράσεων και των γεγονότων να γίνει προβληματικό.

Επομένως, ένα τρέχον γενικό ερευνητικό πρόκληση στις γλωσσικές μονάδες είναι να καθιερωθεί ένας τρόπος για την αναγνώριση εξαπατημένων κειμένων χωρίς την ανάγκη να φανταστούμε εντελώς νέες γλωσσικές μονάδες που ενσωματώνουν, ορίζουν και πιστοποιούν γεγονότα ως διακριτά οντότητες (ένα μακροπρόθεσμο, ξεχωριστό στόχο σε μια σειρά από ευρύτερες ερευνητικές περιοχές).

Αναγνώριση και Γεννήτρια Εξαπατημένου Περιεχομένου

Μια νέα συνεργασία μεταξύ του Πανεπιστημίου Carnegie Mellon και της Facebook AI Research προσφέρει einen νέο τρόπο για το πρόβλημα της εξαπάτησης, διαμορφώνοντας μια μέθοδο για την αναγνώριση εξαπατημένου εξόδου και χρησιμοποιώντας συνθετικά εξαπατημένα κείμενα για τη δημιουργία ενός συνόλου δεδομένων που μπορεί να χρησιμοποιηθεί ως βάση για μελλοντικά φίλτρα και μηχανισμούς που θα μπορούσαν τελικά να γίνουν μέρος των αρχιτεκτονικών των γλωσσικών μονάδων.

Πηγή: https://arxiv.org/pdf/2011.02593.pdf

Στην παραπάνω εικόνα, το πηγαίο υλικό έχει διαχωριστεί σε μια βάση ανά λέξη, με το ‘0’ label να ανατεθεί στις σωστές λέξεις και το ‘1’ label να ανατεθεί στις εξαπατημένες λέξεις. Κάτω βλέπουμε ένα παράδειγμα εξαπατημένου εξόδου που σχετίζεται με την εισαγωγή πληροφοριών, αλλά είναι εμπλουτισμένο με μη-αυθεντικά δεδομένα.

Το σύστημα χρησιμοποιεί ένα προ-εκπαιδευμένο denoising autoencoder που είναι ικανό να χαρτογραφήσει μια εξαπατημένη συμβολοσειρά πίσω στο αρχικό κείμενο από το οποίο η διεφθαρμένη έκδοση παράχθηκε (παρόμοιο με τα παραδείγματα μου παραπάνω, όπου οι αναζητήσεις στο διαδίκτυο αποκάλυψαν την προέλευση των ψευδών φράσεων, αλλά με μια προγραμματική και αυτόματη σημασιολογική μεθοδολογία). Συγκεκριμένα, το μοντέλο BART autoencoder της Facebook χρησιμοποιείται για την παραγωγή των διεφθαρμένων προτάσεων.

Ανάθεση ετικέτας.

Η διαδικασία της χαρτογράφησης της εξαπάτησης πίσω στο πηγαίο υλικό, η οποία δεν είναι δυνατή στη συνήθη ροή των μοντέλων γλωσσών, επιτρέπει την χαρτογράφηση της ‘αποστάσεως επεξεργασίας’, και διευκολύνει μια αλγοριθμική προσέγγιση για την αναγνώριση εξαπατημένου περιεχομένου.

Οι ερευνητές βρήκαν ότι το σύστημα είναι ακόμη ικανό να γενικεύσει καλά όταν δεν έχει πρόσβαση σε αναφορικά υλικό που ήταν διαθέσιμο κατά την εκπαίδευση, το οποίο υποδηλώνει ότι το концептуαλικό μοντέλο είναι σωστό και ευρέως αναπαραγώγιμο.

Αντιμετωπίζοντας την Υπερ-προσαρμογή

Για να αποφευχθεί η υπερ-προσαρμογή και να φθάσει σε μια ευρέως αναployable αρχιτεκτονική, οι ερευνητές τυχαία έπεσαν tokens από τη διαδικασία, και επίσης χρησιμοποιήθηκαν paraphrasing και άλλες συναρτήσεις θορύβου.

Η μηχανική μετάφραση (MT) είναι επίσης μέρος αυτής της διαδικασίας θορύβου,既然 η μετάφραση κειμένου σε γλώσσες είναι πιθανό να διατηρήσει τη σημασία ρωτά και να αποτρέψει την υπερ-προσαρμογή. Επομένως, οι εξαπάτησεις μεταφράστηκαν και αναγνωρίστηκαν για το πρότζεκτ από διγλωσσούς ομιλητές σε μια χειροκίνητη στρωματογραφία.

Η πρωτοβουλία έφτασε σε νέα καλύτερα αποτελέσματα σε eine σειρά από τυπικές δοκιμές τομέα, και είναι η πρώτη που επιτύχει αποδεκτά αποτελέσματα χρησιμοποιώντας δεδομένα που υπερβαίνουν τα 10 εκατομμύρια tokens.

Ο κώδικας του προγράμματος, με τίτλο Αναγνώριση Εξαπατημένου Περιεχομένου σε Συνθήκη Νευρωνικής Σειριακής Γεννήτριας, έχει εκδοθεί στο GitHub, και επιτρέπει στους χρήστες να δημιουργήσουν τα δικά τους συνθετικά δεδομένα με το BART από οποιοδήποτε σώμα κειμένου. Προβλέπεται επίσης η μεταγενέστερη γεννήτρια μοντέλων ανίχνευσης εξαπάτησης.