Το Google προβλέπει ένα σύστημα ερωτήσεων παρόμοιο με το GPT-3, χωρίς αποτελέσματα αναζήτησης

Μια νέα εργασία από τέσσερις ερευνητές του Google προτείνει ένα “εξPERT” σύστημα ικανό να απαντάει με εξουσία στις ερωτήσεις των χρηστών χωρίς να παρουσιάζει μια λίστα πιθανών αποτελεσμάτων αναζήτησης, παρόμοιο με το πρότυπο Ε/Α που έχει έρθει στο προσκήνιο μέσω της εμφάνισης του GPT-3 τον τελευταίο χρόνο.

Η εργασία, με τίτλο Ριζική αναθεώρηση της αναζήτησης: Κάνωντας εξπέρτς από τους δειλούς, προτείνει ότι το τρέχον πρότυπο παρουσίασης του χρήστη με μια λίστα αποτελεσμάτων αναζήτησης ως απάντηση σε μια ερώτηση είναι ένα “γνωστικό βάρος” και προτείνει βελτιώσεις στην ικανότητα ενός συστήματος επεξεργασίας φυσικής γλώσσας (NLP) να παρέχει μια εξουσιοδοτημένη και οριστική απάντηση.

Υπό το προτεινόμενο μοντέλο ενός ‘εξπέρτ’, cross-domain oracle, οι χιλιάδες πιθανές πηγές αποτελεσμάτων αναζήτησης θα ενσωματωθούν σε ένα μοντέλο γλώσσας αντί να είναι ρητά διαθέσιμες ως एक εξερευνητική πηγή για τους χρήστες να αξιολογούν και να πλοηγούνται από μόνοι τους. Πηγή: https://arxiv.org/pdf/2105.02274.pdf

Η εργασία, με επικεφαλή τον Donald Metzler στο Google Research, προτείνει βελτιώσεις στο είδος των απαντήσεων του multi-domain oracle που μπορούν να ληφθούν από深ενιαία αυτο-αναγωγικά μοντέλα γλώσσας όπως το GPT-3. Οι κύριες βελτιώσεις που προβλέπονται είναι α) ότι το μοντέλο θα είναι ικανό να αναφέρει με ακρίβεια τις πηγές που ενημέρωσαν την απάντηση, και β) ότι το μοντέλο θα αποτραπεί από το να “οραματίζει” απαντήσεις ή να εφευρίσκει μη υπαρκτές πηγές, που είναι τώρα ένα ζήτημα με τέτοιες αρχιτεκτονικές.

Εκπαίδευση σε πολλαπλά домένια και ικανότητες

Επιπλέον, το προτεινόμενο μοντέλο γλώσσας, που χαρακτηρίζεται στην εργασία ως “Ένα Μοντέλο για όλες τις εργασίες ανάκτησης πληροφοριών”, θα εκπαιδευτεί σε eine ποικιλία домένιων, συμπεριλαμβανομένων εικόνων και κειμένου. Θα χρειαζόταν επίσης μια κατανόηση σχετικά με την προέλευση της γνώσης, που λείπει στις αρχιτεκτονικές GPT-3.

‘Για να αντικαταστήσετε τους δείκτες με ένα ενιαίο, ενοποιημένο μοντέλο, πρέπει να είναι δυνατό για το μοντέλο να έχει γνώση σχετικά με το σύμπαν των αναγνωριστικών εγγράφων, όπως και οι παραδοσιακοί δείκτες. Ένας τρόπος για να επιτύχει αυτό είναι να μετακινηθεί μακριά από τους παραδοσιακούς LM και προς τα μοντέλα corpus που μοντελοποιούν σχέσεις όρου-όρου, όρου-εγγράφου και εγγράφου-εγγράφου.’

Στην εικόνα παραπάνω, από την εργασία, τρεις προσεγγίσεις σε απάντηση μιας ερώτησης του χρήστη: αριστερά, τα μοντέλα γλώσσας που είναι ρητά στα αποτελέσματα αναζήτησης του Google έχουν επιλέξει και προτεραιότητα σε μια “καλύτερη απάντηση”, αλλά την έχουν αφήσει ως το πρώτο αποτέλεσμα πολλών. Κέντρο, μια απάντηση GPT-3 τύπου, που μιλάει με εξουσία, αλλά δεν δικαιολογεί τις απαιτήσεις της ή αναφέρει πηγές. Δεξιά, το προτεινόμενο σύστημα εξπέρτ ενσωματώνει την “καλύτερη απάντηση” από τα αποτελέσματα αναζήτησης απευθείας σε μια διδακτική απάντηση, με ποδόγραμμα στυλ υποσημειώσεις (που δεν απεικονίζονται στην αρχική εικόνα) που δείχνουν τις πηγές που ενημέρωσαν την απάντηση.

Αφαίρεση δηλητηριωδών και ανακριβών αποτελεσμάτων

Οι ερευνητές σημειώνουν ότι η δυναμική και συνεχώς ενημερωμένη φύση των δεικτών αναζήτησης είναι μια πρόκληση για να αναπαραχθεί πλήρως σε ένα μοντέλο μαθηματικής μάθησης αυτού του είδους. Για παράδειγμα, όπου μια πηγή που ήταν κάποτε αξιόπιστη έχει εκπαιδευτεί απευθείας στην κατανόηση του μοντέλου για τον κόσμο, η αφαίρεση της επιρροής της (για παράδειγμα, μετά την αποθέωση της) μπορεί να είναι πιο δύσκολη από το να αφαιρέσετε μια διεύθυνση URL από τα αποτελέσματα αναζήτησης,既然 τα δεδομένα μπορούν να γίνουν αφηρημένα και ευρέως αντιπροσωπευμένα κατά τη διάρκεια της ενσωμάτωσης κατά την εκπαίδευση.

Επιπλέον, ένα τέτοιο μοντέλο θα χρειαζόταν να εκπαιδευτεί συνεχώς για να παρέχει το ίδιο επίπεδο απόκρισης σε новые άρθρα και δημοσιεύσεις όπως παρέχεται σήμερα από το Google μέσω της συνεχούς αναζήτησης πηγών. Αυτό σημαίνει ότι θα χρειαζόταν συνεχής και αυτοματοποιημένη αναβάθμιση, σε αντίθεση με το τρέχον καθεστώς, όπου μικρές τροποποιήσεις γίνονται στα βάρη και τις ρυθμίσεις του αλγορίθμου αναζήτησης, αλλά ο αλγόριθμος himself είναι συνήθως ενημερωμένος σπάνια.

Επιφάνειες επίθεσης για einen κεντρικό εξπέρτ oracle

Ένα κεντρικό μοντέλο που συνεχώς ενσωματώνει και γενικεύει νέα δεδομένα θα μπορούσε να μεταμορφώσει την επιφάνεια επίθεσης για τις ερωτήσεις αναζήτησης.

Τώρα, ένας επιτιθέμενος μπορεί να πάρει όφελος από την επίτευξη υψηλής κατάταξης για τομείς ή σελίδες που περιέχουν ψευδή πληροφορίες ή κακόβουλο κώδικα. Υπό την αιγίδα ενός πιο αδιαφανή “εξπέρτ” oracle, η ευκαιρία να ανακατευθύνει τους χρήστες σε επιθέσεις τομέων μειώνεται σημαντικά, αλλά η πιθανότητα ένεσης δηλητηριωδών δεδομένων επιθέσεων αυξάνεται.

Αυτό συμβαίνει επειδή το προτεινόμενο σύστημα δεν εξαφανίζει τον αλγόριθμο κατάταξης, αλλά το κρύβει από τον χρήστη, αποτελεσματικά αυτοματοποιώντας την προτεραιότητα του πρώτου αποτελέσματος/ων και ενσωματώνοντάς το (ή αυτά) σε μια διδακτική δήλωση. Οι κακόβουλοι χρήστες έχουν μακρόχρονα την ικανότητα να ορχηστρώνουν επιθέσεις ενάντια στον αλγόριθμο αναζήτησης του Google, για να πουλήσουν ψευδή προϊόντα, να οδηγήσουν τους χρήστες σε τομείς που διανέμουν κακόβουλο λογισμικό, ή για σκοπούς πολιτικής χειραγώγησης, μεταξύ πολλών άλλων χρήσεων.

Δεν είναι AGI

Οι ερευνητές τονίζουν ότι ένα τέτοιο σύστημα θα ήταν απίθανο να θεωρηθεί ως Τεχνητή Γενική Νοημοσύνη (AGI), και τοποθετούν την προοπτική ενός καθολικού συστήματος απάντησης σε φυσική γλώσσα, υπόκειται σε όλες τις προκλήσεις που αντιμετωπίζουν τέτοιες αρχιτεκτονικές.

Η εργασία περιγράφει πέντε απαιτήσεις για μια “υψηλής ποιότητας” απάντηση:

1: Εξουσία
Όπως και με τους τρέχοντες αλγορίθμους κατάταξης, η “εξουσία” φαίνεται να προέρχεται από αναφορά σε υψηλής ποιότητας τομείς που θεωρούνται αξιόπιστοι. Οι ερευνητές παρατηρούν:

‘Οι απαντήσεις πρέπει να δημιουργούν περιεχόμενο με την Nutzung υψηλής ποιότητας πηγών. Αυτό είναι ένας άλλος λόγος για τον οποίο η καθιέρωση πιο ρητών συνδέσεων μεταξύ ακολουθιών όρων και μεταδεδομένων εγγράφου είναι τόσο κρίσιμη. Αν όλα τα έγγραφα σε ένα corpus έχουν αναγνωριστικά με einen βαθμό αξιόπιστας, αυτός ο βαθμός πρέπει να ληφθεί υπόψη κατά την εκπαίδευση του μοντέλου, την δημιουργία απαντήσεων ή και τα δύο.’

Αν και οι ερευνητές δεν προτείνουν ότι τα παραδοσιακά αποτελέσματα αναζήτησης θα γίνουν недоступні αν ένα oracle εξπέρτ αυτού του τύπου βρεθεί να είναι αποδοτικό και δημοφιλές, η ολόκληρη εργασία παρουσιάζει τον παραδοσιακό αλγόριθμο κατάταξης και τα αποτελέσματα αναζήτησης υπό το φως ενός “παλαιού” και ξεπερασμένου συστήματος ανάκτησης πληροφοριών.

‘Το γεγονός ότι η κατάταξη είναι ένα κρίσιμο στοιχείο αυτού του παραδείγματος είναι ένα σύμπτωμα του συστήματος ανάκτησης που παρέχει στους χρήστες μια επιλογή πιθανών απαντήσεων, το οποίο προκαλεί ένα相当 σημαντικό γνωστικό βάρος στον χρήστη. Η επιθυμία να επιστρέφονται απαντήσεις αντί για καταταγμένες λίστες αποτελεσμάτων ήταν ένας από τους мотивούς για την ανάπτυξη συστημάτων απάντησης ερωτήσεων. ‘

2: Διαφάνεια
Οι ερευνητές σχολιάζουν:

‘Όποτε είναι δυνατό, η προέλευση της πληροφορίας που παρουσιάζεται στον χρήστη πρέπει να είναι διαθέσιμη σε αυτόν. Είναι αυτή η πρωταρχική πηγή της πληροφορίας; Αν όχι, ποια είναι η πρωταρχική πηγή;’

3: Χειρισμός προκατάληψης
Η εργασία σημειώνει ότι τα προ-εκπαιδευμένα μοντέλα γλώσσας σχεδιάζονται για να μην αξιολογούν την εμπειρική αλήθεια, αλλά να γενικεύουν και να προτεραιότητα στις κυρίαρχες τάσεις στα δεδομένα. Αναγνωρίζει ότι αυτή η οδηγία ανοίγει το μοντέλο σε επίθεση (όπως συνέβη με το αθέλητο ρατσιστικό chatbot της Microsoft το 2016), και ότι δευτερεύουσες συστήματα θα χρειαστούν για να προστατεύσουν ενάντια σε τέτοιες προκατειλημμένες απαντήσεις του συστήματος.

4: Ενεργοποίηση ποικίλων προοπτικών
Η εργασία προτείνει επίσης μηχανισμούς για να διασφαλιστεί μια ποικιλία απόψεων:

‘Οι γεννημένες απαντήσεις πρέπει να αντιπροσωπεύουν eine ποικιλία από διαφορετικές προοπτικές, αλλά δεν πρέπει να είναι πολωτικές. Για παράδειγμα, για ερωτήσεις σχετικά με αμφιλεγόμενα θέματα, και οι δύο πλευρές του θέματος πρέπει να καλυφθούν με έναν δίκαιο και ισορροπημένο τρόπο. Αυτό έχει σαφείς συνδέσμους με την προκατάληψη του μοντέλου.’

5: Προσβάσιμη γλώσσα
Εκτός από την παροχή ακριβών μεταφράσεων σε περιπτώσεις όπου η θεωρούμενη αξιόπιστη απάντηση είναι σε μια διαφορετική γλώσσα, η εργασία προτείνει ότι οι εγκλεισμένες απαντήσεις πρέπει να γράφονται σε “όσο το δυνατόν πιο απλά” όρους.