Λάμα Νάχμαν, συνεργάτης της Intel & Διευθυντής του Εργαστηρίου Υπολογιστών Προληπτικών Υπολογιστών – Σειρά Συνεντεύξεων

Λάμα Νάχμαν, είναι συνεργάτης της Intel & Διευθυντής του Εργαστηρίου Υπολογιστικών Προϋποθέσεων. Η Λάμα είναι περισσότερο γνωστή για τη δουλειά της με τον Καθηγητή Στίβεν Χόκινγκ, έπαιξε καθοριστικό ρόλο στην κατασκευή ενός βοηθητικού συστήματος υπολογιστή για να βοηθήσει τον καθηγητή Στίβεν Χόκινγκ στην επικοινωνία. Σήμερα βοηθά τον Βρετανό ρομποτικό Dr. Peter Scott-Morgan να επικοινωνήσει. Το 2017, ο Δρ Peter Scott-Morgan έλαβε τη διάγνωση της νόσου του κινητικού νευρώνα (MND), επίσης γνωστή ως ALS ή νόσος του Lou Gehrig. Το MND επιτίθεται στον εγκέφαλο και τα νεύρα και τελικά παραλύει όλους τους μύες, ακόμη και αυτούς που επιτρέπουν την αναπνοή και την κατάποση.

Ο Δρ Peter Scott-Morgan είπε κάποτε: «Θα συνεχίσω να εξελίσσομαι, πεθαίνοντας ως άνθρωπος, ζώντας ως cyborg».

Τι σας τράβηξε στο AI;

Πάντα με τράβηξε η ιδέα ότι η τεχνολογία μπορεί να είναι ο μεγάλος ισοσταθμιστής. Όταν αναπτύσσεται υπεύθυνα, έχει τη δυνατότητα να ισοπεδώσει τους όρους ανταγωνισμού, να αντιμετωπίσει τις κοινωνικές ανισότητες και να ενισχύσει το ανθρώπινο δυναμικό. Πουθενά αυτό δεν είναι πιο αληθινό από ό,τι με την τεχνητή νοημοσύνη. Ενώ μεγάλο μέρος της συζήτησης του κλάδου γύρω από την τεχνητή νοημοσύνη και τους ανθρώπους τοποθετεί τη σχέση μεταξύ των δύο ως αντίπαλο, πιστεύω ότι υπάρχουν μοναδικά πράγματα στα οποία οι μηχανές και οι άνθρωποι είναι καλοί, επομένως προτιμώ να βλέπω το μέλλον μέσω του φακού της συνεργασίας Ανθρώπου-AI παρά ανταγωνισμός ανθρώπου-ΑΙ. Οδηγώ το Προληπτικό Εργαστήριο Υπολογιστών στα Εργαστήρια Intel όπου —σε όλες τις ερευνητικές μας προσπάθειες— εστιάζουμε αποκλειστικά στην παροχή υπολογιστικής καινοτομίας που κλιμακώνεται για ευρύ κοινωνικό αντίκτυπο. Δεδομένου του πόσο διάχυτη είναι ήδη η τεχνητή νοημοσύνη και το αυξανόμενο αποτύπωμά της σε κάθε πτυχή της ζωής μας, βλέπω τεράστια υπόσχεση στην έρευνα που αναλαμβάνει η ομάδα μου να κάνει την τεχνητή νοημοσύνη πιο προσιτή, με μεγαλύτερη επίγνωση του πλαισίου, πιο υπεύθυνη και τελικά να φέρει τεχνολογικές λύσεις σε κλίμακα για να βοηθήσει ανθρώπους στον πραγματικό κόσμο.

Έχετε συνεργαστεί στενά με τον θρυλικό φυσικό καθηγητή Στίβεν Χόκινγκ για να δημιουργήσετε ένα σύστημα τεχνητής νοημοσύνης που τον βοήθησε στην επικοινωνία και με εργασίες που οι περισσότεροι από εμάς θα θεωρούσαμε ρουτίνα. Ποιες ήταν μερικές από αυτές τις συνήθεις εργασίες;

Η συνεργασία με τον καθηγητή Στίβεν Χόκινγκ ήταν η πιο ουσιαστική και απαιτητική προσπάθεια της ζωής μου. Έτρεψε την ψυχή μου και πραγματικά χτύπησε το πώς η τεχνολογία μπορεί να βελτιώσει βαθιά τις ζωές των ανθρώπων. Έζησε με το ALS, μια εκφυλιστική νευρολογική ασθένεια, που αφαιρεί με την πάροδο του χρόνου την ικανότητα του ασθενούς να εκτελεί τις πιο απλές δραστηριότητες. Το 2011, ξεκινήσαμε να συνεργαζόμαστε μαζί του για να εξερευνήσουμε πώς να βελτιώσουμε το βοηθητικό σύστημα υπολογιστών που του επέτρεψε να αλληλεπιδρά με τον κόσμο. Εκτός από τη χρήση του υπολογιστή του για να μιλήσει με ανθρώπους, ο Stephen χρησιμοποιούσε τον υπολογιστή του όπως όλοι μας, επεξεργαζόταν έγγραφα, σερφάροντας στο διαδίκτυο, δίνοντας διαλέξεις, διαβάζοντας/γράφοντας email κ.λπ. Η τεχνολογία επέτρεψε στον Stephen να συνεχίσει να συμμετέχει ενεργά και να εμπνέει κόσμο για χρόνια αφού οι σωματικές του ικανότητες μειώθηκαν ραγδαία. Αυτό—για μένα—είναι ο ουσιαστικός αντίκτυπος της τεχνολογίας στη ζωή κάποιου!

Ποιες είναι μερικές από τις βασικές γνώσεις που αφαιρέσατε από τη συνεργασία με τον καθηγητή Stephen Hawking;

Η οθόνη του υπολογιστή μας είναι πραγματικά η πόρτα μας στον κόσμο. Εάν οι άνθρωποι μπορούν να ελέγχουν τον υπολογιστή τους, μπορούν να ελέγχουν όλες τις πτυχές της ζωής τους (κατανάλωση περιεχομένου, πρόσβαση στον ψηφιακό κόσμο, έλεγχος του φυσικού τους περιβάλλοντος, πλοήγηση στο αναπηρικό τους αμαξίδιο κ.λπ.). Για τα άτομα με αναπηρίες που μπορούν ακόμα να μιλήσουν, η πρόοδος στην αναγνώριση ομιλίας τους επιτρέπει να έχουν τον πλήρη έλεγχο των συσκευών τους (και σε μεγάλο βαθμό, του φυσικού τους περιβάλλοντος). Ωστόσο, εκείνοι που δεν μπορούν να μιλήσουν και δεν μπορούν να κινηθούν έχουν πραγματικά προβλήματα στο να μην μπορούν να ασκήσουν μεγάλη ανεξαρτησία. Αυτό που μου δίδαξε η εμπειρία με τον καθηγητή Χόκινγκ είναι ότι οι πλατφόρμες βοηθητικής τεχνολογίας πρέπει να προσαρμόζονται στις συγκεκριμένες ανάγκες του χρήστη. Για παράδειγμα, δεν μπορούμε απλώς να υποθέσουμε ότι μια ενιαία λύση θα λειτουργήσει για άτομα με ALS, επειδή η ασθένεια επηρεάζει διαφορετικές ικανότητες μεταξύ των ασθενών. Άρα, χρειαζόμαστε τεχνολογίες που μπορούν εύκολα να διαμορφωθούν και να προσαρμοστούν στις ανάγκες του ατόμου. Αυτός είναι ο λόγος που δημιουργήσαμε το ACAT (Assistive Context Aware Toolkit), μια αρθρωτή πλατφόρμα λογισμικού ανοιχτού κώδικα που μπορεί να επιτρέψει στους προγραμματιστές να καινοτομήσουν και να δημιουργήσουν διαφορετικές δυνατότητες πάνω από αυτό.

Έμαθα επίσης ότι είναι σημαντικό να κατανοήσουμε το όριο άνεσης κάθε χρήστη σχετικά με την παραίτηση από τον έλεγχο με αντάλλαγμα περισσότερη αποτελεσματικότητα (αυτό δεν περιορίζεται στα άτομα με αναπηρίες). Για παράδειγμα, η τεχνητή νοημοσύνη μπορεί να είναι ικανή να αφαιρεί περισσότερο έλεγχο από τον χρήστη για να κάνει μια εργασία πιο γρήγορα ή πιο αποτελεσματικά, αλλά κάθε χρήστης έχει διαφορετικό επίπεδο αποστροφής κινδύνου. Μερικοί είναι πρόθυμοι να εγκαταλείψουν περισσότερο έλεγχο, ενώ άλλοι χρήστες θέλουν να διατηρήσουν περισσότερο από αυτόν. Η κατανόηση αυτών των ορίων και το πόσο μακριά είναι πρόθυμοι να φτάσουν οι άνθρωποι έχει μεγάλο αντίκτυπο στο πώς μπορούν να σχεδιαστούν αυτά τα συστήματα. Πρέπει να επανεξετάσουμε το σχεδιασμό του συστήματος με βάση το επίπεδο άνεσης του χρήστη και όχι μόνο με αντικειμενικά μέτρα αποτελεσματικότητας και ακρίβειας.

Πιο πρόσφατα, εργάζεστε με έναν διάσημο βρετανό επιστήμονα Peter Scott Morgan, ο οποίος πάσχει από ασθένεια των κινητικών νευρώνων και έχει στόχο να γίνει το πρώτο πλήρες cyborg στον κόσμο. Ποιοι είναι μερικοί από τους φιλόδοξους στόχους που έχει ο Πέτρος;

Ένα από τα ζητήματα με την AAC (Βοηθητική και Επαυξητική επικοινωνία) είναι το «κενό σιωπής». Πολλά άτομα με ALS (συμπεριλαμβανομένου του Peter) χρησιμοποιούν έλεγχο βλέμματος για να επιλέξουν γράμματα / λέξεις στην οθόνη για να μιλήσουν σε άλλους. Αυτό έχει ως αποτέλεσμα μια μακρά σιωπή αφού κάποιος τελειώσει τη φράση του, ενώ το άτομο κοιτάζει τον υπολογιστή του και αρχίζει να διατυπώνει τα γράμματα και τις λέξεις του για να απαντήσει. Ο Πήτερ ήθελε να μειώσει όσο το δυνατόν περισσότερο αυτό το χάσμα σιωπής για να επαναφέρει τον λεκτικό αυθορμητισμό στην επικοινωνία. Θέλει επίσης να διατηρήσει τη φωνή και την προσωπικότητά του και να χρησιμοποιήσει ένα σύστημα κειμένου σε ομιλία που εκφράζει το μοναδικό του στυλ επικοινωνίας (π.χ. τα αστεία του, τον γρήγορο σαρκασμό του, τα συναισθήματά του).

Ο Βρετανός ρομποτικός Dr. Peter Scott-Morgan, ο οποίος πάσχει από νόσο του κινητικού νευρώνα, ξεκίνησε το 2019 να υποβάλλεται σε μια σειρά επεμβάσεων για να παρατείνει τη ζωή του χρησιμοποιώντας τεχνολογία. (Πίστωση: Cardiff Productions)

Θα μπορούσατε να συζητήσετε μερικές από τις τεχνολογίες που χρησιμοποιούνται επί του παρόντος για να βοηθήσουν τον Δρ Peter Scott-Morgan;

Ο Peter χρησιμοποιεί το ACAT (Assistive Context Aware Toolkit), την πλατφόρμα που δημιουργήσαμε κατά τη διάρκεια της εργασίας μας με τον Dr. Hawking και αργότερα κυκλοφόρησε σε ανοιχτό κώδικα. Σε αντίθεση με τον Δρ Χόκινγκ που χρησιμοποίησε τους μύες στο μάγουλό του ως «έναρξη εισόδου» για να ελέγξει τα γράμματα στην οθόνη του, ο Peter χρησιμοποιεί έλεγχο βλέμματος (μια δυνατότητα που προσθέσαμε στο υπάρχον ACAT) για να μιλήσει και να ελέγξει τον υπολογιστή του, ο οποίος συνδέεται με μια λύση Text-to-Speech (TTS) από μια εταιρεία που ονομάζεται CereProc που προσαρμόστηκε για αυτόν και του δίνει τη δυνατότητα να εκφράσει διαφορετικά συναισθήματα/έμφαση. Το σύστημα ελέγχει επίσης ένα avatar που έχει προσαρμοστεί για αυτόν.

Αυτήν τη στιγμή εργαζόμαστε σε ένα σύστημα παραγωγής απόκρισης για το ACAT που μπορεί να επιτρέψει στον Peter να αλληλεπιδρά με το σύστημα σε υψηλότερο επίπεδο χρησιμοποιώντας δυνατότητες AI. Αυτό το σύστημα θα ακούει τις συνομιλίες του Peter με την πάροδο του χρόνου και θα προτείνει απαντήσεις για να επιλέξει ο Peter στην οθόνη. Ο στόχος είναι ότι με την πάροδο του χρόνου το σύστημα τεχνητής νοημοσύνης θα μάθει από τα δεδομένα του Peter και θα του επιτρέψει να «ωθήσει» το σύστημα για να του δώσει τις καλύτερες απαντήσεις χρησιμοποιώντας μόνο μερικές λέξεις-κλειδιά (παρόμοιο με το πώς λειτουργούν οι αναζητήσεις στον Ιστό σήμερα). Ο στόχος μας με το σύστημα παραγωγής απόκρισης είναι να μειώσουμε το χάσμα σιωπής στην επικοινωνία που αναφέρθηκε παραπάνω και να δώσουμε τη δυνατότητα στον Peter και στους μελλοντικούς χρήστες του ACAT να επικοινωνούν με ρυθμό που φαίνεται πιο «φυσικός».

Έχετε επίσης μιλήσει για τη σημασία της διαφάνειας στην τεχνητή νοημοσύνη, πόσο μεγάλο ζήτημα είναι αυτό;

Είναι ένα μεγάλο ζήτημα, ειδικά όταν αναπτύσσεται σε συστήματα λήψης αποφάσεων ή σε συστήματα συνεργασίας ανθρώπου/AI. Για παράδειγμα, στην περίπτωση του βοηθητικού συστήματος του Peter, πρέπει να κατανοήσουμε τι είναι αυτό που κάνει το σύστημα να κάνει αυτές τις συστάσεις και πώς να επηρεάσουμε τη μάθηση αυτού του συστήματος ώστε να εκφράσει με μεγαλύτερη ακρίβεια τις ιδέες του.

Στο ευρύτερο πλαίσιο των συστημάτων λήψης αποφάσεων, είτε βοηθούν στη διάγνωση με βάση την ιατρική απεικόνιση είτε κάνουν συστάσεις για τη χορήγηση δανείων, τα συστήματα τεχνητής νοημοσύνης πρέπει να παρέχουν ερμηνεύσιμες από τον άνθρωπο πληροφορίες σχετικά με τον τρόπο με τον οποίο κατέληξαν στις αποφάσεις, ποια χαρακτηριστικά ή χαρακτηριστικά είχαν μεγαλύτερη επίδραση σε αυτό. απόφαση, τι εμπιστοσύνη έχει το σύστημα στα συμπεράσματα που έγιναν, κ.λπ. Αυτό αυξάνει την εμπιστοσύνη στα συστήματα τεχνητής νοημοσύνης και επιτρέπει την καλύτερη συνεργασία μεταξύ ανθρώπων και τεχνητής νοημοσύνης σε μικτά σενάρια λήψης αποφάσεων.

Η προκατάληψη της τεχνητής νοημοσύνης ειδικά όταν πρόκειται για τον ρατσισμό και τον σεξισμό είναι ένα τεράστιο ζήτημα, αλλά πώς εντοπίζετε άλλους τύπους μεροληψίας όταν δεν έχετε ιδέα ποιες προκαταλήψεις αναζητάτε;

Είναι ένα πολύ δύσκολο πρόβλημα και δεν μπορεί να λυθεί μόνο με την τεχνολογία. Πρέπει να φέρουμε περισσότερη ποικιλομορφία στην ανάπτυξη συστημάτων τεχνητής νοημοσύνης (φυλετικό, φύλο, πολιτισμό, σωματικές ικανότητες κ.λπ.). Αυτό είναι σαφώς ένα τεράστιο κενό στον πληθυσμό που κατασκευάζει αυτά τα συστήματα AI σήμερα. Επιπλέον, είναι σημαντικό να υπάρχουν διεπιστημονικές ομάδες που ασχολούνται με τον ορισμό και την ανάπτυξη αυτών των συστημάτων, φέρνοντας στο τραπέζι την κοινωνική επιστήμη, τη φιλοσοφία, την ψυχολογία, την ηθική και την πολιτική (όχι μόνο την επιστήμη των υπολογιστών) και να συμμετέχουν στη διαδικασία έρευνας το πλαίσιο των συγκεκριμένων έργων και προβλημάτων.

Έχετε μιλήσει στο παρελθόν για τη χρήση της τεχνητής νοημοσύνης για την ενίσχυση του ανθρώπινου δυναμικού. Ποιοι είναι μερικοί τομείς που δείχνουν τις περισσότερες υποσχέσεις για αυτήν την ενίσχυση του ανθρώπινου δυναμικού;

Ένας προφανής τομέας είναι ότι τα άτομα με αναπηρίες μπορούν να ζουν πιο ανεξάρτητα, να επικοινωνούν με αγαπημένα τους πρόσωπα και να συνεχίζουν να δημιουργούν και να συνεισφέρουν στην κοινωνία. Βλέπω μεγάλες δυνατότητες στην εκπαίδευση, στην κατανόηση της εμπλοκής των μαθητών και στην εξατομίκευση της μαθησιακής εμπειρίας στις ατομικές ανάγκες και δυνατότητες του μαθητή για τη βελτίωση της δέσμευσης, την ενδυνάμωση των δασκάλων με αυτή τη γνώση και τη βελτίωση των μαθησιακών αποτελεσμάτων. Η ανισότητα στην εκπαίδευση σήμερα είναι τόσο βαθιά και υπάρχει χώρος για την τεχνητή νοημοσύνη να συμβάλει στη μείωση μέρους αυτής της ανισότητας, αν το κάνουμε σωστά. Υπάρχουν ατελείωτες ευκαιρίες για την τεχνητή νοημοσύνη να φέρει μεγάλη αξία δημιουργώντας συστήματα συνεργασίας ανθρώπου/τεχνητής νοημοσύνης σε τόσους πολλούς τομείς (υγειονομική περίθαλψη, κατασκευή κ.λπ.), επειδή αυτά που φέρνουν οι άνθρωποι και η τεχνητή νοημοσύνη είναι πολύ συμπληρωματικά. Για να συμβεί αυτό, χρειαζόμαστε καινοτομία στη διασταύρωση της κοινωνικής επιστήμης, της HCI και της τεχνητής νοημοσύνης. Η ισχυρή πολυτροπική αντίληψη, η επίγνωση του πλαισίου, η εκμάθηση από περιορισμένα δεδομένα, η φυσική κατάσταση HCI και η ερμηνευτικότητα είναι μερικές από τις βασικές προκλήσεις στις οποίες πρέπει να εστιάσουμε για να πραγματοποιήσουμε αυτό το όραμα.

Έχετε επίσης μιλήσει για το πόσο σημαντική είναι η αναγνώριση συναισθημάτων για το μέλλον της τεχνητής νοημοσύνης; Γιατί πρέπει η βιομηχανία της τεχνητής νοημοσύνης να επικεντρωθεί περισσότερο σε αυτόν τον τομέα έρευνας;

Η αναγνώριση συναισθημάτων είναι μια βασική ικανότητα των συστημάτων ανθρώπου/AI για πολλούς λόγους. Μια πτυχή είναι ότι το ανθρώπινο συναίσθημα προσφέρει βασικό ανθρώπινο πλαίσιο για να κατανοήσει οποιοδήποτε προληπτικό σύστημα πριν μπορέσει να δράσει.

Το πιο σημαντικό, αυτοί οι τύποι συστημάτων πρέπει να συνεχίσουν να μαθαίνουν στη φύση και να προσαρμόζονται με βάση τις αλληλεπιδράσεις με τους χρήστες, και ενώ η άμεση ανάδραση είναι ένα βασικό σήμα για τη μάθηση, τα έμμεσα σήματα είναι πολύ σημαντικά και είναι δωρεάν (λιγότερη δουλειά για τον χρήστη ). Για παράδειγμα, ένας ψηφιακός βοηθός μπορεί να μάθει πολλά από την απογοήτευση στη φωνή ενός χρήστη και να το χρησιμοποιήσει ως σήμα ανατροφοδότησης για να μάθει τι να κάνει στο μέλλον, αντί να ζητά από τον χρήστη σχόλια κάθε φορά. Αυτές οι πληροφορίες μπορούν να χρησιμοποιηθούν για τα συστήματα ενεργητικής εκμάθησης AI ώστε να συνεχίσουν να βελτιώνονται με την πάροδο του χρόνου.

Υπάρχει κάτι άλλο που θα θέλατε να μοιραστείτε σχετικά με αυτό που εργάζεστε στο Εργαστήριο Υπολογιστών Προϋποθέσεων ή άλλα θέματα που έχουμε συζητήσει;

Όταν κατασκευάζουμε υποστηρικτικά συστήματα, πρέπει πραγματικά να σκεφτόμαστε πώς να δημιουργήσουμε αυτά τα συστήματα με υπευθυνότητα και πώς να μπορέσουν οι άνθρωποι να κατανοήσουν ποιες πληροφορίες συλλέγονται και πώς να ελέγχουν αυτά τα συστήματα με πρακτικό τρόπο. Ως ερευνητές τεχνητής νοημοσύνης, συχνά γοητευόμαστε από τα δεδομένα και θέλουμε να έχουμε όσο το δυνατόν περισσότερα δεδομένα για τη βελτίωση αυτών των συστημάτων, ωστόσο, υπάρχει μια αντιστάθμιση μεταξύ του τύπου και της ποσότητας των δεδομένων που θέλουμε και του απορρήτου του χρήστη. Πρέπει πραγματικά να περιορίσουμε τα δεδομένα που συλλέγουμε σε ό,τι είναι απολύτως απαραίτητο για την εκτέλεση της εργασίας εξαγωγής συμπερασμάτων, να γνωρίζουν οι χρήστες ποια ακριβώς δεδομένα συλλέγουμε και να τους επιτρέψουμε να συντονίσουν αυτήν την ανταλλαγή με ουσιαστικούς και εύχρηστους τρόπους.

Σας ευχαριστούμε για τη φανταστική συνέντευξη, οι αναγνώστες που επιθυμούν να μάθουν περισσότερα για αυτό το έργο θα πρέπει να διαβάσουν το άρθρο Ο Λάμα Νάχμαν της Intel και ο Πίτερ Σκοτ-Μόργκαν: Δύο επιστήμονες, ένας «ανθρώπινος κύβοργος»».

Η ομάδα Anticipatory Computing Lab της Intel που ανέπτυξε το Assistive Context-Aware Toolkit περιλαμβάνει (από αριστερά) τους Alex Nguyen, Sangita Sharma, Max Pinaroc, Sai Prasad, Lama Nachman και Pete Denman. Δεν απεικονίζονται οι Bruna Girvent, Saurav Sahay και Shachi Kumar. (Προσφορά: Lama Nachman)