Ο Michael McTear, Emeritus Καθηγητής στο Πανεπιστήμιο του Ulster – Σειρά Συνεντεύξεων

Ο Michael McTear είναι Emeritus Καθηγητής στο Πανεπιστήμιο του Ulster. Έχει διεξαγάγει έρευνα στο πεδίο των συστημάτων διαλόγου ομιλίας για περισσότερα από 20 χρόνια και είναι ο συγγραφέας πολλών βιβλίων, συμπεριλαμβανομένου του πιο πρόσφατου Conversational AI: Συστήματα Διαλόγου, Πράκτορες Συζήτησης και Chatbots (Springer Link 2021). Ο Michael έχει παραδώσει ομιλίες και σεμινάρια σε πολλά ακαδημαϊκά συνέδρια και εργαστήρια. Hiện ο Michael συμμετέχει σε πολλά ερευνητικά και αναπτυξιακά προγράμματα που διερευνούν τη χρήση πρακτόρων συζήτησης στην υποστήριξη της ψυχικής υγείας και την παρακολούθηση των ηλικιωμένων στο σπίτι.

Τι σας έκανε να ενδιαφερθείτε αρχικά για το machine learning;

Μέχρι πρόσφατα, εργαζόμουν με προσεγγίσεις βασισμένες σε κανόνες για τη συζήτηση AI, ιδιαίτερα στην περιοχή της διαχείρισης διαλόγου, όπου η βασική ιδέα είναι να αναπτύξουμε κανόνες που καθορίζουν τις στρατηγικές του πράκτορα σε einen διάλογο. Ωστόσο, με τις πρόσφατες προόδους στο machine learning, πρώτα στο reinforcment learning και στη συνέχεια στο deep learning, βρήκα ότι αυτές οι προσεγγίσεις μπορούν να αντιμετωπίσουν κάποια από τα προβλήματα που αντιμετωπίζουν οι μεθόδοι βασισμένες σε κανόνες, όπως το πρόβλημα της κλιμάκωσης και η ανάγκη να γράψουμε πολλαπλούς κανόνες για να κατεβάσουμε πιο σύνθετους ροές διαλόγου.

Έχετε εργαστεί πάνω στη φωνή και τη συζήτηση AI για πάνω από 20 χρόνια, τι σας οδήγησε να εστιάσετε σε αυτό το πεδίο;

Έχω ενδιαφερθεί για το πώς λειτουργεί η συζήτηση για πολύ καιρό. Στη διδακτορική μου διατριβή, μελέτησα την ανάπτυξη της συζήτησης σε μικρά παιδιά και αυτό ήταν το θέμα του πρώτου μου βιβλίου. Αργότερα, έγινα ενδιαφέροντος με την ιδέα ότι οι υπολογιστές θα μπορούσαν να συμμετάσχουν σε συζητήσεις με έναν ανθρώπινο τρόπο και από τότε, ακολούθησα τις εξελίξεις σε αυτό το πεδίο. Αρχικά, ήταν ένα μικρό πεδίο μέσα στην AI, αλλά τα τελευταία χρόνια, έχει γίνει πολύ σημαντικό, καθώς έχει υιοθετηθεί από τις μεγάλες εταιρείες τεχνολογίας ως ένα πεδίο στρατηγικού ενδιαφέροντος για αυτές.

Μια από τις πιο πρόσφατες εργασίες σας που επικεντρώθηκα είναι το ChatPAL για την προώθηση της ψυχικής ευεξίας στις αγροτικές περιοχές. Μπορείτε να συζητήσετε τις προκλήσεις πίσω από την κατασκευή ενός chatbot για χρήστες που μπορεί να μην είναι εξοικειωμένοι με την τεχνολογία ή να μην είναι εξοικειωμένοι με την έννοια των chatbot;

Πολλοί άνθρωποι είναι εξοικειωμένοι με τους βοηθούς φωνής στα smartphone τους και ως έξυπνες ομιλίες, όπως η Amazon Alexa. Οι νέοι άνθρωποι χρησιμοποιούν τα τηλέφωνά τους κυρίως για να στείλουν μηνύματα και έτσι είναι εξοικειωμένοι με την ιδέα της αλληλεπίδρασης με ένα chatbot. Ωστόσο, όταν πρόκειται για αλληλεπίδραση με ένα chatbot που είναι εξειδικευμένο για ένα συγκεκριμένο πεδίο, όπως το Chatpal μας, που αναπτύχθηκε για την προώθηση της ψυχικής ευεξίας στις αγροτικές περιοχές, βρήκαμε ότι κάποιοι χρήστες είχαν προσδοκίες για την τεχνολογία που βασίζονταν στις εμπειρίες τους με την Alexa και άλλα παρόμοια chatbot, που υπερέβαιναν αυτά που μπορούσαμε να προσφέρουμε με περιορισμένα μέσα. Προσπαθήσαμε να αντιμετωπίσουμε το ζήτημα των χρηστών που δεν ήταν εξοικειωμένοι με την τεχνολογία ή δεν ήταν εξοικειωμένοι με τα chatbot, μέσω αρχικών συνεδριών και βεβαιώμαστε ότι οι αλληλεπιδράσεις με το chatbot ήταν φυσικές και直觀.

Τι είναι κάποιες από τις προκλήσεις πίσω από την κατασκευή chatbot που εστιάζουν στην ψυχική υγεία;

Υπάρχει ο κίνδυνος ότι κάποιοι χρήστες μπορεί να περιμένουν περισσότερα από το chatbot από αυτά που είναι δυνατά με την τρέχουσα τεχνολογία. Δεν θέλαμε να εμπλακούμε στην διάγνωση, καθώς το θεωρούμε πολύリスκό και υπάρχουν αναφορές για απαντήσεις chatbot σε τέτοιες καταστάσεις που θα μπορούσαν να θεωρηθούν επιβλαβείς ή ακόμη και επικίνδυνες. Καθοδηγούμασταν από τις απαιτήσεις των verschiedenen εθικών επιτροπών, καθώς και αναγνωρισμένων προτύπων για το σχεδιασμό και την ανάπτυξη chatbot. Ένα άλλο ζήτημα είναι ότι βρήκαμε ότι υπήρχαν διαφορές μεταξύ των χρηστών σε σχέση με το πώς χρησιμοποιούσαν το chatbot. Κάποιοι χρήστες εγκατέλειψαν γρήγορα όταν αντιμετώπισαν τεχνικά προβλήματα, ενώ άλλοι ήταν πρόθυμοι να επιμείνουν. Υπήρχε επίσης μια ηλικιακή διαφορά, καθώς οι νεότεροι χρήστες ήταν ευχαριστημένοι να αλληλεπιδράσουν με το κειμενικό chatbot μας, ενώ οι πρεσβύτεροι χρήστες ήταν λιγότερο ευχαριστημένοι με αυτό το είδος διεπαφής.

Κάποια από τις εφαρμογές που έχετε εργαστεί προσφέρουν σχέδια δράσης για τους χρήστες, πώς δημιουργείτε αποτελεσματικά κίνητρα για τους χρήστες σε μια εφαρμογή;

Για να το κάνετε αυτό, είναι απαραίτητο να δημιουργήσετε και να διατηρήσετε προφίλ για κάθε χρήστη που αντανακλούν πράγματα όπως οι επικείμενες συναντήσεις, τα φάρμακα, οι γενικές προτιμήσεις και τι έχουν συζητήσει σε προηγούμενες συζητήσεις με το chatbot. Οι χρήστες συχνά δηλώνουν ότι θέλουν το chatbot να είναι εξοικειωμένο με τις ατομικές τους ανάγκες και να κρατάει το ιστορικό των συζητήσεων που έχουν πραγματοποιηθεί προηγουμένως, αντί να παρέχουν μια πιο γενική και λιγότερο προσαρμοσμένη αλληλεπίδραση.

Ωστόσο, υπάρχει ένα ζήτημα της ιδιωτικής ζωής και οι χρήστες επίσης εκφράζουν μια ανησυχία για τη χρήση των προσωπικών τους πληροφοριών. Υπάρχει μια λεπτή ισορροπία που πρέπει να επιτευχθεί εδώ και φυσικά υπάρχει μια αυξανόμενη ποσότητα νομοθεσίας για τον έλεγχο της ηθικής χρήσης της AI στην δημόσια και ιδιωτική ζωή.

Τι είναι κάποιες από τις ηθικές προεκτάσεις πίσω από την κατασκευή chatbot;

Μια από τις κύριες ηθικές προεκτάσεις που πρέπει να ληφθούν υπόψη όταν κατασκευάζονται chatbot είναι εάν ενισχύουν τα στερεότυπα φύλου. Παραδοσιακά, οι γυναίκες έχουν αναλάβει ρόλους βοηθών στην εργασία, ενώ οι άνδρες έχουν αναλάβει ηγετικούς ρόλους. Η εφαρμογή ενός chatbot με γυναικείο πρόσωπο θα μπορούσε να ενισχύσει τέτοια στερεότυπα φύλου.

Ένα άλλο σημαντικό ηθικό ζήτημα είναι εάν τα chatbot πρέπει να υιοθετήσουν ανθρώπινες αξίες και να συμπεριφέρονται με τρόπο που εμπνέει εμπιστοσύνη. Αυτό είναι γνωστό ως το πρόβλημα της ευθυγράμμισης. Τα chatbot πρέπει να σχεδιαστούν так ώστε να αποφεύγουν την παραβίαση των ανθρώπινων δικαιωμάτων και να δημιουργούν προκαταλήψεις, και οι αποφάσεις τους πρέπει να είναι διαφανείς στους ανθρώπινους χρήστες.

Επίσης, όπως αναφέρθηκε νωρίτερα, τα chatbot πρέπει να σεβαστούν την ιδιωτική ζωή και τους νόμους προστασίας των δεδομένων. Υπάρχει πολλή έρευνα και προσπάθεια που αφιερώνεται τώρα σε αυτές τις ηθικές προεκτάσεις.

Σε ένα κόσμο που επικεντρώνεται σε αγγλόφωνους chatbot, τι είναι κάποιες από τις προκλήσεις πίσω από το σχεδιασμό πολυγλωσσικών και διεθνών chatbot;

Όλα εξαρτώνται από τη διαθεσιμότητα γλωσσικών πόρων, όπως γλωσσικά μοντέλα και, για τις φωνητικές συστήματα, μηχανές αναγνώρισης ομιλίας και σύνθεσης ομιλίας. Αυτό δεν είναι πρόβλημα για τις ευρέως ομιλούμενες γλώσσες, αλλά είναι δύσκολο για γλώσσες με περιορισμένους πόρους που μπορεί να ομιλούνται από ένα μεγάλο αριθμό ανθρώπων και όπου υπάρχει μια σαφής ανάγκη για τις υπηρεσίες ενός chatbot. Μια πιθανή λύση είναι να χρησιμοποιηθεί η μεταφορά μάθησης από ένα μοντέλο που έχει προ-εκπαιδευτεί σε μια γλώσσα όπως η αγγλική και να επιμορφωθεί με δεδομένα από τη γλώσσα με περιορισμένους πόρους.

Πολλά από τα chatbot που έχετε σχεδιάσει χρησιμοποιούν ανοιχτό κώδικα, τι είναι κάποια από τα καλύτερα εργαλεία ανοιχτού κώδικα εκεί έξω;

Η χρήση ανοιχτού κώδικα ήταν μια απαιτούμενη προϋπόθεση από τις εταιρείες που χρηματοδότησαν τα προγράμματά μας.

Χρησιμοποιήσαμε το Rasa στα προγράμματά μας, καθώς είναι ανοιχτό κώδικας, αλλά επίσης πολύ ισχυρό, καθώς χρησιμοποιεί τις τελευταίες εξελίξεις στις τεχνολογίες συζήτησης AI. Εκτός από το Rasa, υπάρχουν πολλά άλλα εξαιρετικά προϊόντα λογισμικού ανοιχτού κώδικα για τη συζήτηση AI, συμπεριλαμβανομένων: Botpress, Microsoft (MSFT ) Bot Framework, OpenDialog, και DeepPavlov, για να αναφέρω μόνο quelques.

Θα μιλήσετε στο επικείμενο Σύνοδο για το Μέλλον των Chatbots & Συζητητικής AI που διοργανώνεται από την Group futurista. Τι θα συζητήσετε;

Στην ομιλία μου, θα συγκρίνω τις παραδοσιακές προσεγγίσεις για την ανάπτυξη chatbot που βασίζονται σε besten πρακτικές, γνωστές ως σχεδιασμός συζήτησης, με νέες προσεγγίσεις που βασίζονται σε μεγάλους γλωσσικούς μοντέλους, όπως το ChatGPT. Θα καλύψω τα πλεονεκτήματα και τα μειονεκτήματα κάθε προσεγγίσεως και θα επιχειρήσω να πείσω ότι, αν και οι προσεγγίσεις που βασίζονται σε μεγάλους γλωσσικούς μοντέλους προσφέρουν πολλά για το μέλλον της ανάπτυξης των chatbot, υπάρχουν ακόμη πολλά ζητήματα με την ακατάλληλη χρήση μεγάλων γλωσσικών μοντέλων, ιδιαίτερα σε περιοχές όπως η υγεία και η επιχείρηση, ώστε να υπάρχει ακόμη ανάγκη για σχεδιαστές συζήτησης που μπορούν να διασφαλίσουν εξηγήσιμη, διαφανή και ηθική συζήτηση AI.

Ευχαριστώ πολύ για τη μεγάλη συνέντευξη, οι αναγνώστες που επιθυμούν να ακούσουν τον Michael McTear να μιλήσει πρέπει να παρακολουθήσουν το Σύνοδο για το Μέλλον των Chatbots & Συζητητικής AI που διοργανώνεται από την Group futurista.