Η επεξήγηση μπορεί να αντιμετωπίσει το πρόβλημα τεχνητής νοημοσύνης κάθε κλάδου: Η έλλειψη διαφάνειας

Με: Migüel Jetté, Αντιπρόεδρος Ε&Α Λόγου, Στροφή μηχανής.

Στα αρχικά της στάδια, η τεχνητή νοημοσύνη μπορεί να ήταν σε θέση να στηριχθεί στις δάφνες της καινοτομίας. Ήταν εντάξει για τη μηχανική μάθηση να μαθαίνει αργά και να διατηρεί μια αδιαφανή διαδικασία όπου ο υπολογισμός της τεχνητής νοημοσύνης είναι αδύνατος για τον μέσο καταναλωτή να διεισδύσει. Αυτό αλλάζει. Καθώς περισσότεροι κλάδοι όπως η υγειονομική περίθαλψη, τα οικονομικά και το σύστημα ποινικής δικαιοσύνης αρχίζουν να αξιοποιούν την τεχνητή νοημοσύνη με τρόπους που μπορούν να έχουν πραγματικό αντίκτυπο στη ζωή των ανθρώπων, περισσότεροι άνθρωποι θέλουν να μάθουν πώς χρησιμοποιούνται οι αλγόριθμοι, πώς προέρχονται τα δεδομένα και πόσο ακριβείς είναι οι δυνατότητές του. Εάν οι εταιρείες θέλουν να παραμείνουν στην πρώτη γραμμή της καινοτομίας στις αγορές τους, πρέπει να βασίζονται στην τεχνητή νοημοσύνη που θα εμπιστεύεται το κοινό τους. Η επεξήγηση της τεχνητής νοημοσύνης είναι το βασικό συστατικό για την εμβάθυνση αυτής της σχέσης.

Η επεξήγηση της τεχνητής νοημοσύνης διαφέρει από τις τυπικές διαδικασίες τεχνητής νοημοσύνης επειδή προσφέρει στους ανθρώπους έναν τρόπο να κατανοήσουν πώς οι αλγόριθμοι μηχανικής μάθησης δημιουργούν αποτελέσματα. Το εξηγήσιμο AI είναι ένα σύστημα που μπορεί να προσφέρει στους ανθρώπους πιθανά αποτελέσματα και ελλείψεις. Είναι ένα σύστημα μηχανικής μάθησης που μπορεί να εκπληρώσει την ίδια την ανθρώπινη επιθυμία για δικαιοσύνη, υπευθυνότητα και σεβασμό της ιδιωτικής ζωής. Η εξηγήσιμη τεχνητή νοημοσύνη είναι επιτακτική ανάγκη για τις επιχειρήσεις να οικοδομήσουν εμπιστοσύνη με τους καταναλωτές.

Ενώ η τεχνητή νοημοσύνη επεκτείνεται, οι πάροχοι τεχνητής νοημοσύνης πρέπει να καταλάβουν ότι το μαύρο κουτί δεν μπορεί. Τα μοντέλα μαύρου κουτιού δημιουργούνται απευθείας από τα δεδομένα και συχνά ούτε ο προγραμματιστής που δημιούργησε τον αλγόριθμο μπορεί να προσδιορίσει τι οδήγησε τις μαθημένες συνήθειες του μηχανήματος. Αλλά ο ευσυνείδητος καταναλωτής δεν θέλει να ασχοληθεί με κάτι τόσο αδιαπέραστο που δεν μπορεί να θεωρηθεί υπεύθυνος. Οι άνθρωποι θέλουν να μάθουν πώς ένας αλγόριθμος τεχνητής νοημοσύνης καταλήγει σε ένα συγκεκριμένο αποτέλεσμα χωρίς το μυστήριο της προέλευσης εισόδου και της ελεγχόμενης εξόδου, ειδικά όταν οι εσφαλμένοι υπολογισμοί της τεχνητής νοημοσύνης οφείλονται συχνά σε προκαταλήψεις της μηχανής. Καθώς η τεχνητή νοημοσύνη γίνεται πιο προηγμένη, οι άνθρωποι θέλουν πρόσβαση στη διαδικασία μηχανικής μάθησης για να κατανοήσουν πώς ο αλγόριθμος έφτασε στο συγκεκριμένο του αποτέλεσμα. Οι ηγέτες σε κάθε κλάδο πρέπει να κατανοήσουν ότι αργά ή γρήγορα, οι άνθρωποι δεν θα προτιμούν πλέον αυτήν την πρόσβαση, αλλά θα την απαιτούν ως απαραίτητο επίπεδο διαφάνειας.

Τα συστήματα ASR όπως οι βοηθοί με δυνατότητα φωνής, η τεχνολογία μεταγραφής και άλλες υπηρεσίες που μετατρέπουν την ανθρώπινη ομιλία σε κείμενο είναι ιδιαίτερα μαστίζεται από προκαταλήψεις. Όταν η υπηρεσία χρησιμοποιείται για μέτρα ασφαλείας, λάθη λόγω προφοράς, ηλικίας ή καταγωγής ενός ατόμου, μπορεί να είναι σοβαρά λάθη, επομένως το πρόβλημα πρέπει να ληφθεί σοβαρά υπόψη. Το ASR μπορεί να χρησιμοποιηθεί αποτελεσματικά σε κάμερες σώματος της αστυνομίας, για παράδειγμα, για αυτόματη καταγραφή και μεταγραφή των αλληλεπιδράσεων — διατηρώντας ένα αρχείο που, αν μεταγραφεί με ακρίβεια, θα μπορούσε να σώσει ζωές. Η πρακτική της επεξήγησης απαιτεί η τεχνητή νοημοσύνη να μην βασίζεται μόνο σε αγορασμένα σύνολα δεδομένων, αλλά να επιδιώκει να κατανοήσει τα χαρακτηριστικά του εισερχόμενου ήχου που μπορεί να συμβάλλουν σε σφάλματα, εάν υπάρχουν. Ποιο είναι το ακουστικό προφίλ; Υπάρχει θόρυβος στο παρασκήνιο; Είναι ο ομιλητής από χώρα που δεν έχει την πρώτη αγγλική γλώσσα ή από μια γενιά που χρησιμοποιεί ένα λεξιλόγιο που δεν έχει μάθει ακόμη η τεχνητή νοημοσύνη; Η μηχανική μάθηση πρέπει να είναι προληπτική για την ταχύτερη εκμάθηση και μπορεί να ξεκινήσει συλλέγοντας δεδομένα που μπορούν να αντιμετωπίσουν αυτές τις μεταβλητές.

Η αναγκαιότητα γίνεται προφανής, αλλά ο δρόμος για την εφαρμογή αυτής της μεθοδολογίας δεν θα έχει πάντα μια εύκολη λύση. Η παραδοσιακή απάντηση στο πρόβλημα είναι η προσθήκη περισσότερων δεδομένων, αλλά θα χρειαστεί μια πιο εξελιγμένη λύση, ειδικά όταν τα αγορασμένα σύνολα δεδομένων που χρησιμοποιούν πολλές εταιρείες είναι εγγενώς μεροληπτικά. Αυτό οφείλεται στο γεγονός ότι ιστορικά, ήταν δύσκολο να εξηγηθεί μια συγκεκριμένη απόφαση που ελήφθη από το AI και αυτό οφείλεται στη φύση της πολυπλοκότητας των μοντέλων από άκρο σε άκρο. Ωστόσο, μπορούμε τώρα και μπορούμε να ξεκινήσουμε ρωτώντας πώς οι άνθρωποι έχασαν την εμπιστοσύνη τους στην τεχνητή νοημοσύνη αρχικά.

Αναπόφευκτα, η τεχνητή νοημοσύνη θα κάνει λάθη. Οι εταιρείες πρέπει να κατασκευάζουν μοντέλα που να γνωρίζουν πιθανές ελλείψεις, να προσδιορίζουν πότε και πού συμβαίνουν τα προβλήματα και να δημιουργούν συνεχείς λύσεις για τη δημιουργία ισχυρότερων μοντέλων τεχνητής νοημοσύνης:

1. Όταν κάτι πάει στραβά, οι προγραμματιστές θα πρέπει να εξηγήσουν τι συνέβη και αναπτύξτε ένα άμεσο σχέδιο για τη βελτίωση του μοντέλου για τη μείωση μελλοντικών, παρόμοιων λαθών.
2. Για να γνωρίζει το μηχάνημα αν ήταν σωστό ή λάθος, πρέπει να το κάνουν οι επιστήμονες δημιουργήστε έναν βρόχο ανατροφοδότησης ώστε η τεχνητή νοημοσύνη να μάθει τις αδυναμίες της και να εξελιχθεί.
3. Ένας άλλος τρόπος για την ASR να οικοδομήσει εμπιστοσύνη ενώ η τεχνητή νοημοσύνη εξακολουθεί να βελτιώνεται είναι να δημιουργήστε ένα σύστημα που μπορεί να παρέχει βαθμολογίες εμπιστοσύνης, και δώστε λόγους για τους οποίους η τεχνητή νοημοσύνη είναι λιγότερο σίγουρη. Για παράδειγμα, οι εταιρείες συνήθως δημιουργούν βαθμολογίες από το μηδέν έως το 100 για να αντικατοπτρίζουν τις ατέλειες της δικής τους τεχνητής νοημοσύνης και να εξασφαλίσουν διαφάνεια με τους πελάτες τους. Στο μέλλον, τα συστήματα ενδέχεται να παρέχουν εκ των υστέρων εξηγήσεις για το γιατί ο ήχος ήταν δύσκολος, προσφέροντας περισσότερα μεταδεδομένα σχετικά με τον ήχο, όπως το αντιληπτό επίπεδο θορύβου ή μια λιγότερο κατανοητή προφορά.

Η πρόσθετη διαφάνεια θα έχει ως αποτέλεσμα την καλύτερη ανθρώπινη εποπτεία της εκπαίδευσης και της απόδοσης της τεχνητής νοημοσύνης. Όσο περισσότερο είμαστε ανοιχτοί για το πού πρέπει να βελτιωθούμε, τόσο πιο υπεύθυνοι είμαστε να αναλάβουμε δράση για αυτές τις βελτιώσεις. Για παράδειγμα, ένας ερευνητής μπορεί να θέλει να μάθει γιατί κυκλοφόρησε εσφαλμένο κείμενο, ώστε να μπορέσει να μετριάσει το πρόβλημα, ενώ ένας μεταγραφολόγος μπορεί να θέλει στοιχεία για το γιατί το ASR παρερμήνευσε τα δεδομένα για να βοηθήσει στην αξιολόγηση της εγκυρότητάς του. Η διατήρηση των ανθρώπων στο βρόχο μπορεί να μετριάσει μερικά από τα πιο προφανή προβλήματα που προκύπτουν όταν η τεχνητή νοημοσύνη δεν ελέγχεται. Μπορεί επίσης να επιταχύνει τον χρόνο που απαιτείται για την τεχνητή νοημοσύνη για να εντοπίσει τα λάθη της, να βελτιωθεί και τελικά να διορθωθεί σε πραγματικό χρόνο.

Η τεχνητή νοημοσύνη έχει τις δυνατότητες να βελτιώσει τις ζωές των ανθρώπων, αλλά μόνο εάν οι άνθρωποι το κατασκευάσουν για να παράγει σωστά. Πρέπει να λογοδοτήσουμε όχι μόνο αυτά τα συστήματα, αλλά και τους ανθρώπους πίσω από την καινοτομία. Τα συστήματα τεχνητής νοημοσύνης του μέλλοντος αναμένεται να τηρούν τις αρχές που ορίζονται από τους ανθρώπους και μόνο μέχρι τότε θα έχουμε ένα σύστημα που εμπιστεύονται οι άνθρωποι. Είναι καιρός να θέσουμε τις βάσεις και να αγωνιστούμε για αυτές τις αρχές τώρα, ενώ τελικά οι άνθρωποι εξακολουθούν να υπηρετούν τον εαυτό μας.