Ηγέτες σκέψης
Η εξηγησιμότητα μπορεί να λύσει το πρόβλημα της AI σε κάθε κλάδο: την έλλειψη διαφάνειας

Βασικά σημείαΗ επεξηγήσιμη τεχνητή νοημοσύνη οικοδομεί την εμπιστοσύνη των καταναλωτών…
Δείτε περισσότερα
- Η επεξηγήσιμη τεχνητή νοημοσύνη οικοδομεί την εμπιστοσύνη των καταναλωτών αποκαλύπτοντας τις διαδικασίες λήψης αλγοριθμικών αποφάσεων.
- Τα συστήματα αυτόματης αναγνώρισης ομιλίας (ASR) απαιτούν διαφάνεια για τον μετριασμό των προκαταλήψεων που προέρχονται από προφορές, ηλικία ή υπόβαθρο.
- Οι βρόχοι ανατροφοδότησης και οι βαθμολογίες εμπιστοσύνης επιτρέπουν στην τεχνητή νοημοσύνη να μαθαίνει από τα λάθη και να βελτιώνεται.
Συντάκτης: Migüel Jetté, VP of R&D Speech, Rev.
Στις απαρχές του, το AI μπορεί να ήταν σε θέση να στηριχθεί στα λάφυρα της καινοτομίας. Ήταν εντάξει για το machine learning να μάθει αργά και να διατηρήσει μια αδιαφανή διαδικασία όπου ο υπολογισμός του AI ήταν αδύνατο για τον μέσο καταναλωτή να διεισδύσει. Αυτό αλλάζει. Όσο περισσότερες βιομηχανίες, όπως η υγεία, η χρηματοοικονομικά και το σύστημα ποινικής δικαιοσύνης, αρχίζουν να χρησιμοποιούν το AI με τρόπους που μπορούν να έχουν πραγματική επίδραση στη ζωή των ανθρώπων, περισσότεροι άνθρωποι θέλουν να γνωρίζουν πώς χρησιμοποιούνται οι αλγόριθμοι, πώς προέρχονται τα δεδομένα και πόσο ακριβή είναι οι ικανότητές του. Αν οι εταιρείες θέλουν να παραμείνουν στην πρωτοπορία της καινοτομίας στις αγορές τους, πρέπει να βασίζονται σε AI που θα εμπιστεύονται το κοινό τους. Η εξηγήσιμη λειτουργία του AI είναι το κλειδί για να ενισχύσει αυτή τη σχέση.
Η εξηγήσιμη λειτουργία του AI διαφέρει από τις τυπικές διαδικασίες του AI, επειδή προσφέρει στους ανθρώπους έναν τρόπο να κατανοήσουν πώς οι αλγόριθμοι του machine learning δημιουργούν εξόδους. Το εξηγήσιμο AI είναι ένα σύστημα που μπορεί να παρέχει στους ανθρώπους πιθανές εξόδους και ελαττώματα. Είναι ένα σύστημα machine learning που μπορεί να ικανοποιήσει την ανθρώπινη επιθυμία για δικαιοσύνη, ευθύνη και σεβασμό της ιδιωτικής ζωής. Το εξηγήσιμο AI είναι απαραίτητο για τις επιχειρήσεις να οικοδομήσουν εμπιστοσύνη με τους καταναλωτές.
Ενώ το AI επεκτείνεται, οι παρόχοι του AI πρέπει να κατανοήσουν ότι η προσέγγιση του μαύρου κουτιού δεν μπορεί να συνεχιστεί έτσι. Τα μοντέλα μαύρου κουτιού δημιουργούνται απευθείας από τα δεδομένα και συχνά ούτε ο προγραμματιστής που δημιούργησε τον αλγόριθμο μπορεί να προσδιορίσει τι οδήγησε τις συνήθειες του μηχανήματος. Αλλά ο συνειδητός καταναλωτής δεν θέλει να αλληλεπιδρά με κάτι τόσο αδιαφανές που δεν μπορεί να κριθεί. Οι άνθρωποι θέλουν να γνωρίζουν πώς ο αλγόριθμος του AI φτάνει σε ένα συγκεκριμένο αποτέλεσμα χωρίς το μυστήριο της εισόδου και της έξόδου, ειδικά όταν τα λάθη του AI οφείλονται σε προκαταλήψεις του μηχανήματος. Όσο το AI γίνεται πιο προηγμένο, οι άνθρωποι θέλουν πρόσβαση στη διαδικασία του machine learning για να κατανοήσουν πώς ο αλγόριθμος έφτασε στο συγκεκριμένο αποτέλεσμα. Οι ηγέτες σε κάθε βιομηχανία πρέπει να κατανοήσουν ότι σύντομα, οι άνθρωποι δεν θα προτιμούν αυτή τη πρόσβαση αλλά θα την απαιτούν ως απαραίτητο επίπεδο διαφάνειας.
Τα συστήματα ASR, όπως οι φωνητικές βοηθοί, η τεχνολογία μεταγραφής και άλλες υπηρεσίες που μετατρέπουν την ανθρώπινη ομιλία σε κείμενο, είναι ιδιαίτερα πληγμένα από προκαταλήψεις. Όταν η υπηρεσία χρησιμοποιείται για μέτρα ασφαλείας, τα λάθη που οφείλονται σε προφορές, ηλικία ή υπόβαθρο, μπορεί να είναι σοβαρά λάθη, οπότε το πρόβλημα πρέπει να λαμβάνεται σοβαρά. Το ASR μπορεί να χρησιμοποιηθεί αποτελεσματικά σε κάμερες που φορούν οι αστυνομικοί στο σώμα τους, για παράδειγμα, για να καταγράψει και να μεταγράψει τις συζητήσεις — διατηρώντας ένα αρχείο που, εάν μεταγραφεί ακριβώς, θα μπορούσε να σώσει ζωές. Η πρακτική της εξηγήσιμης λειτουργίας θα απαιτήσει ότι το AI δεν βασίζεται μόνο σε αγορασμένα σύνολα δεδομένων, αλλά αναζητά να κατανοήσει τα χαρακτηριστικά της εισερχόμενης ήχου που μπορεί να συνεισφέρουν σε λάθη, εάν υπάρχουν. Ποιο είναι το ακουστικό προφίλ; Υπάρχει θόρυβος στο υπόβαθρο; Ο ομιλητής είναι από μια χώρα που δεν έχει την αγγλική ως πρώτη γλώσσα ή από μια γενιά που χρησιμοποιεί ένα λεξιλόγιο που το AI δεν έχει μάθει ακόμη; Το machine learning πρέπει να είναι προενεργό στην ταχύτερη μάθηση και μπορεί να αρχίσει με τη συλλογή δεδομένων που μπορούν να αντιμετωπίσουν αυτές τις μεταβλητές.
Η αναγκαιότητα γίνεται όλο και πιο φανερή, αλλά ο δρόμος για την εφαρμογή αυτής της μεθοδολογίας δεν θα έχει πάντα μια εύκολη λύση. Η παραδοσιακή απάντηση στο πρόβλημα είναι να προσθέσει περισσότερα δεδομένα, αλλά μια πιο εξειδικευμένη λύση θα είναι απαραίτητη, ειδικά όταν τα αγορασμένα σύνολα δεδομένων που χρησιμοποιούν πολλές εταιρείες είναι εγγενώς προκατειλημμένα. Αυτό οφείλεται στο ότι ιστορικά, ήταν δύσκολο να εξηγήσει μια συγκεκριμένη απόφαση που λήφθηκε από το AI και αυτό οφείλεται στη φύση της πολυπλοκότητας των μοντέλων που επεξεργάζονται ολόκληρη τη διαδρομή από την είσοδο έως την έξοδο. Ωστόσο, τώρα μπορούμε και μπορούμε να αρχίσουμε ζητώντας πώς οι άνθρωποι έχασαν την εμπιστοσύνη στο AI από την αρχή.
Αναπόφευκτα, το AI θα κάνει λάθη. Οι εταιρείες πρέπει να δημιουργήσουν μοντέλα που είναι ενήμερες για τις πιθανές ελαττώματα, να αναγνωρίσουν πότε και πού συμβαίνουν τα προβλήματα και να δημιουργήσουν συνεχείς λύσεις για να κάνουν το AI πιο ισχυρό:
- Όταν κάτι πάει λάθος, οι προγραμματιστές θα πρέπει να εξηγήσουν τι συνέβη και να αναπτύξουν ένα άμεσο σχέδιο για τη βελτίωση του μοντέλου για να μειώσουν τα μελλοντικά, παρόμοια λάθη.
- Για το μηχάνημα να γνωρίζει πραγματικά αν ήταν σωστό ή λάθος, οι επιστήμονες πρέπει να δημιουργήσουν έναν βρόχο ανατροφοδότησης ώστε το AI να μπορεί να μάθει τα ελαττώματά του και να εξελιχθεί.
- Ένας άλλος τρόπος για το ASR να οικοδομεί εμπιστοσύνη ενώ το AI εξελίσσεται είναι να δημιουργήσει ένα σύστημα που μπορεί να παρέχει βαθμολογίες εμπιστοσύνης και να προσφέρει λόγους για τους οποίους το AI είναι λιγότερο βέβαιο για το αποτέλεσμα. Για παράδειγμα, οι εταιρείες συνήθως δημιουργούν βαθμολογίες από 0 έως 100 για να αντανακλούν τις ατέλειες της δικής τους τεχνητής νοημοσύνης και να εγκαθιδρύσουν διαφάνεια με τους πελάτες τους. Στο μέλλον, τα συστήματα μπορεί να παρέχουν μεταγενέστερες εξηγήσεις για τους λόγους για τους οποίους η ήχος ήταν δύσκολος, προσφέροντας περισσότερες μεταδεδομένα για την ήχο, όπως το αντιλαμβανόμενο επίπεδο θορύβου ή μια λιγότερο κατανοητή προφορά.
Η πρόσθετη διαφάνεια θα οδηγήσει σε καλύτερη ανθρώπινη επίβλεψη της εκπαίδευσης και της απόδοσης του AI. Όσο πιο ανοιχτοί είμαστε για τα σημεία που πρέπει να βελτιωθούμε, τόσο πιο υπεύθυνοι είμαστε για την αντιμετώπιση αυτών των βελτιώσεων. Για παράδειγμα, ένας ερευνητής μπορεί να θέλει να γνωρίζει γιατί παράχθηκε λανθασμένο κείμενο έτσι ώστε να μπορεί να μετριάσει το πρόβλημα, ενώ ένας μεταγραφέας μπορεί να θέλει απόδειξη για τους λόγους για τους οποίους το ASR παρερμήνευσε την είσοδο για να βοηθήσει στην αξιολόγηση της εγκυρότητας. Η διατήρηση των ανθρώπων στο βρόχο μπορεί να μετριάσει κάποια από τα πιο φανερά προβλήματα που ανακύπτουν όταν το AI δεν ελέγχεται. Μπορεί επίσης να επιταχύνει τον χρόνο που απαιτείται για το AI να πιάσει τα λάθη του, να βελτιωθεί και τελικά να διορθωθεί σε πραγματικό χρόνο.
Το AI έχει την ικανότητα να βελτιώσει τη ζωή των ανθρώπων, αλλά μόνο αν οι άνθρωποι το κατασκευάζουν να παράγει σωστά. Πρέπει να κρατήσουμε όχι μόνο αυτά τα συστήματα υπεύθυνα αλλά και τους ανθρώπους πίσω από την καινοτομία. Τα συστήματα AI του μέλλοντος αναμένεται να τηρήσουν τις αρχές που θέτουν οι άνθρωποι και μόνο τότε θα έχουμε ένα σύστημα που οι άνθρωποι εμπιστεύονται. Είναι ώρα να βάλουμε τις βάσεις και να αγωνιστούμε για αυτές τις αρχές τώρα, ενώ ακόμη είναι οι άνθρωποι που υπηρετούμε τους εαυτούς μας.












