Πώς οι Εταιρείες Μπορούν να Δημιουργήσουν Υπεύθυνες και Διαφανείς Τεχνολογίες AI – Ηγέτες Σκέψης

Từ Ερικ Πατερνόστερ, Διευθύνων Σύμβουλος της Infosys Public Services

Ο Σούνταρ Πιτσάι, Διευθύνων Σύμβουλος της Google και της μητρικής εταιρείας Alphabet, έχει περιγράψει τις εξελίξεις στις τεχνολογίες AI ως “πιο βαθιάς σημασίας από τη φωτιά ή την ηλεκτρικότητα” και η πανδημία COVID-19 έχει φέρει νέα επείγουσα ανάγκη για την εκπλήρωση της υπόσχεσης αυτής της τεχνολογίας. Οι εφαρμογές των τεχνολογιών AI βρίσκονται τώρα στο επίκεντρο, βελτιώνοντας τις θεραπείες για την COVID, αναζητώντας πιθανούς φορείς της COVID και αναπτύσσοντας chatbots σε πραγματικό χρόνο για τους χρήστες των ιστοσελίδων λιανικής που έχουν προβλήματα με την εφοδιαστική. Αυτές οι εφαρμογές έχουν δείξει ότι οι τεχνολογίες AI βελτιώνουν την ανθεκτικότητα μιας επιχείρησης και ωφελούν την ευρύτερη κοινωνία.

Έτσι, μαζί με το “cloud-native”, το buzzword του τελευταίου τριμήνου μπορεί να είναι η “μεταμόρφωση AI-πρώτα”, ένας όρος που οι επαγγελματίες της βιομηχανίας πιστεύουν ότι θα ισχύσει ακόμη και μετά την COVID. Για πολλές εταιρείες, η υπόσχεση των χαμηλότερων κοστών (π.χ. αλγόριθμοι εφοδιαστικής που ταιριάζουν την προσφορά με τη ζήτηση) και των αξιόλογων αυξήσεων της παραγωγικότητας (π.χ. όταν οι τράπεζες χρησιμοποιούν έγγραφα και επαλήθευση ταυτοτήτων σε πραγματικό χρόνο) είναι απλά πολύ καλή για να την αγνοήσουν.

Γιατί Μεταμόρφωση AI-Πρώτα;

Στη μεταμόρφωση AI-πρώτα, μια επιχείρηση χρησιμοποιεί τις τεχνολογίες AI ως Βόρειο Άστρο, εργαζόμενη για να τις χρησιμοποιήσει όχι μόνο με ευφυΐα αλλά και με τρόπο που επηρεάζει τις αποφάσεις που λαμβάνονται από τους ανθρώπους, τις διαδικασίες και τα συστήματα σε μεγάλη κλίμακα. Ρυθμίζει τις οργανώσεις με τις μεταβαλλόμενες δυναμικές μεταξύ των εργαζομένων, των συνεργατών και των πελατών. Αυτό τους επιτρέπει να στρίψουν γρήγορα και να ανταποκριθούν στις μεταβαλλόμενες απαιτήσεις ενώ δημιουργούν μακροπρόθεσμη ανταγωνιστική優勢.

Αλλά όχι όλες οι εταιρείες βρίσκονται στο ίδιο επίπεδο ωριμότητας των τεχνολογιών AI. Υπάρχουν κάποιες που μπορούν να ονομαστούν ως “συντηρητική ομάδα AI”, ή H1. Αυτές οι εταιρείες, που έχουν λιγότερη εμπειρία και επένδυση, γενικά χρησιμοποιούν κλασικούς αλγόριθμους όπως ο αλγόριθμος Bayes, που υπάρχει για 250 χρόνια, ή το τυχαίο δάσος (αναπτύχθηκε από τον Tin Kam Ho το 1995) για να αυξήσουν την ενοποιημένη ευφυΐα μέσα στα υπάρχοντα συστήματα. Τέτοιες χρήσεις των τεχνολογιών AI είναι αυστηρά βασισμένες σε κανόνες και khá σκληρές, χωρίς την ικανότητα να γενικεύσουν από τους κανόνες που ανακαλύπτουν. Τότε υπάρχει η “ομάδα深 learning”, ή H2. Αυτές οι εταιρείες ενστερνίζονται πιο σύνθετες τεχνολογίες AI, συμπεριλαμβανομένων των νευρωνικών μηχανών μετάφρασης και των συστημάτων μεταγραφής, για να εξορύξουν συνεισφορές από τις συνομιλίες. Τέτοιες συστήματα έχουν περισσότερη δύναμη αλλά δεν εξηγούν εύκολα γιατί κάνουν τα πράγματα που κάνουν. Δεν έχουν επίσης διαφάνεια. Για αυτές τις δύο ομάδες, οι τεχνολογίες AI που χρησιμοποιούνται συχνά δεν είναι αξιόπιστες ή αξιόπιστες και μπορούν να λάβουν προκατειλημμένες αποφάσεις που φέρνουν στην εταιρεία αρνητική προσοχή από κυβερνητικά σώματα, ρυθμιστές και το γενικό κοινό.

Αυτές οι εταιρείες πρέπει να κάνουν κινήσεις τώρα για να πάρουν τις εφαρμογές των τεχνολογιών AI ένα βήμα παραπέρα — σε μια τρίτη ομάδα (H3) όπου οι τεχνολογίες AI είναι αυτο-μαθαίνονται και γεννητικές. Σε αυτό το σημείο, τα συστήματα AI είναι ημι-εποπτευμένα ή ακόμη και ανεποπτευμένα. Είναι διαφανή και επιτύχουν “κοινή λογική” μέσω της πολυ-εργασίας. Αυτά τα συστήματα παρέχουν πλουσιότερη ευφυΐα και παρέχουν αποφάσεις σε πραγματικό χρόνο, που είναι δράσιμες. Αυτό γίνεται μέσω καλά διαχειριζόμενων, κυβερνώμενων τεχνολογιών AI που είναι ερμηνεύσιμες και εξηγημένες σε όλα τα στάδια.

Πώς να εργαστείτε για πιο υπεύθυνες, διαφανείς τεχνολογίες AI

Οι τεχνολογίες AI χρησιμοποιούνται όλο και περισσότερο για τη διαχείριση σχολείων, χώρων εργασίας και άλλων δημόσιων οντοτήτων. Σε αυτές τις ρυθμίσεις, είναι πιο σημαντικό από ποτέ ότι οι τεχνολογίες AI είναι δίκαιες και διαφανείς. Ωστόσο, καθώς η κοινωνία εργάζεται μέσω αυτής της έκρηξης της υιοθέτησης των τεχνολογιών AI, τα ρυθμιστικά σώματα παρέχουν περιορισμένες οδηγίες για την κατάλληλη ανάπτυξη και ανάπτυξη των τεχνολογιών AI. Έτσι, η ευθύνη είναι στις εταιρείες να πάρουν την ηγεσία. Η ευρύτερη τεχνολογική βιομηχανία πρέπει να βάλει οικονομική δύναμη και ανθρώπινο κεφάλαιο να εργαστεί, μεταμορφώνοντας τις αρχικές εφαρμογές των τεχνολογιών AI σε αποτελεσματικές, δημιουργικές, υπεύθυνες και διαφανείς οικοσυστήματα που οδηγούνται από την ευφυΐα. Για να μεταβούν σε αυτό το χώρο, οι εταιρείες πρέπει να κάνουν τα ακόλουθα τέσσερα πράγματα:

• Κρατήστε τους ανθρώπους στη βρόχη: Τα μοντέλα AI σχεδιάζονται συχνά για να λειτουργούν ανεξάρτητα από τους ανθρώπους. Ωστόσο, το ανθρώπινο στοιχείο είναι κρίσιμο σε πολλές περιπτώσεις. Οι άνθρωποι πρέπει να ελέγξουν τις αποφάσεις και να αποφύγουν τις προκαταλήψεις και τα λάθη που συχνά απομακρύνουν τα έργα AI. Δύο περιπτώσεις χρήσης περιλαμβάνουν την ανίχνευση απάτης και τις περιπτώσεις όπου εμπλέκεται η επιβολή του νόμου. Συνιστούμε στις εταιρείες να προσλάβουν πρακτικούς AI αργά αλλά σταθερά με το χρόνο για να πάρουν ένα πλεονέκτημα στο ταξίδι τους AI-πρώτα.
• Καταργήστε τις προκατειλημμένες βάσεις δεδομένων: Μια αμερόληπτη βάση δεδομένων είναι một κρίσιμη προϋπόθεση για να δημιουργηθούν αξιόπιστες, δίκαιες και μη-διακριτικές μοντέλα AI. Για να πάρουν μια ιδέα της σημασίας της, οι τεχνολογίες AI χρησιμοποιούνται για την επιλογή βιογραφικών και την αξιολόγηση πιστωτικής από τις τράπεζες και έχουν ακόμη και εισέλθει σε οριστικά δικαστικά συστήματα. Σε αυτό το τοπίο, οι ανεξέλεγκτες προκαταλήψεις έχουν πολύ πραγματικές επιπτώσεις.
• Εγγυηθείτε ότι οι αποφάσεις είναι εξηγημένες: Αυτό το χαρακτηριστικό έχει καλύψει πολλά από τα μεγάλα μέσα ενημέρωσης και δικαίως. Η XAI βοηθά να εξηγηθεί γιατί ένα σύστημα AI έλαβε μια bestimmμένη απόφαση. Αποκαλύπτει ποια χαρακτηριστικά του μοντέλου deep learning χρησιμοποιήθηκαν περισσότερο από άλλα για να κάνουν την πρόβλεψή τους ή την υπόθεσή τους. Η κατανόηση της σημασίας των χαρακτηριστικών και η ικανότητα να δικαιολογήσετε πώς οι αποφάσεις λαμβάνονται είναι κρίσιμες για περιπτώσεις χρήσης όπως τα αυτονομικά οχήματα και η υπολογιστική όραση που χρησιμοποιείται στις ιατρικές βιοψίες.
• Αξιόπιστη αναπαραγωγή ευρημάτων: Μια κοινή αναγκαιότητα στα ερευνητικά έργα, τα μοντέλα AI πρέπει να είναι συνεπή όταν δίνουν προβλέψεις με το χρόνο. Τέτοια μοντέλα δεν πρέπει να επηρεάζονται όταν παρουσιάζονται με νέα δεδομένα.

Αυτά τα τέσσερα πράγματα θα δημιουργήσουν διαφανή, οικοσυστήματα που οδηγούνται από την ευφυΐα, μεταβαίνοντας προς αυτό που ονομάζουμε “ζωντανή επιχείρηση”. Εδώ, αμερόληπτες, εξηγημένες αποφάσεις λαμβάνονται σε σχεδόν-πραγματικό χρόνο, με όλη την επιχείρηση να ενεργεί ως ένα συνειδητό όργανο που κυβερνάται από τους ανθρώπους. Διαβάστε το λευκό βιβλίο του Infosys Knowledge Institute για να μάθετε περισσότερα.