Πώς οι Εταιρείες Μπορούν να Δημιουργήσουν Ευθύνη και Διαφάνεια στο AI – Ηγετικές Προσωπικότητες

Từ Ερικ Πατερνόστερ, Διευθύνων Σύμβουλος της Infosys Public Services

Ο Σούνταρ Πιτσάι, Διευθύνων Σύμβουλος της Alphabet, mẹ εταιρείας της Google, έχει περιγράψει τις εξελίξεις στο AI ως “πιο βαθιές από τη φωτιά ή την ηλεκτρικότητα” και η COVID-19 έχει φέρει μια νέα επείγουσα ανάγκη για την αξιοποίηση αυτής της τεχνολογίας. Οι εφαρμογές του AI είναι τώρα στα φώτα της δημοσιότητας, βελτιώνοντας τις θεραπείες COVID, αναζητώντας πιθανous φορείς COVID και αναπτύσσοντας chatbots σε πραγματικό χρόνο για τους χρήστες των ιστότοπων λιανικής. Αυτές οι εφαρμογές έχουν δείξει ότι το AI βελτιώνει την ανθεκτικότητα μιας επιχείρησης και ωφελεί την ευρύτερη κοινωνία.

Όπως και με το “cloud-native”, το buzzword του τελευταίου trimestρια μπορεί να είναι η “μεταμόρφωση AI-πρώτα”, ένας όρος που οι επαγγελματίες της βιομηχανίας πιστεύουν ότι θα παραμείνει αληθινός ακόμη και μετά την COVID. Για πολλές εταιρείες, η υπόσχεση των χαμηλότερων κοστών (π.χ. αλγόριθμοι αλυσίδας εφοδιασμού που ταιριάζουν την προσφορά με τη ζήτηση) και των αξιόλογων αυξήσεων της παραγωγικότητας (π.χ. όταν οι τράπεζες χρησιμοποιούν επαλήθευση εγγράφων και ταυτοποίησης σε πραγματικό χρόνο) είναι απλώς πολύ καλή για να την αγνοήσουν.

Γιατί Μεταμόρφωση AI-Πρώτα;

Στη μεταμόρφωση AI-πρώτα, μια επιχείρηση χρησιμοποιεί το AI ως einen βορρά αστέρα, εργαζόμενη για να το χρησιμοποιήσει όχι μόνο με ευφυΐα αλλά και με έναν τρόπο που επηρεάζει τις αποφάσεις που λαμβάνονται από τους ανθρώπους, τις διαδικασίες και τα συστήματα σε μεγάλη κλίμακα. Αυτό调τα τις οργανώσεις σε αλλαγμένες δυναμικές μεταξύ των εργαζομένων, των συνεργατών και των πελατών. Αυτό τους επιτρέπει να γυρίσουν γρήγορα και να ικανοποιήσουν τις μεταβαλλόμενες απαιτήσεις ενώ δημιουργούν μακροπρόθεσμο ανταγωνιστικό πλεονέκτημα.

Αλλά όχι όλες οι εταιρείες βρίσκονται στο ίδιο επίπεδο ωριμότητας AI. Υπάρχουν κάποιες που μπορούν να οριστούν ως η “συντηρητική ομάδα AI” ή H1. Αυτές οι εταιρείες, οι οποίες έχουν λιγότερη εμπειρία και επένδυση, γενικά χρησιμοποιούν κλασικούς αλγόριθμους όπως ο ναΐβος Μπάγιες, ο οποίος υπάρχει για 250 χρόνια, ή το τυχαίο δάσος (αναπτύχθηκε από τον Tin Kam Ho το 1995) για να αυξήσουν τη θραυσματική νοημοσύνη μέσα στα υπάρχοντα συστήματα. Τέτοιες χρήσεις του AI είναι αυστηρά βασισμένες σε κανόνες και khá σκληρές, χωρίς την ικανότητα να γενικεύσουν από τους κανόνες που ανακαλύπτουν. Τότε υπάρχει η “ομάδα βαθιάς μάθησης”, ή H2. Αυτές οι εταιρείες αγκαλιάζουν πιο σύνθετο AI, συμπεριλαμβανομένων των νευρωνικών μηχανών μετάφρασης και των συστημάτων μεταγραφής, για να εξορύξουν συνομιλίες. Τέτοιες συστήματα έχουν περισσότερη δύναμη αλλά δεν εξηγούν εύκολα γιατί κάνουν τα πράγματα που κάνουν. Λείπουν επίσης η διαφάνεια. Για αυτές τις δύο ομάδες, το AI που χρησιμοποιείται συχνά δεν είναι αξιόπιστο ή αξιόπιστο και μπορεί να λάβει προκατειλημμένες αποφάσεις που φέρνουν στην εταιρεία αρνητική προσοχή από κυβερνητικά σώματα, ρυθμιστές και το γενικό κοινό.

Αυτές οι εταιρείες πρέπει να κάνουν κινήσεις τώρα για να πάρουν τις εφαρμογές AI τους ένα βήμα παραπέρα — σε μια τρίτη κατηγορία (H3) όπου το AI είναι αυτο-μαθainable και γεννητικό. Σε αυτό το σημείο, τα συστήματα AI είναι ημι-εποπτευμένα ή ακόμη και ανεπόπτευτα. Είναι διαφανή και επιτύγχανον “κοινή λογική” μέσω της πολυ-απασχόλησης. Αυτά τα συστήματα παρέχουν πλουσιότερη νοημοσύνη και παρέχουν ενεργές, αναλυτικές ενημερώσεις σε πραγματικό χρόνο. Αυτό γίνεται μέσω καλά διαχειριζόμενου, ρυθμιζόμενου AI που είναι ερμηνεύσιμο και εξηγητό σε όλα τα στάδια.

Πώς να εργαστείτε για πιο Ευθύνη και Διαφάνεια στο AI

Το AI χρησιμοποιείται όλο και περισσότερο για τη διαχείριση σχολείων, χώρων εργασίας και άλλων δημόσιων οντοτήτων. Σε αυτά τα περιβάλλοντα, είναι πιο σημαντικό από ποτέ να είναι το AI δίκαιο και διαφανές. Ωστόσο, καθώς η κοινωνία διερευνά αυτήν την έκρηξη της υιοθέτησης του AI, τα ρυθμιστικά σώματα παρέχουν περιορισμένες οδηγίες για την κατάλληλη ανάπτυξη και ανάπτυξη των τεχνολογιών AI. Έτσι, η ευθύνη είναι στις εταιρείες να πάρουν την ηγεσία. Η ευρύτερη τεχνολογική βιομηχανία πρέπει να βάλει οικονομική δύναμη και ανθρώπινο κεφάλαιο σε δράση, μετατρέποντας τις αρχικές εφαρμογές του θραυσματικού AI σε αποτελεσματικές, δημιουργικές, ευθύνη και διαφανείς νοημοσύνες-οδηγούμενες οικοσυστήματα. Για να μεταβούν σε αυτό το χώρο, οι εταιρείες πρέπει να κάνουν τα ακόλουθα τέσσερα πράγματα:

• Κρατήστε τους ανθρώπους στη βρόχη: Τα μοντέλα AI σχεδιάζονται συχνά για να λειτουργούν ανεξάρτητα από τους ανθρώπους. Ωστόσο, το ανθρώπινο στοιχείο είναι κρίσιμο σε πολλές περιπτώσεις. Οι άνθρωποι πρέπει να αναθεωρήσουν τις αποφάσεις και να αποφύγουν τις προκαταλήψεις και τα λάθη που συχνά απομακρύνουν τα προγράμματα AI. Δύο περιπτώσεις χρήσης περιλαμβάνουν την ανίχνευση απάτης και τις περιπτώσεις όπου εμπλέκεται η επιβολή του νόμου. Συνιστούμε στις εταιρείες να προσλαμβάνουν πρακτικούς AI αργά αλλά συνεχώς με την πάροδο του χρόνου για να πάρουν μια θέση στην πορεία τους προς το AI-πρώτα.
• Εξαλείψτε τις προκατειλημμένες βάσεις δεδομένων: Μια αμερόληπτη βάση δεδομένων είναι một κρίσιμο προαπαιτούμενο για να δημιουργηθούν αξιόπιστα, δίκαια και μη-διακριτικά μοντέλα AI. Για να πάρει μια ιδέα της σημασίας του, το AI χρησιμοποιείται για την επιλογή βιογραφικών και την αξιολόγηση πιστωτικής από τις τράπεζες και έχει ακόμη και εισέλθει σε κάποια δικαστικά συστήματα. Σε αυτό το τοπίο, οι ανεξέλεγκτες προκαταλήψεις έχουν πολύ πραγματικές επιπτώσεις.
• Εγγυηθείτε ότι οι αποφάσεις είναι εξηγητές: Αυτό το χαρακτηριστικό έχει καλυφθεί από πολλά μεγάλα μέσα ενημέρωσης και δικαίως. Το XAI βοηθά να εξηγηθεί γιατί ένα σύστημα AI έκανε μια συγκεκριμένη απόφαση. Αποκαλύπτει ποια χαρακτηριστικά του μοντέλου βαθιάς μάθησης χρησιμοποιήθηκαν περισσότερο από άλλα για να κάνουν την πρόβλεψή του ή την υπόθεσή του. Η κατανόηση της σημασίας των χαρακτηριστικών και η ικανότητα να δικαιολογήσετε πώς οι αποφάσεις λαμβάνονται είναι κρίσιμες για περιπτώσεις χρήσης όπως τα αυτονομικά οχήματα και η υπολογιστική όραση που χρησιμοποιείται σε ιατρικές βιοψίες.
• Επιτύγχανον αξιόπιστη αναπαραγωγή των ευρημάτων: Μια κοινή αναγκαιότητα σε ερευνητικά προγράμματα, τα μοντέλα AI πρέπει να είναι συνεπή όταν δίνουν προβλέψεις με την πάροδο του χρόνου. Τέτοια μοντέλα δεν πρέπει να επηρεάζονται όταν παρουσιάζονται με νέα δεδομένα.

Αυτά τα τέσσερα πράγματα θα δημιουργήσουν διαφανείς, νοημοσύνες-οδηγούμενες οικοσυστήματα, κινούμενα προς ό,τι ονομάζουμε “ζωντανοί οργανισμοί”. Εδώ, αμερόληπτες, εξηγητές αποφάσεις λαμβάνονται σε σχεδόν-πραγματικό χρόνο, με όλη την επιχείρηση να λειτουργεί ως ένα συνειδητό όργανο που κυβερνάται από τους ανθρώπους. Διαβάστε το λευκό βιβλίο του Infosys Knowledge Institute για να μάθετε περισσότερα.