Η έλλειψη αξιοπιστίας του AI μπορεί να στερήσει την καινοτομία και την επιχειρηματική αξία

Μια πρόσφατη έρευνα μεταξύ των ηγετών των επιχειρήσεων σε παγκόσμιο επίπεδο δείχνει ότι το αξιοπιστό AI είναι μια σημαντική προτεραιότητα, αλλά πολλά δεν λαμβάνουν đủ μέτρα για να το επιτύχουν, με ποιο κόστος;

Στην πραγματικότητα, η έρευνα της IBM αποκάλυψε ότι ένα आश्चρηστό 85% των ερωτηθέντων συμφωνούν ότι οι καταναλωτές είναι πιο πιθανό να επιλέξουν μια εταιρεία που είναι διαφανής σχετικά με τον τρόπο με τον οποίο κατασκευάζονται, διαχειρίζονται και χρησιμοποιούν τα μοντέλα AI.

Ωστόσο, η πλειοψηφία παραδέχτηκε ότι δεν έχουν λάβει βασικά μέτρα για να διασφαλίσουν ότι το AI τους είναι αξιοπιστό και υπεύθυνο, όπως η μείωση της προκατάληψης (74%), η παρακολούθηση των διακυμάνσεων της απόδοσης και της μείωσης του μοντέλου (68%), και η διασφάλιση ότι μπορούν να εξηγήσουν τις αποφάσεις που βασίζονται στο AI (61%). Αυτό είναι ανησυχητικό, ιδιαίτερα όταν λαμβάνεται υπόψη η χρήση του AI συνεχίζει να αυξάνεται – με 35% να λέει ότι τώρα χρησιμοποιούν AI στις επιχειρήσεις τους, σε σύγκριση με 31% πριν από ένα χρόνο.

Πρόσφατα, συμμετείχα στο αποκλειστικό Σύνοδο Καινοτομίας Επιχειρήσεων στο Τορόντο, όπου οι συμμετέχοντες αντάλλαξαν καινοτόμες ιδέες και παρουσίασαν τεχνολογίες που είναι έτοιμες να διαμορφώσουν το μέλλον. Είχα την τιμή να συμμετάσχω σε τρεις γύρους συζητήσεων εντός των τομέων των χρηματοοικονομικών υπηρεσιών, ασφάλισης και λιανικής, με τρεις βασικούς τομείς που προέκυψαν: η ανάγκη για περισσότερη διαφάνεια για να δημιουργηθεί εμπιστοσύνη στο AI, η δημοκρατία του AI μέσω της ανάπτυξης χωρίς κώδικα/χαμηλού κώδικα, και η ανάπτυξη για να παρασχεθεί ταχύτερη απόδοση και μείωση του κινδύνου μέσω των besten πρακτικών διακυβέρνησης του AI.

Αύξηση της εμπιστοσύνης στις τεχνολογίες AI. Η πανδημία του COVID-19 ενίσχυσε και επιτάχυνε την τάση για την υιοθέτηση chatbot που βασίζονται στο AI, εικονικών βοηθών χρηματοοικονομικών και άμεσης εγγραφής πελατών. Αυτή η τάση θα συνεχιστεί, όπως επιβεβαιώνεται από την έρευνα της Cap Gemini, η οποία δείχνει ότι το 78% των καταναλωτών που ερωτήθηκαν σχεδιάζουν να αυξήσουν τη χρήση των τεχνολογιών AI, συμπεριλαμβανομένης της διαχείρισης ψηφιακής ταυτότητας, στις συναλλαγές τους με τις χρηματοοικονομικές εταιρείες.

Οι ενσωματωμένοι bénéфициοι δενwithstanding, μια σειρά από προκλήσεις προκύπτουν. Πρωταρχικά, η συνεχής έλλειψη εμπιστοσύνης των καταναλωτών στις τεχνολογίες AI και τον τρόπο με τον οποίο η πανταχού παρούσα φύση τους επηρεάζει τα δικαιώματα ιδιωτικής ζωής και ασφάλειας. Το 30% των καταναλωτών δήλωσε ότι θα ήταν πιο άνετα να μοιράζονται τις βιομετρικές πληροφορίες τους εάν οι πάροχοι χρηματοοικονομικών υπηρεσιών παρείχαν περισσότερη διαφάνεια σχετικά με τον τρόπο με τον οποίο συλλέγουν, διαχειρίζονται και ασφαλίζουν τις πληροφορίες τους.

Οι Διευθυντές Πληροφορικής πρέπει να υιοθετήσουν αξιοπιστά principia του AI και να θεσπίσουν αυστηρά μέτρα που να διασφαλίζουν την προστασία της ιδιωτικής ζωής και της ασφάλειας. Αυτό μπορεί να επιτευχθεί μέσω κρυπτογράφησης, ελάττωση δεδομένων και ασφαλέστερης αυθεντικοποίησης, συμπεριλαμβανομένης της εξέτασης των αναδυόμενων αποκεντρωμένων ψηφιακών προτύπων ταυτότητας. Ως αποτέλεσμα, οι προσπάθειές σας για την αυτοματοποίηση της διαδικασίας και τις αυτοεξυπηρετούμενες υπηρεσίες θα δουν περισσότερη υιοθέτηση και θα χρειάζονται λιγότερη ανθρώπινη παρέμβαση.

Αφαίρεση εμποδίων για τη δημοκρατία του AI. Υπάρχει μια αυξανόμενη τάση προς την ανάπτυξη εφαρμογών AI χωρίς κώδικα/χαμηλού κώδικα, η οποία ερευνά ότι θα φτάσει τα 45,5 δισεκατομμύρια δολάρια μέχρι το 2025. Η κύρια οδηγός είναι ταχύτερος χρόνος απόδοσης με βελτιώσεις στην παραγωγικότητα της ανάπτυξης εφαρμογών 10x.

Για παράδειγμα, το 56% των εταιρειών χρηματοοικονομικών υπηρεσιών που ερωτήθηκαν θεωρούν συλλογή δεδομένων από δανειολήπτες ως ένα από τα πιο δύσκολα και αναποτελεσματικά βήματα στη διαδικασία αίτησης δανείου, που οδηγεί σε υψηλές ποσοστίες εγκατάλειψης. Ενώ οι τεχνολογίες AI που οδηγούν την ταυτοποίηση βιομετρικών δεδομένων και τη συλλογή δεδομένων έχουν αποδειχθεί ότι βελτιώνουν τις αποδοτικότητες στη διαδικασία αίτησης δανείου, μπορεί επίσης να δημιουργήσουν κινδύνους συμμόρφωσης, ιδιαίτερα, προστασία δεδομένων, εμπιστευτικότητα και προκατάληψη αλγορίθμων AI.

Για να μετριάσει και να αποκαταστήσει τέτοιους κινδύνους, οι εφαρμογές χωρίς κώδικα/χαμηλού κώδικα πρέπει να περιλαμβάνουν πλήρη δοκιμές για να διασφαλίσουν ότι λειτουργούν σύμφωνα με τους αρχικούς στόχους σχεδιασμού, να αφαιρέσουν πιθανές προκαταλήψεις στη βάση δεδομένων εκπαίδευσης που μπορεί να περιλαμβάνουν προκατάληψη δειγμάτων, προκατάληψη ετικετών και να είναι ασφαλείς από επιθέσεις αντίπαλων AI που μπορούν να επηρεάσουν αρνητικά τα αποτελέσματα των αλγορίθμων AI. Η εξέταση των αρχών της υπεύθυνης επιστήμης δεδομένων της δίκαιης, ακρίβειας, εμπιστευτικότητας και ασφάλειας είναι παραμετρική.

Ανάπτυξη πλαισίου διακυβέρνησης και ρυθμιστικού πλαισίου για το AI. Η διακυβέρνηση του AI δεν είναι πλέον μια ευχάριστη πρωτοβουλία, αλλά μια απαραίτητη. Σύμφωνα με τον παρακολούθηση των εθνικών πολιτικών AI της OECD, υπάρχουν πάνω από 700 πρωτοβουλίες ρυθμιστικού AI υπό ανάπτυξη σε πάνω από 60 χώρες. Υπάρχουν, ωστόσο, εθελοντικές κώδικες συμπεριφοράς και ηθικές αρχές AI που αναπτύχθηκαν από διεθνείς οργανισμούς προτύπων, όπως ο Ινστιτούτο Ηλεκτρικών και Ηλεκτρονικών Μηχανικών (IEEE) και το Εθνικό Ινστιτούτο Προτύπων και Τεχνολογίας (NIST).

Οι ανησυχίες από τις εταιρείες περιβάλλουν την υπόθεση ότι οι ρυθμίσεις του AI θα επιβάλλουν περισσότερες απαιτήσεις συμμόρφωσης σε αυτές, υποστηριζόμενες από αυστηρά μηχανισμούς επιβολής, συμπεριλαμβανομένων ποινών για μη συμμόρφωση. Ωστόσο, η ρύθμιση του AI είναι αναπόφευκτη.

Η Ευρώπη και η Βόρεια Αμερική λαμβάνουν προληπτικές στάσεις που θα απαιτήσουν από τους Διευθυντές Πληροφορικής να συνεργαστούν με τους τεχνολογικούς και επιχειρηματικούς ομολόγους τους για να διαμορφώσουν αποτελεσματικές πολιτικές. Για παράδειγμα, η πρόταση της Ευρωπαϊκής Επιτροπής για Νόμο για την Τεχνητή Νοημοσύνη προτείνει να θεσπίσει ρυθμιστικές υποχρεώσεις για τους παρόχους AI για την προστασία των δικαιωμάτων των καταναλωτών, ενώ ταυτόχρονα προάγει την καινοτομία και τις οικονομικές ευκαιρίες που συνδέονται με τις τεχνολογίες AI.

Επιπλέον, τον Ιούνιο του 2022, η ομοσπονδιακή κυβέρνηση του Καναδά εξέδωσε το πολύ αναμενόμενο Νόμο Υλοποίησης Ψηφιακού Χάρτη, ο οποίος προστατεύει από τις αρνητικές επιπτώσεις των υψηλού κινδύνου συστημάτων AI. Οι Ηνωμένες Πολιτείες επίσης προχωρούν με τις πρωτοβουλίες ρύθμισης του AI, αν και σε τομέα βάση. Η Ομοσπονδιακή Επιτροπή Εμπορίου (FTC), το Γραφείο Προστασίας Καταναλωτών (CFPB) και η Ομοσπονδιακή Τράπεζα όλες ασκούν τους ρυθμιστικούς μυς τους μέσω των μηχανισμών επιβολής για να προστατεύσουν τους καταναλωτές από τις αρνητικές επιπτώσεις που προκύπτουν από την αυξημένη εφαρμογή του AI που μπορεί να οδηγήσει σε διακριτικές αποτελέσματα, αν και μη προβλεπόμενο. Ένα ρυθμιστικό πλαίσιο για το AI είναι απαραίτητο για οποιαδήποτε καινοτόμο εταιρεία.

Η επίτευξη αξιοπιστού AI απαιτεί δεδομένα με έμφαση στην ανάλυση.

Η εφαρμογή του αξιοπιστού AI δεν μπορεί να επιτευχθεί χωρίς μια δεδομένη προσέγγιση για να καθορίσει πού οι εφαρμογές των τεχνολογιών AI μπορεί να έχουν τη μεγαλύτερη επίδραση πριν από την υλοποίηση. Είναι για να βελτιώσει την εμπλοκή του πελάτη, ή να πραγματοποιήσει λειτουργικές αποδοτικότητες ή να μετριάσει τους κινδύνους συμμόρφωσης;

Κάθε ένας από αυτούς τους επιχειρηματικούς οδηγούς απαιτεί μια κατανόηση του τρόπου με τον οποίο εκτελούνται οι διαδικασίες, πώς χειρίζονται οι αναρτήσεις και οι εξαιρέσεις, και να αναγνωρίσουν τις διακυμάνσεις της εκτέλεσης των διαδικασιών και τις βασικές αιτίες τους. Βασισμένοι σε τέτοιου είδους δεδομένες αναλύσεις, οι εταιρείες μπορούν να λάβουν ενημερωμένες επιχειρηματικές αποφάσεις σχετικά με την επίδραση και τα αποτελέσματα που συνδέονται με την εφαρμογή λύσεων που βασίζονται στο AI για να μειώσουν την τριβή εγγραφής του πελάτη και να βελτιώσουν τις λειτουργικές αποδοτικότητες. Μόλις οι εταιρείες έχουν το όφελος των δεδομένων με έμφαση στην ανάλυση, τότε μπορούν να αυτοματοποιήσουν高度劳-intensive διαδικασίες, όπως η συμμόρφωση με τις απαιτήσεις του AI, η εποπτεία συμμόρφωσης, KYC και AML στις χρηματοοικονομικές υπηρεσίες.

Η κύρια λήψη είναι ότι ένας ολοκληρωμένος τομέας της αυτοματοποίησης της διαδικασίας με το AI είναι η εφαρμογή των besten πρακτικών του AI. Η ηθική χρήση του AI δεν πρέπει να θεωρείται μόνο ως μια νομική και ηθική υποχρέωση, αλλά και ως μια επιχειρηματική απαιτούμενη. Είναι καλό επιχειρηματικό να είναι διαφανές στην εφαρμογή του AI. Δημιουργεί εμπιστοσύνη και προάγει την πίστη στην εταιρεία.