Η έλλειψη αξιοπιστίας του AI μπορεί να στερήσει την καινοτομία και την επιχειρηματική αξία

Μια πρόσφατη έρευνα μεταξύ των ηγετών των επιχειρήσεων σε παγκόσμιο επίπεδο δείχνει ότι το αξιοπιστό AI είναι μια σημαντική προτεραιότητα, αλλά πολλοί δεν λαμβάνουν đủ μέτρα για να το επιτύχουν, αλλά με ποιο κόστος;

Πράγματι, η έρευνα της IBM αποκάλυψε ότι ένα καταπληκτικό 85% των συμμετεχόντων συμφωνούν ότι οι καταναλωτές είναι πιο πιθανό να επιλέξουν μια εταιρεία που είναι διαφανής σχετικά με τον τρόπο που κατασκευάζονται, διαχειρίζονται και χρησιμοποιούν τα μοντέλα AI.

Ωστόσο, η πλειονότητα παραδέχτηκε ότι δεν έχουν λάβει βασικά μέτρα για να διασφαλίσουν ότι το AI τους είναι αξιοπιστό και υπεύθυνο, όπως η μείωση της προκατάληψης (74%), η παρακολούθηση των μεταβολών της απόδοσης και της ολίσθησης του μοντέλου (68%) και η διασφάλιση ότι μπορούν να εξηγήσουν τις αποφάσεις που λαμβάνονται με τη δύναμη του AI (61%). Αυτό είναι ανησυχτικό, ιδιαίτερα όταν λαμβάνεται υπόψη η χρήση του AI συνεχίζει να αυξάνεται – με 35% να δηλώνουν ότι χρησιμοποιούν πλέον το AI στις επιχειρήσεις τους, σε σύγκριση με 31% το προηγούμενο έτος.

Συμμετείχα πρόσφατα στο αποκλειστικό Σύνοδο Επιχειρηματικής Καινοτομίας στο Τορόντο, όπου οι συμμετέχοντες αντάλλαξαν καινοτόμες ιδέες και παρουσίασαν τεχνολογίες που είναι έτοιμες να διαμορφώσουν το μέλλον. Είχα την τιμή να συμμετάσχω σε τρεις στρογγυλές τραπέζες εντός των τομέων των χρηματοοικονομικών υπηρεσιών, ασφάλισης και λιανικής με τρεις βασικούς τομείς που προέκυψαν: η ανάγκη για περισσότερη διαφάνεια για να δημιουργηθεί εμπιστοσύνη στο AI, η δημοκρατικοποίηση του AI μέσω της ανάπτυξης no-code/low-code και η ανάπτυξη για να παρασχεθεί ταχύτερη απόδοση και μείωση του рисκου μέσω των καλύτερων πρακτικών διακυβέρνησης του AI.

Αύξηση της εμπιστοσύνης στις τεχνολογίες AI. Η COVID-19 ενίσχυσε και επιτάχυνε την τάση προς την υιοθέτηση chatbot με τη δύναμη του AI, εικονικών χρηματοοικονομικών βοηθών και διαδικτυακής ενεργοποίησης των πελατών. Αυτή η τάση θα συνεχιστεί όπως επιβεβαιώνεται από έρευνα της Cap Gemini η οποία δείχνει ότι το 78% των καταναλωτών που συμμετείχαν στο έρευνα σχεδιάζουν να αυξήσουν τη χρήση των τεχνολογιών AI, συμπεριλαμβανομένης της διαχείρισης ψηφιακών ταυτοτήτων στις συναλλαγές τους με τις χρηματοοικονομικές εταιρείες.

Οι εγγενείςประโยชนές, παρά τα ανωτέρω, μια σειρά από προκλήσεις προκύπτουν. Κύρια μεταξύ αυτών είναι η συνεχής απιστία των καταναλωτών στις τεχνολογίες AI και τον τρόπο με τον οποίο η πανταχού παρούσα φύση τους επηρεάζει τα δικαιώματα ιδιωτικότητας και ασφάλειας. Το 30% των καταναλωτών δήλωσε ότι θα ήταν πιο άνετοι να μοιράζονται τις βιομετρικές πληροφορίες τους εάν οι χρηματοοικονομικοί πάροχοι τους παρείχαν περισσότερη διαφάνεια σχετικά με τον τρόπο που συλλέγονται, διαχειρίζονται και ασφαλίζονται οι πληροφορίες τους.

Οι Διευθυντές Πληροφορικής πρέπει να υιοθετήσουν αξιοπιστά principia του AI και να θεσπίσουν αυστηρά μέτρα που να προστατεύουν τα δικαιώματα ιδιωτικότητας και ασφάλειας. Μπορούν να το επιτύχουν μέσω κρυπτογράφησης, ελαχιστοποίησης δεδομένων και ασφαλούς αυθεντικοποίησης, συμπεριλαμβανομένης της εξέτασης των αναδυόμενων αποκεντρωμένων ψηφιακών προτύπων ταυτοποίησης. Ως αποτέλεσμα, οι προσπάθειές σας για την αυτοματοποίηση της νοημοσύνης και τις αυτουπηρεσίες θα δουν περισσότερη υιοθέτηση και θα χρειάζονται λιγότερη ανθρώπινη παρέμβαση.

Αφαιρέστε τους φραγμούς για τη δημοκρατικοποίηση του AI. Υπάρχει μια αυξανόμενη στροφή προς την ανάπτυξη εφαρμογών AI με τη χρήση no-code/low-code, η οποία έρευνα προβλέπει ότι θα φτάσει τα 45,5 δισεκατομμύρια δολάρια μέχρι το 2025. Η κύρια οδηγός είναι η ταχύτερη απόδοση με βελτιώσεις στην παραγωγικότητα της ανάπτυξης εφαρμογών κατά 10x.

Για παράδειγμα, το 56% των χρηματοοικονομικών εταιρειών που συμμετείχαν στην έρευνα θεωρούν συλλογή δεδομένων από τους δανειολήπτες ως ένα από τα πιο δύσκολα και αναποτελεσματικά βήματα στη διαδικασία αίτησης δανείου, με αποτέλεσμα υψηλά ποσοστά εγκατάλειψης. Ενώ οι τεχνολογίες αναγνώρισης και συλλογής δεδομένων με τη δύναμη του AI έχουν αποδειχθεί ότι βελτιώνουν τις αποδοτικότητες στη διαδικασία αίτησης δανείου, μπορεί επίσης να δημιουργούν κινδύνους συμμόρφωσης, ιδιαίτερα, προστασία δεδομένων, εμπιστευτικότητα και προκατάληψη αλγορίθμων AI.

Για να μετριάσει και να αποκαταστήσει τέτοιους κινδύνους, οι εφαρμογές no-code/low-code πρέπει να περιλαμβάνουν μια πλήρη δοκιμή για να διασφαλίσουν ότι λειτουργούν σύμφωνα με τους αρχικούς στόχους σχεδιασμού, να αφαιρέσουν τις πιθανές προκαταλήψεις στη βάση δεδομένων εκπαίδευσης που μπορεί να περιλαμβάνει προκατάληψη δειγματοληψίας, προκατάληψη ετικέτας και να είναι ασφαλείς από επιθέσεις AI που μπορούν να επηρεάσουν αρνητικά τις αποφάσεις αλγορίθμων AI. Η εξέταση των αρχών της υπεύθυνης επιστήμης δεδομένων της δικαιοσύνης, ακρίβειας, εμπιστευτικότητας και ασφάλειας είναι परमόνη.

Ανάπτυξη πλαισίου διακυβέρνησης και ρυθμιστικών προτύπων AI. Η διακυβέρνηση του AI δεν είναι πλέον μια ευχαρίστως υποδεκτή πρωτοβουλία, αλλά μια απαραίτητη. Σύμφωνα με τον καταλογο του ΟΟΣΑ για τις εθνικές πολιτικές AI, υπάρχουν πάνω από 700 πρωτοβουλίες ρυθμιστικών μέτρων AI υπό ανάπτυξη σε πάνω από 60 χώρες. Υπάρχουν, ωστόσο, εθελοντικές κώδικες δεοντολογίας και ηθικά principia του AI που αναπτύχθηκαν από διεθνείς οργανισμούς προτύπων, όπως ο Ινστιτούτο Ηλεκτρολόγων και Ηλεκτρονικών Μηχανικών (IEEE) και το Εθνικό Ινστιτούτο Προτύπων και Τεχνολογίας (NIST).

Οι ανησυχίες από τις εταιρείες περιβάλλουν την υπόθεση ότι οι ρυθμίσεις του AI θα επιβάλλουν περισσότερες απαιτήσεις συμμόρφωσης σε αυτές, υποστηριζόμενες από ενεργές μηχανισμούς επιβολής, συμπεριλαμβανομένων προστίμων για μη συμμόρφωση. Ωστόσο, η ρύθμιση του AI είναι αναπόφευκτη.

Η Ευρώπη και η Βόρεια Αμερική λαμβάνουν προληπτικές στάσεις που θα απαιτήσουν από τους Διευθυντές Πληροφορικής να συνεργαστούν με τους τεχνολογικούς και επιχειρηματικούς ομολόγους τους για να διαμορφώσουν αποτελεσματικές πολιτικές. Για παράδειγμα, η Ευρωπαϊκή Επιτροπή πρότεινε einen Νόμο για την Τεχνητή Νοημοσύνη που προτείνει να θεσπίσει υποχρεώσεις βασισμένες στο ρίσκο στους παρόχους AI για να προστατεύσει τα δικαιώματα των καταναλωτών, ενώ ταυτόχρονα προάγει την καινοτομία και τις οικονομικές ευκαιρίες που συνδέονται με τις τεχνολογίες AI.

Επιπλέον, τον Ιούνιο του 2022, η ομοσπονδιακή κυβέρνηση του Καναδά εξέδωσε τον πολύ αναμενόμενο Νόμο για την Υλοποίηση του Ψηφιακού Χάρτη που προστατεύει από τις αντίθετες επιπτώσεις των συστημάτων AI υψηλού ρίσκου. Οι Ηνωμένες Πολιτείες επίσης προχωρούν με πρωτοβουλίες ρυθμιστικών μέτρων AI, αν και σε τομέα βάση. Η Επιτροπή Εμπορίου (FTC), το Γραφείο Προστασίας Καταναλωτών (CFPB) και το Διοικητικό Συμβούλιο της Ομοσπονδιακής Τράπεζας đều χρησιμοποιούν τους μηχανισμούς επιβολής τους για να προστατεύσουν τους καταναλωτές από τις αντίθετες επιπτώσεις που προκύπτουν από την αυξημένη εφαρμογή του AI που μπορεί να οδηγήσει σε διακριτικές αποφάσεις, αν και μη προθέτως. Ένα πλαισίο ρυθμιστικών μέτρων AI είναι απαραίτητο για οποιαδήποτε καινοτόμο εταιρεία.

Η επίτευξη του Αξιοπιστού AI Απαιτεί Δεδομένα με Δεδομένα

Η εφαρμογή του αξιοπιστού AI δεν μπορεί να επιτευχθεί χωρίς μια δεδομένα-οδηγούμενη προσέγγιση για να καθορίσει πού οι εφαρμογές των τεχνολογιών AI μπορεί να έχουν την μεγαλύτερη επιρροή πριν από την εφαρμογή. Είναι για να βελτιώσει την εμπλοκή του πελάτη, ή να πραγματοποιήσει λειτουργικές αποδοτικότητες ή να μειώσει τους κινδύνους συμμόρφωσης;

Κάθε ένας από αυτούς τους επιχειρηματικούς οδηγούς απαιτεί μια κατανόηση του πώς εκτελούνται οι διαδικασίες, πώς αντιμετωπίζονται οι αναβάσεις και οι εξαιρέσεις, και να αναγνωρίσουν τις παραλλαγές στις οδούς εκτέλεσης των εμποδίων και τις ριζικές αιτίες τους. Βασισμένοι σε τέτοιου είδους δεδομένα-οδηγούμενη ανάλυση, οι εταιρείες μπορούν να λάβουν ενημερωμένες επιχειρηματικές αποφάσεις σχετικά με την επίδραση και τα αποτελέσματα που συνδέονται με την εφαρμογή λύσεων που βασίζονται στο AI για να μειώσουν την τριβή της ενεργοποίησης του πελάτη και να βελτιώσουν τις λειτουργικές αποδοτικότητες. Μόλις οι εταιρείες έχουν το όφελος των δεδομένων-οδηγούμενων ερευνών, τότε μπορούν να αυτοματοποιήσουν高度劳ατικές διαδικασίες όπως η συμμόρφωση με τις απαιτήσεις του AI, η συμμόρφωση με τις απαιτήσεις, το KYC και το AML στις χρηματοοικονομικές υπηρεσίες.

Η κύρια λήψη είναι ότι ένα ολοκληρωμένο μέρος της αυτοματοποίησης της διαδικασίας με τη δύναμη του AI είναι η εφαρμογή των καλύτερων πρακτικών του αξιοπιστού AI. Η ηθική χρήση του AI δεν πρέπει να θεωρείται μόνο ως μια νομική και ηθική υποχρέωση, αλλά και ως μια επιχειρηματική απαραίτητη. Είναι καλό επιχειρηματικό να είναι διαφανές στην εφαρμογή του AI. Δημιουργεί εμπιστοσύνη και προάγει την πίστη στη μάρκα.