Ηγέτες σκέψης
Η έλλειψη αξιόπιστης AI μπορεί να ανακόψει την καινοτομία και την επιχειρηματική αξία

Βασικά σημείαΤο ποσοστό των καταναλωτών που προτιμούν εταιρείες διαφανείς στη διαχείριση μοντέλων…
Δείτε περισσότερα
- Το ποσοστό των καταναλωτών που προτιμούν εταιρείες διαφανείς στη διαχείριση μοντέλων τεχνητής νοημοσύνης.
- Η ανάπτυξη τεχνητής νοημοσύνης χωρίς κώδικα/με χαμηλό κώδικα προβλέπεται να φτάσει τα 45,5 δισεκατομμύρια δολάρια έως το 2025.
- Πάνω από 700 ρυθμιστικές πρωτοβουλίες για την τεχνητή νοημοσύνη βρίσκονται σε εξέλιξη σε 60 χώρες παγκοσμίως.
Μια πρόσφατη έρευνα μεταξύ των ηγετών των επιχειρήσεων σε παγκόσμιο επίπεδο δείχνει ότι το αξιόπιστο AI είναι μια σημαντική προτεραιότητα, αλλά πολλοί δεν λαμβάνουν επαρκή μέτρα για να το επιτύχουν, με ποιο κόστος;
Στην πραγματικότητα, η έρευνα της IBM αποκάλυψε ότι ένα εντυπωσιακό 85% των ερωτηθέντων συμφωνούν ότι οι καταναλωτές είναι πιο πιθανό να επιλέξουν μια εταιρεία που είναι διαφανής σχετικά με τον τρόπο με τον οποίο κατασκευάζονται, διαχειρίζονται και χρησιμοποιούν τα μοντέλα AI.
Ωστόσο, η πλειοψηφία παραδέχτηκε ότι δεν έχουν λάβει βασικά μέτρα για να διασφαλίσουν ότι το AI τους είναι αξιόπιστο και υπεύθυνο, όπως η μείωση της προκατάληψης (74%), η παρακολούθηση των διακυμάνσεων της απόδοσης και της μετατόπισης του μοντέλου (68%), και η διασφάλιση ότι μπορούν να εξηγήσουν τις αποφάσεις που βασίζονται στο AI (61%). Αυτό είναι ανησυχητικό, ιδιαίτερα όταν λαμβάνεται υπόψη η χρήση του AI συνεχίζει να αυξάνεται – με 35% να λέει ότι τώρα χρησιμοποιούν AI στις επιχειρήσεις τους, σε σύγκριση με 31% πριν από ένα χρόνο.
Πρόσφατα, συμμετείχα στην αποκλειστικά κατόπιν πρόσκλησης Σύνοδο Καινοτομίας Επιχειρήσεων στο Τορόντο, όπου οι συμμετέχοντες αντάλλαξαν καινοτόμες ιδέες και παρουσίασαν τεχνολογίες που είναι έτοιμες να διαμορφώσουν το μέλλον. Είχα την τιμή να συμμετάσχω σε τρεις γύρους συζητήσεων εντός των τομέων των χρηματοοικονομικών υπηρεσιών, ασφάλισης και λιανικής, με τρεις βασικούς τομείς που προέκυψαν: η ανάγκη για περισσότερη διαφάνεια για να δημιουργηθεί εμπιστοσύνη στο AI, ο εκδημοκρατισμός του AI μέσω της ανάπτυξης χωρίς κώδικα/χαμηλού κώδικα, και η ανάπτυξη για να παρασχεθεί ταχύτερη απόδοση και μείωση του κινδύνου μέσω των βέλτιστων πρακτικών διακυβέρνησης του AI.
Αύξηση της εμπιστοσύνης στις τεχνολογίες AI. Η πανδημία του COVID-19 ενίσχυσε και επιτάχυνε την τάση για την υιοθέτηση chatbot που βασίζονται στο AI, εικονικών βοηθών χρηματοοικονομικών και ανέπαφης ένταξης νέων πελατών. Αυτή η τάση θα συνεχιστεί, όπως επιβεβαιώνεται από την έρευνα της Cap Gemini, η οποία δείχνει ότι το 78% των καταναλωτών που ερωτήθηκαν σχεδιάζουν να αυξήσουν τη χρήση των τεχνολογιών AI, συμπεριλαμβανομένης της διαχείρισης ψηφιακής ταυτότητας, στις συναλλαγές τους με τις χρηματοοικονομικές εταιρείες.
Παρά τα εγγενή οφέλη, μια σειρά από προκλήσεις προκύπτουν. Πρωταρχικά, η συνεχής έλλειψη εμπιστοσύνης των καταναλωτών στις τεχνολογίες AI και τον τρόπο με τον οποίο η πανταχού παρούσα φύση τους επηρεάζει τα δικαιώματα ιδιωτικής ζωής και ασφάλειας. Το 30% των καταναλωτών δήλωσε ότι θα ήταν πιο άνετα να μοιράζονται τις βιομετρικές πληροφορίες τους εάν οι πάροχοι χρηματοοικονομικών υπηρεσιών παρείχαν περισσότερη διαφάνεια σχετικά με τον τρόπο με τον οποίο συλλέγουν, διαχειρίζονται και ασφαλίζουν τις πληροφορίες τους.
Οι Διευθυντές Πληροφορικής πρέπει να υιοθετήσουν αρχές αξιόπιστης τεχνητής νοημοσύνης και να θεσπίσουν αυστηρά μέτρα που να διασφαλίζουν την προστασία της ιδιωτικής ζωής και της ασφάλειας. Αυτό μπορεί να επιτευχθεί μέσω κρυπτογράφησης, ελαχιστοποίησης δεδομένων και ασφαλέστερης αυθεντικοποίησης, συμπεριλαμβανομένης της εξέτασης των αναδυόμενων αποκεντρωμένων ψηφιακών προτύπων ταυτότητας. Ως αποτέλεσμα, οι προσπάθειές σας για την αυτοματοποίηση της διαδικασίας και τις αυτοεξυπηρετούμενες υπηρεσίες θα δουν περισσότερη υιοθέτηση και θα χρειάζονται λιγότερη ανθρώπινη παρέμβαση.
Αφαίρεση εμποδίων για τον εκδημοκρατισμό του AI. Υπάρχει μια αυξανόμενη τάση προς την ανάπτυξη εφαρμογών AI χωρίς κώδικα/χαμηλού κώδικα, για την οποία η έρευνα προβλέπει ότι θα φτάσει τα 45,5 δισεκατομμύρια δολάρια μέχρι το 2025. Ο κύριος παράγοντας είναι ταχύτερος χρόνος απόδοσης με βελτιώσεις στην παραγωγικότητα της ανάπτυξης εφαρμογών 10x.
Για παράδειγμα, το 56% των εταιρειών χρηματοοικονομικών υπηρεσιών που ερωτήθηκαν θεωρούν συλλογή δεδομένων από δανειολήπτες ως ένα από τα πιο δύσκολα και αναποτελεσματικά βήματα στη διαδικασία αίτησης δανείου, που οδηγεί σε υψηλά ποσοστά εγκατάλειψης. Ενώ οι τεχνολογίες AI που οδηγούν την ταυτοποίηση βιομετρικών δεδομένων και τη συλλογή δεδομένων έχουν αποδειχθεί ότι βελτιώνουν τις αποδοτικότητες στη διαδικασία αίτησης δανείου, μπορεί επίσης να δημιουργήσουν κινδύνους συμμόρφωσης, ιδιαίτερα, προστασία δεδομένων, εμπιστευτικότητα και προκατάληψη αλγορίθμων AI.
Για να μετριάσουν και να αποκαταστήσουν τέτοιους κινδύνους, οι εφαρμογές χωρίς κώδικα/χαμηλού κώδικα πρέπει να περιλαμβάνουν πλήρεις δοκιμές για να διασφαλίσουν ότι λειτουργούν σύμφωνα με τους αρχικούς στόχους σχεδιασμού, να αφαιρέσουν πιθανές προκαταλήψεις στη βάση δεδομένων εκπαίδευσης που μπορεί να περιλαμβάνουν προκατάληψη δειγμάτων, προκατάληψη ετικετών και να είναι ασφαλείς από επιθέσεις αντίπαλων AI που μπορούν να επηρεάσουν αρνητικά τα αποτελέσματα των αλγορίθμων AI. Η εξέταση των αρχών της υπεύθυνης επιστήμης δεδομένων της δικαιοσύνης, της ακρίβειας, εμπιστευτικότητας και ασφάλειας είναι υψίστης σημασίας.
Ανάπτυξη πλαισίου διακυβέρνησης και ρυθμιστικού πλαισίου για το AI. Η διακυβέρνηση του AI δεν είναι πλέον μια ευχάριστη πρωτοβουλία, αλλά μια αναγκαιότητα. Σύμφωνα με την παρακολούθηση των εθνικών πολιτικών AI της OECD, υπάρχουν πάνω από 700 πρωτοβουλίες ρυθμιστικού AI υπό ανάπτυξη σε πάνω από 60 χώρες. Υπάρχουν, ωστόσο, εθελοντικοί κώδικες συμπεριφοράς και ηθικές αρχές AI που αναπτύχθηκαν από διεθνείς οργανισμούς προτύπων, όπως το Ινστιτούτο Ηλεκτρικών και Ηλεκτρονικών Μηχανικών (IEEE) και το Εθνικό Ινστιτούτο Προτύπων και Τεχνολογίας (NIST).
Οι ανησυχίες από τις εταιρείες περιβάλλουν την υπόθεση ότι οι ρυθμίσεις του AI θα επιβάλλουν περισσότερες απαιτήσεις συμμόρφωσης σε αυτές, υποστηριζόμενες από αυστηρούς μηχανισμούς επιβολής, συμπεριλαμβανομένων ποινών για μη συμμόρφωση. Ωστόσο, η ρύθμιση του AI είναι αναπόφευκτη.
Η Ευρώπη και η Βόρεια Αμερική λαμβάνουν προληπτικές στάσεις που θα απαιτήσουν από τους Διευθυντές Πληροφορικής να συνεργαστούν με τους τεχνολογικούς και επιχειρηματικούς ομολόγους τους για να διαμορφώσουν αποτελεσματικές πολιτικές. Για παράδειγμα, η πρόταση της Ευρωπαϊκής Επιτροπής για Νόμο για την Τεχνητή Νοημοσύνη προτείνει τη θέσπιση υποχρεώσεων βάσει κινδύνου για τους παρόχους AI για την προστασία των δικαιωμάτων των καταναλωτών, ενώ ταυτόχρονα προάγει την καινοτομία και τις οικονομικές ευκαιρίες που συνδέονται με τις τεχνολογίες AI.
Επιπλέον, τον Ιούνιο του 2022, η ομοσπονδιακή κυβέρνηση του Καναδά εξέδωσε το πολύ αναμενόμενο Νόμο Υλοποίησης Ψηφιακού Χάρτη, ο οποίος προστατεύει από τις αρνητικές επιπτώσεις των υψηλού κινδύνου συστημάτων AI. Οι Ηνωμένες Πολιτείες επίσης προχωρούν με τις πρωτοβουλίες ρύθμισης του AI, αν και σε τομεακή βάση. Η Ομοσπονδιακή Επιτροπή Εμπορίου (FTC), το Γραφείο Προστασίας Καταναλωτών (CFPB) και η Ομοσπονδιακή Τράπεζα όλες ασκούν τους ρυθμιστικούς μυς τους μέσω των μηχανισμών επιβολής για να προστατεύσουν τους καταναλωτές από τις αρνητικές επιπτώσεις που προκύπτουν από την αυξημένη εφαρμογή του AI που μπορεί να οδηγήσει σε αποτελέσματα που εισάγουν διακρίσεις, έστω και ακούσια. Ένα ρυθμιστικό πλαίσιο για το AI είναι απαραίτητο για οποιαδήποτε καινοτόμο εταιρεία.
Η επίτευξη αξιόπιστου AI απαιτεί αναλυτικά συμπεράσματα βασισμένα σε δεδομένα.
Η εφαρμογή του αξιόπιστου AI δεν μπορεί να επιτευχθεί χωρίς μια προσέγγιση βασισμένη σε δεδομένα για να καθορίσει πού οι εφαρμογές των τεχνολογιών AI μπορεί να έχουν τη μεγαλύτερη επίδραση πριν από την υλοποίηση. Είναι για να βελτιώσει την εμπλοκή του πελάτη, ή να πραγματοποιήσει λειτουργικές αποδοτικότητες ή να μετριάσει τους κινδύνους συμμόρφωσης;
Κάθε ένας από αυτούς τους επιχειρηματικούς οδηγούς απαιτεί μια κατανόηση του τρόπου με τον οποίο εκτελούνται οι διαδικασίες, πώς αντιμετωπίζονται τα ζητήματα που παραπέμπονται σε ανώτερο επίπεδο και οι εξαιρέσεις, και να αναγνωρίσουν τις διακυμάνσεις της εκτέλεσης των διαδικασιών και τις βασικές αιτίες τους. Βασισμένοι σε τέτοιου είδους αναλύσεις βασισμένες σε δεδομένα, οι εταιρείες μπορούν να λάβουν ενημερωμένες επιχειρηματικές αποφάσεις σχετικά με την επίδραση και τα αποτελέσματα που συνδέονται με την εφαρμογή λύσεων που βασίζονται στο AI για να μειώσουν την τριβή εγγραφής του πελάτη και να βελτιώσουν τις λειτουργικές αποδοτικότητες. Μόλις οι εταιρείες έχουν το όφελος των δεδομένων με έμφαση στην ανάλυση, τότε μπορούν να αυτοματοποιήσουνιδιαίτερα εντάσεως εργασίας διαδικασίες, όπως η συμμόρφωση με τις απαιτήσεις του AI, η εποπτεία συμμόρφωσης, KYC και AML στις χρηματοοικονομικές υπηρεσίες.
Το βασικό συμπέρασμα είναι ότι αναπόσπαστο μέρος της αυτοματοποίησης της διαδικασίας με το AI είναι η εφαρμογή των βέλτιστων πρακτικών του AI. Η ηθική χρήση του AI δεν πρέπει να θεωρείται μόνο ως μια νομική και ηθική υποχρέωση, αλλά και ως μια επιχειρηματική αναγκαιότητα. Είναι καλό επιχειρηματικό να είναι διαφανές στην εφαρμογή του AI. Δημιουργεί εμπιστοσύνη και προάγει την πίστη στην εταιρεία.












