Mancanza di AI affidabile può limitare l’innovazione e il valore aziendale

Un recente sondaggio tra i leader aziendali a livello globale mostra che l’AI affidabile è una priorità importante, ma molti non stanno prendendo abbastanza misure per raggiungerla, a quale costo?

In effetti, il sondaggio IBM ha rivelato che un numero sorprendente dell’85% dei rispondenti concorda che i consumatori sono più propensi a scegliere un’azienda che è trasparente su come vengono costruiti, gestiti e utilizzati i suoi modelli di intelligenza artificiale.

Tuttavia, la maggioranza ha ammesso di non aver preso misure chiave per garantire che la propria intelligenza artificiale sia affidabile e responsabile, come ridurre i pregiudizi (74%), monitorare le variazioni delle prestazioni e del modello di deriva (68%) e assicurarsi di poter spiegare le decisioni basate sull’intelligenza artificiale (61%). Ciò è preoccupante, soprattutto se si considera che l’utilizzo dell’intelligenza artificiale continua a crescere – con il 35% che afferma di utilizzare l’intelligenza artificiale nel proprio business, rispetto al 31% dell’anno precedente.

Recentemente, ho partecipato al Corporate Innovation Summit riservato agli inviti a Toronto, dove i partecipanti hanno scambiato idee innovative e hanno presentato tecnologie pronte a plasmare il futuro. Ho avuto il privilegio di partecipare a tre tavole rotonde all’interno dei settori dei servizi finanziari, assicurazioni e retail, con tre aree chiave emerse: la necessità di maggiore trasparenza per favorire la fiducia nell’intelligenza artificiale, la democratizzazione dell’intelligenza artificiale attraverso no-code/low-code e lo sviluppo per consegnare un tempo di valore più rapido e una mitigazione dei rischi attraverso le migliori pratiche di governance normativa dell’intelligenza artificiale.

Aumentare la fiducia nelle tecnologie di intelligenza artificiale. Il COVID-19 ha amplificato e accelerato la tendenza verso l’adozione di chatbot basati sull’intelligenza artificiale, assistenti finanziari virtuali e on-boarding dei clienti senza contatto. Questa tendenza continuerà, come confermato dalla ricerca di Cap Gemini, che mostra che il 78% dei consumatori intervistati sta pianificando di aumentare l’uso di tecnologie di intelligenza artificiale, compresa la gestione dell’identità digitale nelle interazioni con le organizzazioni di servizi finanziari.

I benefici intrinseci nonostante, sorgono diverse sfide. Tra queste, la mancanza di fiducia dei consumatori nelle tecnologie di intelligenza artificiale e come la loro natura ubiqua impatti i loro diritti di privacy e sicurezza. Il 30% dei consumatori ha affermato che sarebbe più a suo agio condividendo le proprie informazioni biometriche se i propri fornitori di servizi finanziari fornissero maggiore trasparenza nell’esplicare come vengono raccolte, gestite e protette le loro informazioni.

I CIO devono adottare principi di intelligenza artificiale affidabile e istituire misure rigorose che salvaguardino i diritti di privacy e sicurezza. Ciò può essere ottenuto attraverso crittografia, minimizzazione dei dati e autenticazione più sicura, compresa la considerazione di standard di identità digitale decentralizzati emergenti. Di conseguenza, i vostri sforzi di automazione intelligente e le offerte di self-service vedranno un maggiore utilizzo e necessiteranno di meno intervento umano.

Rimuovere le barriere alla democratizzazione dell’intelligenza artificiale. C’è una crescente tendenza verso lo sviluppo di applicazioni di intelligenza artificiale no-code/low-code, che ricerca prevede raggiungerà i 45,5 miliardi di dollari entro il 2025. Il principale fattore trainante è un tempo di valore più rapido con miglioramenti nella produttività dello sviluppo di applicazioni di 10 volte.

Ad esempio, il 56% delle organizzazioni di servizi finanziari intervistate considera la raccolta dei dati dai mutuatari come uno dei passaggi più impegnativi e inefficienti all’interno del processo di richiesta di prestito, risultando in alti tassi di abbandono. Mentre le tecnologie di identificazione biometrica e raccolta dei dati basate sull’intelligenza artificiale sono state dimostrate per migliorare l’efficienza nel processo di richiesta di prestito, possono anche creare rischi di conformità, in particolare, la privacy dei dati, la riservatezza e i pregiudizi algoritmici dell’intelligenza artificiale.

Per mitigare e rimediare a tali rischi, le applicazioni low-code/no-code devono includere test completi per garantire che funzionino in conformità con gli obiettivi di progettazione iniziali, rimuovere i potenziali pregiudizi nel set di dati di addestramento che possono includere pregiudizi di campionamento, pregiudizi di etichettatura e sono sicure da attacchi di intelligenza artificiale avversariale che possono impattare negativamente sui risultati algoritmici dell’intelligenza artificiale. La considerazione di principi di scienza dei dati responsabile di equità, accuratezza, riservatezza e sicurezza è fondamentale.

Sviluppare un quadro di governance e normativa per l’intelligenza artificiale. La governance dell’intelligenza artificiale non è più un’iniziativa facoltativa, ma un’imperativa. Secondo il tracker delle politiche nazionali sull’intelligenza artificiale dell’OCSE, ci sono oltre 700 iniziative normative sull’intelligenza artificiale in sviluppo in oltre 60 paesi. Ci sono tuttavia codici di condotta volontari e principi etici di intelligenza artificiale sviluppati da organizzazioni di standard internazionali come l’Istituto di ingegneri elettrici e elettronici (“IEEE”) e il National Institute of Standards and Technology (NIST).

Le preoccupazioni delle organizzazioni circondano l’ipotesi che le norme sull’intelligenza artificiale impongano maggiori obblighi di conformità su di loro, supportati da meccanismi di applicazione onerosi, inclusi penalità per la non conformità. Eppure, la normativa sull’intelligenza artificiale è inevitabile.

Europa e Nord America stanno assumendo posizioni proattive che richiederanno ai CIO di collaborare con i loro omologhi tecnologici e aziendali per formare politiche efficaci. Ad esempio, la proposta della Commissione europea di un Atto sull’intelligenza artificiale propone di istituire obblighi basati sul rischio per i fornitori di intelligenza artificiale per proteggere i diritti dei consumatori, promuovendo al tempo stesso l’innovazione e le opportunità economiche associate alle tecnologie di intelligenza artificiale.

Inoltre, nel giugno 2022, il governo federale canadese ha rilasciato il molto atteso Atto di attuazione della Carta digitale, che protegge contro gli impatti avversi dei sistemi di intelligenza artificiale ad alto rischio. Gli Stati Uniti stanno anche procedendo con le iniziative normative sull’intelligenza artificiale, sebbene su base settoriale. La Federal Trade Commission (FTC), il Consumer Financial Protection Bureau (CFPB) e il Federal Reserve Board stanno tutti esercitando i loro muscoli normativi attraverso i loro meccanismi di applicazione per proteggere i consumatori contro gli impatti avversi derivanti dall’aumento dell’applicazione dell’intelligenza artificiale che possono risultare in esiti discriminatori, sebbene non intenzionali. Un quadro normativo per l’intelligenza artificiale è necessario per qualsiasi azienda innovativa.

La realizzazione di un’intelligenza artificiale affidabile richiede approfondimenti basati sui dati

La realizzazione di un’intelligenza artificiale affidabile non può essere ottenuta senza un approccio basato sui dati per determinare dove le applicazioni delle tecnologie di intelligenza artificiale possano avere il maggior impatto prima di procedere con l’implementazione. È per migliorare l’engagement dei clienti, o per realizzare efficienze operative o per mitigare i rischi di conformità?

Ognuno di questi driver aziendali richiede una comprensione di come i processi vengono eseguiti, di come vengono gestite le escalation e le eccezioni e di identificare le variazioni nell’esecuzione dei processi e gli ostacoli e le loro cause radice. Sulla base di tale analisi basata sui dati, le organizzazioni possono prendere decisioni aziendali informate riguardo all’impatto e agli esiti associati all’implementazione di soluzioni basate sull’intelligenza artificiale per ridurre l’attrito di on-boarding dei clienti e migliorare l’efficienza operativa. Una volta che le organizzazioni hanno il beneficio di approfondimenti basati sui dati, possono quindi automatizzare processi altamente impegnativi come l’adeguamento alle norme di intelligenza artificiale, l’audit di conformità, il KYC e l’AML nei servizi finanziari.

La principale considerazione è che una parte integrante dell’automazione dei processi abilitata dall’intelligenza artificiale è l’implementazione delle migliori pratiche di intelligenza artificiale affidabile. L’uso etico dell’intelligenza artificiale non dovrebbe essere considerato solo come un obbligo legale e morale, ma come un’imperativa aziendale. Ha senso essere trasparenti nell’applicazione dell’intelligenza artificiale. Ciò favorisce la fiducia e genera la fedeltà al marchio.