Introduzione di nuovi livelli di trasparenza con l’AI – Leader di pensiero

Di Balakrishna D R, Senior Vice President, Service Offering Head – Energy, Communications, Services, and AI and Automation services, presso Infosys.

Il 9 gennaio 2020, l’Organizzazione Mondiale della Sanità ha informato il pubblico dell’epidemia di Coronavirus in Cina. Tre giorni prima, i Centers for Disease Control and Prevention degli Stati Uniti avevano già diffuso la notizia. Tuttavia, una piattaforma canadese di monitoraggio della salute aveva già battuto tutti, inviando un avviso ai suoi clienti già il 31 dicembre 2019! La piattaforma, BlueDot, utilizza algoritmi guidati dall’intelligenza artificiale che scansionano notizie in lingue straniere, reti di malattie animali e vegetali e proclamazioni ufficiali per fornire ai suoi clienti un preavviso per evitare aree pericolose come Wuhan.

Negli ultimi anni, l’intelligenza artificiale è diventata la principale fonte di trasformazione, innovazione e vantaggio competitivo nell’economia in rapida evoluzione di oggi. Dall’individuazione di epidemie alla difesa, dalla sanità ai veicoli autonomi e a tutto ciò che si trova in mezzo, l’AI sta guadagnando una vasta adozione. PwC prevede che l’AI potrebbe contribuire fino a 15.700 miliardi di dollari all’economia globale nel 2030, al suo attuale tasso di crescita.

Tuttavia, nonostante tutte le speranze che l’AI porta, essa pone ancora domande senza risposta sulla trasparenza e l’affidabilità. La necessità di comprendere, prevedere e fidarsi della capacità di decision-making dell’AI è importante, in particolare in aree critiche per la vita, la morte e il benessere personale.

Verso l’ignoto

Quando i sistemi di ragionamento automatico furono introdotti per la prima volta per supportare la decisione, si basavano su regole create manualmente. Ciò li rendeva facili da interpretare e modificare, ma non erano scalabili. I modelli basati sull’apprendimento automatico arrivarono per rispondere a tale esigenza; non richiedevano intervento umano e potevano essere addestrati con i dati – più dati, meglio. Tuttavia, il fatto che questi modelli siano per lo più “scatole nere” solleva domande inquietanti sulla loro veridicità, affidabilità e pregiudizi nel contesto del loro ampio utilizzo.

Attualmente, non esiste un meccanismo diretto per tracciare il ragionamento implicito utilizzato dai modelli di apprendimento profondo. Con i modelli di apprendimento automatico che hanno una natura di “scatola nera”, il tipo principale di spiegabilità è noto come spiegabilità post-hoc, il che significa che le spiegazioni sono derivate dalla natura e dalle proprietà dei risultati generati dal modello. I primi tentativi di estrarre regole dalle reti neurali (come l’apprendimento profondo era noto in precedenza) non sono attualmente perseguiti, poiché le reti sono diventate troppo grandi e diverse per un’estrazione di regole fattibile. Pertanto, c’è un’urgente necessità di introdurre interpretazione e trasparenza nel tessuto stesso della modellazione dell’AI.

Uscita dalla notte, entrata nella luce

Questa preoccupazione ha creato la necessità di trasparenza nell’apprendimento automatico, che ha portato alla crescita dell’AI spiegabile, o XAI. Essa cerca di affrontare i principali problemi che ostacolano la nostra capacità di fidarci completamente della decisione dell’AI — compresi i pregiudizi e la trasparenza. Questo nuovo campo dell’AI porta responsabilità per garantire che l’AI benefici la società con risultati migliori per tutti i soggetti coinvolti.

XAI sarà fondamentale per aiutare con i pregiudizi inerenti ai sistemi e agli algoritmi dell’AI, che sono programmato da persone le cui esperienze e background possono portare involontariamente allo sviluppo di sistemi dell’AI che esibiscono pregiudizi. Pregiudizi indesiderati, come la discriminazione contro una particolare nazionalità o etnia, possono insinuarsi perché il sistema aggiunge un valore a esso in base ai dati reali. Ad esempio, potrebbe essere trovato che i tipici inadempienti dei prestiti provengono da uno specifico background etnico, tuttavia, attuare qualsiasi politica restrittiva basata su ciò potrebbe essere contro le pratiche eque. I dati errati sono un’altra causa di pregiudizi. Ad esempio, se uno scanner di riconoscimento facciale è inaccurato il 5% delle volte a causa del colore della pelle o della luce che cade sul viso, potrebbe introdurre pregiudizi. Infine, se i vostri dati di campionamento non rappresentano fedelmente l’intera popolazione, i pregiudizi sono inevitabili.

XAI mira a rispondere a come le decisioni “scatola nera” dei sistemi dell’AI siano prese. Esso ispeziona e cerca di comprendere i passaggi e i modelli coinvolti nella decisione. Risponde a domande cruciali come: Perché il sistema dell’AI ha fatto una specifica previsione o decisione? Perché il sistema dell’AI non ha fatto qualcos’altro? Quando il sistema dell’AI ha avuto successo o fallito? Quando i sistemi dell’AI forniscono abbastanza fiducia nella decisione in modo che tu possa fidarti, e come il sistema dell’AI può correggere gli errori?

AI spiegabile, prevedibile e tracciabile

Un modo per ottenere spiegabilità nei sistemi dell’AI è utilizzare algoritmi di apprendimento automatico che sono intrinsecamente spiegabili. Ad esempio, forme più semplici di apprendimento automatico come alberi decisionali, classificatori bayesiani e altri algoritmi che hanno una certa quantità di tracciabilità e trasparenza nella loro decisione. Possono fornire la visibilità necessaria per sistemi critici dell’AI senza sacrificare troppo le prestazioni o l’accuratezza.

Notando la necessità di fornire spiegabilità per l’apprendimento profondo e altri approcci algoritmici più complessi, l’Agenzia per la Ricerca e lo Sviluppo Avanzato della Difesa degli Stati Uniti (DARPA) sta perseguendo sforzi per produrre soluzioni di AI spiegabili attraverso diverse iniziative di ricerca finanziate. DARPA descrive la spiegabilità dell’AI in tre parti che includono: accuratezza della previsione, che significa che i modelli spiegheranno come sono state raggiunte le conclusioni per migliorare la decisione futura; comprensione della decisione e fiducia da parte degli utenti e degli operatori umani, nonché ispezione e tracciabilità delle azioni intraprese dai sistemi dell’AI.

La tracciabilità consentirà agli esseri umani di entrare nei cicli decisionali dell’AI e avere la capacità di fermare o controllare le sue attività, ogni volta che ne sorga la necessità. Un sistema dell’AI non è solo atteso a eseguire una specifica attività o imporre decisioni, ma anche fornire un rapporto trasparente di perché ha preso decisioni specifiche con la relativa motivazione.

La standardizzazione degli algoritmi o anche degli approcci XAI non è attualmente possibile, ma potrebbe certamente essere possibile standardizzare i livelli di trasparenza / livelli di spiegabilità. Le organizzazioni per la standardizzazione stanno cercando di raggiungere comprensioni comuni e standardizzate di questi livelli di trasparenza per facilitare la comunicazione tra gli utenti finali e i fornitori di tecnologia.

Man mano che i governi, le istituzioni, le imprese e il pubblico in generale dipendono da sistemi basati sull’AI, guadagnare la loro fiducia attraverso una maggiore trasparenza del processo decisionale sarà fondamentale. Il lancio della prima conferenza globale esclusivamente dedicata all’XAI, la Conferenza Internazionale congiunta sull’intelligenza artificiale: Workshop sull’Intelligenza Artificiale Spiegabile, è ulteriore prova che l’era dell’XAI è arrivata.