La spiegabilità può affrontare il problema dell’AI di ogni industria: la mancanza di trasparenza

Di: Migüel Jetté, VP di R&D Speech, Rev.

Nelle sue fasi iniziali, l’AI poteva forse riposare sulle proprie novità. Era accettabile che l’apprendimento automatico imparasse lentamente e mantenesse un processo opaco in cui il calcolo dell’AI era impossibile per il consumatore medio da comprendere. Ma questo sta cambiando. Mentre sempre più industrie, come la sanità, la finanza e il sistema giudiziario, iniziano a utilizzare l’AI in modi che possono avere un impatto reale sulla vita delle persone, sempre più persone vogliono sapere come vengono utilizzati gli algoritmi, come vengono raccolti i dati e quanto sono accurate le sue capacità. Se le aziende vogliono rimanere all’avanguardia dell’innovazione nei propri mercati, devono fare affidamento su un’AI che il loro pubblico possa fidarsi. La spiegabilità dell’AI è l’ingrediente chiave per approfondire questo rapporto.

La spiegabilità dell’AI differisce dalle procedure standard dell’AI perché offre alle persone un modo per comprendere come gli algoritmi di apprendimento automatico creano output. L’AI spiegabile è un sistema che può fornire alle persone risultati potenziali e limiti. È un sistema di apprendimento automatico che può soddisfare il desiderio umano di equità, responsabilità e rispetto della privacy. L’AI spiegabile è fondamentale per le aziende che vogliono costruire la fiducia con i consumatori.

Mentre l’AI si espande, i fornitori di AI devono capire che la scatola nera non può funzionare. I modelli della scatola nera sono creati direttamente dai dati e spesso nemmeno lo sviluppatore che ha creato l’algoritmo può identificare cosa abbia guidato le abitudini apprese dalla macchina. Ma il consumatore coscienzioso non vuole interagire con qualcosa di così impenetrabile che non può essere ritenuto responsabile. Le persone vogliono sapere come un algoritmo di AI arriva a un risultato specifico senza il mistero dell’input di origine e dell’output controllato, soprattutto quando gli errori dell’AI sono spesso dovuti a pregiudizi della macchina. Man mano che l’AI diventa più avanzata, le persone vogliono accedere al processo di apprendimento automatico per comprendere come l’algoritmo sia arrivato al suo risultato specifico. I leader di ogni industria devono capire che presto o tardi, le persone non vorranno più solo accedere a questo livello di trasparenza, ma lo esigeranno come livello necessario di trasparenza.

I sistemi di riconoscimento vocale, come gli assistenti vocali, la tecnologia di trascrizione e altri servizi che convertono la parlata umana in testo, sono particolarmente affetti da pregiudizi. Quando il servizio viene utilizzato per misure di sicurezza, gli errori dovuti a accenti, età o background di una persona, possono essere gravi errori, quindi il problema deve essere preso seriamente. Il riconoscimento vocale automatico può essere utilizzato efficacemente nelle telecamere del corpo della polizia, ad esempio, per registrare e trascrivere automaticamente le interazioni – mantenendo un registro che, se trascritto correttamente, potrebbe salvare vite. La pratica della spiegabilità richiederà che l’AI non si basi solo su set di dati acquistati, ma cerchi di comprendere le caratteristiche dell’audio in ingresso che potrebbero contribuire a errori se presenti. Qual è il profilo acustico? C’è rumore in sottofondo? Il parlante è di un paese non di lingua inglese o di una generazione che utilizza un vocabolario che l’AI non ha ancora appreso? L’apprendimento automatico deve essere proattivo nell’apprendere più velocemente e può iniziare raccogliendo dati che possano affrontare queste variabili.

La necessità sta diventando ovvia, ma il percorso per implementare questa metodologia non avrà sempre una soluzione facile. La risposta tradizionale al problema è quella di aggiungere più dati, ma una soluzione più sofisticata sarà necessaria, soprattutto quando i set di dati acquistati da molte aziende sono intrinsecamente pregiudiziati. Ciò è dovuto al fatto che storicamente è stato difficile spiegare una decisione specifica resa dall’AI e ciò è dovuto alla natura della complessità dei modelli end-to-end. Tuttavia, possiamo farlo adesso e possiamo iniziare chiedendoci come le persone abbiano perso la fiducia nell’AI per la prima volta.

Inevitabilmente, l’AI commetterà errori. Le aziende devono costruire modelli che siano consapevoli dei propri limiti potenziali, identificare quando e dove si verificano problemi e creare soluzioni continue per costruire modelli di AI più solidi:

1. Quando qualcosa va storto, gli sviluppatori devono spiegare cosa è successo e sviluppare un piano immediato per migliorare il modello e ridurre gli errori futuri simili.
2. Perché la macchina sappia se è stata corretta o meno, gli scienziati devono creare un ciclo di feedback in modo che l’AI possa apprendere dai propri limiti ed evolversi.
3. Un altro modo per il riconoscimento vocale automatico di costruire la fiducia mentre l’AI è ancora in miglioramento è creare un sistema che possa fornire punteggi di confidenza e offrire ragioni per cui l’AI è meno fiduciosa. Ad esempio, le aziende generano generalmente punteggi da zero a 100 per riflettere le imperfezioni del proprio AI e stabilire la trasparenza con i propri clienti. In futuro, i sistemi potrebbero fornire spiegazioni post-hoc per cui l’audio è stato difficile, offrendo più metadati sull’audio, come il livello di rumore percepito o un accento meno compreso.

Una maggiore trasparenza porterà a una migliore supervisione umana dell’addestramento e delle prestazioni dell’AI. Più siamo aperti su dove dobbiamo migliorare, più siamo responsabili di agire su quei miglioramenti. Ad esempio, un ricercatore potrebbe voler sapere perché è stato generato un testo errato in modo da poter mitigare il problema, mentre un trascrittore potrebbe voler avere prove del fatto che il riconoscimento vocale automatico abbia frainteso l’input per aiutare nella valutazione della sua validità. Tenere gli esseri umani nel ciclo può mitigare alcuni dei problemi più ovvi che sorgono quando l’AI non è controllata. Ciò può anche accelerare il tempo necessario per l’AI per rilevare gli errori, migliorare e correggersi in tempo reale.

L’AI ha la capacità di migliorare la vita delle persone, ma solo se gli esseri umani la costruiscono correttamente. Dobbiamo non solo tenere responsabili questi sistemi, ma anche le persone dietro l’innovazione. I sistemi di AI del futuro sono attesi ad aderire ai principi stabiliti dalle persone e solo allora avremo un sistema che le persone possano fidarsi. È il momento di gettare le basi e lavorare per quei principi adesso, mentre è ancora gli esseri umani a servirci.