Google Crea un Nuovo Programma di Intelligenza Artificiale Spiegabile per Migliorare la Trasparenza e la Debuggabilità

Recentemente, Google ha annunciato la creazione di una nuova piattaforma cloud destinata a fornire informazioni su come un programma di intelligenza artificiale prende decisioni, rendendo più facile la debuggabilità di un programma e migliorando la trasparenza. Come riportato da The Register, la piattaforma cloud si chiama Explainable AI, e rappresenta un importante tentativo da parte di Google di investire nell’intelligenza artificiale spiegabile.

Le reti neurali artificiali sono utilizzate in molti, forse nella maggior parte, dei principali sistemi di intelligenza artificiale utilizzati nel mondo oggi. Le reti neurali che gestiscono le principali applicazioni di intelligenza artificiale possono essere straordinariamente complesse e grandi, e man mano che la complessità di un sistema aumenta, diventa sempre più difficile capire perché una particolare decisione è stata presa dal sistema. Come spiega Google nel loro documento bianco, man mano che i sistemi di intelligenza artificiale diventano più potenti, diventano anche più complessi e quindi più difficili da debuggare. La trasparenza si perde anche quando ciò accade, il che significa che gli algoritmi distorti possono essere difficili da riconoscere e affrontare.

Il fatto che la motivazione che guida il comportamento dei sistemi complessi sia così difficile da interpretare spesso ha conseguenze drastiche. Oltre a rendere difficile combattere i pregiudizi dell’intelligenza artificiale, può rendere estremamente difficile distinguere le correlazioni spurie dalle correlazioni realmente importanti e interessanti.

Molte aziende e gruppi di ricerca stanno esplorando come affrontare il problema della “scatola nera” dell’intelligenza artificiale e creare un sistema che spieghi adeguatamente perché sono state prese determinate decisioni da un’intelligenza artificiale. La piattaforma Explainable AI di Google rappresenta il proprio tentativo di affrontare questa sfida. Explainable AI è composta da tre diversi strumenti. Il primo strumento è un sistema che descrive quali caratteristiche sono state selezionate da un’intelligenza artificiale e visualizza anche un punteggio di attribuzione che rappresenta la quantità di influenza che una particolare caratteristica ha sulla previsione finale. Il rapporto di Google sullo strumento fornisce un esempio di previsione della durata di una corsa in bicicletta in base a variabili come la pioggia, la temperatura attuale, il giorno della settimana e l’orario di inizio. Dopo che la rete prende la decisione, viene fornito un feedback che visualizza quali caratteristiche hanno avuto il maggior impatto sulle previsioni.

Come fornisce questo strumento un tale feedback nel caso dei dati delle immagini? In questo caso, lo strumento produce un overlay che evidenzia le aree dell’immagine che hanno pesato maggiormente sulla decisione resa.

Un altro strumento presente nel toolkit è lo strumento “What-If”, che visualizza le potenziali fluttuazioni delle prestazioni del modello man mano che vengono manipulate le singole attributi. Infine, l’ultimo strumento può essere configurato per fornire risultati di esempio ai revisori umani su una base regolare.

Il dottor Andrew Moore, capo scienziato di Google per l’intelligenza artificiale e l’apprendimento automatico, ha descritto l’ispirazione per il progetto. Moore ha spiegato che circa cinque anni fa la comunità accademica ha iniziato a preoccuparsi dei prodotti dannosi dell’uso dell’intelligenza artificiale e che Google ha voluto assicurarsi che i propri sistemi fossero utilizzati solo in modi etici. Moore ha descritto un incidente in cui l’azienda stava cercando di progettare un programma di visione computerizzata per avvertire i lavoratori edili se qualcuno non indossava un casco, ma hanno iniziato a preoccuparsi che il monitoraggio potesse essere portato troppo oltre e diventare deumanizzante. Moore ha detto che c’era una ragione simile per cui Google ha deciso di non rilasciare un’API di riconoscimento facciale generale, poiché l’azienda ha voluto avere più controllo su come veniva utilizzata la propria tecnologia e assicurarsi che venisse utilizzata solo in modi etici.

Moore ha anche sottolineato perché fosse così importante che le decisioni dell’intelligenza artificiale fossero spiegabili:

“Se hai un sistema critico per la sicurezza o una cosa societariamente importante che potrebbe avere conseguenze inintenzionali se pensi che il tuo modello abbia fatto un errore, devi essere in grado di diagnosticarlo. Vogliamo spiegare con cura cosa può e non può fare l’intelligenza artificiale spiegabile. Non è una panacea.”