Google Crea un Nuovo Programma di Intelligenza Artificiale Spiegabile per Migliorare la Trasparenza e la Debugabilità

Recentemente, Google (GOOGL ) ha annunciato la creazione di una nuova piattaforma cloud destinata a fornire informazioni su come un programma di intelligenza artificiale prende decisioni, rendendo più facile la debugabilità e migliorando la trasparenza. Come riportato da The Register, la piattaforma cloud si chiama Intelligenza Artificiale Spiegabile e rappresenta un importante tentativo da parte di Google di investire nella spiegabilità dell’intelligenza artificiale.

Le reti neurali artificiali sono utilizzate nella maggior parte dei sistemi di intelligenza artificiale impiegati nel mondo oggi. Le reti neurali che gestiscono le applicazioni di intelligenza artificiale possono essere straordinariamente complesse e grandi, e man mano che la complessità del sistema aumenta, diventa sempre più difficile intuire perché una decisione particolare sia stata presa dal sistema. Come spiega Google nel suo white paper, man mano che i sistemi di intelligenza artificiale diventano più potenti, diventano anche più complessi e quindi più difficili da debuggere. La trasparenza si perde anche quando ciò accade, il che significa che gli algoritmi distorti possono essere difficili da riconoscere e affrontare.

Il fatto che il ragionamento che guida il comportamento dei sistemi complessi sia così difficile da interpretare spesso ha conseguenze drastiche. Oltre a rendere difficile combattere la distorsione dell’intelligenza artificiale, può rendere estremamente difficile distinguere le correlazioni spurie dalle correlazioni realmente importanti e interessanti.

Molte aziende e gruppi di ricerca stanno esplorando come affrontare il problema della “scatola nera” dell’intelligenza artificiale e creare un sistema che spieghi adeguatamente perché sono state prese determinate decisioni da un’intelligenza artificiale. La piattaforma di Intelligenza Artificiale Spiegabile di Google rappresenta il suo tentativo di affrontare questa sfida. L’Intelligenza Artificiale Spiegabile è composta da tre strumenti diversi. Il primo strumento è un sistema che descrive quali caratteristiche sono state selezionate da un’intelligenza artificiale e visualizza anche un punteggio di attribuzione che rappresenta la quantità di influenza che una particolare caratteristica ha sulla previsione finale. Il rapporto di Google sullo strumento fornisce un esempio di previsione di quanto durerà una gita in bicicletta in base a variabili come la pioggia, la temperatura attuale, il giorno della settimana e l’orario di inizio. Dopo che la rete ha preso la decisione, viene fornito un feedback che visualizza quali caratteristiche hanno avuto il maggior impatto sulle previsioni.

Come fornisce questo strumento un feedback simile nel caso dei dati di immagine? In questo caso, lo strumento produce un overlay che evidenzia le aree dell’immagine che hanno pesato maggiormente sulla decisione resa.

Un altro strumento trovato nel toolkit è lo strumento “What-If”, che visualizza le fluttuazioni potenziali delle prestazioni del modello man mano che vengono manipulate le singole caratteristiche. Infine, l’ultimo strumento può essere configurato per fornire risultati di esempio ai revisori umani su una base regolare.

Il dottor Andrew Moore, capo scienziato di Google per l’intelligenza artificiale e l’apprendimento automatico, ha descritto l’ispirazione per il progetto. Moore ha spiegato che circa cinque anni fa la comunità accademica ha iniziato a preoccuparsi dei prodotti nocivi dell’uso dell’intelligenza artificiale e che Google ha voluto assicurarsi che i propri sistemi fossero utilizzati solo in modo etico. Moore ha descritto un incidente in cui l’azienda stava cercando di progettare un programma di visione computerizzata per avvisare i lavoratori edili se qualcuno non indossava un casco, ma si sono preoccupati che il monitoraggio potesse essere portato troppo oltre e diventare deumanizzante. Moore ha detto che c’era una ragione simile per cui Google ha deciso di non rilasciare un’API di riconoscimento facciale generale, poiché l’azienda ha voluto avere più controllo su come veniva utilizzata la propria tecnologia e assicurarsi che venisse utilizzata solo in modo etico.

Moore ha anche evidenziato perché fosse così importante che le decisioni dell’intelligenza artificiale fossero spiegabili:

“Se hai un sistema critico per la sicurezza o una cosa importante per la società che potrebbe avere conseguenze inintenzionali se pensi che il tuo modello abbia fatto un errore, devi essere in grado di diagnosticarlo. Vogliamo spiegare con cura cosa può e cosa non può fare la spiegabilità. Non è una panacea.