Comuni assunzioni sui malfunzionamenti del machine learning potrebbero essere sbagliate

I deep neural network sono uno degli aspetti più fondamentali dell’intelligenza artificiale (AI), in quanto vengono utilizzati per elaborare immagini e dati attraverso la modellazione matematica. Sono responsabili di alcuni dei più grandi progressi nel campo, ma possono anche malfunzionare in vari modi. Questi malfunzionamenti possono avere un impatto piccolo o inesistente, come una semplice identificazione errata, o più drammatico e letale, come un malfunzionamento di un veicolo autonomo.

Una nuova ricerca condotta all’Università di Houston suggerisce che le nostre comuni assunzioni su questi malfunzionamenti potrebbero essere sbagliate, il che potrebbe aiutare a valutare l’affidabilità delle reti in futuro.

La ricerca è stata pubblicata su Nature Machine Intelligence nel mese di novembre.

“Esempi avversari”

Il machine learning e altri tipi di intelligenza artificiale sono fondamentali in molti settori e compiti, come i sistemi bancari e di sicurezza. Secondo Cameron Buckner, professore associato di filosofia all’Università di Houston, è necessario comprendere i fallimenti causati da “esempi avversari”. Questi esempi avversari si verificano quando un sistema di reti neurali profonde misgiudica immagini e altri dati quando si confronta con informazioni al di fuori degli input di addestramento utilizzati per sviluppare la rete.

Gli esempi avversari sono rari, poiché spesso vengono creati o scoperti da un’altra rete di machine learning.

“Alcuni di questi eventi avversari potrebbero essere invece artefatti, e dobbiamo conoscerli meglio per sapere quanto sono affidabili queste reti”, ha scritto Buckner.

Buckner afferma che il malfunzionamento potrebbe essere causato dall’interazione tra i modelli reali coinvolti e ciò che la rete si propone di elaborare, il che significa che non è un errore completo.

Modelli come artefatti

“Comprendere le implicazioni degli esempi avversari richiede di esplorare una terza possibilità: che almeno alcuni di questi modelli siano artefatti”, ha detto Buckner. “Pertanto, ci sono attualmente sia costi nel semplicemente scartare questi modelli che pericoli nell’utilizzarli in modo ingenuo”.

Sebbene non sia sempre il caso, il malinteso intenzionale è il rischio più alto riguardo a questi eventi avversari che causano malfunzionamenti del machine learning.

“Significa che attori malintenzionati potrebbero ingannare sistemi che si basano su una rete altrimenti affidabile”, ha detto Buckner. “Ciò ha applicazioni di sicurezza”.

Questo potrebbe essere il caso di hacker che violano un sistema di sicurezza basato sulla tecnologia di riconoscimento facciale o segnali stradali mal etichettati per confondere i veicoli autonomi.

Altre ricerche precedenti hanno dimostrato che alcuni degli esempi avversari sono naturalmente presenti, verificandosi quando un sistema di machine learning interpreta male i dati attraverso un’interazione inaspettata, che è diversa da errori nei dati. Questi esempi naturalmente presenti sono rari e l’unico modo attuale per scoprirli è attraverso l’AI.

Tuttavia, Buckner afferma che i ricercatori devono ripensare il modo in cui affrontano le anomalie.

Queste anomalie, o artefatti, vengono spiegate da Buckner attraverso l’analogia di un riflesso di luce in una fotografia, che non è causato da un difetto nell’obiettivo della macchina fotografica, ma piuttosto dall’interazione della luce con la macchina.

Se si sa come interpretare il riflesso di luce, è possibile estrarre informazioni importanti come la posizione del sole. Per questo, Buckner ritiene che sia possibile estrarre informazioni altrettanto preziose da eventi avversi nel machine learning che sono causati dall’artefatto.

Buckner afferma anche che tutto ciò non significa automaticamente che il deep learning non sia valido.

“Alcuni di questi eventi avversari potrebbero essere artefatti”, ha detto. “Dobbiamo sapere cosa sono questi artefatti per poter sapere quanto sono affidabili le reti”.