I ricercatori ritengono che l’IA possa essere utilizzata per aiutare a proteggere la privacy delle persone

Due professori di scienze dell’informazione hanno recentemente pubblicato un articolo su The Conversation, sostenendo che l’IA potrebbe aiutare a preservare la privacy delle persone, risolvendo alcuni dei problemi che essa stessa ha creato.

Zhiyuan Chen e Aryya Gangopadhyay sostengono che gli algoritmi di intelligenza artificiale potrebbero essere utilizzati per difendere la privacy delle persone, contrastando alcune delle numerose preoccupazioni sulla privacy create da altri utilizzi dell’IA. Chen e Gangopadhyay riconoscono che molti dei prodotti basati su IA che utilizziamo per comodità non funzionerebbero senza l’accesso a grandi quantità di dati, il che a prima vista sembra in contrasto con i tentativi di preservare la privacy. Inoltre, poiché l’IA si diffonde in sempre più settori e applicazioni, verranno raccolti e archiviati più dati, rendendo più allettanti le violazioni di quei database. Tuttavia, Chen e Gangopadhyay ritengono che, se utilizzata correttamente, l’IA possa aiutare a mitigare questi problemi.

Chen e Gangopadhyay spiegano nel loro articolo che i rischi per la privacy associati all’IA provengono da almeno due fonti diverse. La prima fonte è costituita dai grandi set di dati raccolti per addestrare i modelli di reti neurali, mentre la seconda minaccia per la privacy è costituita dai modelli stessi. I dati possono potenzialmente “perdere” questi modelli, con il comportamento dei modelli che rivela dettagli sui dati utilizzati per addestrarli.

Le reti neurali profonde sono composte da多 strati di neuroni, con ogni strato connesso agli strati circostanti. I singoli neuroni, così come i collegamenti tra neuroni, codificano per diversi bit dei dati di addestramento. Il modello può risultare troppo bravo nel ricordare i modelli dei dati di addestramento, anche se il modello non è sovradimensionato. Tracce dei dati di addestramento esistono all’interno della rete e gli attori malintenzionati possono essere in grado di accertare aspetti dei dati di addestramento, come ha scoperto l’Università di Cornell in uno dei loro studi. I ricercatori di Cornell hanno scoperto che gli algoritmi di riconoscimento facciale possono essere sfruttati dagli attaccanti per rivelare quali immagini, e quindi quali persone, sono state utilizzate per addestrare il modello di riconoscimento facciale. I ricercatori di Cornell hanno scoperto che anche se un attaccante non ha accesso al modello originale utilizzato per addestrare l’applicazione, l’attaccante può comunque essere in grado di sondare la rete e determinare se una persona specifica è stata inclusa nei dati di addestramento semplicemente utilizzando modelli addestrati con dati molto simili.

Alcuni modelli di IA sono attualmente utilizzati per proteggere contro le violazioni dei dati e cercare di garantire la privacy delle persone. I modelli di IA vengono frequentemente utilizzati per rilevare i tentativi di hacking riconoscendo i modelli di comportamento che gli hacker utilizzano per penetrare i metodi di sicurezza. Tuttavia, gli hacker spesso cambiano il loro comportamento per cercare di ingannare l’IA che rileva i modelli.

Metodi nuovi di addestramento e sviluppo dell’IA mirano a rendere i modelli di IA e le applicazioni meno vulnerabili ai metodi di hacking e alle tattiche di evasione della sicurezza. L’apprendimento avversario cerca di addestrare i modelli di IA su simulazioni di input dannosi o pericolosi e, facendo ciò, rende il modello più robusto allo sfruttamento, da cui il termine “avversario” nel nome. Secondo Chen e Gangopadhyay, la loro ricerca ha scoperto metodi per combattere il malware progettato per rubare informazioni private delle persone. I due ricercatori hanno spiegato che uno dei metodi che hanno trovato più efficace per resistere al malware è stato l’introduzione di incertezza nel modello. L’obiettivo è rendere più difficile per gli attori malintenzionati prevedere come il modello reagirà a un determinato input.

Altri metodi di utilizzo dell’IA per proteggere la privacy includono la minimizzazione dell’esposizione dei dati quando il modello viene creato e addestrato, nonché la ricerca per scoprire le vulnerabilità della rete. Quando si tratta di preservare la privacy dei dati, l’apprendimento federato può aiutare a proteggere la privacy dei dati sensibili, poiché consente di addestrare un modello senza che i dati di addestramento lascino mai i dispositivi locali che contengono i dati, isolando i dati e molti dei parametri del modello dalla sorveglianza.

Infine, Chen e Gangopadhyay sostengono che, sebbene la diffusione dell’IA abbia creato nuove minacce per la privacy delle persone, l’IA può anche aiutare a proteggere la privacy quando progettata con cura e considerazione.