Gli esperti di intelligenza artificiale classificano Deepfakes e altri 19 crimini basati sull’intelligenza artificiale per livello di pericolo

Un nuovo rapporto pubblicato dall’University College London ha lo scopo di identificare i molti modi in cui l’intelligenza artificiale potrebbe potenzialmente assistere i criminali nei prossimi 15 anni. Il rapporto ha chiesto a 31 diversi esperti di intelligenza artificiale di valutare 20 diversi metodi di utilizzo dell’intelligenza artificiale per commettere crimini e di classificarli in base a vari fattori. Gli esperti di intelligenza artificiale hanno classificato i crimini in base a variabili come la facilità con cui il crimine potrebbe essere commesso, il danno potenziale per la società, la quantità di denaro che un criminale potrebbe guadagnare e la difficoltà di fermare il crimine. Secondo i risultati del rapporto, le Deepfakes rappresentano la minaccia più grande per i cittadini onesti e la società in generale, poiché il loro potenziale di sfruttamento da parte di criminali e terroristi è alto.

Gli esperti di intelligenza artificiale hanno classificato le Deepfakes al primo posto nella lista delle minacce potenziali dell’intelligenza artificiale perché sono difficili da identificare e contrastare. Le Deepfakes stanno costantemente migliorando la loro capacità di ingannare anche gli occhi degli esperti di Deepfakes e anche altri metodi di rilevamento basati sull’intelligenza artificiale sono spesso inaffidabili. In termini di capacità di danno, le Deepfakes possono essere facilmente utilizzate da attori malintenzionati per discreditare figure fidate e esperte o per tentare di truffare le persone fingendosi persone care o altre figure fidate. Se le Deepfakes sono abbondanti, le persone potrebbero iniziare a perdere fiducia in qualsiasi tipo di media audio o video, il che potrebbe portarle a perdere fiducia nella validità di eventi e fatti reali.

Il dottor Matthew Caldwell, del Dipartimento di Informatica dell’UCL, è stato il primo autore del documento. Caldwell sottolinea il crescente pericolo delle Deepfakes man mano che sempre più attività si spostano online. Come riportato da UCL News:

“A differenza di molti crimini tradizionali, i crimini nel regno digitale possono essere facilmente condivisi, ripetuti e addirittura venduti, consentendo ai criminali di commercializzare le loro tecniche e di offrire il crimine come un servizio. Ciò significa che i criminali potrebbero essere in grado di esternalizzare gli aspetti più impegnativi del loro crimine basato sull’intelligenza artificiale.”

Il team di esperti ha classificato cinque altre tecnologie emergenti dell’intelligenza artificiale come potenziali catalizzatori di nuovi tipi di crimine: veicoli senza guidatore utilizzati come armi, attacchi informatici a sistemi e dispositivi controllati dall’intelligenza artificiale, raccolta di dati online per scopi di ricatto, phishing basato sull’intelligenza artificiale con messaggi personalizzati e notizie false/informazioni generiche.

Secondo Shane Johnson, il direttore del Dawes Centre for Future Crimes dell’UCL, l’obiettivo dello studio era identificare le possibili minacce associate a tecnologie emergenti e ipotizzare modi per anticipare queste minacce. Johnson afferma che man mano che la velocità del cambiamento tecnologico aumenta, è fondamentale “anticipare le minacce criminali future in modo che i responsabili delle decisioni e altri soggetti interessati possano agire prima che si verifichino nuove ‘raccolti di crimine’”.

Per quanto riguarda gli altri 14 possibili crimini nella lista, sono stati suddivisi in due categorie: preoccupazione moderata e preoccupazione bassa.

I crimini basati sull’intelligenza artificiale di preoccupazione moderata includono l’uso improprio di robot militari, l’avvelenamento dei dati, i droni di attacco automatizzati, gli attacchi informatici basati sull’apprendimento, gli attacchi di negazione del servizio per le attività online, la manipolazione dei mercati finanziari/azionari, l’olio di serpente (vendita di servizi fraudolenti mascherati da terminologia di intelligenza artificiale/machine learning) e l’inganno del riconoscimento facciale.

I crimini basati sull’intelligenza artificiale di preoccupazione bassa includono la falsificazione di opere d’arte o musica, lo stalking assistito dall’intelligenza artificiale, le recensioni false scritte dall’intelligenza artificiale, l’evasione dei metodi di rilevamento dell’intelligenza artificiale e i “bot dei ladri” (bot che entrano nelle case delle persone per rubare oggetti).

Naturalmente, i modelli di intelligenza artificiale possono essere utilizzati per aiutare a combattere alcuni di questi crimini. Recentemente, i modelli di intelligenza artificiale sono stati utilizzati per aiutare a rilevare gli schemi di riciclaggio di denaro, rilevando transazioni finanziarie sospette. I risultati sono analizzati da operatori umani che poi approvano o rifiutano l’allarme, e il feedback viene utilizzato per migliorare ulteriormente il modello. È probabile che il futuro coinvolgerà intelligenze artificiali contrapposte, con i criminali che cercano di progettare gli strumenti più efficaci assistiti dall’intelligenza artificiale e la sicurezza, le forze dell’ordine e altri progettisti di intelligenza artificiale etici che cercano di progettare i migliori sistemi di intelligenza artificiale.