Avvelenamento dei dati: esiste una soluzione?

I set di dati sono la base per l’intelligenza artificiale. I dati consentono all’intelligenza artificiale di prendere decisioni e analizzare tendenze perché hanno numerosi punti di riferimento per il ragionamento deduttivo. Tuttavia, l’avvelenamento dei dati è entrato nella scena della sicurezza informatica per rovinare gli algoritmi di intelligenza artificiale nel tentativo di sabotare il lavoro che gli esseri umani hanno fatto per perfezionare la loro accuratezza.

Poiché l’avvelenamento dei dati è un fenomeno relativamente nuovo, qualcuno ha già inventato una soluzione per combatterlo? I metodi di sicurezza informatica tradizionali possono essere utilizzati per creare difese mentre gli analisti si adattano?

Cosa è l’avvelenamento dei dati?

L’avvelenamento dei dati si verifica quando gli hacker alimentano con successo i dati all’intelligenza artificiale per creare vulnerabilità. L’intelligenza artificiale non può prevedere con accuratezza se i set di dati sono corrotti – è così che le email di spam vengono contrassegnate come degne di essere lette e il tuo feed di raccomandazioni di Netflix si confonde dopo che hai consentito ai tuoi amici di utilizzare il tuo account.

A volte ciò accade perché l’intelligenza artificiale e l’apprendimento automatico non hanno avuto abbastanza tempo per svilupparsi. A volte, nel caso dell’avvelenamento dei dati, è perché gli hacker alimentano i modelli di intelligenza artificiale con informazioni curate che beneficiano la loro causa e distorcono la logica della tua intelligenza artificiale addestrata.

I modelli di intelligenza artificiale per le aziende possono fare tutto, dall’analizzare i rapporti alla risposta automatica ai clienti in tempo reale. La maggior parte dell’intelligenza artificiale partecipa all’apprendimento attivo per ottenere più dati mentre i lavoratori umani svolgono compiti regolari. A questo stadio, non sarebbe difficile approfittare di sistemi in via di sviluppo mentre ancora mancano di informazioni.

Quanto è efficace l’avvelenamento dei dati?

Se le email pericolose che contengono truffe di phishing appaiono nella tua casella di posta con un linguaggio affidabile e una firma convincente, è facile dare accidentalmente le tue informazioni.

Alcuni suggeriscono che l’avvelenamento dei dati potrebbe essere stato ispirato da come gli hacker tradizionalmente approfittano della mancanza di formazione degli dipendenti nelle pratiche di sicurezza informatica. Se l’intelligenza artificiale di un’azienda è ancora in fase di sviluppo o non è stata addestrata, allora è altrettanto facile da sfruttare come se fosse un dipendente che risponde inconsapevolmente a un’email di phishing.

Il motivo per cui l’avvelenamento dei dati è efficace è che sfrutta la mancanza di consapevolezza. Diventa versatile nell’aspetto e nell’esecuzione attraverso:

• Riscrivendo le tendenze linguistiche di un chatbot per farlo parlare in modo diverso o utilizzare un linguaggio offensivo
• Convincendo gli algoritmi a credere che determinate aziende stiano eseguendo male
• Campionando virus contro difese antivirali per convincere che i file sicuri siano dannosi

Questi sono solo alcuni esempi di utilizzi di intelligenza artificiale e di come l’avvelenamento possa interrompere le operazioni. Poiché i modelli di intelligenza artificiale apprendono skill set diversi per diversi tipi di implementazioni, i modi in cui gli hacker possono avvelenarli sono tanto vasti quanto i loro utilizzi. Ciò significa che le soluzioni per curarli potrebbero essere altrettanto estese.

Quanto è grande la minaccia?

Aziende come Fortnite e WhatsApp hanno avuto informazioni utente compromesse a causa di sistemi di sicurezza scadenti. L’intelligenza artificiale potrebbe essere l’ingrediente mancante necessario per rafforzare la sicurezza, ma potrebbe anche invitare gli hacker a avvelenare i dati mentre impara, portando a violazioni ancora peggiori.

Gli impatti dell’intelligenza artificiale avvelenata sono gravi. Immagina di poter eludere le misure di sicurezza di una rete con un semplice input. Un’intelligenza artificiale avvelenata sovverte la difesa di intelligenza artificiale di un’azienda, lasciando possibilità agli hacker di colpire. Una volta che l’intelligenza artificiale dell’hacker controlla abbastanza le difese, eseguire un attacco è facile come camminare attraverso la porta d’ingresso.

Poiché questa è una minaccia relativamente nuova nel mondo della sicurezza informatica, gli analisti stanno creando più soluzioni mentre la minaccia si rafforza.

Lo scudo più importante contro l’avvelenamento dei dati è una solida infrastruttura di sicurezza informatica. Educare se stessi, sia che siate un dipendente di un’azienda o che gestiate la vostra attività come imprenditore, è la nostra migliore difesa.

Ci sono diverse opzioni per proteggere la vostra intelligenza artificiale dall’avvelenamento mentre nuove soluzioni continuano ad arrivare:

• Mantenere la manutenzione regolare: Eseguire controlli sui dati nei modelli che utilizzate. Assicurarsi che le informazioni intenzionalmente alimentate all’intelligenza artificiale siano ancora lì, non interrotte da inserimenti casuali che altrimenti l’avvelenerebbero.
• Scegliere con cura i dati: Essere cauti dal momento in cui create il vostro modello di intelligenza artificiale. Assicurarsi che tutto ciò che è archiviato in esso sia rilevante e non così compromettente da rendere facile il lavoro dell’hacker per sradicare i vostri file.
• Eseguire test aggressivi: Test di penetrazione sui modelli di intelligenza artificiale – eseguire attacchi informatici simulati – potrebbe rilevare lacune nelle vostre difese informatiche.

Nonostante nuove minacce appaiano apparentemente ogni settimana, è vitale non dimenticare le misure di sicurezza – come la buona crittografia e i framework di zero-trust – che sono state create in precedenza per proteggere gli asset mentre appaiono nuove e emergenti minacce. Implementare queste strategie sarà ancora utile, anche se una nuova minaccia entra in una rete.

Esiste una soluzione per l’avvelenamento dei dati?

Ogni nuova stirpe di attività criminale informatica fornisce un’opportunità agli analisti, ai datori di lavoro e agli appassionati di speculare sulle tendenze. Sebbene forse non ci sia una soluzione universale per la crescente minaccia dell’avvelenamento dei dati adesso, ogni recente attacco fornisce un’idea tattica degli hacker, dando un vantaggio ai difensori.

Utilizzare questi momenti per prepararsi invece di preoccuparsi consentirà di creare soluzioni più efficaci e di utilizzare produttivamente le risorse per proteggere quanti più dati possibile.