Come gli hacker utilizzano l’intelligenza artificiale

L’intelligenza artificiale si è dimostrata una tecnologia che aggiunge valore in tutto il mondo.

Mentre le aziende si sono trovate a dover adattarsi agli eventi correnti negli ultimi anni, alcune di loro hanno trovato modi per comprimere mezzo decennio di trasformazioni digitali in un periodo di tempo molto più breve. Nel caso di Frito-Lay, ad esempio, Harris Poll e Appen hanno scoperto chei budget per l’intelligenza artificiale sono aumentati del 55% durante la pandemia globale.

Come qualsiasi strumento, l’intelligenza artificiale non ha un valore morale intrinseco. La sua utilità o potenziale per il danno dipende da come il sistema “impara” e da cosa gli esseri umani fanno con esso.

Alcuni tentativi di sfruttare l’intelligenza artificiale, come ad esempio “prevedere” i crimini prima che accadano, mostrano che i modelli addestrati con dati pregiudiziali tendono a replicare le carenze umane. Finora, l’addestramento dell’intelligenza artificiale utilizzando dati del sistema giudiziario degli Stati Uniti ha portato a un ragionamento dell’intelligenza artificiale tragicamente pregiudiziale.

In altri esempi, gli esseri umani scelgono modi più deliberati per sfruttare il potenziale distruttivo dell’intelligenza artificiale. Gli hacker stanno mostrando le loro tendenze innovative ancora una volta utilizzando l’intelligenza artificiale per migliorare la portata, l’efficacia e la redditività dei loro attacchi. E poiché laguerra cibernetica diventa sempre più comune in tutto il mondo, sicuramente vedremo le applicazioni dell’intelligenza artificiale nel hacking svilupparsi ulteriormente.

L’intelligenza artificiale è un’opportunità e un rischio

L’intelligenza artificiale offre un mondo di possibilità per le aziende che desiderano migliorare la previsione, l’ottimizzazione aziendale e le strategie di fidelizzazione dei clienti. È anche un tesoro per coloro che intendono compromettere la sovranità digitale altrui.

Ecco alcuni modi in cui l’intelligenza artificiale può essere suscettibile a manipolazioni discrete e a sforzi più ovvi per rivolgerla verso azioni aggressive.

1. Compromettere la logica della macchina

Il principale vantaggio dell’intelligenza artificiale per i consumatori e le imprese è che esegue atti di logica prevedibili e ripetibili senza interferenza umana. Questo è anche il suo più grande punto debole.

Come qualsiasi altro costrutto digitale, l’intelligenza artificiale può essere suscettibile a penetrazione da parte di forze esterne. Gli hacker che accedono e compromettono la logica della macchina che alimenta l’intelligenza artificiale potrebbero farla eseguire azioni imprevedibili o dannose. Ad esempio, un’intelligenza artificiale incaricata di monitorare le condizioni industriali potrebbe fornire letture false o non consegnare i segnali di manutenzione.

Poiché l’intero punto degli investimenti in intelligenza artificiale è quello di eliminare l’intervento umano e il secondo-guessing dei risultati, il danno all’infrastruttura o alla qualità del prodotto causato da un attacco di questo tipo potrebbe non essere notato fino a quando non si verifichi un fallimento catastrofico.

2. Utilizzare algoritmi di reverse engineering

Un’altra possibile via per il danno – soprattutto dove sono coinvolti la proprietà intellettuale (IP) e i dati dei consumatori o commerciali – è il concetto di reverse engineering. Gli hacker potrebbero rubare il codice dell’intelligenza artificiale stessa. Con il tempo sufficiente per studiare come funziona, potrebbero eventualmente scoprire i set di dati utilizzati per addestrare l’intelligenza artificiale in primo luogo.

Ciò potrebbe provocare diversi risultati, il primo dei quali è l’avvelenamento dell’intelligenza artificiale. Altri esempi potrebbero coinvolgere gli hacker che sfruttano i dati di addestramento dell’intelligenza artificiale stessa per ottenere informazioni compromettenti sui mercati, i concorrenti, i governi, i fornitori o i consumatori in generale.

3. Imparare dagli obiettivi intesi

Sorvegliare gli obiettivi è probabilmente una delle implicazioni più inquietanti dell’intelligenza artificiale che cade nelle mani degli hacker. La capacità dell’intelligenza artificiale di trarre conclusioni su una persona, le sue capacità, le aree di conoscenza, il temperamento e la probabilità di essere vittima di targeting, frode o abuso è particolarmente preoccupante per alcuni esperti di sicurezza informatica.

L’intelligenza artificiale può ingerire e raggiungere conclusioni sorprendentemente dettagliate su persone, team e gruppi in base a alcuni dei punti di dati più improbabili. Un individuo “coinvolto” o “distratto” potrebbe digitare rapidamente, giocherellare con il mouse o spostarsi rapidamente tra le schede del browser. Un utente che è “confuso” o “esitante” potrebbe esitare prima di fare clic sugli elementi della pagina o visitare più volte siti web.

Nelle mani giuste, segnali come questi aiutano i dipartimenti delle risorse umane a migliorare l’engagement degli dipendenti o aiutano i team di marketing a perfezionare i loro siti web e i loro canali di vendita.

Per gli hacker, segnali come questi potrebbero risultare in un profilo psicologico sorprendentemente sfumato di un obiettivo inteso. I cybercriminali potrebbero essere in grado di dire, sulla base di indizi invisibili agli esseri umani, quali persone potrebbero essere vulnerabili a phishing, smishing, ransomware, frode finanziaria e altri tipi di danni. Potrebbe anche aiutare gli attori malintenzionati a imparare come convincere le loro vittime che i loro tentativi di frode provengono da fonti legittime.

4. Sonde delle vulnerabilità di rete

I professionisti della sicurezza informatica hanno pubblicato dati su20.175 vulnerabilità di sicurezza note nel 2021. Ciò rappresenta un aumento rispetto al 2020, quando ce n’erano 17.049.

Il mondo diventa sempre più interconnesso digitalmente – alcuni direbbero interdipendente – di ora in ora. Il mondo ospita ora un numero sbalorditivo di reti di piccola e grande scala, con miliardi di dispositivi connessi online e molti altri in arrivo. Tutto è online, dalle condizioni di monitoraggio ai software di pianificazione aziendale.

L’intelligenza artificiale mostra promesse nell’aiutare i team di sicurezza informatica a sonde per le vulnerabilità di rete, software e hardware più rapidamente di quanto potrebbero fare gli esseri umani da soli. La velocità e la portata della crescita dell’infrastruttura digitale del pianeta rendono quasi impossibile cercare trilioni di linee di codice per gli exploit di sicurezza da patchare. Tutto ciò deve avvenire mentre questi sistemi sono online a causa del costo del downtime.

Se l’intelligenza artificiale è uno strumento di sicurezza informatica qui, è anche una spada a doppio taglio. Gli hacker possono utilizzare gli stessi meccanismi del “white hat” IT per eseguire lo stesso lavoro: sonde per le vulnerabilità di rete, software e firmware più efficientemente di quanto possano fare gli specialisti IT umani.

Una corsa agli armamenti digitali

Ci sono troppi esempi di applicazioni dell’intelligenza artificiale nel cybercrimine per elencarli tutti, ma ecco alcuni altri:

• Gli hacker potrebbero nascondere il codice dell’intelligenza artificiale all’interno di un’applicazione altrimenti benigna che esegue un comportamento dannoso quando rileva un determinato trigger o soglia.
• I modelli di intelligenza artificiale dannosi potrebbero essere utilizzati per determinare le credenziali o le funzionalità di gestione IT monitorando l’input biometrico, come le impronte digitali e il riconoscimento vocale.
• Anche se un tentativo di attacco informatico alla fine fallisce, gli hacker dotati di intelligenza artificiale potrebbero essere in grado di utilizzare l’apprendimento automatico per determinare cosa è andato storto e cosa potrebbero fare diversamente la prossima volta.

Sembra che sia bastata una storia ben posizionata su hacking di una jeep mentre è in movimento per rallentare lo sviluppo dei veicoli autonomi. Un hack di alto profilo in cui l’intelligenza artificiale agisce come perno potrebbe causare un’erosione simile nell’opinione pubblica. Alcuni sondaggi mostrano che l’americano medio è molto scettico sui benefici dell’intelligenza artificiale già.

Il calcolo onnipresente comporta rischi per la sicurezza informatica – e sia gli hacker “white hat” che quelli “black hat” lo sanno. L’intelligenza artificiale può aiutare a mantenere le nostre vite online sicure, ma è anche l’epicentro di una nuova corsa agli armamenti digitali.