Come gli hacker stanno utilizzando l’intelligenza artificiale

L’AI si è dimostrata una tecnologia che aggiunge valore in tutta l’economia globale.

Mentre le aziende si trovavano a dover adattarsi agli eventi correnti negli ultimi anni, alcune di loro hanno trovato modi per comprimere una quantità di trasformazioni digitali di mezzo decennio – nel caso di Frito-Lay – in un lasso di tempo molto più breve. Harris Poll e Appen hanno scoperto che i budget per l’AI sono aumentati del 55% durante la pandemia globale.

Come qualsiasi strumento, l’intelligenza artificiale non ha un valore morale innato. L’utilità o il potenziale di danno dell’AI dipende da come il sistema “impara” e da cosa gli esseri umani fanno con esso.

Alcuni tentativi di sfruttare l’AI – come “prevedere” i crimini prima che accadano – mostrano che i modelli addestrati con dati distorti tendono a replicare le carenze umane. Finora, l’addestramento dell’AI utilizzando dati dal sistema giudiziario degli Stati Uniti ha portato a un ragionamento AI tragicamente prevenuto.

In altri esempi, gli esseri umani scelgono modi più deliberati per sfruttare il potenziale distruttivo dell’AI. Gli hacker stanno mostrando le loro tendenze innovative ancora una volta utilizzando l’intelligenza artificiale per migliorare la portata, l’efficacia e la redditività dei loro attacchi. E poiché la guerra cibernetica diventa sempre più comune in tutto il mondo, sicuramente vedremo le applicazioni dell’AI nel hacking svilupparsi ulteriormente.

L’AI è un’opportunità e un rischio

L’intelligenza artificiale offre un mondo di possibilità per le aziende che desiderano migliorare la previsione, l’ottimizzazione aziendale e le strategie di fidelizzazione dei clienti. È anche un tesoro per coloro che intendono compromettere la sovranità digitale degli altri.

Ecco alcuni modi in cui l’intelligenza artificiale può essere suscettibile a manipolazioni discrete e a sforzi più ovvi per rivolgerla verso azioni aggressive.

1. Compromettere la logica della macchina

Il principale vantaggio dell’AI per i consumatori e le imprese commerciali è che esegue atti di logica prevedibili e ripetibili senza interferenza umana. Questo è anche il suo più grande punto debole.

Come qualsiasi altro costrutto digitale, l’AI può essere suscettibile a penetrationi da parte di forze esterne. Gli hacker che accedono e compromettono la logica della macchina che alimenta l’AI potrebbero farla eseguire azioni imprevedibili o dannose. Ad esempio, un’AI incaricata di monitorare le condizioni industriali potrebbe fornire letture false o far passare inosservate le richieste di manutenzione.

Poiché l’intero punto degli investimenti in AI è quello di eliminare l’intervento umano e di mettere in discussione i risultati, il danno alle infrastrutture o alla qualità del prodotto causato da un attacco di questo tipo potrebbe non essere notato fino a quando non si verifichi un fallimento catastrofico.

2. Utilizzare algoritmi di reverse engineering

Un’altra possibile via di danno – soprattutto dove sono coinvolti la proprietà intellettuale (IP) e i dati dei consumatori o commerciali – è la nozione di reverse engineering. Gli hacker potrebbero rubare il codice dell’intelligenza artificiale stesso. Con il tempo sufficiente per studiare come funziona, potrebbero eventualmente scoprire i set di dati utilizzati per addestrare l’AI in primo luogo.

Ciò potrebbe provocare diversi risultati, il primo dei quali è l’avvelenamento dell’AI. Altri esempi potrebbero coinvolgere gli hacker che sfruttano i dati di addestramento dell’AI stesso per ottenere informazioni compromettenti sui mercati, i concorrenti, i governi, i fornitori o i consumatori in generale.

3. Informarsi sugli obiettivi previsti

Sorvegliare gli obiettivi è probabilmente una delle implicazioni più inquietanti dell’AI che cadono nelle mani degli hacker. La capacità dell’AI di trarre conclusioni su una persona, le aree di conoscenza, il temperamento e la probabilità di essere vittima di targeting, frode o abuso sta dimostrando di essere particolarmente preoccupante per alcuni esperti di sicurezza informatica.

L’intelligenza artificiale può ingerire e raggiungere conclusioni sorprendentemente dettagliate su persone, team e gruppi in base a alcuni dei punti di dati più improbabili. Un individuo “impegnato” o “distratto” potrebbe digitare rapidamente, agitare il mouse o spostarsi rapidamente tra le schede del browser. Un utente che è “confuso” o “esitante” potrebbe esitare prima di fare clic sugli elementi della pagina o visitare più volte siti.

In mani giuste, segnali come questi aiutano i dipartimenti delle risorse umane a migliorare l’engagement degli impiegati o aiutano i team di marketing a perfezionare i loro siti web e i loro tunnel di vendita.

Per gli hacker, segnali come questi potrebbero risultare in un profilo psicologico sorprendentemente sfumato di un obiettivo previsto. I cybercriminali potrebbero essere in grado di dire, sulla base di indizi invisibili agli esseri umani, quali persone potrebbero essere vulnerabili a phishing, smishing, ransomware, frode finanziaria e altri tipi di danni. Potrebbe anche aiutare gli attori malintenzionati a imparare come convincere meglio i loro obiettivi che i loro tentativi di frode provengono da fonti legittime.

4. Probing le vulnerabilità della rete

I professionisti della sicurezza informatica hanno pubblicato dati su 20.175 vulnerabilità di sicurezza note nel 2021. Ciò è stato un aumento rispetto al 2020, quando ce n’erano 17.049.

Il mondo diventa sempre più interconnesso digitalmente – alcuni direbbero interdipendente – di ora in ora. Il mondo ospita ora un numero sbalorditivo di reti di piccola e grande scala, con miliardi di dispositivi connessi online e molti altri in arrivo. Tutto è online, dalle condizioni di monitoraggio ai software di pianificazione aziendale.

L’intelligenza artificiale mostra promesse nell’ aiutare i team di sicurezza informatica a sondare rapidamente le vulnerabilità di rete, software e hardware più velocemente di quanto potrebbero fare gli esseri umani da soli. La velocità e la portata della crescita dell’infrastruttura digitale della Terra significano che è quasi impossibile cercare trilioni di linee di codice per gli exploit di sicurezza da patchare. Tutto ciò deve avvenire mentre questi sistemi sono online a causa del costo del downtime.

Se l’AI è uno strumento di sicurezza informatica qui, è anche una spada a doppio taglio. Gli hacker possono utilizzare gli stessi meccanismi del “white hat” IT crowd per eseguire lo stesso lavoro: sondare le reti, il software e il firmware per vulnerabilità più efficientemente di quanto possano fare gli specialisti IT umani.

Una corsa agli armamenti digitali

Ci sono troppe applicazioni dell’AI nel cybercrimine per elencarle tutte, ma ecco alcune altre:

• Gli hacker potrebbero nascondere il codice AI all’interno di un’applicazione altrimenti benigna che esegue un comportamento dannoso quando rileva un trigger o una soglia predefinita.
• I modelli AI maligni possono essere utilizzati per determinare le credenziali o le funzionalità di gestione IT monitorando l’input biometrico, come le impronte digitali e il riconoscimento vocale.
• Anche se un tentativo di attacco cibernetico alla fine fallisce, gli hacker dotati di AI possono essere in grado di utilizzare l’apprendimento automatico per determinare cosa è andato storto e cosa potrebbero fare diversamente la prossima volta.

Sembra che sia bastata una storia ben posizionata su hacking di una jeep mentre è in movimento per rallentare lo sviluppo dei veicoli autonomi. Un hack di alto profilo in cui l’AI agisce come perno potrebbe causare un’erosione simile nell’opinione pubblica. Alcuni sondaggi mostrano che l’americano medio è molto scettico sui benefici dell’AI già.

Il calcolo onnipresente comporta rischi per la sicurezza informatica – e sia gli hacker “white hat” che quelli “black hat” lo sanno. L’AI può aiutare a mantenere le nostre vite online sicure, ma è anche il centro di una nuova corsa agli armamenti digitali.