Come gli hacker utilizzano l'intelligenza artificiale

L'intelligenza artificiale ha dimostrato di essere una tecnologia che aggiunge valore all'economia globale.

Mentre le aziende si sono ritrovate a lottare per adattarsi agli eventi attuali negli ultimi anni, alcune di loro hanno trovato il modo di accumulare il valore di mezzo decennio - nel caso di Frito-Lay – delle trasformazioni digitali in un lasso di tempo molto più breve. Harris Poll e Appen lo hanno scoperto I budget AI sono aumentati del 55% durante la pandemia globale.

Come ogni strumento, l'intelligenza artificiale non ha un valore morale innato. L'utilità o il potenziale dannoso dell'IA si riduce al modo in cui il sistema "impara" ea ciò che gli esseri umani alla fine ne fanno.

Alcuni tentativi di sfruttare l'intelligenza artificiale, come la "previsione" del crimine prima che accada, mostrano che i modelli addestrati su dati distorti tendono a replicare le carenze umane. Finora, l'addestramento dell'IA utilizzando i dati del sistema giudiziario statunitense ha avuto risultati tragici ragionamento AI pregiudicato.

In altri esempi, gli esseri umani scelgono modi più deliberati per sfruttare il potenziale distruttivo dell'IA. Gli hacker stanno mostrando ancora una volta le loro tendenze innovative utilizzando l'intelligenza artificiale per migliorare la portata, l'efficacia e la redditività dei loro attacchi. E come la guerra informatica diventa sempre più comune in tutto il mondo, vedremo sicuramente le applicazioni dell'IA nell'hacking svilupparsi ulteriormente.

L'intelligenza artificiale è un'opportunità e un rischio

L'intelligenza artificiale offre un mondo di possibilità per le aziende che desiderano migliorare le strategie di previsione, ottimizzazione aziendale e fidelizzazione dei clienti. È anche una manna per coloro che intendono compromettere la sovranità digitale altrui.

Ecco alcuni modi in cui l'intelligenza artificiale può essere suscettibile di manomissioni discrete e sforzi più evidenti per trasformarla in azioni aggressive.

1. Compromettere la logica della macchina

Il vantaggio principale dell'intelligenza artificiale per i consumatori e le imprese commerciali è che esegue atti logici prevedibili e ripetibili senza interferenze umane. Questa è anche la sua più grande debolezza.

Come qualsiasi altro costrutto digitale, l'IA può essere suscettibile alla penetrazione di forze esterne. Gli hacker che accedono e compromettono la logica della macchina che alimenta l'intelligenza artificiale potrebbero indurla a compiere azioni imprevedibili o dannose. Ad esempio, un'intelligenza artificiale incaricata del monitoraggio delle condizioni industriali potrebbe fornire letture false o lasciare che i ping di manutenzione non vengano consegnati.

Poiché l'intero scopo degli investimenti nell'intelligenza artificiale è eliminare l'intervento umano e i risultati secondari, il danno all'infrastruttura o alla qualità del prodotto causato da un attacco di questa natura potrebbe non essere notato fino a un fallimento catastrofico.

2. Utilizzo di algoritmi di ingegneria inversa

Un'altra potenziale via di danno, in particolare per quanto riguarda la proprietà intellettuale (IP) e i dati dei consumatori o commerciali, è la nozione di ingegneria inversa. Gli hacker possono persino rubare il codice stesso dell'intelligenza artificiale. Con abbastanza tempo per studiare come funziona, alla fine potrebbero scoprire i set di dati utilizzati per addestrare l'intelligenza artificiale in primo luogo.

Ciò potrebbe provocare diversi risultati, il primo dei quali è l'avvelenamento da IA. Altri esempi potrebbero coinvolgere gli hacker che sfruttano gli stessi dati di addestramento dell'IA per raccogliere informazioni compromettenti su mercati, concorrenti, governi, fornitori o consumatori in generale.

3. Informazioni sugli obiettivi previsti

La sorveglianza degli obiettivi è probabilmente una delle implicazioni più inquietanti del fatto che l'IA cada nelle mani degli hacker. La capacità dell'intelligenza artificiale di giungere a conclusioni sulle capacità, le aree di conoscenza, il temperamento e la probabilità di cadere vittima di attacchi, frodi o abusi di una persona si sta dimostrando particolarmente preoccupante per alcuni esperti di sicurezza informatica.

L'intelligenza artificiale può ingerire e raggiungere conclusioni sorprendentemente dettagliate su persone, team e gruppi basati su alcuni dei punti dati più improbabili. Un individuo "impegnato" o "distratto" potrebbe digitare rapidamente, agitarsi con il mouse o spostarsi rapidamente tra le schede del browser. Un utente "confuso" o "titubante" può fare una pausa prima di fare clic sugli elementi della pagina o visitare nuovamente più siti.

Nelle mani giuste, segnali come questi aiutano i dipartimenti delle risorse umane ad aumentare il coinvolgimento dei dipendenti o aiutano i team di marketing a perfezionare i loro siti Web e le canalizzazioni di vendita.

Per gli hacker, segnali come questi potrebbero tradursi in un profilo psicologico sorprendentemente sfumato di un obiettivo prefissato. I criminali informatici potrebbero essere in grado di stabilire, sulla base di suggerimenti invisibili agli esseri umani, quali persone potrebbero essere vulnerabili a phishing, smishing, ransomware, frodi finanziarie e altri tipi di danno. Potrebbe anche aiutare i malintenzionati a imparare il modo migliore per convincere i loro obiettivi che i loro tentativi di frode provengono da fonti legittime.

4. Analisi delle vulnerabilità della rete

I professionisti della sicurezza informatica hanno pubblicato dati su 20,175 vulnerabilità di sicurezza note nel 2021. Questo è stato un aumento rispetto al 2020, quando c'erano 17,049 di tali vulnerabilità.

Il mondo diventa sempre più interconnesso digitalmente – qualcuno direbbe interdipendente – di ora in ora. Il mondo ora ospita un numero vertiginoso di reti su piccola scala e industriali, con miliardi di dispositivi connessi online e altri in arrivo. Tutto è online, dai sensori di monitoraggio delle condizioni al software di pianificazione aziendale.

L'intelligenza artificiale si mostra promettente aiutare rapidamente i team di sicurezza informatica sondare le vulnerabilità di rete, software e hardware più velocemente di quanto potrebbero fare gli umani da soli. La velocità e la portata della crescita dell'infrastruttura digitale della Terra significano che è quasi impossibile cercare trilioni di righe di codice per gli exploit di sicurezza da correggere. Tutto questo deve avvenire mentre questi sistemi sono online a causa del costo dei tempi di inattività.

Se l'intelligenza artificiale è uno strumento di sicurezza informatica qui, è anche un'arma a doppio taglio. Gli hacker possono utilizzare gli stessi meccanismi della folla IT "white hat" per svolgere lo stesso lavoro: sondare reti, software e firmware per le vulnerabilità in modo più efficiente di quanto possano fare gli specialisti IT umani.

Una corsa agli armamenti digitali

Ci sono troppe applicazioni AI nel crimine informatico per citarle tutte, ma eccone qualcuna in più:

• Gli hacker potrebbero nascondere il codice AI all'interno di un'applicazione altrimenti benigna che esegue un comportamento dannoso quando rileva un trigger o una soglia predeterminati.
• I modelli di intelligenza artificiale dannosi possono essere utilizzati per determinare le credenziali o le funzionalità di gestione IT monitorando l'input biometrico, come le impronte digitali e il riconoscimento vocale.
• Anche se un tentativo di attacco informatico alla fine fallisce, gli hacker dotati di intelligenza artificiale potrebbero essere in grado di utilizzare l’apprendimento automatico per determinare cosa è andato storto e cosa potrebbero fare diversamente la prossima volta.

Sembrava che ci volesse solo una storia ben piazzata hackerare una jeep mentre sta guidando per rallentare lo sviluppo di veicoli autonomi a passo d'uomo. Un hack di alto profilo in cui l'intelligenza artificiale funge da fulcro potrebbe causare un'erosione simile nell'opinione pubblica. Alcuni sondaggi mostrano che l'americano medio è altamente dubbioso sui benefici dell'IA già.

Il computing onnipresente comporta rischi per la sicurezza informatica e sia gli hacker white hat che black hat lo sanno. L'intelligenza artificiale può aiutare a proteggere le nostre vite online, ma è anche l'epicentro di una nuova corsa agli armamenti digitali.