Intelligenza Artificiale Generativa nella Sicurezza Informatica: Il Campo di Battaglia, La Minaccia, & Ora La Difesa

Il Campo di Battaglia

Ciò che è iniziato come entusiasmo per le capacità dell’Intelligenza Artificiale Generativa si è rapidamente trasformato in preoccupazione. Gli strumenti di Intelligenza Artificiale Generativa come ChatGPT, Google Bard, Dall-E, ecc. continuano a fare notizie a causa di problemi di sicurezza e privacy. Sta addirittura portando a interrogativi su cosa è reale e cosa non lo è. L’Intelligenza Artificiale Generativa può produrre contenuti estremamente plausibili e quindi convincenti. Così tanto che alla fine di un recente segmento di 60 Minutes su AI, il conduttore Scott Pelley ha lasciato gli spettatori con questa affermazione; “Termineremo con una nota che non è mai apparsa su 60 Minutes, ma una, nella rivoluzione dell’AI, potreste sentire spesso: ciò che precede è stato creato con il 100% di contenuto umano.”

La guerra cibernetica dell’Intelligenza Artificiale Generativa inizia con questo contenuto convincente e realistico e il campo di battaglia è dove gli hacker stanno sfruttando l’Intelligenza Artificiale Generativa, utilizzando strumenti come ChatGPT, ecc. È estremamente facile per i criminali informatici, soprattutto quelli con risorse limitate e zero conoscenze tecniche, eseguire i loro crimini attraverso attacchi di ingegneria sociale, phishing e impersonificazione.

La Minaccia

L’Intelligenza Artificiale Generativa ha il potere di alimentare attacchi informatici sempre più sofisticati.

Poiché la tecnologia può produrre contenuti così convincenti e simili a quelli umani con facilità, nuovi truffe informatiche che sfruttano l’AI sono più difficili da individuare per i team di sicurezza. Le truffe generate dall’AI possono assumere la forma di attacchi di ingegneria sociale come attacchi di phishing multicanale condotti via email e app di messaggistica. Un esempio del mondo reale potrebbe essere un’email o un messaggio che contiene un documento inviato a un dirigente aziendale da un fornitore terzo tramite Outlook (email) o Slack (app di messaggistica). L’email o il messaggio li invita a cliccare su di esso per visualizzare una fattura. Con l’Intelligenza Artificiale Generativa, può essere quasi impossibile distinguere tra un’email o un messaggio falso e uno reale. Ecco perché è così pericoloso.

Uno degli esempi più allarmanti, tuttavia, è che con l’Intelligenza Artificiale Generativa, i criminali informatici possono produrre attacchi in più lingue – indipendentemente dal fatto che il criminale parli effettivamente la lingua. L’obiettivo è gettare una rete ampia e i criminali informatici non discrimineranno le vittime in base alla lingua.

Il progresso dell’Intelligenza Artificiale Generativa segnala che la portata e l’efficienza di questi attacchi continueranno a salire.

La Difesa

La difesa informatica per l’Intelligenza Artificiale Generativa è stata la parte mancante del puzzle. Fino ad ora. Utilizzando la lotta tra macchina e macchina, o contrapponendo l’AI all’AI, possiamo difenderci da questa nuova e crescente minaccia. Ma come dovrebbe essere definita questa strategia e come appare?

Innanzitutto, l’industria deve agire per contrapporre il computer al computer invece che l’uomo al computer. Per portare a termine questo sforzo, dobbiamo considerare piattaforme di rilevamento avanzate che possano rilevare le minacce generate dall’AI, ridurre il tempo necessario per segnalare e il tempo necessario per risolvere un attacco di ingegneria sociale che ha origine dall’Intelligenza Artificiale Generativa. Qualcosa che un essere umano non è in grado di fare.

Abbiamo recentemente condotto un test su come possa apparire. Abbiamo fatto generare a ChatGPT un’email di phishing basata su un linguaggio in più lingue per vedere se una piattaforma di comprensione del linguaggio naturale o una piattaforma di rilevamento avanzata potesse rilevarla. Abbiamo dato a ChatGPT il prompt, “scrivi un’email urgente che invita qualcuno a chiamare per una notifica finale su un accordo di licenza software.” Abbiamo anche comandato di scriverla in inglese e giapponese.

La piattaforma di rilevamento avanzata è stata in grado di segnalare immediatamente le email come un attacco di ingegneria sociale. MA, i controlli di email nativi come la piattaforma di rilevamento del phishing di Outlook non sono riusciti a farlo. Anche prima dell’uscita di ChatGPT, gli attacchi di ingegneria sociale effettuati tramite attacchi conversazionali e basati sul linguaggio si sono rivelati efficaci perché potevano evitare i controlli tradizionali, atterrando nelle caselle di posta senza un link o un payload. Quindi sì, serve una lotta tra macchina e macchina per difendersi, ma dobbiamo anche assicurarci di utilizzare un’artiglieria efficace, come una piattaforma di rilevamento avanzata. Chiunque abbia questi strumenti a disposizione ha un vantaggio nella lotta contro l’Intelligenza Artificiale Generativa.

Quando si tratta della portata e della plausibilità degli attacchi di ingegneria sociale consentiti da ChatGPT e altre forme di Intelligenza Artificiale Generativa, la difesa tra macchina e macchina può anche essere raffinata. Ad esempio, questa difesa può essere schierata in più lingue. Non deve essere limitata solo alla sicurezza delle email, ma può essere utilizzata anche per altri canali di comunicazione come app come Slack, WhatsApp, Teams ecc.

Rimani Vigile

Mentre scorrevo LinkedIn, uno dei nostri dipendenti si è imbattuto in un tentativo di ingegneria sociale dell’Intelligenza Artificiale Generativa. Una strana “whitepaper” di download pubblicitario è apparsa con ciò che può essere descritto generosamente come “bizarro” creativo pubblicitario. Alla più attenta ispezione, il dipendente ha visto un modello di colore caratteristico nell’angolo in basso a destra stampato su immagini prodotte da Dall-E, un modello di AI che genera immagini da prompt testuali.

Incontrare questo falso annuncio LinkedIn è stato un promemoria significativo dei nuovi pericoli di ingegneria sociale che appaiono ora quando accoppiati con l’Intelligenza Artificiale Generativa. È più critico che mai essere vigili e sospettosi.

L’era dell’Intelligenza Artificiale Generativa utilizzata per il crimine informatico è qui, e dobbiamo rimanere vigili e pronti a combattere con ogni strumento a nostra disposizione.