Come i Criminali Stanno Vincono la Corsa agli Armamenti dell’Intelligenza Artificiale Prima che le Imprese Possano Iniziare

In un’era in cui l’intelligenza artificiale trasforma le industrie a un ritmo senza precedenti, il lato oscuro di questa rivoluzione tecnologica è altrettanto allarmante. Mentre le imprese corrono per sfruttare il potenziale dell’intelligenza artificiale, i cybercriminali stanno sfruttando questi progressi, modificando la dinamica della criminalità informatica e della frode.

Modificare l’Economia della Criminalità Informatica e della Frode

I cybercriminali utilizzano gli stessi modelli di intelligenza artificiale e tecnologie che le imprese utilizzano, spesso adattandoli entro pochi giorni dalla loro uscita. Uno dei primi esempi di tale abuso è stato l’automazione della risoluzione di CAPTCHA utilizzando ChatGPT-1, che ha dimostrato come i modelli generativi possano bypassare i controlli di sicurezza di base.

Da allora, ogni importante innovazione nell’intelligenza artificiale generativa è stata rapidamente imitata da adattamenti criminali, tra cui la generazione di voci e video deepfake che appaiono quasi immediatamente su piattaforme darknet. Questo ciclo accelerato consente ai truffatori di sfruttare tecnologie sofisticate per creare truffe convincenti, minando le misure di sicurezza tradizionali.

Nel primo trimestre del 2025, le truffe abilitate da deepfake hanno causato più di $200 milioni di perdite finanziarie. La redditività della criminalità informatica è schizzata alle stelle, con piattaforme che offrono “truffe come servizio” che rendono più facile che mai per i criminali eseguire schemi complessi, tra cui identità sintetiche e kit di phishing avanzati.

Mentre le imprese lottano per ampliare le loro capacità di intelligenza artificiale, i criminali stanno correndo avanti, innovando continuamente e sfruttando le lacune lasciate da framework di sicurezza obsoleti.

Perché i Framework di Sicurezza e Fiducia Legacy Falliscono contro gli Attori Potenziati dall’Intelligenza Artificiale

Le tradizionali misure di sicurezza che un tempo offrivano una certa protezione si stanno rivelando inadeguate. I sistemi legacy, che si basano su blacklist, CAPTCHA e autenticazione a singolo fattore, non sono in grado di combattere il paesaggio in evoluzione degli attacchi guidati dall’intelligenza artificiale. I criminali utilizzano deepfake che possono ingannare i scanner biometrici e identità sintetiche che possono facilmente bypassare i protocolli KYC.

Questo fallimento è aggravato dal fatto che molte organizzazioni trattano ancora la sicurezza come un centro di costo piuttosto che come un componente critico dell’infrastruttura. Mentre il Pentagono investe milioni per assumere hacker di intelligenza artificiale, il divario tecnologico diventa evidente. Mentre le imprese sono impegnate in un teatro di conformità, i criminali stanno sfruttando l’intelligenza artificiale per sfruttare le vulnerabilità umane, come gli attacchi di phishing che mimano le comunicazioni dei dirigenti.

Cosa Sono gli Attacchi “Nativi dell’Intelligenza Artificiale” nella Pratica

Le moderne tattiche di frode sono evolute ben oltre gli schemi di phishing del passato. Gli attaccanti costruiscono catene di frode elaborate che appaiono legittime a ogni passaggio.

Immagina una mattina corporativa familiare. Martedì, 9:43. Un CFO riceve un’e-mail contrassegnata come “urgente”, che sembra provenire dal CEO. Il tono è familiare. Il linguaggio corrisponde alle richieste precedenti. Un messaggio di follow-up arriva pochi minuti dopo su un canale diverso, rafforzando l’urgenza. Alle 11:00, un trasferimento di denaro di diversi milioni di dollari è approvato, ma successivamente scoperto essere stato dirottato su un conto offshore controllato dagli attaccanti.

Questi attacchi nativi dell’intelligenza artificiale sono manipolazioni psicologiche che sfruttano la fiducia e l’autorità. La sofisticazione di tali operazioni evidenzia una lacuna nelle misure di sicurezza esistenti, che non possono rilevare le anomalie comportamentali sottili che caratterizzano la moderna frode.

Cosa le Imprese Dovrebbero Realisticamente Priorizzare Prima di Distribuire Altri Internamente l’Intelligenza Artificiale

Prima di distribuire altra intelligenza artificiale all’interno, le imprese devono fare una pausa e rivedere le loro ipotesi sulla fiducia. L’accelerazione della criminalità abilitata dall’intelligenza artificiale ha esposto una debolezza strutturale: le organizzazioni stanno ancora difendendo contro le minacce di ieri, mentre gli attacchi di oggi sono progettati per apparire legittimi per default.

1. Le Imprese Devono Rivedere Come la Stessa è Definita il Rischio.

Le tradizionali matrici di rischio erano costruite intorno a fallimenti come guasti del sistema, violazioni dei dati, violazioni delle politiche. Nell’era dell’intelligenza artificiale, il rischio deriva sempre più dalla simulazione piuttosto che dal malfunzionamento. Invece di chiedersi “cosa potrebbe andare storto”, è più appropriato chiedersi “cosa può essere convincentemente contraffatto, su larga scala, più velocemente di quanto possiamo reagire”.

Le identità sintetiche, l’impersonificazione degli esecutivi e le narrazioni generate dall’intelligenza artificiale si comportano diversamente dalle minacce legacy: si diffondono più velocemente, si confondono con l’attività legittima e sfruttano la fiducia piuttosto che le lacune tecniche. Non sorprendentemente, questi rischi tendono a classificarsi più in alto e a materializzarsi più spesso dei loro predecessori non legati all’intelligenza artificiale, nascondendosi all’interno della sicurezza informatica, della frode, del rischio di reputazione o della conformità.

2. Le Organizzazioni Devono Accettare che la Prevenzione da Sola non è più Sufficiente.

Le principali imprese ora mappano i rischi dell’intelligenza artificiale su tre strati difensivi, che corrispondono all’architettura modulare di AI Defender:

• Prevenzione del Rischio – che ora include l’anticipazione di attacchi che sfruttano la fiducia umana e il contenuto generato dall’intelligenza artificiale, e non solo il blocco di minacce note.
• Verifica dell’identità consapevole dell’intelligenza artificiale
• Integrità della sessione e del dispositivo
• Protezione della comunicazione esecutiva
• Rilevamento e Monitoraggio delle Minacce combina l’analisi delle anomalie tecniche con il monitoraggio comportamentale e dei media, riflettendo il fatto che molti attacchi nativi dell’intelligenza artificiale si manifestano in modelli di comunicazione piuttosto che nel codice.
• Monitoraggio continuo per segnali e anomalie
• Rilevamento di intelligenza artificiale vs intelligenza artificiale
• Monitoraggio della narrazione e dei media
• Indagine e Attribuzione – concentrandosi sulla ricostruzione degli eventi, attribuzione dell’intento e produzione di prove azionabili, consentendo alle organizzazioni di rispondere efficacemente anche quando l’inganno si diffonde più velocemente delle loro difese iniziali.
• Spiegazione degli avvisi di intelligenza artificiale
• Attribuzione dell’attività sospetta
• Prove di OSINT di livello di prova

3. Le Imprese Devono Affrontare la Dimensione Umana della Frode Nativa dell’Intelligenza Artificiale.

I dipendenti rimangono il principale punto di ingresso per gli attacchi moderni, ma la natura dello sfruttamento è cambiata. Un modello comune osservato sempre più spesso nella frode guidata dall’intelligenza artificiale coinvolge interazioni interne piuttosto che attacchi esterni. I dipendenti potrebbero ricevere brevi chiamate video da ciò che sembra essere il reparto HR, chiedendo di “verificare rapidamente l’identità” per risolvere un problema di stipendio. Il viso, la voce e il branding appaiono autentici. La richiesta in sé sembra innocua, ma consente in seguito il takeover dell’account.

Questo tipo di scenario illustra perché la frode potenziata dall’intelligenza artificiale sfrutta il contesto, l’autorità e il timing, spesso mimando la comunicazione esecutiva con precisione inquietante. In questo ambiente, la formazione sulla sicurezza tradizionale rischia di diventare poco più di un teatro di conformità, offrendo rassicurazione senza vera resilienza.

La sfida non risiede solo nella consapevolezza, ma nel modo in cui il problema è inquadrato.

Riformulare il Problema (questo è il passo zero)

Vecchio modello mentale: “Addestrare i dipendenti a non fare errori.”

Nuovo modello mentale: “Supporre che i dipendenti saranno presi di mira, manipolati e utilizzati come arma.”

La formazione non è educazione.

La formazione è inoculazione + memoria muscolare.

Visto attraverso questa lente, cosa i team devono essere addestrati a riconoscere i modelli di frode ricorrenti.

I 5 vettori di frode dell’intelligenza artificiale dominanti che passano attraverso i dipendenti – nessuno di questi è fermato da poster di consapevolezza:

4. Le Organizzazioni Devono Rivedere Cosa Significa “Identità” in un Mondo di Realtà Sintetica.

Mentre le voci e i video deepfake minano la fiducia biometrica, nessun singolo fattore può provare in modo affidabile l’autenticità. La resilienza deriva sempre più dall’accumulo di molti segnali deboli nel tempo, come il contesto, la continuità e la coerenza tra dispositivi, sessioni e punti di dati esterni.

I dati aperti ed esterni, che erano a lungo trattati come secondari, stanno guadagnando importanza strategica. Quando combinati con i segnali comportamentali interni, aiutano a rispondere a una domanda critica: questo identità o azione ha senso attraverso i contesti? In un mondo in cui quasi tutto può essere fabbricato, la coerenza diventa una delle poche ancore di fiducia rimaste.