David Kellerman, Field CTO di Cymulate – Serie di Interviste

David Kellerman è il Field CTO di Cymulate, e un professionista tecnico senior che si occupa di customer-facing nel campo della sicurezza informatica e cibernetica. David aiuta i clienti a raggiungere il successo e gli standard di sicurezza elevati.

Cymulate è una società di sicurezza informatica che fornisce la validazione dell’esposizione alle minacce per le organizzazioni che cercano di chiudere le lacune di sicurezza prima che gli attaccanti le sfruttino. La sua piattaforma consente alle organizzazioni di valutare la loro postura di sicurezza e rafforzare la resilienza cibernetica attraverso la scoperta continua, la validazione, la priorità e la rimozione guidata delle debolezze di sicurezza. Attraverso l’automazione e l’intelligenza artificiale, Cymulate offre test di sicurezza offensiva avanzati per validare i controlli, le minacce e i percorsi di attacco. In quanto piattaforma aperta, Cymulate si integra con l’infrastruttura di sicurezza e IT esistente per guidare il flusso di lavoro del processo di gestione dell’esposizione e migliorare le difese in tempo reale. Offrendo la simulazione di attacco e violazione (BAS), la gestione dell’esposizione e la gestione della postura di sicurezza, Cymulate aiuta le aziende a identificare le vulnerabilità.

Qual è il principale fattore che sta dietro l’aumento delle minacce di sicurezza informatica legate all’intelligenza artificiale nel 2025?

Le minacce di sicurezza informatica legate all’intelligenza artificiale stanno aumentando a causa della maggiore accessibilità dell’intelligenza artificiale. Gli attaccanti hanno ora accesso a strumenti di intelligenza artificiale che possono aiutarli a iterare sul malware, creare email di phishing più credibili e aumentare la portata dei loro attacchi. Queste tattiche non sono “nuove”, ma la velocità e l’accuratezza con cui vengono utilizzate hanno aggiunto significativamente al già lungo elenco di minacce di sicurezza informatica che i team di sicurezza devono affrontare. Le organizzazioni si affrettano a implementare la tecnologia di intelligenza artificiale, senza comprendere appieno che i controlli di sicurezza devono essere messi in atto per garantire che non venga facilmente sfruttata dagli attaccanti.

Esistono settori o industrie specifici più vulnerabili a queste minacce di sicurezza informatica legate all’intelligenza artificiale, e perché?

Le industrie che condividono costantemente dati tra canali tra dipendenti, clienti o utenti sono suscettibili a minacce di sicurezza informatica legate all’intelligenza artificiale perché l’intelligenza artificiale rende più facile per gli attaccanti impegnarsi in schemi di ingegneria sociale convincenti. Le truffe di phishing sono essenzialmente un gioco di numeri, e se gli attaccanti possono ora inviare email più autentiche a un numero maggiore di destinatari, il loro tasso di successo aumenterà significativamente. Le organizzazioni che espongono i loro servizi basati sull’intelligenza artificiale al pubblico potenzialmente invitano gli attaccanti a provare a sfruttarli. Sebbene sia un rischio ereditato dal rendere i servizi pubblici, è fondamentale farlo correttamente.

Quali sono le principali vulnerabilità che le organizzazioni affrontano quando utilizzano LLM pubblici per funzioni aziendali?

La perdita di dati è probabilmente la principale preoccupazione. Quando si utilizza un modello di linguaggio pubblico, è difficile dire con certezza dove andranno quei dati – e l’ultima cosa che si vuole fare è accidentalmente caricare informazioni sensibili su uno strumento di intelligenza artificiale pubblicamente accessibile. Se è necessario analizzare dati confidenziali, tenerli all’interno dell’azienda. Non rivolgersi a LLM pubblici che potrebbero divulgare quei dati a Internet.

Come possono le aziende proteggere efficacemente i dati sensibili quando testano o implementano sistemi di intelligenza artificiale in produzione?

Quando si testano sistemi di intelligenza artificiale in produzione, le organizzazioni dovrebbero adottare una mentalità offensiva (anziché difensiva). Ciò significa che i team di sicurezza dovrebbero testare e validare proattivamente la sicurezza dei loro sistemi di intelligenza artificiale, anziché reagire a minacce in entrata. Monitorare costantemente gli attacchi e validare i sistemi di sicurezza può aiutare a garantire che i dati sensibili siano protetti e le soluzioni di sicurezza funzionino come previsto.

Come possono le organizzazioni difendersi proattivamente dagli attacchi guidati dall’intelligenza artificiale che sono costantemente in evoluzione?

Mentre gli attaccanti utilizzano l’intelligenza artificiale per evolvere le loro minacce, i team di sicurezza possono anche utilizzare l’intelligenza artificiale per aggiornare gli strumenti di simulazione di attacco e violazione (BAS) per garantire di essere protetti contro le minacce emergenti. Strumenti come il feed di minacce quotidiano di Cymulate caricano le minacce emergenti più recenti nel software di simulazione di attacco e violazione di Cymulate ogni giorno per garantire che i team di sicurezza stiano validando la sicurezza informatica dell’organizzazione contro le minacce più recenti. L’intelligenza artificiale può aiutare ad automatizzare processi come questi, consentendo alle organizzazioni di rimanere agili e pronte ad affrontare anche le minacce più nuove.

Qual è il ruolo delle piattaforme di convalida della sicurezza automatizzate, come Cymulate, nel mitigare i rischi posti dalle minacce di sicurezza informatica guidate dall’intelligenza artificiale?

Le piattaforme di convalida della sicurezza automatizzate possono aiutare le organizzazioni a stare al passo con le minacce di sicurezza informatica guidate dall’intelligenza artificiale emergenti attraverso strumenti volti a identificare, validare e priorizzare le minacce. Con l’intelligenza artificiale che serve come moltiplicatore di forza per gli attaccanti, è fondamentale non solo rilevare le potenziali vulnerabilità nella rete e nei sistemi, ma validare quali di esse rappresentano una minaccia reale per l’organizzazione. Solo allora le esposizioni possono essere efficacemente priorizzate, consentendo alle organizzazioni di mitigare le minacce più pericolose per prime, prima di passare a elementi meno urgenti. Gli attaccanti utilizzano l’intelligenza artificiale per sondare gli ambienti digitali in cerca di potenziali debolezze prima di lanciare attacchi altamente personalizzati, il che significa che la capacità di affrontare le vulnerabilità pericolose in modo automatizzato ed efficace non è mai stata più critica.

Come possono le aziende incorporare gli strumenti di simulazione di attacco e violazione per prepararsi agli attacchi guidati dall’intelligenza artificiale?

I software di simulazione di attacco e violazione sono un elemento importante della gestione dell’esposizione, consentendo alle organizzazioni di creare scenari di attacco realistici che possono utilizzare per validare i controlli di sicurezza contro le minacce più pressanti di oggi. Le ultime informazioni sulle minacce e la ricerca primaria del Gruppo di Ricerca sulle Minacce di Cymulate (combinata con informazioni su minacce emergenti e nuove simulazioni) vengono applicate quotidianamente allo strumento di simulazione di attacco e violazione di Cymulate, avvisando i leader della sicurezza se una nuova minaccia non è stata bloccata o rilevata dai controlli di sicurezza esistenti. Con la simulazione di attacco e violazione, le organizzazioni possono anche personalizzare le simulazioni guidate dall’intelligenza artificiale per i loro ambienti e politiche di sicurezza unici con un framework aperto per creare e automatizzare campagne e scenari di attacco avanzati.

Quali sono le tre raccomandazioni principali che lei darebbe ai team di sicurezza per stare al passo con queste minacce emergenti?

Le minacce stanno diventando sempre più complesse ogni giorno. Le organizzazioni che non hanno un programma di gestione dell’esposizione efficace in atto rischiano di rimanere pericolosamente indietro, quindi la mia prima raccomandazione sarebbe implementare una soluzione che consenta all’organizzazione di priorizzare efficacemente le esposizioni. In seguito, assicurarsi che la soluzione di gestione dell’esposizione includa funzionalità di simulazione di attacco e violazione che consentano al team di sicurezza di simulare le minacce emergenti (guidate dall’intelligenza artificiale o meno) per valutare come i controlli di sicurezza dell’organizzazione si comportano. Infine, consiglierei di sfruttare l’automazione per garantire che la convalida e il test possano avvenire in modo continuo, non solo durante le revisioni periodiche. Con il panorama delle minacce che cambia di minuto in minuto, è fondamentale avere informazioni aggiornate. I dati sulle minacce dell’ultimo trimestre sono già obsoleti.

Quali sviluppi nella tecnologia di intelligenza artificiale prevede nei prossimi cinque anni che potrebbero aggravare o mitigare i rischi di sicurezza informatica?

Molto dipenderà da quanto l’intelligenza artificiale continuerà a essere accessibile. Oggi, gli attaccanti di basso livello possono utilizzare le capacità di intelligenza artificiale per aumentare e ampliare i loro attacchi, ma non stanno creando nuove tattiche senza precedenti – stanno solo rendendo le tattiche esistenti più efficaci. Al momento, possiamo (per lo più) compensare questo. Ma se l’intelligenza artificiale continuerà a crescere e rimarrà altamente accessibile, potrebbe cambiare. Le normative giocheranno un ruolo qui – l’UE (e, in misura minore, gli Stati Uniti) hanno preso misure per regolare lo sviluppo e l’uso dell’intelligenza artificiale, quindi sarà interessante vedere se questo avrà un effetto sullo sviluppo dell’intelligenza artificiale.

Si aspetta un cambiamento nel modo in cui le organizzazioni priorizzano le minacce di sicurezza informatica legate all’intelligenza artificiale rispetto alle sfide di sicurezza informatica tradizionali?

Stiamo già vedendo le organizzazioni riconoscere il valore di soluzioni come la simulazione di attacco e violazione e la gestione dell’esposizione. L’intelligenza artificiale consente agli attaccanti di lanciare rapidamente campagne avanzate e mirate, e i team di sicurezza hanno bisogno di ogni vantaggio possibile per stare al passo con loro. Le organizzazioni che utilizzano strumenti di convalida avranno un tempo significativamente più facile per stare al passo, priorizzando e mitigando le minacce più pericolose per prime. Ricordate, la maggior parte degli attaccanti cerca un obiettivo facile. Potresti non essere in grado di fermare ogni attacco, ma puoi evitare di essere un obiettivo facile.

Grazie per la grande intervista, i lettori che desiderano saperne di più possono visitare Cymulate.