Quando l’IA si rivolta: mitigare le minacce interne nell’era degli agenti autonomi

 La rapida ascesa degli agenti di intelligenza artificiale sta creando nuove sfide per la sicurezza e le squadre IT. Sull’orlo di questo passaggio verso flussi di lavoro più automatizzati per le attività di continuità aziendale, test recenti hanno rilevato che gli agenti di intelligenza artificiale possono esibire comportamenti insicuri o ingannevoli in determinate condizioni, creando una nuova minaccia interna per le aziende di tutti i settori.

Presenta un’esigenza critica per le organizzazioni di monitorare correttamente gli agenti di intelligenza artificiale che accedono a dati sensibili e agiscono senza supervisione umana, introducendo potenzialmente nuove classi di rischio che sono più veloci, meno prevedibili e più difficili da attribuire. La realtà di questi rischi è duplice. Da un lato, le squadre di sicurezza devono essere preparate per gli attori malintenzionati che utilizzano gli agenti di intelligenza artificiale per rafforzare gli attacchi di ingegneria sociale contro i loro dipendenti. Dall’altro lato, devono essere preparate per gli agenti di intelligenza artificiale interni autorizzati dall’azienda che possono esibire un comportamento che crea un insieme completamente nuovo di rischi e vulnerabilità di sicurezza.

Come gli agenti di intelligenza artificiale interni possono portare a minacce interne

Gli agenti di intelligenza artificiale rappresentano due rischi di sicurezza interna fondamentali all’interno delle reti aziendali. In primo luogo, operano in modo autonomo senza i confini etici o la responsabilità incorporata che i lavoratori umani seguono naturalmente. Lavorando in base a obiettivi dedotti e non a istruzioni esplicite, la loro efficienza e persistenza possono spingere i limiti e consentire loro di agire senza autorizzazione. Senza controlli e bilanciamenti necessari in atto, le esposizioni possono essere create e trascurate facilmente.

Questi agenti possono anche avere accesso a grandi quantità di dati, ma mancano della capacità di distinguere tra informazioni privilegiate e informazioni di routine. Pertanto, anche compiti semplici come l’analisi dei set di dati potrebbero causare la perdita di dati o l’esposizione a parti esterne. Questa sfida diventa ancora più complessa quando l’intelligenza artificiale è scalata su sistemi e flussi di lavoro diversi con regole e protocolli di gestione dei dati diversi. Gli agenti che operano tra regioni spesso violano le regole di gestione dei dati specifiche della località a causa dell’applicazione inconsistente delle politiche, creando così rischi di sicurezza. La realtà è che solo il 30% delle aziende statunitensi sta attivamente mappando quali agenti di intelligenza artificiale hanno accesso a sistemi critici, creando un grande punto cieco di sicurezza.

Come gli agenti di intelligenza artificiale esterni possono portare a minacce interne

Uno dei modi più comuni di ingresso per gli hacker è attraverso attacchi di phishing e ingegneria sociale. Gli attori malintenzionati e le gang di cybercriminali stanno utilizzando gli agenti di intelligenza artificiale per migliorare questi attacchi e portare a termine incidenti di deepfake e impersonificazione sofisticati. Gli agenti di intelligenza artificiale possono essere utilizzati per creare attacchi di phishing e ingegneria sociale che sembrano più reali e credibili all’occhio non addestrato. Il 60% delle violazioni nel 2024 ha coinvolto un elemento umano, e quasi un quarto di questi è originato da ingegneria sociale. Questo numero è destinato ad aumentare man mano che l’utilizzo degli agenti di intelligenza artificiale continuerà a rafforzare questi metodi di ingresso.

Gli agenti di intelligenza artificiale possono essere addestrati per setacciare grandi quantità di dati social e personali su piattaforme e canali per inviare comunicazioni personalizzate e mirate. I messaggi che impersonano il tono e la voce dei mittenti sono più probabilità di avere successo e più difficili da distinguere dai media reali. Gli agenti di intelligenza artificiale possono imparare ad adattare le loro campagne per migliorare l’efficacia, cambiando direzione quando un attacco non funziona o emulando un attacco che ha funzionato.

Quando si tratta di deepfake, gli agenti di intelligenza artificiale possono generare queste impersonificazioni a velocità eccezionali, portando a una manipolazione di massa. Gli attori malintenzionati stanno anche utilizzando gli agenti di intelligenza artificiale per comunicare con videochiamate in tempo reale con poco o nessun ritardo, migliorando la credibilità. Possono reagire alla reazione di un bersaglio in tempo reale e cambiare la loro strategia se necessario. Questi attacchi migliorati possono aumentare il rischio di minacce interne da parte di dipendenti ignari che potrebbero essere ingannati nell’esporre dati sensibili, autorizzare transazioni o condividere credenziali con gli attori minacciosi.

Il ruolo delle squadre di sicurezza nell’affrontare le sfide degli agenti di intelligenza artificiale

Le squadre di sicurezza devono intraprendere azioni specifiche per limitare i punti ciechi creati dagli agenti di intelligenza artificiale. I dipartimenti IT dovrebbero innanzitutto limitare l’accesso degli agenti di intelligenza artificiale ai dati sensibili attraverso il governo dei dati e i controlli di visibilità in tempo reale. I passaggi per realizzare questo includono la classificazione delle identità degli agenti di intelligenza artificiale nei sistemi IAM e il monitoraggio della loro attività con la stessa rigore delle autorizzazioni privilegiate. La visibilità va oltre il monitoraggio dell’attività di rete per i profili comportamentali già implementati assegnati agli agenti di intelligenza artificiale. Con la visibilità, le squadre IT possono monitorare il movimento di accesso privilegiato e le anomalie, supportando non solo gli sforzi di prevenzione, ma anche accelerando gli sforzi di contenimento e recupero in caso di un agente ribelle.

Inoltre, identificando nuovi modelli e tattiche utilizzati negli attacchi degli agenti di intelligenza artificiale, le organizzazioni possono aggiornare le loro strategie di difesa e addestrare i loro sistemi di sicurezza per riconoscere e contrastare minacce simili in futuro.

Mantenere la leadership sulle minacce interne introdotte dagli agenti di intelligenza artificiale

La realtà è che gli agenti di intelligenza artificiale introducono un nuovo rischio interno a causa della loro autonomia e dell’aumento dell’accesso ai sistemi sensibili. Inoltre, gli attori minacciosi continueranno a utilizzare gli agenti di intelligenza artificiale per sfruttare più efficacemente le vulnerabilità umane attraverso deepfake, phishing e ingegneria sociale.

Man mano che questa tecnologia si evolve, le aziende devono migliorare la visibilità nell’accesso e nel comportamento degli agenti di intelligenza artificiale prima di adottarli nei loro flussi di lavoro. Ciò include investire in un monitoraggio proattivo, a 360 gradi e in tempo reale, insieme a una forza lavoro di agenti di intelligenza artificiale. Mentre gli agenti di intelligenza artificiale possono risolvere colli di bottiglia e sfide aziendali critici, richiedono un approccio proattivo per limitare le future minacce interne.