AI contro AI: La Nuova Realtà della Sicurezza Informatica

Gli attacchi informatici potenziati da AI sono arrivati, confermando ciò che era una volta solo un rischio teorico, ma anticipato, e stanno segnando una nuova era nel panorama delle minacce. Con gli agenti AI in grado di lanciare campagne complesse e complete in pochi minuti, i cybercriminali possono individuare e sfruttare le vulnerabilità aziendali alla velocità delle macchine. Le regole di ingaggio sono cambiate: la difesa informatica di ieri non può più tenere il passo con l’offensiva guidata da AI di oggi.

Poiché l’AI potenzia le minacce informatiche, le aziende devono schierare le proprie capacità difensive potenziate da AI per tenere il passo in termini di velocità, scala e precisione. Al momento, gli avversari informatici seguono ancora tattiche, tecniche e procedure (TTP) familiari, ma l’AI sta accelerando e migliorando il loro libro degli attacchi. Inoltre, i modelli AI delle aziende stesse sono anche un nuovo bersaglio attraverso l’avvelenamento dei modelli e l’ingegneria sociale guidata dal linguaggio, richiedendo ai team di sicurezza di proteggere adeguatamente le proprie capacità AI. Pertanto, la sicurezza dovrebbe essere una parte fondamentale della strategia AI di un’azienda.

Cosa Differenzia gli Attacchi Informatici Potenziati da AI?

In un mondo digitale già saturo di tentativi di intrusione informatica quasi continui, la barriera all’ingresso per un attore malintenzionato è stata ridotta, aumentando non solo il volume ma anche la complessità degli attacchi. Gli attacchi potenziati da AI possono ora sfruttare l’AI o l’apprendimento automatico (ML) per automatizzare, accelerare o migliorare ogni fase del ciclo di attacco, dalla ricognizione e raccolta di informazioni all’exploitazione e all’esfiltrazione di dati sensibili.

Basarsi esclusivamente su processi e tecnologie di sicurezza esistenti senza schierare la stessa tecnologia avanzata che gli avversari stanno utilizzando concede all’avversario un vantaggio che è quasi impossibile da scalare senza una difesa AI. Le aziende sono già sopraffatte dal monitoraggio della propria azienda da parte di attori tradizionali. Gli attacchi potenziati da AI esacerberanno la fatica degli allarmi. Ciò richiede un’evoluzione dai processi gestiti dagli esseri umani a una forza lavoro ibrida di sicurezza umana e digitale.

Mappa Tutti gli Asset Digitali

Nel mondo di oggi, capire i punti di ingresso potenziali in un ambiente aziendale è fondamentale, ma ancora fuori portata per molte grandi aziende. Oltre ai soli sistemi e asset digitali, c’è bisogno di una mappatura completa di tutte le identità e gli accessi all’interno di un’azienda. L’identità digitale, che lega le caratteristiche fisiche e comportamentali a un individuo, è ben compresa con i controlli esistenti necessari per gestire l’accesso digitale.

Tuttavia, capire il paesaggio aziendale delle identità non umane (NHIs) è essenziale per proteggere gli asset digitali. Rendersi conto del potenziale valore dell’AI all’interno di un’azienda significa concedere agli agenti AI l’accesso e il permesso di completare autonomamente un processo aziendale. Proprio come gli ambienti cloud dell’era di sicurezza precedente, i flussi di lavoro potenziati da agenti di oggi si avviano e si chiudono con NHIs su larga scala, richiedendo una capacità avanzata di gestire e tracciare dove nell’ambiente operano e come stanno raggiungendo le missioni o i ruoli previsti.

Le aziende dovrebbero estendere la governance delle identità in tutta la vita dell’identità dell’agente e monitorare le azioni degli agenti, proprio come monitorano l’accesso degli utenti umani oggi per comportamenti di rischio interno o compromissione di account da parte di attori minacciosi. Man mano che le capacità degli agenti acquisiscono più autonomia e lavoro aziendale critico, capire cosa sembra il loro profilo di identità e il modello di accesso è fondamentale per implementare i controlli di accesso e monitoraggio necessari per proteggerli e l’azienda da un uso improprio.

Blocca i Modelli AI

Le capacità AI hanno la promessa di sbloccare l’efficienza e la produttività, ma anche il potenziale di essere rivolti contro le aziende. Introdurre l’AI in ogni aspetto delle operazioni aziendali non è più un “nice to have” – è un requisito per il successo nel panorama competitivo di oggi. Pertanto, schierare l’AI in modo sicuro è un componente necessario per realizzare in modo sicuro il pieno potenziale aziendale e i risultati.

Il passaggio alla difesa informatica potenziata da AI è in corso, mentre i modelli AI stessi sono diventati bersagli. Gli avversari possono tentare di avvelenare i dati che alimentano questi modelli e manipolarli per compiere azioni non intenzionali o addirittura divulgare informazioni sensibili.

Gli attacchi avversari contro l’AI possono assumere diverse forme, come attacchi di avvelenamento, attacchi di iniezione di prompt e altri. Per proteggere adeguatamente l’AI da una possibile manipolazione, le aziende dovrebbero adottare la filosofia dell’Agenzia per la Sicurezza delle Infrastrutture e della Sicurezza (CISA) di Progettazione Sicura. Ciò inizia con i dati che alimentano la formazione del modello. Bloccare gli input all’inizio del processo di sviluppo stabilisce le basi per output affidabili nella distribuzione.

Comprendere gli input che vanno a sviluppare i modelli e le capacità è possibile attraverso una governance dei dati intenzionale e un controllo dell’accesso ai modelli stessi. I controlli critici che consentono di convalidare gli output desiderati si presentano sotto forma di prevenzione della perdita di dati (DLP); applicazione delle politiche e della sicurezza; ancoraggio tramite fonti verificabili; e controlli di approvazione rigorosi per azioni ad alto impatto, auditabilità e test continui, inclusi test di penetrazione dei modelli per renderli più robusti.

Integra l’AI Nelle Operazioni di Sicurezza

Fino ad ora, l’applicazione dell’AI alla difesa informatica è stata tattica, con molte aziende che aggiungono l’AI ai processi umani legacy, piuttosto che ripensare strategicamente come costruire processi centrati sull’AI. Ciò è come provare a mettere un motore V8 su una bicicletta. La prossima evoluzione dell’abilitazione dell’AI sarà progettare processi fin dall’inizio, con l’AI e l’automazione nativi nel design. I metodi e i processi di operazioni di sicurezza provati e veri, come la rilevazione delle minacce, la caccia alle minacce e l’ingegneria di rilevamento, sono ancora elementi critici imperativi per la sicurezza aziendale nell’era dell’AI. Trasformare i processi di sicurezza attuali per abilitare l’augmentazione dell’AI può gettare le basi per il futuro centro di operazioni di sicurezza (SOC) potenziato da AI.

Inoltre, l’automazione non è un concetto nuovo unico all’emergere dell’AI; i flussi di lavoro e i processi di sicurezza sono stati automatizzati per anni, con organizzazioni mature che hanno capacità di orchestrazione e automazione molto sofisticate. Tuttavia, l’AI migliora l’automazione basata su regole esistente e la evolve ulteriormente, consentendo flussi di lavoro automatizzati dinamici, adattabili e ricchi di contesto che possono aiutare ad affrontare la velocità e l’agilità richieste per questi rischi emergenti AI.

Cosa Arriva Dopo?

La sicurezza deve continuare a essere al centro dell’attenzione per le aziende e l’IT per mantenere al sicuro i propri asset critici e gli utenti da sfruttamento malintenzionato. L’AI progettata in modo sicuro è una necessità data la velocità con cui i modelli AI possono essere distribuiti e richiesti di eseguire attività più critiche. I team di sicurezza dovrebbero pensare strategicamente a trasformare i processi fin dall’inizio per implementare adeguatamente le nuove capacità AI e stare al passo nel gioco del gatto e del topo informatico.

I leader della sicurezza possono intraprendere diversi passi concreti nel breve termine: condurre una revisione completa dei processi di sicurezza attuali per individuare lacune, opportunità di modernizzazione e aree pronte per la trasformazione. Restare al passo con le minacce, le tendenze e le tecnologie emergenti AI. Soprattutto, rimanere ancorati al principio di sicurezza fondamentale della difesa in profondità che si è dimostrato efficace nel tempo – protezione stratificata e convalida dall’identità, all’endpoint, alla rete, ai dati, con capacità di monitoraggio e risposta robuste che sono sempre in fase di test.

Il potenziale trasformativo dell’AI promette un vantaggio troppo grande per rifiutare la sua adozione, e il genio è uscito dalla bottiglia per gli attori minacciosi. Pertanto, il ruolo dei leader della sicurezza in questa prossima era è lo stesso di sempre: supportare le proprie organizzazioni nel raggiungere gli obiettivi aziendali con una mitigazione del rischio ponderata – solo adesso alla velocità delle macchine con l’utilizzo dell’AI.