L’AI è già all’interno della tua azienda. Se non la stai proteggendo, sei in ritardo

Che tu abbia ufficialmente implementato l’AI in tutta l’organizzazione o meno, è già presente. I dipendenti stanno utilizzando ChatGPT per creare documenti, probabilmente caricando dati sensibili in strumenti online per velocizzare l’analisi e facendo affidamento su strumenti generativi per abbreviare tutto, dalla codifica al servizio clienti. L’AI sta avvenendo con o senza di te, e ciò dovrebbe tenere svegli i CISO.

Questa silenziosa proliferazione di strumenti AI non verificati in tutti i dipartimenti ha creato un nuovo livello di shadow IT in rapida crescita. È decentralizzato, largamente invisibile e pieno di rischi. Dalle violazioni della conformità alle perdite di dati e alla presa di decisioni non tracciabili, le conseguenze dell’ignorare questo uso di AI sono reali. Eppure, troppe aziende pensano ancora di poterlo tenere a bada con politiche o firewall.

La verità è che l’AI non può essere bloccata. Può solo essere protetta. E più presto le aziende accettano questo fatto, più presto potranno iniziare a chiudere le pericolose lacune che l’AI ha già aperto.

L’AI ombra sta infiltrando le organizzazioni e rappresenta un punto cieco per la sicurezza

Abbiamo già visto questo schema. L’adozione del cloud è decollata all’inizio del 2010 proprio in questo modo, con team che raggiungevano strumenti che aiutavano a muoversi più velocemente, spesso senza l’approvazione del team di sicurezza. Molti team di sicurezza hanno cercato di resistere al cambiamento, solo per essere costretti a pulire reattivamente una volta che si sono verificati violazioni, errori di configurazione o violazioni della conformità.

Oggi, la stessa cosa sta succedendo con l’AI. Secondo il nostro Rapporto sullo stato della sicurezza dell’AI 2024, più della metà delle organizzazioni utilizza l’AI per sviluppare le proprie applicazioni personalizzate, eppure poche hanno visibilità su dove vivono quei modelli, come sono configurati o se espongono dati sensibili.

Ciò crea due rischi:

1. I dipendenti utilizzano strumenti pubblici per accedere a dati proprietari o sensibili, esponendo quelle informazioni a sistemi esterni senza supervisione.
2. I team interni distribuiscono modelli AI senza controlli di sicurezza adeguati, il che comporta vulnerabilità che possono essere sfruttate e cattive pratiche che potrebbero fallire gli audit.

L’AI ombra non è solo un problema di sicurezza, può essere una crisi di governance. Se non si può vedere dove viene utilizzata l’AI, non si può gestire come viene addestrata, a quali dati ha accesso o quali output genera. E se non si tiene traccia delle decisioni dell’AI, si perde la capacità di spiegarle o difenderle, lasciandoti aperto al rischio regolamentare, reputazionale o operativo.

Perché gli strumenti di sicurezza tradizionali non sono all’altezza

La maggior parte degli strumenti di sicurezza non è stata progettata per gestire l’AI. Non riconoscono gli artifact dei modelli, non possono scansionare percorsi di dati specifici dell’AI e non sanno come tracciare le interazioni LLM o applicare la governance dei modelli. Anche gli strumenti che esistono tendono a concentrarsi su pezzi ristretti del puzzle, lasciando le organizzazioni a gestire soluzioni puntuali senza una visione coerente.

Questo è un problema. La sicurezza dell’AI non può essere un pensiero successivo o un componente aggiuntivo. Deve essere integrata nel modo in cui si gestisce l’ambiente cloud, si proteggono i dati e si strutturano le pipeline DevSecOps. Altrimenti, si sottovaluta quanto centrale stia diventando l’AI per le operazioni e si perde l’opportunità di proteggerla come parte fondamentale dell’infrastruttura aziendale.

Il mito del “bloccalo” deve finire

È tentante pensare di poter risolvere questo problema con un divieto totale attraverso politiche di “nessuno strumento AI di terze parti” o “nessuna sperimentazione interna”. Ma questo è un pensiero ingenuo. In realtà, i dipendenti stanno utilizzando strumenti AI per svolgere il loro lavoro più velocemente. E non lo stanno facendo con cattive intenzioni, lo stanno facendo perché funziona.

L’AI è un moltiplicatore di forza e le persone continueranno a ricorrervi finché aiuta a rispettare le scadenze, ridurre la fatica o risolvere problemi più velocemente.

Tentare di bloccare questo comportamento in modo diretto non lo fermerà. Lo porterà solo più sottoterra. E quando qualcosa va storto, ci si troverà nella peggiore posizione possibile, senza visibilità, senza politiche e senza piano di risposta.

Abbracciare l’AI in modo strategico, sicuro e visibile

L’approccio più intelligente è abbracciare l’AI in modo proattivo, ma a proprie condizioni. Ciò inizia con tre cose:

1. Fornire ai dipendenti opzioni sicure e autorizzate. Se si vuole distogliere l’uso da strumenti rischiosi, è necessario offrire alternative sicure. Siano essi LLM interni, strumenti di terze parti verificati o assistenti AI integrati in sistemi di base, la chiave è incontrare i dipendenti dove si trovano, con strumenti che sono altrettanto veloci ma molto più sicuri.

2. Stabilire politiche chiare e farle rispettare. La governance dell’AI deve essere specifica, azionabile e facile da seguire. Che tipo di dati può essere condiviso con gli strumenti AI? Quali sono le linee rosse? Chi è responsabile della revisione e dell’approvazione dei progetti AI interni? Pubblicare le politiche e assicurarsi che i meccanismi di applicazione, tecnici e procedurali, siano in atto.

3. Investire nella visibilità e nel monitoraggio. Non si può proteggere ciò che non si può vedere. Sono necessari strumenti che possano rilevare l’uso di AI ombra, identificare chiavi di accesso esposte, segnalare modelli mal configurati e evidenziare dove i dati sensibili potrebbero essere esposti nei set di training o negli output. La gestione della postura dell’AI sta diventando altrettanto critica quanto la gestione della postura di sicurezza del cloud.

I CISO devono guidare questa transizione

Volenti o nolenti, questo è un momento di definizione per la leadership della sicurezza. Il ruolo del CISO non è più solo proteggere l’infrastruttura. Sta diventando più un aiuto all’innovazione in sicurezza, il che significa aiutare l’organizzazione a utilizzare l’AI per muoversi più velocemente, assicurandosi che la sicurezza, la privacy e la conformità siano integrate in ogni passaggio.

Ciò significa:

• Educazione del consiglio di amministrazione e degli esecutivi sui rischi reali e percepiti dell’AI
• Creazione di partnership con i team di ingegneria e prodotto per incorporare la sicurezza più presto possibile nelle distribuzioni dell’AI
• Investimenti in strumenti moderni che capiscano come funzionano i sistemi AI
• Costruzione di una cultura in cui l’uso responsabile dell’AI è compito di tutti

I CISO non devono essere gli esperti di AI in sala, ma devono essere quelli che fanno le domande giuste. Quali modelli stiamo utilizzando? Quali dati li alimentano? Quali barriere di sicurezza sono in atto? Possiamo provarlo?

Il punto fondamentale: non fare nulla è il rischio più grande di tutti

L’AI sta già cambiando il modo in cui le nostre aziende operano. Che si tratti di team di servizio clienti che creano risposte più veloci, team di finanza che analizzano previsioni o sviluppatori che accelerano il loro flusso di lavoro, l’AI è integrata nel lavoro quotidiano. Ignorare questa realtà non rallenta l’adozione, invita solo a punti ciechi, perdite di dati e insuccessi regolamentari.

Il percorso più pericoloso in avanti è l’inazione. I CISO e i leader della sicurezza devono accettare ciò che già è vero: l’AI è qui. È nei sistemi, è nei flussi di lavoro e non se ne andrà. La domanda è se la si proteggerà prima che crei danni che non si possono annullare.

Abbracciare l’AI, ma mai senza una mentalità di sicurezza in primo luogo. È l’unico modo per stare al passo con ciò che sta per arrivare.