La maggior parte dell’intelligenza artificiale aziendale non è sicura. Ecco cosa possono fare le imprese

Le imprese stanno correndo per adottare l’intelligenza artificiale generativa per rimanere competitive nei loro mercati. Tuttavia, i team di sicurezza affrontano una sfida significativa perché si affidano a framework obsoleti progettati per un’era tecnologica diversa. Gli strumenti che hanno protetto con successo le organizzazioni per decenni ora lasciano vulnerabilità critiche esposte quando i dipendenti interagiscono con piattaforme di intelligenza artificiale basate su browser. Per adottare in sicurezza la tecnologia più recente, le imprese devono completamente ripensare come controllare l’accesso alle informazioni e rilevare le minacce emergenti.

La crescente minaccia dell’intelligenza artificiale ombra nell’impresa

L’intelligenza artificiale ombra emerge quando i dipendenti bypassano i canali IT ufficiali e utilizzano strumenti di intelligenza artificiale di consumo non autorizzati per compiti di lavoro. Queste piattaforme offrono velocità e convenienza che i processi di approvazione interni non possono eguagliare, rendendole irresistibili per i lavoratori focalizzati sulla produttività.

Ricerche recenti rivelano che il 73,8% dell’interazione dei dipendenti con ChatGPT avviene su account non aziendali, il che significa che le informazioni sensibili fluiscono direttamente nei modelli pubblici. Allo stesso modo, l’utilizzo di Gemini e Bard su account personali raggiunge il 94,4% e il 95,9%, rispettivamente.

L’esternalizzazione di compiti a piattaforme esterne non verificate comporta conseguenze sostanziali. L’analisi mostra che il 55% di tutti i fallimenti dell’intelligenza artificiale deriva da queste soluzioni di terze parti, creando rischi che vanno dal danno alla reputazione alle perdite finanziarie. La sfiducia dei consumatori, le penalità per la conformità e le cause legali spesso seguono. Per le imprese che utilizzano strumenti di intelligenza artificiale di terze parti senza condurre un’analisi dei rischi prima della distribuzione, questo è allarmante.

Senza linee guida applicabili, i dipendenti condividono eccessivamente informazioni sensibili dell’azienda, creando enormi responsabilità in materia di privacy, mentre molte piattaforme di terze parti mancano delle rigorose misure di sicurezza necessarie per proteggere i registri aziendali confidenziali. Le politiche e le pratiche di archiviazione in queste soluzioni possono involontariamente esporre le informazioni dei clienti e i registri finanziari a potenziali violazioni.

Perché la prevenzione tradizionale della perdita di dati non funziona

Gli strumenti di prevenzione della perdita di dati (DLP) legacy sono stati progettati per impedire che i file venissero scaricati o inviati come allegati di posta elettronica. Queste soluzioni eccellono nel loro scopo originale, ma affrontano una limitazione fondamentale nell’era dell’intelligenza artificiale basata su browser. Ad esempio, non possono facilmente monitorare o bloccare il testo che un dipendente digita o incolla manualmente nella finestra di prompt dell’intelligenza artificiale, creando un punto cieco nella copertura di sicurezza che diventa più problematico con ogni trimestre.

La lacuna diventa chiara esaminando cosa questi strumenti possano e non possano proteggere:

• DLP cattura: download di file, allegati di posta elettronica, trasferimenti USB e upload di documenti
• DLP manca: azioni di copia e incolla in finestre del browser, prompt digitati manualmente, screenshot convertiti in testo e immissione diretta di testo in applicazioni web

Mentre l’adozione dell’intelligenza artificiale si accelera attraverso le organizzazioni, questa lacuna di copertura si allarga e genera un canale per l’esfiltrazione di informazioni che la sicurezza tradizionale non è stata progettata per affrontare. I team di sicurezza si trovano in una posizione reattiva, scoprendo le violazioni solo dopo che il contenuto sensibile ha già lasciato il controllo dell’organizzazione.

Qual è l’approccio migliore per l’intelligenza artificiale aziendale sicura?

Aggrapparsi a soluzioni DLP legacy ignorando la realtà dell’adozione dell’intelligenza artificiale non costituisce una strategia aziendale a lungo termine fattibile. Le imprese devono aggiornare la rilevazione delle minacce guidata dall’intelligenza artificiale che si adatta a nuovi attacchi ed impone rigidi confini sull’utilizzo dell’intelligenza artificiale che proteggono le informazioni sensibili. Centralizzare le pratiche di governance per prevenire l’esposizione accidentale completa questa fondazione di sicurezza.

Passare a un contesto di intelligenza artificiale multilivello

Gli strumenti di rilevamento delle minacce tradizionali si affidano a regole reattive che cercano firme storiche di attacchi noti. Questo approccio genera falsi positivi eccessivi segnalando il comportamento normale dei dipendenti come sospetto o completamente manca nuovi attacchi che non corrispondono a nessun modello precedente nel suo database.

Ad esempio, l’Ospedale Generale di Artesia ha riconosciuto queste limitazioni nella protezione delle sue operazioni di assistenza e degli ecosistemi digitali, portando l’organizzazione a distribuire la tecnologia Darktrace. Operando senza alcuna lista predefinita di minacce, la piattaforma apprende ogni dispositivo, utente e interazione all’interno della rete dell’ospedale per sviluppare una comprensione di cosa significhi un comportamento normale dall’inizio.

Il componente Cyber AI Analyst indaga gli avvisi utilizzando metodi simili a quelli degli analisti umani mentre collega sottili anomalie che potrebbero indicare genuine minacce ai record dei pazienti e alle operazioni dell’ospedale. Il sistema esamina autonomamente le minacce di rete di Artesia per determinare quali avvisi rappresentano incidenti di sicurezza reali.

Questo approccio multilivello di intelligenza artificiale riduce significativamente i falsi positivi che gravano sui team di sicurezza. Quando si passa da 100 avvisi benigni quotidiani a solo due o tre incidenti critici che richiedono effettivamente l’attenzione umana, la loro attenzione si restringe. Gli analisti ricevono esattamente le informazioni di cui hanno bisogno senza dover spendere ore in indagini manuali.

Imporre politiche interne di utilizzo dell’intelligenza artificiale rigorose

Stabilire confini fermi e distribuire paratie tecniche che controllano quali informazioni possono entrare nei modelli di intelligenza artificiale pubblici affronta le vulnerabilità che le soluzioni DLP legacy non possono chiudere da sole.

Samsung fornisce un esempio di cautela su cosa succede quando i dipendenti accedono a strumenti di intelligenza artificiale senza adeguate salvaguardie tecniche. Entro 20 giorni dopo aver concesso l’accesso a ChatGPT nell’aprile 2023, l’azienda ha subito tre perdite separate che hanno compromesso informazioni altamente confidenziali in più dipartimenti.

Gli ingegneri hanno incollato il codice sorgente del database dei semiconduttori proprietari in ChatGPT per controllare gli errori di codifica, rivelando dettagli critici sui processi di produzione di Samsung. In un altro incidente, un dipendente ha caricato codice specializzato progettato per identificare difetti di attrezzature mentre cercava suggerimenti di ottimizzazione. Il personale ha anche convertito le registrazioni delle riunioni interne in testo prima di alimentare quelle trascrizioni a ChatGPT per la generazione automatica dei minuti.

Una volta che le informazioni entrano nel set di dati di addestramento di un modello di intelligenza artificiale pubblico, non c’è un pulsante di cancellazione per recuperare o pulire quelle informazioni dalla base di conoscenza. Samsung ha alla fine vietato completamente ChatGPT perché il contenuto proprietario compromesso non può essere recuperato.

Stabilire una governance dei dati centralizzata

Una soluzione di intelligenza artificiale aziendale è sicura solo quanto le informazioni a cui può accedere all’interno dell’organizzazione, e standardizzare le autorizzazioni in tutti i sistemi forma la base della distribuzione sicura dell’intelligenza artificiale. Quando la rete interna di un’azienda soffre di controlli di accesso inconsistenti e pratiche di gestione frammentate, anche gli strumenti di intelligenza artificiale approvati possono accidentalmente esporre file HR confidenziali o registri finanziari a dipendenti non autorizzati.

Ad esempio, AXIS Capital ha affrontato direttamente questa sfida quando ha gestito piattaforme di politiche e sinistri autonome e isolate sparse in diverse geografie. Ogni linea di business aveva creato i propri standard di riferimento per la segnalazione, e le incongruenze hanno portato a errori nella quotazione, nella sottoscrizione e negli aggiustamenti dei sinistri che hanno reso la segnalazione a livello aziendale estremamente difficile.

La compagnia di assicurazioni ha sviluppato una strategia a livello di organizzazione utilizzando moduli di tutela web-based e regole di sicurezza rigorose per standardizzare le gerarchie di riferimento fondamentali. Partendo dal North American Industry Classification System e dal codice Standard Industrial Classification, AXIS ha poi esteso il codice di rating e di sottoscrizione che in precedenza variava per località.

Implementando la gestione dei dati centralizzata e il controllo, l’azienda ha creato un’unica fonte di verità sicura accessibile a tutte le operazioni. Ciò ha eliminato le incongruenze che avevano infestato le loro piattaforme, consentendo ad AXIS di accelerare i processi assicurativi fondamentali come l’introduzione di nuove offerte di prodotti, la riduzione del rischio operativo e il raggiungimento di analisi affidabili a livello aziendale.

Garantire il futuro dell’innovazione aziendale

L’adozione dell’intelligenza artificiale nelle imprese è inevitabile mentre le organizzazioni competono per il vantaggio sul mercato. Affidarsi a framework di sicurezza legacy e tollerare pratiche di governance non strutturate accelererà solo le perdite e le violazioni della conformità. La domanda non è se le imprese adotteranno l’intelligenza artificiale, ma se lo faranno in modo sicuro. Implementando la rilevazione delle minacce di intelligenza artificiale multilivello e stabilendo un rigoroso controllo dell’accesso alle informazioni, le imprese possono abbracciare l’innovazione dell’intelligenza artificiale mentre proteggono il loro contenuto più sensibile.