Intelligenza Artificiale Ombra: La Lacuna di Governance che le Organizzazioni non Possono Ignorare

At questo punto del viaggio dell’intelligenza artificiale, i leader aziendali riconoscono ampiamente l’importanza della governance dell’intelligenza artificiale. Tuttavia, la velocità con cui le organizzazioni stanno sviluppando politiche e sistemi di controllo continua a essere inferiore a quella con cui i dipendenti stanno adottando e integrando l’intelligenza artificiale nel loro lavoro quotidiano.

Le organizzazioni che aspettano che i framework di governance siano “completi” prima di abilitare l’intelligenza artificiale devono affrontare una dura realtà: in assenza di regole chiare su come, cosa e dove l’intelligenza artificiale può essere utilizzata, i dipendenti definiranno essi stessi quei confini. E quelle decisioni possono essere in diretto conflitto con gli standard organizzativi, la tolleranza al rischio o gli obblighi normativi.

Questa lacuna di governance ha causato l’intelligenza artificiale ombra a diventare il modello operativo predefinito all’interno di molte organizzazioni.

Un Problema Diffuso e in Crescita

L’intelligenza artificiale ombra non è limitata ai contributori individuali che sperimentano ai margini. Si estende across l’organizzazione, compresi i leader. Man mano che l’intelligenza artificiale si integra nei flussi di lavoro quotidiani, anche i dirigenti senior stanno bypassando i processi di approvazione formale per cogliere i suoi benefici. In realtà, uno studio recente ha scoperto che il 68% dei leader della sicurezza, compresi i CISO, ammette di incorporare alcuni gradi di intelligenza artificiale non autorizzata nei flussi di lavoro.

Allo stesso tempo, il 79% dei leader IT segna che le loro organizzazioni hanno già sperimentato esiti negativi condividendosi dati aziendali con strumenti di intelligenza artificiale. E gli analisti prevedono che questo problema si intensificherà. Gartner stima che, entro il 2030, più del 40% delle organizzazioni subiranno incidenti di sicurezza o conformità a causa dell’utilizzo di strumenti di intelligenza artificiale non autorizzati.

La Superficie di Rischio in Espansione

L’intelligenza artificiale ombra presenta una vasta gamma di rischi, tra cui:

• Perdita di controllo dei dati e potenziale perdita di dati
• Vulnerabilità di sicurezza ampliate e superficie di attacco
• Esposizione alla conformità e alla regolamentazione
• Mancanza di visibilità su come l’intelligenza artificiale viene utilizzata
• Perdita di proprietà intellettuale
• Danni alla reputazione
• Output inaccurati o distorti

Un fattore significativo di questi rischi è una fondamentale incomprensione di come i sistemi di intelligenza artificiale gestiscono i dati.

Molti dipendenti suppongono che utilizzare strumenti “gratuiti”, specialmente quelli che non richiedono credenziali di accesso, offra anonimato o protezione. In realtà, questi strumenti spesso si basano sugli input degli utenti per formare e migliorare i loro modelli e, in alcuni casi, condividono dati con terze parti. Quei dati possono includere informazioni altamente sensibili come informazioni personali (PII), dati medici o legali, registri finanziari, informazioni aziendali confidenziali e altro.

Ancor più preoccupante, la consapevolezza non sempre cambia il comportamento. La ricerca mostra che il 38% dei dipendenti condivide intenzionalmente informazioni sensibili con strumenti di intelligenza artificiale senza l’approvazione dell’organizzazione.

Perché l’Intelligenza Artificiale Ombra Persiste

Per affrontare efficacemente l’intelligenza artificiale ombra, le organizzazioni devono prima comprendere la sua causa radice.

Nella maggior parte dei casi, i dipendenti non agiscono con intenti maliziosi. Stanno rispondendo razionalmente al loro ambiente. Sono sotto pressione per muoversi più velocemente, fare di più con meno e ottenere risultati migliori. L’intelligenza artificiale consente tutto ciò.

L’intelligenza artificiale ombra emerge quando i sistemi organizzativi non riescono a tenere il passo con quelle aspettative. I fattori comuni includono:

• Proibizioni strette sugli strumenti di intelligenza artificiale sul posto di lavoro
• Strumenti approvati che sono meno capaci o meno user-friendly
• Pressione per rispettare scadenze aggressive
• Processi di acquisto lenti o complessi
• Politiche incerte, incoerenti o inesistenti
• Formazione o guida limitata
• Fiducia eccessiva nel giudizio personale o sottostima del rischio

Al suo nucleo, l’intelligenza artificiale ombra è un compromesso. Quando i guadagni di produttività percepiti superano i rischi percepiti, i dipendenti sceglieranno sempre velocità ed efficienza.

Gestire l’Intelligenza Artificiale senza Soffocare l’Innovazione

I dipendenti stanno già utilizzando l’intelligenza artificiale. Ignorare questo fatto o ritardare l’azione aumenta solo la lacuna tra la politica e la pratica.

Le organizzazioni dovrebbero cambiare il loro approccio da controllo a abilitazione.

Questo inizia con l’istituzione di linee guida chiare, pratiche e trasparenti, anche se non sono completamente mature. I primi sistemi di controllo forniscono direzione, riducono l’ambiguità e creano una comprensione condivisa dell’uso accettabile.

Ma la politica da sola non è sufficiente. Le organizzazioni hanno anche bisogno di visibilità. Ciò richiede la costruzione di meccanismi basati sulla fiducia che consentono ai dipendenti di rivelare in modo sicuro quali strumenti stanno utilizzando e perché. Approcci come “periodi di amnistia per l’intelligenza artificiale ombra” o la segnalazione anonima possono fornire informazioni critiche senza penalizzare immediatamente il comportamento.

Allo stesso tempo, le organizzazioni devono mantenere la responsabilità. Nei casi in cui l’esposizione dei dati è significativa o negligente, le conseguenze possono essere ancora necessarie. L’obiettivo non è eliminare completamente il rischio, ma gestirlo in modo intelligente.

Dall’Ombra alla Strategia

L’intelligenza artificiale ombra è un segnale che l’innovazione si muove più velocemente delle strutture organizzative progettate per contenerla.

Le organizzazioni non possono permettersi di aspettare. Istituire la governance adesso, anche se imperfetta, è fondamentale per ridurre il rischio e riacquisire visibilità. Ma la governance da sola non è sufficiente. I sistemi di controllo chiari devono essere abbinati all’abilitazione, all’istruzione e alle alternative accessibili che consentono ai dipendenti di utilizzare l’intelligenza artificiale in modo sicuro ed efficace.

L’obiettivo non è limitare l’adozione dell’intelligenza artificiale, ma plasmarla. Quando le organizzazioni raggiungono quell’equilibrio, l’intelligenza artificiale ombra si sposta da una passività nascosta a una capacità strategica gestita. E facendo ciò, possono chiudere la lacuna tra come l’intelligenza artificiale viene utilizzata e come dovrebbe essere utilizzata prima che quella lacuna si evolva in una violazione.