Perché la governance dell’IA continua a fallire

Il problema non è che le organizzazioni non hanno politiche per l’IA. È che quelle politiche non fanno nulla di concreto.

Da qualche parte tra il PDF ben formattato e il modello distribuito, l’intento svanisce. I team improvvisano. Le eccezioni si accumulano. La governance degenera da un sistema in una trattativa – e in settori regolamentati come la sanità e le scienze della vita, quel gap non è solo imbarazzante. È un problema operativo.

La soluzione non è più documentazione. È trattare la governance come software.

La lacuna di governance è già misurabile

L’adozione dell’IA è accelerata drasticamente mentre l’infrastruttura di governance non ha tenuto il passo. Uno studio di settembre 2025 di Ernst & Young ha scoperto che solo il 10% delle aziende è completamente preparato per verificare i sistemi di IA. Allo stesso tempo, nuova ricerca Ponemon ha scoperto che il 92% delle organizzazioni afferma che l’IA generativa ha cambiato il modo in cui i dipendenti accedono e condividono le informazioni, eppure solo il 18% ha completamente integrato la governance dell’IA nei programmi di rischio interno.

Il modello è coerente: l’IA è già integrata nel lavoro quotidiano. La supervisione è ancora in ritardo. E più a lungo la governance rimane in forma di documento, peggiore diventa quel gap.

La governance che funziona

Il concetto è semplice: se un requisito di governance non può fallire una build, non può proteggere la produzione.

La vera governance ha input, output, punti di controllo ed risultati osservabili. Funziona in continuazione – non trimestralmente. E criticamente, produce prove come sottoprodotto del lavoro, non come rituale di conformità separato aggiunto in seguito.

Il modello operativo è il seguente:

Politica → Controlli → Prove → Metriche

Le politiche definiscono l’intento. I controlli impongono il comportamento. Le prove dimostrano l’esecuzione. Le metriche convalidano i risultati. Questa non è una nuova idea – è esattamente come funzionano già i sistemi di sicurezza e conformità maturi. Il cambiamento è applicare la stessa logica all’IA.

I controlli non sono suggerimenti. Le prove non sono documentazione. E se un controllo richiede uno sforzo manuale per produrre prove, non è un controllo. È una speranza.

Classi di rischio, non teatro del rischio

Non tutti i sistemi di IA meritano la stessa attenzione. Trattare uno strumento interno a basso rischio con lo stesso rigore di un modello di supporto alle decisioni cliniche è il modo in cui le organizzazioni o si bloccano o si espongono inutilmente.

Il NIST AI Risk Management Framework, pubblicato nel 2023, fornisce una struttura fondamentale per pensare a questo – mappando il rischio dell’IA attraverso quattro funzioni: Governare, Mappare, Misurare e Gestire. Un modello di governance aziendale funzionale si basa su questa logica con classi di rischio pratiche:

Cosa dà ai team di ingegneria è qualcosa che raramente ottengono dai processi di governance: chiarezza. Non “cosa dobbiamo fare?” ma “quale classe è questa e cosa scatena?”
La buona governance rimuove l’ambiguità. La grande governance rimuove il dibattito.

Politica come codice: da consultiva a eseguibile

Le politiche scritte in documenti sono consultive. Le politiche codificate in pipeline sono eseguibili.

Allo stesso modo in cui l’infrastruttura viene validata prima della distribuzione, i sistemi di IA possono essere bloccati da controlli automatizzati che verificano se un caso d’uso è registrato, se esiste la documentazione richiesta, se i risultati della valutazione soddisfano le soglie definite e se l’accesso ai dati sensibili segue il principio del minimo privilegio. Questi controlli vengono eseguiti in CI/CD. Non aspettano un comitato. Non dipendono dalla memoria o dalla buona volontà di qualcuno.

Open Policy Agent — un progetto del Cloud Native Computing Foundation — dimostra esattamente come le regole possano essere versionate, revisionate e applicate coerentemente in tutti gli ecosistemi di ingegneria. Il modello è compreso. Il gap è che i team di IA non stanno applicando questo.

Il sistema di IA più sicuro non è quello con le migliori politiche. È quello che è tecnicamente impossibile violare.

Controlli specifici per LLM: dove diventa interessante

L’IA generativa introduce una categoria di rischio che i framework di governance tradizionali non erano progettati per – iniezione di prompt, manipolazione dell’output, uso improprio degli strumenti. Questi non sono casi limite. Sono proprietà strutturali di come funzionano gli LLM e, come Unite.AI’s coverage of agentic AI governance ha notato, il gap di governance diventa ancora più pronunciato quando i sistemi di IA passano dal rispondere alle domande all’eseguire azioni.

La governance efficace per i sistemi GenAI richiede controlli costruiti specificamente per il comportamento degli LLM: separazione rigorosa delle istruzioni di sistema e input dell’utente, accesso agli strumenti controllato e liste di autorizzazione, convalida dell’output prima dell’esecuzione, salvaguardie contro l’esfiltrazione dei dati e impostazioni predefinite sicure per il fallimento sicuro.

Questi si mappano direttamente sulle classi di vulnerabilità documentate nel OWASP Top 10 per le applicazioni LLM – un framework guidato dalla comunità che ora copre oltre 600 esperti contributori in 18 paesi. La governance degli LLM è meno su cosa sa il modello e più su cosa consente il sistema di fare.

Le prove sono infrastruttura, non carta

Gli auditor non si fidano dell’intento. Si fidano dei registri.

In un sistema in cui la governance funziona, le prove vengono generate automaticamente: carte del modello che descrivono l’uso previsto e le limitazioni, documentazione dei dati che copre la provenienza, rapporti di valutazione che mostrano le prestazioni e i rischi noti, log che catturano le decisioni e i cambiamenti. Questi artefatti non esistono per gli audit. Esistono perché il sistema richiede loro per funzionare.

La posizione di audit più forte è quando le prove esistono già prima che qualcuno le chieda. Questo non è teorico – i regolatori stanno già muovendosi in questa direzione. Come recente analisi sulla governance dell’IA difendibile nota, le domande che i regolatori chiederanno presto non sono più solo “l’hai conservato?” ma “puoi provare cosa è successo, sotto quale politica, utilizzando quali dati e con quale autorità?”

L’argomento reale: la governance come acceleratore

Il mito persistente è che la governance e la velocità sono in opposizione. Nella pratica, la governance mal progettata rallenta i team. La governance ben progettata rimuove l’attrito.

Quando i controlli sono standardizzati, i controlli sono automatizzati e le aspettative sono codificate, i team smettono di negoziare e iniziano a costruire. Le versioni diventano più prevedibili. Le decisioni smettono di richiedere eroismo da parte di un piccolo gruppo di specialisti che hanno memorizzato i documenti di politica.

La governance scala quando è infrastruttura. Non scala quando è un’atmosfera.

L’obiettivo non era mai il controllo per il suo proprio sake. È la velocità senza caos – e le organizzazioni che ottengono questo risultato non sono quelle con il PDF più completo. Sono quelle che hanno reso il comportamento giusto il percorso più facile.