Leader di pensiero
Perché la governance dell’IA continua a fallire

Punti chiaveLa governance deve essere distribuita come codice in grado di far fallire una build per…
Vedi di più
- La governance deve essere distribuita come codice in grado di far fallire una build per proteggere la produzione.
- Secondo Ernst & Young, solo il 10% delle aziende è pienamente preparato ad auditare i sistemi di intelligenza artificiale.
- Le prove generate automaticamente dai sistemi sono più solide della documentazione ai fini degli audit.
Il problema non è che le organizzazioni non abbiano politiche per l’IA. È che quelle politiche non fanno nulla di concreto.
Da qualche parte tra il PDF ben formattato e il modello distribuito, l’intento svanisce. I team improvvisano. Le eccezioni si accumulano. La governance degenera da un sistema in una trattativa – e in settori regolamentati come la sanità e le scienze della vita, quel gap non è solo imbarazzante. È un problema operativo.
La soluzione non è più documentazione. È trattare la governance come software.
La lacuna di governance è già misurabile
L’adozione dell’IA è accelerata drasticamente mentre l’infrastruttura di governance non ha tenuto il passo. Uno studio di settembre 2025 di Ernst & Young ha scoperto che solo il 10% delle aziende è completamente preparato per verificare i sistemi di IA. Allo stesso tempo, nuova ricerca Ponemon ha scoperto che il 92% delle organizzazioni afferma che l’IA generativa ha cambiato il modo in cui i dipendenti accedono alle informazioni e le condividono, eppure solo il 18% ha completamente integrato la governance dell’IA nei programmi di rischio interno.
Il modello è coerente: l’IA è già integrata nel lavoro quotidiano. La supervisione è ancora in ritardo. E più a lungo la governance rimane in forma di documento, peggiore diventa quel gap.
La governance che funziona
Il concetto è apparentemente semplice: se un requisito di governance non può far fallire una build, non può proteggere la produzione.
La vera governance ha input, output, punti di controllo e risultati osservabili. Funziona in continuazione – non trimestralmente. E soprattutto, produce prove come sottoprodotto del lavoro, non come rituale di conformità separato aggiunto in seguito.
Il modello operativo è il seguente:
Politica → Controlli → Prove → Metriche
Le politiche definiscono l’intento. I controlli impongono il comportamento. Le prove dimostrano l’esecuzione. Le metriche convalidano i risultati. Questa non è una nuova idea – è esattamente come funzionano già i sistemi di sicurezza e conformità maturi. Il cambiamento è applicare la stessa logica all’IA.
I controlli non sono suggerimenti. Le prove non sono documentazione. E se un controllo richiede uno sforzo manuale per produrre prove, non è un controllo. È una speranza.
Classi di rischio, non teatro del rischio
Non tutti i sistemi di IA meritano la stessa attenzione. Trattare uno strumento interno a basso rischio con lo stesso rigore di un modello di supporto alle decisioni cliniche è il modo in cui le organizzazioni o si bloccano o si espongono inutilmente.
Il NIST AI Risk Management Framework, pubblicato nel 2023, fornisce una struttura fondamentale per pensare a questo – mappando il rischio dell’IA attraverso quattro funzioni: Governare, Mappare, Misurare e Gestire. Un modello di governance aziendale funzionale si basa su questa logica con classi di rischio pratiche:
| Classe | Ambito | Controlli |
| Minimo | Strumenti interni, senza dati sensibili | Registrazione, controlli leggeri |
| Limitato | Sistemi rivolti agli utenti, rischio moderato | Documentazione, revisione dei prompt, test di sicurezza |
| Alto | Decisioni regolamentate o ad alto impatto | Valutazione del rischio formale, registrazione dei log di audit, controllo delle modifiche rigoroso |
| Proibito | Casi d’uso inaccettabili | Bloccato in fase di progettazione e distribuzione |
Questo offre ai team di ingegneria qualcosa che raramente ottengono dai processi di governance: chiarezza. Non “cosa dobbiamo fare?” ma “quale classe è questa e cosa scatena?”
La buona governance rimuove l’ambiguità. La grande governance rimuove il dibattito.
Politica come codice: da consultiva a eseguibile
Le politiche scritte in documenti sono consultive. Le politiche codificate nelle pipeline possono essere fatte rispettare.
Allo stesso modo in cui l’infrastruttura viene validata prima della distribuzione, i sistemi di IA possono essere bloccati da controlli automatizzati che verificano se un caso d’uso è registrato, se esiste la documentazione richiesta, se i risultati della valutazione soddisfano le soglie definite e se l’accesso ai dati sensibili segue il principio del minimo privilegio. Questi controlli vengono eseguiti in CI/CD. Non aspettano un comitato. Non dipendono dalla memoria o dalla buona volontà di qualcuno.
Open Policy Agent — un progetto che ha raggiunto lo stato Graduated nella Cloud Native Computing Foundation — dimostra esattamente come le regole possano essere versionate, revisionate e applicate coerentemente in tutti gli ecosistemi di ingegneria. Il modello è compreso. Il gap è che i team di IA non stanno applicando questo.
Il sistema di IA più sicuro non è quello con le migliori politiche. È quello che tecnicamente non può violarle.
Controlli specifici per LLM: dove diventa interessante
L’IA generativa introduce una categoria di rischi per cui i framework di governance tradizionali non erano stati progettati – iniezione di prompt, manipolazione dell’output, uso improprio degli strumenti. Questi non sono casi limite. Sono proprietà strutturali di come funzionano gli LLM e, come la copertura di Unite.AI sulla governance dell’IA agentica ha notato, il gap di governance diventa ancora più pronunciato quando i sistemi di IA passano dal rispondere alle domande all’eseguire azioni.
La governance efficace per i sistemi GenAI richiede controlli costruiti specificamente per il comportamento degli LLM: separazione rigorosa delle istruzioni di sistema e input dell’utente, accesso agli strumenti controllato e liste di autorizzazione, convalida dell’output prima dell’esecuzione, salvaguardie contro l’esfiltrazione dei dati e impostazioni predefinite sicure per una gestione controllata dei guasti.
Questi si mappano direttamente sulle classi di vulnerabilità documentate nel OWASP Top 10 per le applicazioni LLM – un framework guidato dalla comunità che ora copre oltre 600 esperti contributori in 18 paesi. La governance degli LLM riguarda meno ciò che il modello sa e più ciò che il sistema gli consente di fare.
Le prove sono infrastruttura, non carta
Gli auditor non si fidano dell’intento. Si fidano dei registri.
In un sistema in cui la governance funziona, le prove vengono generate automaticamente: carte del modello che descrivono l’uso previsto e le limitazioni, documentazione dei dati che copre la provenienza, rapporti di valutazione che mostrano le prestazioni e i rischi noti, log che catturano le decisioni e i cambiamenti. Questi artefatti non esistono per gli audit. Esistono perché il sistema ne ha bisogno per funzionare.
La posizione di audit più forte è quando le prove esistono già prima che qualcuno le chieda. Questo non è teorico – i regolatori stanno già muovendosi in questa direzione. Come recente analisi sulla governance dell’IA difendibile nota, le domande che i regolatori chiederanno presto non sono più solo “l’hai conservato?” ma “puoi provare cosa è successo, sotto quale politica, utilizzando quali dati e con quale autorità?”
L’argomento reale: la governance come acceleratore
Il mito persistente è che la governance e la velocità sono in opposizione. Nella pratica, la governance mal progettata rallenta i team. La governance ben progettata rimuove l’attrito.
Quando i controlli sono standardizzati, i controlli sono automatizzati e le aspettative sono codificate, i team smettono di negoziare e iniziano a costruire. Le versioni diventano più prevedibili. Le decisioni smettono di richiedere eroismo da parte di un piccolo gruppo di specialisti che hanno memorizzato i documenti di politica.
La governance scala quando è infrastruttura. Non scala quando si basa su semplici sensazioni.
L’obiettivo non era mai il controllo fine a se stesso. È la velocità senza caos – e le organizzazioni che ottengono questo risultato non sono quelle con il PDF più completo. Sono quelle che hanno reso il comportamento giusto il percorso più facile.












