Leader di pensiero

Perché le aziende dovrebbero adottare una governance dell’IA basata sui valori

Isabella Grandi
Aggiungi Unite.AI alle tue fonti preferite su Google
Punti chiaveUn quadro di governance dell'IA basato su valori consente alle aziende di operare a…
Vedi di più
  • Un quadro di governance dell'IA basato su valori consente alle aziende di operare a livello globale senza dover ricostruire i sistemi per ogni giurisdizione.
  • L'adozione di sei valori chiave come responsabilità e equità costruisce la fiducia del pubblico e soddisfa i più alti standard etici.
  • Una solida governance dell'IA crea valore aziendale consentendo un ingresso più rapido nei mercati e riducendo i rischi in più regioni.

Nel settembre 2025, per la prima volta, tutti gli Stati membri delle Nazioni Unite si sono riuniti per discutere della governance internazionale dell’IA. Molti erano nuovamente rappresentati a febbraio all’AI Impact Summit di Delhi. L’evento ha portato alla nascita di due nuovi organismi dedicati alla governance dell’IA, ma è stato, nel migliore dei casi, un successo simbolico.

I nuovi meccanismi dell’ONU sono stati concepiti per ottenere il consenso: evitano ambiti controversi, come gli impieghi militari dell’IA, e non dispongono di fonti di finanziamento chiare né di poteri per imporre il rispetto delle decisioni. Questo non dovrebbe sorprendere gli osservatori esperti. L’ONU odierna non è in grado di agire rapidamente o di garantire che tutti rispettino le sue decisioni, il che la rende una sede in cui è difficile produrre cambiamenti reali.

È uno schema ormai consolidato. Nonostante anni di tentativi frammentari di costruire un consenso sulla regolamentazione dell’IA, non sono stati raggiunti accordi internazionali significativi. Si è così creato un vuoto nel quale singoli Paesi e blocchi sono stati costretti a elaborare regole proprie. Eppure, una governance efficace dell’IA è fondamentale se vogliamo che venga adottata su vasta scala, goda della fiducia del pubblico e produca benefici sociali ed economici duraturi

Arrangiarsi e rammendare

Per le aziende globali che sviluppano e gestiscono sistemi di IA, l’assenza di meccanismi di governance comuni e condivisi è problematica. Vogliono implementare i sistemi in tutto il mondo, ma non esistono due giurisdizioni che seguano esattamente le stesse regole. Sono quindi costrette a creare un quadro generale di governance per il proprio sistema e poi a ricostruirlo da zero in ogni Paese in cui operano, per garantire il rispetto delle leggi e delle normative locali. Questo approccio genera un’enorme quantità di lavoro aggiuntivo, rende le iniziative di IA più costose e soggette a ritardi e limita la capacità delle imprese globali di realizzare economie di scala e offrire strumenti efficaci agli utenti ovunque.

Esiste tuttavia un’alternativa. Per le aziende che vogliono semplificare il proprio approccio, la scelta migliore potrebbe essere un quadro di governance dell’IA che tenga conto dei principi etici comuni alle diverse regioni e garantisca ovunque standard elevati nella tutela della libertà, della privacy e della sicurezza delle persone. È un modo efficace per accrescere la fiducia del pubblico nella tecnologia, rafforzare la base clienti e sfruttare i potenziali benefici dell’IA per la società.

Sei valori fondamentali per la governance dell’IA

Alle organizzazioni interessate a una governance dell’IA basata sui valori suggerirei i sei valori fondamentali che seguiamo: responsabilità e obbligo di rendere conto, spiegabilità, trasparenza, equità, sicurezza e possibilità di contestare le decisioni.

Li abbiamo scelti perché coprono tutti gli ambiti principali del ciclo di vita di un sistema di IA e sono già codificati in diversi standard internazionali e nazionali sull’IA, come quello dell’Organizzazione internazionale per la normazione ISO/IEC 42001 e il manuale sull’intelligenza artificiale per il governo del Regno Unito.

Partiamo dalla responsabilità, che significa sapere chi risponde di che cosa in ogni fase del ciclo di vita dell’IA. Senza una chiara attribuzione delle responsabilità, controlli essenziali possono essere omessi perché nessuna persona o squadra ne assume la responsabilità finale. Le organizzazioni dovrebbero individuare nominativamente figure dirigenziali, come il Chief AI Officer, responsabili dei sistemi di IA e delle fasi principali. Dovrebbero adottare un modello di governance basato sul rischio e sottoporre gli strumenti di terzi allo stesso vaglio di quelli sviluppati internamente. Ciò significa comprendere le condizioni, i limiti e le responsabilità giuridiche dei fornitori tanto bene quanto si conoscono i propri sistemi.

L’Organizzazione per la cooperazione e lo sviluppo economico, OCSE, esprime bene questo concetto nella sua guida al rafforzamento della responsabilità nell’IA, che raccomanda alle organizzazioni di creare «meccanismi per integrare il processo di gestione del rischio dell’IA nella più ampia governance organizzativa, promuovendo una cultura della gestione del rischio sia all’interno delle organizzazioni sia lungo l’intera catena del valore dell’IA».

Segue la spiegabilità. Le organizzazioni dovrebbero poter mostrare come un sistema di IA giunge a una decisione. Servono meccanismi per documentare e tracciare il processo decisionale, insieme a registrazioni chiare della progettazione del sistema, dei dati di addestramento e dei processi decisionali. Nel loro insieme, questi elementi consentono ai team di comprendere la provenienza e il percorso delle informazioni, dalla nascita del sistema fino alla sua implementazione.

L’equità mira a garantire che i sistemi di IA producano risultati equi e non riproducano né amplifichino pregiudizi esistenti. Senza controlli mirati, possono causare danni generando risultati distorti, soprattutto in ambiti ad alto impatto come la selezione del personale, la sanità e la giustizia penale. Per mitigare il problema, le organizzazioni dovrebbero introdurre misure di rilevamento dei pregiudizi, esaminare regolarmente i risultati per i gruppi pertinenti e progettare quadri di governance in grado di recepire i requisiti locali di non discriminazione. In pratica, significa costruire sistemi che rispettino gli standard giuridici più elevati con cui probabilmente dovranno confrontarsi, inclusi gli obblighi previsti dall’Equality Act 2010 del Regno Unito e dalla Carta dei diritti fondamentali dell’UE.

La trasparenza offre chiarezza sia agli utenti sia alle autorità di regolamentazione. Le persone dovrebbero capire quando viene utilizzata l’IA, quale ruolo svolge nelle decisioni e su quali dati si basa. Un punto di partenza pratico è uniformare la documentazione dei sistemi di IA, con il supporto di strumenti interni come le schede dei modelli: brevi documenti forniti insieme ai modelli di apprendimento automatico che descrivono il contesto d’uso previsto, i dettagli delle procedure di valutazione delle prestazioni e altre informazioni pertinenti. Senza trasparenza, gli utenti non possono contestare risultati ingiusti, le autorità non possono intervenire efficacemente e gli effetti dannosi possono essere nascosti.

La sicurezza consiste nel proteggere i sistemi di IA da accessi non autorizzati, manipolazioni e comportamenti non intenzionali. Se le difese sono deboli, l’IA può mettere a rischio organizzazioni, utenti e dati, esponendoli a danni economici e reputazionali. Le organizzazioni dovrebbero definire soglie di prestazione e accuratezza, sottoporre i sistemi a prove di stress in condizioni realistiche e utilizzare test di tipo red team per individuare vulnerabilità.

Infine, la possibilità di contestazione garantisce un percorso chiaro e accessibile per contestare le decisioni basate sull’IA o presentare ricorso. In sua assenza, gli utenti coinvolti non hanno rimedi a disposizione e i problemi potrebbero non emergere né essere risolti. Le organizzazioni dovrebbero offrire canali di segnalazione nel punto di utilizzo, incaricare figure dirigenziali della gestione dei reclami e assicurare che i sistemi possano essere sospesi temporaneamente, riesaminati o aggiornati quando necessario.

Quali vantaggi offre un quadro basato sui valori?

Ci sono due ragioni importanti per adottare questa governance dell’IA basata sui valori. La prima è che chi sviluppa e implementa sistemi di IA ha una responsabilità etica verso le persone e le organizzazioni su cui tali sistemi hanno un impatto. La seconda è che questo è un modo più efficace per realizzare concretamente i benefici promessi dall’IA.

Gli utenti dei sistemi di IA, sia aziende sia singole persone, confidano implicitamente che i creatori non abusino dei dati personali e non li espongano a rischi inutili. Quando le organizzazioni tradiscono questa fiducia, diventa molto difficile mantenere gli utenti. In definitiva, le persone non accetteranno l’introduzione dei sistemi se non saranno soddisfatte entrambe le condizioni: fidarsi dei sistemi e vedere i chiari benefici che offrono. In caso contrario, aumenteranno le divisioni sociali ed economiche e perderemo molte opportunità offerte dalla tecnologia.

Le aziende che invece applicano un quadro basato sui valori ovunque, anche nelle regioni con requisiti di governance meno rigorosi, possono dimostrare a clienti, investitori e autorità di adottare standard superiori a quelli richiesti dalla semplice conformità. Questo costruisce fiducia, coinvolgimento e, in ultima analisi, successo aziendale.

Una solida governance dell’IA crea valore, anziché essere un onere di conformità. Consente alle aziende di lanciare più rapidamente nuovi prodotti, ridurre l’esposizione al rischio ed estendere con fiducia le proprie soluzioni a più mercati.

Il rapporto McKinsey «The state of AI» ha rilevato che «la supervisione della governance dell’IA da parte del CEO… è uno degli elementi maggiormente correlati a un impatto più elevato sull’utile netto, dichiarato dall’organizzazione stessa, derivante dal suo utilizzo dell’IA generativa», sottolineando i vantaggi commerciali di questo approccio. In tal senso, integrare solidi quadri etici nei sistemi di IA è una forma di interesse personale illuminato.

Al di là di tutto questo, è semplicemente la cosa giusta da fare. Abbiamo costruito la nostra politica globale per un’IA etica intorno allo stesso principio: le tecnologie avanzate devono servire le persone e la società, non il contrario. Ciò riflette la visione più ampia della Società 5.0, un modello di innovazione incentrato sull’essere umano che cerca di coniugare il progresso economico con la soluzione delle sfide sociali.

Se tecnologie emergenti come l’IA devono contribuire a una società più felice e armoniosa, devono poggiare su solide basi etiche. Tutto comincia dall’attenzione non solo agli standard che le organizzazioni sono tenute a rispettare, ma anche a quelli che vorrebbero raggiungere.

Isabella Grandi è Direttrice di Strategia, Governance ed Etica dei Dati e dell'Intelligenza Artificiale presso NTT DATA UK&I. Lavora in partnership con le organizzazioni per plasmare e fornire un'intelligenza artificiale responsabile e una governance dell'IA che le aiutino a passare dal loro stato attuale a un modello operativo più maturo e basato sui dati.

Il suo lavoro si concentra sull'integrazione di pratiche etiche e sulla gestione robusta dei rischi dell'IA nel modo in cui le organizzazioni progettano e implementano l'IA, garantendo che l'uso responsabile sia integrato nelle strutture decisionali e nelle operazioni quotidiane.