La minimizzazione è l’approccio migliore alla governance dell’IA?

Quando integrano l’intelligenza artificiale (IA) nelle proprie attività aziendali, le organizzazioni hanno bisogno di modalità chiare per gestire i rischi legati al suo sviluppo e utilizzo. Una governance efficace garantisce supervisione, ma procedure complesse possono assorbire risorse e rallentare l’implementazione. La minimizzazione può contribuire a rendere la governance più proporzionata, limitando l’uso non necessario dei dati e mantenendo al contempo responsabilità e misure di salvaguardia.

Perché la governance dell’IA è importante

La governance dell’IA definisce le politiche, le responsabilità e la supervisione che orientano il modo in cui le organizzazioni sviluppano, implementano e utilizzano i sistemi di IA. Aiuta a individuare i rischi, assegnare l’autorità decisionale e definire processi per monitorare le prestazioni e affrontare i problemi.

Quando adottano l’IA, le organizzazioni devono considerare diversi rischi, tra cui violazioni della privacy, vulnerabilità di sicurezza, risultati distorti, output inesatti e trasparenza limitata. Senza controlli adeguati, le decisioni generate dall’IA possono avere effetti su clienti, dipendenti e altri portatori di interesse in modi difficili da correggere. La governance aiuta inoltre le organizzazioni a rispettare i requisiti di legge applicabili e ad allineare l’uso dell’IA agli obiettivi aziendali.

L’International Association of Privacy Professionals ha riferito che il 77% delle organizzazioni intervistate stava lavorando alla governance dell’IA nel 2025. Il dato segnala una notevole attenzione delle organizzazioni al tema, anche se lavorare alla governance non significa necessariamente aver completato o attuato pienamente il relativo quadro di riferimento.

Responsabilità chiare e monitoraggio costante aiutano le organizzazioni a individuare i problemi emergenti, esaminare i risultati inattesi e adeguare i controlli al mutare dei sistemi. Una governance efficace può anche rafforzare la fiducia dei portatori di interesse, dimostrando che l’organizzazione valuta le implicazioni dell’uso dell’IA e si assume la responsabilità delle proprie decisioni.

Le sfide della governance dell’IA

La governance aiuta le organizzazioni a gestire i rischi dell’IA, ma definire e mantenere una supervisione efficace può essere difficile. Per determinarne l’ambito, le organizzazioni devono stabilire quali sistemi di IA, attività e dipendenze debbano essere soggetti a governance. 

Per definire con chiarezza l’ambito della governance dell’IA, le organizzazioni possono fare riferimento alla norma ISO/IEC 42001, che stabilisce i requisiti per istituire e mantenere un sistema di gestione dell’IA. La conformità può migliorare le prestazioni dei modelli, consentendo di sviluppare un’IA più rapida e sicura. Aiuta inoltre le organizzazioni a determinare quali parti delle loro attività rientrino nel sistema di gestione dell’IA. Queste norme tengono conto della copertura geografica, dei collegamenti con altri sistemi e dell’ambito delle attività di IA. 

Altre sfide importanti includono:

• Complessità dei sistemi di IA: Le applicazioni di IA possono basarsi su modelli interconnessi, insiemi di dati, strumenti di terze parti e decisioni automatizzate. Queste dipendenze possono rendere difficile ricostruire il percorso che porta ai risultati, individuare le vulnerabilità e stabilire dove siano necessari controlli.
• Privacy e sicurezza dei dati: Le organizzazioni devono proteggere le informazioni sensibili durante la raccolta dei dati, l’addestramento dei modelli, l’implementazione e l’uso continuativo. 
• Distorsioni e trasparenza limitata: Dati di addestramento non rappresentativi possono contribuire a risultati iniqui, mentre il comportamento opaco dei modelli può rendere difficile spiegare, valutare o contestare le decisioni.
• Normative e standard in evoluzione: Le organizzazioni che operano in più giurisdizioni possono essere soggette a requisiti legali diversi o in continua evoluzione. I processi di governance devono tenere conto degli obblighi pertinenti senza creare duplicazioni superflue.
• Vincoli operativi e di risorse: Le competenze specialistiche, la documentazione, le verifiche e il monitoraggio continuo richiedono tempo e finanziamenti. 
• Equilibrio tra supervisione e innovazione: Requisiti di approvazione eccessivi possono ritardare i progetti, mentre controlli insufficienti possono lasciare senza risposta rischi significativi.

Queste sfide sottolineano l’importanza di ridurre la complessità non necessaria. Tuttavia, semplificare la governance deve anche comportare l’introduzione di controlli che proteggano le persone e le informazioni e garantiscano la responsabilità dell’organizzazione.

Per esempio, il New York State Comptroller ha rilevato che le agenzie della città di New York adottavano approcci incoerenti alla supervisione dell’IA, e che alcune non disponevano di politiche per valutare le distorsioni e l’accuratezza. I risultati evidenziano come, per ridurre la complessità, siano necessari standard di governance chiari e coerenti che garantiscano la responsabilità. 

Che cosa significa minimizzazione nella governance dell’IA

Nella governance dell’IA, la minimizzazione consiste nel ridurre l’uso non necessario dei dati e gli oneri amministrativi, mantenendo le misure necessarie per gestire i rischi. Si articola in due dimensioni principali: la minimizzazione dei dati e la minimizzazione della governance. Entrambe mirano a rendere le pratiche di IA più proporzionate al loro scopo e al loro potenziale impatto.

Minimizzazione dei dati

La minimizzazione dei dati limita la raccolta, la conservazione, il trattamento e la condivisione delle informazioni a quanto necessario a un sistema di IA per uno scopo definito. Le organizzazioni possono applicare questo principio limitando l’accesso alle informazioni sensibili e, quando opportuno, utilizzando dati anonimizzati o sintetici.

Ridurre i dati non necessari può limitare l’esposizione dei dati personali e diminuire la quantità di informazioni che le organizzazioni devono proteggere. Tuttavia, la minimizzazione dei dati richiede un’attenta valutazione. Rimuovere informazioni pertinenti può compromettere l’accuratezza dei modelli, ridurre la rappresentatività dei diversi gruppi o rendere più difficile individuare risultati distorti. Le organizzazioni devono stabilire quali dati siano necessari per raggiungere lo scopo previsto e ottenere risultati affidabili ed equi.

Minimizzazione della governance

La minimizzazione della governance punta a snellire i processi di supervisione. Le organizzazioni possono accorpare le revisioni sovrapposte e, quando opportuno, riutilizzare le valutazioni. Possono inoltre chiarire le responsabilità decisionali ed eliminare i livelli di approvazione che non offrono una protezione significativa dai rischi.

Questi cambiamenti contribuiscono a ridurre i costi amministrativi e i ritardi, chiarendo al contempo le responsabilità dei team. Tuttavia, la minimizzazione della governance non dovrebbe eliminare la documentazione essenziale, le revisioni indipendenti, la supervisione umana o i controlli obbligatori. L’obiettivo è rendere più efficiente la supervisione mantenendo la responsabilità.

Strategie di minimizzazione per la governance dell’IA

Un approccio basato sulla minimizzazione può rendere più efficiente la governance dell’IA quando le organizzazioni adeguano le pratiche relative ai dati e i requisiti di supervisione ai rischi di ciascun caso d’uso. Diverse misure possono ridurre la complessità non necessaria, preservando al contempo la responsabilità, prestazioni affidabili e garanzie adeguate.

Adottare un approccio basato sul rischio

Le organizzazioni possono classificare i sistemi di IA in base all’uso previsto, al potenziale impatto e alla sensibilità dei dati. L’AI Risk Management Framework del National Institute of Standards and Technology offre una struttura per gestire i rischi dell’IA attraverso quattro funzioni, che includono Governare, Mappare, Misurare e Gestire. Le organizzazioni possono utilizzare queste funzioni per individuare i rischi, valutarne la rilevanza e determinare le risposte più appropriate.

Definire requisiti chiari per i dati

Ogni sistema di IA dovrebbe avere uno scopo definito prima che inizi la raccolta dei dati. Le organizzazioni possono quindi individuare le categorie di dati necessarie, rimuovere i campi irrilevanti, limitare l’accesso e stabilire limiti di conservazione adeguati. I test dovrebbero confermare che i set di dati ridotti continuino a supportare risultati accurati ed equi.

Ottimizzare i modelli e le risorse di calcolo

L’ottimizzazione dei modelli, gli algoritmi efficienti e l’hardware a basso consumo energetico possono contribuire a ridurre le esigenze di calcolo non necessarie. Le aziende possono valutare l’apprendimento federato, che riduce la necessità di trasferiregrandi quantità di informazioni. Queste pratiche possono ridurre i costi di calcolo e il consumo energetico, tutelando al contempo la riservatezza dei dati. 

Semplificare i flussi di lavoro della governance

Le organizzazioni possono accorpare le revisioni sovrapposte, riutilizzare le valutazioni che riguardano gli stessi rischi, chiarire le responsabilità e definire percorsi di approvazione in base al livello di rischio. Processi standardizzati aiutano i team a gestire con efficienza le applicazioni di routine, indirizzando al contempo i casi più complessi agli specialisti competenti.

Mantenere le garanzie essenziali

Un approccio basato sulla minimizzazione deve mantenere le protezioni per la riservatezza e la sicurezza, le valutazioni dei bias, un’adeguata supervisione umana, le tracce di audit e le procedure di risposta agli incidenti. Le organizzazioni dovrebbero inoltre verificare che i processi semplificati continuino a rispettare gli obblighi legali e normativi applicabili.

Monitorare le prestazioni e rivalutare i controlli

I requisiti di governance possono cambiare man mano che un sistema di IA si evolve, raggiunge nuovi utenti o viene impiegato per attività aggiuntive. Dopo la distribuzione, le organizzazioni dovrebbero monitorare i rischi per l’accuratezza, l’equità e la riservatezza. Dovrebbero inoltre rivedere i requisiti relativi ai dati e le procedure di supervisione al mutare delle condizioni.

Rendere efficace la minimizzazione nella governance dell’IA

La minimizzazione è più efficace se inserita in una strategia di governance basata sul rischio. Tuttavia, il livello di minimizzazione adeguato varia in funzione dello scopo, della complessità e del potenziale impatto di un sistema di IA. Bilanciando l’efficienza con garanzie adeguate, responsabilità e valutazione continua, le organizzazioni possono semplificare la governance dell’IA mantenendone un uso responsabile e affidabile.