Colmare il divario di fiducia nell’IA

L’adozione dell’IA sta raggiungendo un punto di svolta critico. Le aziende stanno abbracciando con entusiasmo l’IA, spinte dalla sua promessa di ottenere miglioramenti dell’ordine di grandezza nelle efficienze operative.

Un recente sondaggio di Slack ha rilevato che l’adozione dell’IA continua ad accelerare, con l’uso dell’IA nei luoghi di lavoro che ha registrato un aumento recente del 24% e il 96% dei dirigenti intervistati che ritiene “urgente integrare l’IA in tutte le operazioni aziendali”.

Tuttavia, c’è un divario in aumento tra l’utilità dell’IA e la crescente ansietà sui suoi potenziali impatti negativi. Solo il 7% dei lavoratori da scrivania ritiene che gli output dell’IA siano sufficientemente affidabili da poter essere utilizzati per aiutare i lavoratori nelle attività lavorative.

Questo divario è evidente nel netto contrasto tra l’entusiasmo dei dirigenti per l’integrazione dell’IA e lo scetticismo dei dipendenti relativamente a fattori come:

• Predisposizione e equità: i sistemi di IA possono perpetuare o addirittura aggravare le predisposizioni esistenti portando a risultati ingiusti.
• Privacità e sicurezza: i dipendenti si preoccupano di come i loro dati personali siano raccolti, archiviati e utilizzati dai sistemi di IA.
• Processi decisionali opachi: i sistemi di IA operano spesso come “scatole nere”, prendendo decisioni che sono difficili per gli esseri umani da comprendere o spiegare.
• Ansietà per l’automazione: c’è una paura diffusa che l’IA sostituirà i lavori umani, portando alla disoccupazione e all’instabilità economica.

Il ruolo della legislazione nella costruzione della fiducia

Per affrontare queste questioni di fiducia multifacetiche, le misure legislative stanno diventando sempre più viste come un passo necessario. La legislazione può svolgere un ruolo fondamentale nella regolamentazione dello sviluppo e della distribuzione dell’IA, migliorando così la fiducia. Gli approcci legislativi chiave includono:

• Leggi sulla protezione dei dati e sulla privacy: l’attuazione di leggi sulla protezione dei dati stringenti garantisce che i sistemi di IA gestiscano i dati personali in modo responsabile. Regolamenti come il Regolamento generale sulla protezione dei dati (GDPR) nell’Unione europea stabiliscono un precedente imponendo la trasparenza, la minimizzazione dei dati e il consenso dell’utente. In particolare, l’articolo 22 del GDPR protegge i soggetti dei dati dagli impatti negativi potenziali della decisione automatizzata. Le recenti decisioni della Corte di giustizia dell’Unione europea (CGUE) affermano i diritti di una persona di non essere sottoposta a decisioni automatizzate. Nel caso di Schufa Holding AG, in cui un residente tedesco è stato rifiutato per un prestito bancario sulla base di un sistema di decisione creditizia automatizzato, la corte ha stabilito che l’articolo 22 richiede alle organizzazioni di implementare misure per salvaguardare i diritti alla privacy relativi all’uso delle tecnologie dell’IA.
• Regolamenti sull’IA: l’Unione europea ha ratificato l’Atto dell’IA dell’UE (EU AIA), che mira a regolamentare l’uso dei sistemi di IA in base ai loro livelli di rischio. L’Atto include requisiti obbligatori per i sistemi di IA ad alto rischio, che coprono aree come la qualità dei dati, la documentazione, la trasparenza e la supervisione umana. Uno dei principali vantaggi dei regolamenti sull’IA è la promozione della trasparenza e della spiegabilità dei sistemi di IA. Inoltre, l’EU AIA stabilisce quadri di responsabilità chiari, garantendo che gli sviluppatori, gli operatori e anche gli utenti dei sistemi di IA siano responsabili delle loro azioni e degli esiti dell’implementazione dell’IA. Ciò include meccanismi di ricorso se un sistema di IA causa danni. Quando le persone e le organizzazioni sono ritenute responsabili, si crea fiducia che i sistemi di IA siano gestiti in modo responsabile.

Iniziative di standardizzazione per favorire una cultura di IA affidabile

Le aziende non devono aspettare che nuove leggi vengano eseguite per stabilire se i loro processi sono all’interno delle linee guida etiche e affidabili. I regolamenti sull’IA lavorano in tandem con le iniziative di standardizzazione dell’IA emergenti che consentono alle organizzazioni di implementare la governance dell’IA responsabile e le migliori pratiche durante l’intero ciclo di vita dei sistemi di IA, che comprende progettazione, implementazione, distribuzione e infine dismissione.

Il National Institute of Standards and Technology (NIST) degli Stati Uniti ha sviluppato un quadro di gestione del rischio dell’IA per guidare le organizzazioni nella gestione dei rischi legati all’IA. Il quadro è strutturato intorno a quattro funzioni principali:

• Comprendere il sistema di IA e il contesto in cui opera. Ciò include definire lo scopo, gli stakeholder e gli impatti potenziali del sistema di IA.
• Quantificare i rischi associati al sistema di IA, compresi gli aspetti tecnici e non tecnici. Ciò comporta valutare le prestazioni del sistema, l’affidabilità e le potenziali predisposizioni.

• Implementare strategie per mitigare i rischi identificati. Ciò include sviluppare politiche, procedure e controlli per garantire che il sistema di IA operi entro livelli di rischio accettabili.
• Stabilire strutture di governance e meccanismi di responsabilità per sovrintendere al sistema di IA e ai processi di gestione del rischio. Ciò comporta revisioni regolari e aggiornamenti della strategia di gestione del rischio.

In risposta ai progressi nelle tecnologie di IA generativa il NIST ha anche pubblicato il profilo dell’IA generativa del quadro di gestione del rischio dell’IA, che fornisce indicazioni per mitigare i rischi specifici associati ai modelli fondamentali. Tali misure coprono la protezione contro usi malintenzionati (ad esempio, disinformazione, contenuti degradanti, discorsi d’odio) e applicazioni etiche dell’IA che si concentrano sui valori umani di equità, privacy, sicurezza delle informazioni, proprietà intellettuale e sostenibilità.

Inoltre, l’Organizzazione internazionale per la standardizzazione (ISO) e la Commissione elettrotecnica internazionale (IEC) hanno congiuntamente sviluppato ISO/IEC 23894, uno standard completo per la gestione del rischio dell’IA. Questo standard fornisce un approccio sistematico per identificare e gestire i rischi durante l’intero ciclo di vita dell’IA, compresa l’identificazione dei rischi, la valutazione della gravità del rischio, il trattamento per mitigare o evitare il rischio e il monitoraggio continuo e la revisione.

Il futuro dell’IA e della fiducia pubblica

Guardando avanti, il futuro dell’IA e della fiducia pubblica dipenderà probabilmente da diversi fattori chiave che sono essenziali per tutte le organizzazioni:

• Eseguire una valutazione del rischio completa per identificare potenziali problemi di conformità. Valutare le implicazioni etiche e le potenziali predisposizioni nei sistemi di IA.
• Stabilire un team multifunzionale che includa professionisti legali, di conformità, IT e di scienza dei dati. Questo team dovrebbe essere responsabile del monitoraggio dei cambiamenti normativi e del garantire che i sistemi di IA siano conformi alle nuove norme.
• Implementare una struttura di governance che includa politiche, procedure e ruoli per la gestione delle iniziative di IA. Garantire la trasparenza nelle operazioni di IA e nei processi decisionali.
• Eseguire audit interni regolari per garantire la conformità con i regolamenti sull’IA. Utilizzare strumenti di monitoraggio per tenere traccia delle prestazioni del sistema di IA e dell’adeguamento agli standard normativi.
• Educazione dei dipendenti sull’etica dell’IA, sui requisiti normativi e sulle migliori pratiche. Fornire sessioni di formazione continue per mantenere lo staff informato sui cambiamenti nei regolamenti sull’IA e nelle strategie di conformità.
• Mantenere registri dettagliati dei processi di sviluppo dell’IA, dell’uso dei dati e dei criteri di decisione. Preparare rapporti che possono essere presentati ai regolatori se richiesto.
• Costruire relazioni con gli organismi di regolamentazione e partecipare alle consultazioni pubbliche. Fornire feedback sui regolamenti proposti e cercare chiarimenti quando necessario.

Contestualizzare l’IA per raggiungere un’IA affidabile

Alla fine, un’IA affidabile dipende dall’integrità dei dati. La dipendenza dell’IA generativa da grandi set di dati non equivale all’accuratezza e all’affidabilità degli output; se mai, è controintuitivo per entrambi gli standard. La generazione assistita dalla ricerca (RAG) è una tecnica innovativa che “combina LLM statici con dati specifici del contesto. E può essere considerata come un aiutante molto esperto. Che corrisponde al contesto della query con dati specifici da una base di conoscenze completa.” RAG consente alle organizzazioni di fornire applicazioni specifiche del contesto che aderiscono alle aspettative di privacy, sicurezza, accuratezza e affidabilità. RAG migliora l’accuratezza delle risposte generate recuperando informazioni rilevanti da una base di conoscenze o da un repository di documenti. Ciò consente al modello di basare la sua generazione su informazioni accurate e aggiornate.

RAG consente alle organizzazioni di costruire applicazioni di IA personalizzate che sono estremamente accurate, consapevoli del contesto e adattabili per migliorare la presa di decisioni, migliorare l’esperienza del cliente, ottimizzare le operazioni e ottenere significativi vantaggi competitivi.

Colmare il divario di fiducia dell’IA richiede di garantire la trasparenza, la responsabilità e l’uso etico dell’IA. Sebbene non ci sia una sola risposta per mantenere questi standard, le aziende hanno strategie e strumenti a loro disposizione. Implementare misure robuste di protezione dei dati e aderire agli standard normativi costruisce la fiducia degli utenti. Eseguire regolarmente audit dei sistemi di IA per le predisposizioni e le inesattezze garantisce l’equità. Integrare i Large Language Model (LLM) con l’IA personalizzata fornisce fiducia incorporando basi di conoscenze e fonti di dati proprietarie. Coinvolgere gli stakeholder sulle capacità e i limiti dell’IA favorisce anche la fiducia e l’accettazione

Un’IA affidabile non è facile da raggiungere, ma è un impegno vitale per il nostro futuro.