Intelligenza Artificiale: Della Gente, Per La Gente e Della Gente

Di: Balakrishna (Bali) D R, Senior Vice President, Service Offering Head – ECS, AI e Automazione presso Infosys.

Viviamo in un’epoca tecnologica in cui l’Intelligenza Artificiale lavora duramente per rendere le nostre vite più facili – i nostri telefoni ci riconoscono e si sbloccano quando ci vedono, abbiamo mappe parlanti che ci aiutano a trovare i percorsi più brevi e meno affollati per arrivare dove vogliamo, dispositivi intelligenti che riscaldano e raffreddano le nostre case anche prima che lo diciamo, app intelligenti che prevengono e prevencono le frodi, e molto altro.

Tuttavia, abbiamo anche avuto casi in cui questi sistemi intelligenti alimentati da IA ci hanno deluso dal punto di vista della correttezza e dell’etica. Ad esempio, una banca rispettabile che lavora con noi ha sospettato che i modelli di IA che utilizzano per valutare la solvibilità dei crediti prima di concedere prestiti potrebbero essere distorti e ci ha chiesto aiuto. In un’altra occasione, un produttore di macchinari ha lavorato con noi per analizzare i modelli di richiesta di garanzia per eliminare i pregiudizi dai dati e dal processo, prima di riorganizzare e automatizzare il processo di approvazione delle richieste di garanzia. I modelli di IA relativi al reclutamento, spesso scopriamo, sono corrotti da pregiudizi di età, sesso, razza, anche codici postali a volte, nei loro set di dati – producendo risultati ingiusti se non controllati.

A causa dell’enorme impatto che i pregiudizi di IA possono avere in tutta l’azienda, le questioni etiche sono diventate centrali nello sviluppo, nell’implementazione e nell’uso dei sistemi di IA. I sistemi di IA sono il risultato di molte decisioni umane, che sono intrinsecamente basate anche su pregiudizi umani. La protezione dell’autonomia e della privacy dei dipendenti, i rischi di pregiudizi che influenzano la crescita e le opportunità di carriera, la discriminazione basata sul colore della pelle, la razza o il sesso, la mancanza di spiegazione delle scelte operate dalle soluzioni di IA e, quindi, la responsabilità della presa di decisioni di IA, sono argomenti caldi quando si discute di IA e dei suoi meriti.

Creazione di un’IA Responsabile

I pregiudizi di IA possono avere un effetto a catena in tutta l’organizzazione. È essenziale che i leader IT assicurino di utilizzare l’IA in modo etico, che funzioni con e non contro i dipendenti. Per farlo, le organizzazioni dovrebbero includere i seguenti elementi nei loro dispiegamenti di IA.

Governance dei Dati: L’uso etico di IA è anche basato su un uso ben governato dei dati, a partire dalla raccolta dei dati in modo etico e trasparente. Per farlo, i leader IT dovrebbero stabilire un quadro di governance ben definito che assicuri la sicurezza, l’integrità e la privacy dei dati, nonché prevenire la corruzione e la perdita dei dati – sono tutte necessarie.

Responsabilità: I modelli di apprendimento automatico devono essere equi, imparziali, trattare le persone in modo uguale e condividere i benefici in modo equo (tasso di accettazione e rifiuto simile) in tutti gli attributi, come razza, religione, sesso, ecc. Devono raggiungere un’accuratezza accettabile non solo sulla figura complessiva, ma anche sulle classi minoritarie. Questi modelli devono essere spiegabili quando si tratta di descrivere come si arriva al risultato. Ad esempio, essere in grado di spiegare perché il modello ha rifiutato una richiesta di prestito di un richiedente A ma ha approvato la stessa richiesta di un richiedente B. I leader IT che sviluppano soluzioni di IA devono rendere chiaro il ragionamento sottostante che guida queste decisioni ai dirigenti aziendali, in modo che ci sia una maggiore trasparenza all’interno dell’azienda.

Robustezza Avversariale: L’intero ecosistema di IA deve concordare sulla necessità di testare e hackerare i modelli di IA attraverso simulazioni per studiare i risultati potenzialmente negativi. Ad esempio, i leader IT possono utilizzare i seguenti test per verificare i loro sistemi di IA e prepararsi per gli ostacoli potenziali.

• Modificare i dati: cambiare direttamente il set di dati utilizzato per l’addestramento attraverso l’iniezione di dati, la modifica e la corruzione logica
• Modificare i modelli: testare la riduzione della fiducia e la classificazione errata
• Strumenti ausiliari: utilizzare strumenti per influenzare o corrompere i risultati

Uomo nel Ciclo: I modelli di IA devono essere privati dei rischi umani per tutti i punti di decisione chiave e avere un meccanismo di backup efficace o un percorso alternativo se il sistema di IA deve essere ritirato.

Sviluppo del Consenso Sociale per l’IA

In aggiunta a queste linee guida, dobbiamo promuovere discussioni e deliberazioni inclusive tra tutti i leader dell’azienda, sui benefici, gli interessi, i costi e le conseguenze di ogni grande dispiegamento di IA. Solo tali processi inclusivi che coinvolgono tutti gli stakeholder, per discutere e decidere risultati accettabili, e soppesare i rischi e i benefici, è probabile che otterranno la licenza di operare le tecnologie di IA in tutta l’azienda. In tutta l’azienda, circa i benefici, gli interessi, i costi e le conseguenze di ogni grande dispiegamento di IA. Solo tali processi inclusivi che coinvolgono tutti gli stakeholder, per discutere e decidere risultati accettabili, e soppesare i rischi e i benefici, è probabile che otterranno la licenza di operare le tecnologie di IA in tutta l’azienda.