Mentre le industrie si preparano all’adozione accelerata dell’AI, nuova attenzione all’etica e alla responsabilità

Di: Pandurang Kamat, CTO di Persistent Systems

L’intelligenza artificiale (AI) nella sua essenza è apprendimento automatico (ML), il processo mediante il quale le macchine imparano a migliorare le prestazioni in base agli input dei dati. La quantità di dati esistente oggi significa che l’AI ha avuto un terreno fertile per prosperare, accelerando a un ritmo vertiginoso negli ultimi anni. E la promessa dell’AI ha fatto pensare in modo creativo a tecnologi e dirigenti di settori molto diversi alle sue varie applicazioni.

Dall’inizio della rivoluzione industriale, ogni periodo di rapido progresso tecnologico è segnato da entusiasmo e trepidazione. Il World Wide Web Consortium (W3C), un gruppo che crea standard per lo sviluppo web, sottolinea che “c’è una crescente consapevolezza che l’applicazione dell’apprendimento automatico comporta rischi e può portare a danni” – tra cui aree come: pregiudizio, privacy, sicurezza, sostenibilità e responsabilità generale.

“C’è una chiara richiesta di un approccio etico all’ML, come si vede nell’attivismo della società civile, nell’emergere di ~100 set di principi etici per l’AI a livello globale e nelle mosse dei governi in tutto il mondo per regolamentare l’AI”, ha scritto il gruppo. “Se le tecnologie non sono allineate con i valori delle società in cui operano, rischiano di minarle”.

Scegli con saggezza

In superficie, è difficile sostenere che una velocità e una resa migliorate siano negative per gli affari. Ma per alcune industrie, c’è molto in gioco nella decisione di affidare il processo decisionale a un algoritmo. Guardando alcune delle più grandi industrie, possiamo vedere quanto siamo vulnerabili all’errore della macchina e perché l’AI responsabile è così fondamentale.

Banca, servizi finanziari e assicurazioni (BFSI)

Il World Economic Forum (WEF) e Deloitte hanno esaminato il processo di implementazione dell’AI nelle aziende BFSI, scoprendo che, “se l’AI può aiutare a creare utili insight aziendali da una quantità schiacciante di informazioni”, la “stranezza dell’AI” sarà una fonte di grave rischio continuo.

“AI ragiona in modi non umani”, si legge nel rapporto. “I sistemi AI non seguono costrutti logici umani e si comportano in modo molto diverso dagli attori umani assegnati allo stesso compito. Inoltre, la natura di autoapprendimento dei sistemi AI consente loro di evolversi senza input umano, il che può portare a esiti inaspettati basati su variabili sconosciute”.

I sostenitori dell’AI responsabile sostengono che l’apprendimento automatico presenta gravi problemi in cose come la valutazione automatica del rischio, il credito e le decisioni di prestito, tutte storicamente pregiudizievoli per alcune demografie. Studi recenti hanno dimostrato che i prestatori che utilizzano motori decisionali basati sull’AI erano più propensi a negare mutui ipotecari alle persone di colore – in alcuni casi, l’80% dei richiedenti neri è più probabile che venga rifiutato.

Sanità

Alcuni anni fa, la Journal of the American Medical Association (JAMA) ha esaminato l’adozione dell’AI nel settore sanitario, scoprendo che le sfide sono numerose, tra cui “aspettative irrealistiche, dati distorti e non rappresentativi, priorità inadeguate per l’equità e l’inclusione, il rischio di esacerbare le disparità sanitarie, bassi livelli di fiducia e ambienti normativi incerti”.

Non esattamente un endorsement caloroso, ma c’è una barra più alta per l’AI responsabile nel settore sanitario, soprattutto data la sua potenziale vita o morte. Nel complesso, i professionisti sanitari sono ottimisti ma guardinghi sul futuro dell’AI, scegliendo di concentrare i loro sforzi sull’educazione di altri operatori sanitari sull’uso dell’AI nell’ambito clinico e sulla creazione di linee guida su come procedere in modo responsabile in modo da beneficare tutti i pazienti.

Media

PwC stima che l’AI fornirà 15.700 miliardi di dollari di crescita economica globale entro il 2030, ma secondo Salesforce meno della metà (48%) dei clienti si fida delle aziende per utilizzare l’AI in modo etico e il 65% è preoccupato per l’uso non etico dell’AI. Al punto di intersezione tra profitti e fiducia, ci sono le aziende dei media – early adopter con un grande impatto e influenza. E ci sono preoccupazioni sul fatto che l’AI non sia un’applicazione “set it and forget it”, il che significa che per le aziende dei media la loro responsabilità non è solo nella produzione di contenuti, ma anche nel loro monitoraggio continuo dopo la distribuzione.

Come vengono serviti gli annunci e personalizzati? Come raggiunge il contenuto un pubblico specifico e qual è il messaggio? Chi insegna all’AI “come” imparare? E come è possibile targetizzare consumatori specifici rispettando al contempo la privacy? Sono solo alcune delle domande che affliggono le aziende dei media mentre bilanciano l’etica con il guadagno di un vantaggio competitivo.

La risposta alla responsabilità

I progressi nello sviluppo di un’AI responsabile sono evidenti ogni giorno – i legislatori stanno redigendo regolamenti, i consumatori chiedono maggiore trasparenza e molte aziende hanno creato dipartimenti specifici per assicurarsi che la loro AI venga utilizzata in modo appropriato. Le aziende hanno bisogno di un quadro di AI responsabile ben definito che copra etica, trasparenza, responsabilità, equità, privacy e sicurezza. Mentre continuano i dibattiti e le riforme, uno studio congiunto recente di MIT Sloan Management Review e Boston Consulting Group fornisce alcune linee guida generali semplici – hanno scritto, “Se vuoi essere un leader AI responsabile, concentrati sull’essere un’azienda responsabile”. rs etica, trasparenza, responsabilità, equità, privacy e sicurezza. Mentre continuano i dibattiti e le riforme, uno studio congiunto recente di MIT Sloan Management Review e Boston Consulting Group fornisce alcune linee guida generali semplici – hanno scritto, “Se vuoi essere un leader AI responsabile, concentrati sull’essere un’azienda responsabile”.