L’uso etico dell’AI non è solo la cosa giusta da fare – è anche un buon affare

Mentre l’adozione dell’AI decolla e le organizzazioni di tutti i settori abbracciano strumenti e applicazioni basati sull’AI, non dovrebbe sorprendere che i cybercriminali stiano già trovando modi per prendere di mira e sfruttare quegli strumenti per il loro beneficio. Ma mentre è importante proteggere l’AI da potenziali attacchi informatici, la questione del rischio dell’AI si estende ben oltre la sicurezza. In tutto il mondo, i governi stanno iniziando a regolamentare come l’AI viene sviluppata e utilizzata – e le aziende possono subire danni significativi alla loro reputazione se vengono trovate a utilizzare l’AI in modi inappropriati. Le aziende di oggi stanno scoprendo che utilizzare l’AI in modo etico e responsabile non è solo la cosa giusta da fare – è fondamentale per costruire la fiducia, mantenere la conformità e persino migliorare la qualità dei loro prodotti.

La realtà normativa che circonda l’AI

Il panorama normativo in rapida evoluzione dovrebbe essere una seria preoccupazione per i fornitori che offrono soluzioni basate sull’AI. Ad esempio, l’EU AI Act, approvato nel 2024, adotta un approccio basato sul rischio per la regolamentazione dell’AI e considera sistemi che partecipano a pratiche come la valutazione sociale, il comportamento manipolativo e altre attività potenzialmente non etiche come “inaccettabili”. Quei sistemi sono proibiti tout court, mentre altri sistemi “ad alto rischio” dell’AI sono soggetti a obblighi più severi relativi alla valutazione del rischio, alla qualità dei dati e alla trasparenza. Le sanzioni per la non conformità sono severe: le aziende trovate a utilizzare l’AI in modi inaccettabili possono essere multate fino a 35 milioni di euro o il 7% del loro fatturato annuo.

L’EU AI Act è solo un pezzo di legislazione, ma illustra chiaramente il costo elevato di non raggiungere determinati livelli etici. Stati come la California, New York, Colorado e altri hanno tutti emanato le loro linee guida sull’AI, la maggior parte delle quali si concentra su fattori come la trasparenza, la privacy dei dati e la prevenzione dei pregiudizi. E sebbene le Nazioni Unite manchino dei meccanismi di applicazione goduti dai governi, è degno di nota che tutti i 193 membri delle Nazioni Unite hanno unanimemente affermato che “i diritti umani e le libertà fondamentali devono essere rispettati, protetti e promossi in tutto il ciclo di vita dei sistemi di intelligenza artificiale” in una risoluzione del 2024. In tutto il mondo, i diritti umani e le considerazioni etiche sono sempre più al centro dell’attenzione quando si tratta di AI.

L’impatto reputazionale di una cattiva etica dell’AI

Mentre le preoccupazioni relative alla conformità sono molto reali, la storia non finisce lì. Il fatto è che dare priorità al comportamento etico può fondamentalmente migliorare la qualità delle soluzioni dell’AI. Se un sistema dell’AI ha un pregiudizio intrinseco, è cattivo per ragioni etiche – ma significa anche che il prodotto non funziona così bene come dovrebbe. Ad esempio, una certa tecnologia di riconoscimento facciale è stata criticata per non riuscire a identificare i volti scuri così bene come quelli chiari. Se una soluzione di riconoscimento facciale non riesce a identificare una parte significativa dei soggetti, si tratta di un grave problema etico – ma significa anche che la tecnologia stessa non fornisce il beneficio atteso e i clienti non saranno soddisfatti. Affrontare i pregiudizi mitiga le preoccupazioni etiche e migliora la qualità del prodotto stesso.

Le preoccupazioni relative ai pregiudizi, alla discriminazione e all’equità possono mettere i fornitori in difficoltà con gli organismi di regolamentazione, ma erodono anche la fiducia dei clienti. È una buona idea avere determinate “linee rosse” quando si tratta di come viene utilizzata l’AI e con quali fornitori collaborare. I fornitori di AI associati alla disinformazione, alla sorveglianza di massa, alla valutazione sociale, ai governi oppressivi o anche solo a una generale mancanza di responsabilità possono mettere a disagio i clienti e i fornitori di soluzioni basate sull’AI dovrebbero tenerne conto quando considerano con chi collaborare. La trasparenza è quasi sempre meglio – coloro che si rifiutano di divulgare come viene utilizzata l’AI o chi sono i loro partner sembrano nascondere qualcosa, il che di solito non favorisce un sentimento positivo nel mercato.

Identificazione e mitigazione dei segnali di allarme etici

I clienti stanno sempre più imparando a cercare segni di comportamento non etico dell’AI. I fornitori che promettono molto ma spiegano poco le loro capacità dell’AI probabilmente non sono onesti su ciò che le loro soluzioni possono effettivamente fare. Le cattive pratiche relative ai dati, come l’eccessiva raccolta di dati o l’incapacità di rinunciare all’addestramento del modello dell’AI, possono anche sollevare segnali di allarme. Oggi, i fornitori che utilizzano l’AI nei loro prodotti e servizi dovrebbero avere una chiara struttura di governance disponibile pubblicamente con meccanismi in atto per la responsabilità. Coloro che impone la mediazione forzata – o peggio, non offrono alcun ricorso – probabilmente non saranno buoni partner. Lo stesso vale per i fornitori che non sono disposti o non possono fornire le metriche in base alle quali valutano e affrontano i pregiudizi nei loro modelli dell’AI. I clienti di oggi non si fidano delle soluzioni “black box” – vogliono sapere quando e come l’AI viene utilizzata nelle soluzioni di cui si fidano.

Per i fornitori che utilizzano l’AI nei loro prodotti, è importante comunicare ai clienti che le considerazioni etiche sono al centro dell’attenzione. Coloro che addestrano i propri modelli dell’AI hanno bisogno di forti processi di prevenzione dei pregiudizi e coloro che si affidano a fornitori esterni di AI devono dare priorità ai partner con una reputazione per un comportamento equo. È anche importante offrire ai clienti una scelta: molti sono ancora a disagio all’idea di affidare i loro dati a soluzioni dell’AI e offrire un “opt-out” per le funzionalità dell’AI consente loro di sperimentare al loro ritmo. È anche fondamentale essere trasparenti su dove provengono i dati di addestramento. Ancora una volta, questo è etico, ma è anche un buon affare – se un cliente scopre che la soluzione su cui fa affidamento è stata addestrata con dati protetti da copyright, li espone a possibili azioni regolatorie o legali. Mettendo tutto in chiaro, i fornitori possono costruire la fiducia con i loro clienti e aiutarli a evitare esiti negativi.

Dare priorità all’etica è la decisione aziendale intelligente

La fiducia ha sempre fatto parte di ogni relazione commerciale. L’AI non ha cambiato questo – ma ha introdotto nuove considerazioni che i fornitori devono affrontare. Le preoccupazioni etiche non sono sempre al centro dell’attenzione dei leader aziendali, ma quando si tratta di AI, un comportamento non etico può avere conseguenze gravi – compresi danni alla reputazione e possibili violazioni della regolamentazione e della conformità. Peggio ancora, una mancanza di attenzione alle considerazioni etiche come la mitigazione dei pregiudizi può attivamente danneggiare la qualità dei prodotti e servizi di un fornitore. Man mano che l’adozione dell’AI continua ad accelerare, i fornitori stanno sempre più riconoscendo che dare priorità al comportamento etico non è solo la cosa giusta da fare – è anche un buon affare.