Pregiudizio e equità dei sistemi basati sull’intelligenza artificiale nel settore finanziario

Quando si tratta di combattere il crimine finanziario, esistono sfide che vanno oltre il semplice fermare i truffatori o altri attori malintenzionati.

Alcune delle tecnologie più recenti e avanzate che vengono lanciate spesso presentano problemi specifici che devono essere considerati durante le fasi di adozione per combattere con successo i truffatori senza ripercussioni regolamentari. Nella rilevazione delle frodi, la correttezza del modello e il pregiudizio dei dati possono verificarsi quando un sistema è più pesantemente ponderato o manca di rappresentanza di determinati gruppi o categorie di dati. In teoria, un modello predittivo potrebbe erroneamente associare i cognomi di altre culture a conti fraudolenti o falsamente diminuire il rischio all’interno di segmenti di popolazione per determinati tipi di attività finanziarie.

I sistemi di intelligenza artificiale pregiudizievoli possono rappresentare una minaccia seria quando le reputazioni possono essere influenzate e si verificano quando i dati disponibili non sono rappresentativi della popolazione o del fenomeno di esplorazione. Questi dati non includono variabili che catturano correttamente il fenomeno che vogliamo prevedere. In alternativa, i dati potrebbero includere contenuti prodotti da esseri umani che possono contenere pregiudizi contro gruppi di persone, ereditati da esperienze culturali e personali, portando a distorsioni nella presa di decisioni. Anche se i dati potrebbero sembrare oggettivi all’inizio, sono comunque raccolti e analizzati da esseri umani e possono quindi essere pregiudizievoli.

Non esiste una soluzione universale per rimediare ai pericoli della discriminazione e dell’ingiustizia nei sistemi di intelligenza artificiale o per risolvere definitivamente il problema dell’equità e della mitigazione del pregiudizio nell’architettura dei modelli di apprendimento automatico e nel loro utilizzo. Tuttavia, queste questioni devono essere considerate per motivi sia sociali che aziendali.

Fare la cosa giusta nell’IA

Affrontare il pregiudizio nei sistemi basati sull’intelligenza artificiale non è solo la cosa giusta, ma anche la scelta intelligente per le aziende – e le poste in gioco per i leader aziendali sono alte. I sistemi di intelligenza artificiale pregiudizievoli possono portare le istituzioni finanziarie sulla strada sbagliata assegnando opportunità, risorse, informazioni o qualità del servizio in modo ingiusto. Hanno anche il potenziale di violare le libertà civili, di rappresentare un pericolo per la sicurezza degli individui o di influenzare il benessere di una persona se percepiti come dispregiativi o offensivi.

È importante che le imprese comprendano il potere e i rischi del pregiudizio dell’IA. Anche se spesso sconosciuto all’istituzione, un sistema di intelligenza artificiale pregiudizievole potrebbe utilizzare modelli o dati dannosi che espongono pregiudizi razziali o di genere nelle decisioni di concessione di prestiti. Informazioni come nomi e genere potrebbero essere proxy per categorizzare e identificare i richiedenti in modi illegali. Anche se il pregiudizio è involontario, mette comunque l’organizzazione a rischio non rispettando i requisiti regolamentari e potrebbe portare a gruppi di persone che vengono ingiustamente negati prestiti o linee di credito.

Attualmente, le organizzazioni non hanno gli strumenti necessari per mitigare con successo il pregiudizio nei sistemi di intelligenza artificiale. Tuttavia, con l’intelligenza artificiale sempre più utilizzata nelle aziende per informare le decisioni, è vitale che le organizzazioni si impegnino a ridurre il pregiudizio, non solo per motivi morali, ma anche per rispettare i requisiti regolamentari e generare entrate.

“Cultura e implementazione consapevoli dell’equità”

Le soluzioni che si concentrano sulla progettazione e sull’implementazione consapevoli dell’equità avranno i risultati più benefici. I fornitori dovrebbero avere una cultura analitica che considera l’acquisizione, la gestione e la gestione responsabile dei dati come componenti necessari dell’equità algoritmica, poiché se i risultati di un progetto di intelligenza artificiale sono generati da dataset pregiudizievoli, compromessi o distorti, le parti interessate non saranno adeguatamente protette da danni discriminatori.

Questi sono gli elementi di equità dei dati che i team di data science devono tenere presente:

• Rappresentatività: A seconda del contesto, sia la sottorappresentazione che la sovrarappresentazione di gruppi svantaggiati o protetti dalla legge all’interno del campione di dati possono portare a svantaggi sistematici per le parti vulnerabili nei risultati del modello addestrato. Per evitare questo tipo di pregiudizio di campionamento, l’esperienza nel settore sarà cruciale per valutare l’adeguatezza dei dati raccolti o acquisiti rispetto alla popolazione sottostante da modellare. I membri del team tecnico dovrebbero offrire mezzi di rimedio per correggere i difetti di rappresentanza nel campionamento.
• Adeguatezza e sufficienza: È importante capire se i dati raccolti sono sufficienti per lo scopo previsto del progetto. Dataset insufficienti potrebbero non riflettere equamente le qualità che dovrebbero essere ponderate per produrre un risultato giustificato coerente con lo scopo desiderato del sistema di intelligenza artificiale. Di conseguenza, i membri del team di progetto con competenze tecniche e politiche dovrebbero collaborare per determinare se la quantità di dati è sufficiente e adatta allo scopo.
• Integrità della fonte e accuratezza della misurazione: La mitigazione efficace del pregiudizio inizia all’inizio dei processi di estrazione e raccolta dei dati. Sia le fonti che gli strumenti di misurazione possono introdurre fattori discriminatori nel dataset. Per garantire la non discriminazione, il campione di dati deve avere un’ottimale integrità della fonte. Ciò include assicurarsi o confermare che i processi di raccolta dei dati coinvolti abbiano fonti di misurazione adeguate, affidabili e imparziali e metodi di raccolta robusti.
• Tempestività e attualità: Se i dataset includono dati obsoleti, i cambiamenti nella distribuzione sottostante dei dati potrebbero influire negativamente sulla generalizzabilità del modello addestrato. Se questi spostamenti nella distribuzione riflettono cambiamenti nelle relazioni sociali o nella dinamica di gruppo, la perdita di accuratezza riguardo alle caratteristiche effettive della popolazione sottostante potrebbe introdurre pregiudizi nel sistema di intelligenza artificiale. Per prevenire risultati discriminatori, la tempestività e l’attualità di tutti gli elementi del dataset dovrebbero essere esaminate.
• Pertinenza, adeguatezza e conoscenza del settore: La comprensione e l’utilizzo delle fonti e dei tipi di dati più adatti sono cruciali per costruire un sistema di intelligenza artificiale robusto e non pregiudizievole. Una solida conoscenza del settore della distribuzione della popolazione sottostante e dell’obiettivo predittivo del progetto è strumentale per la selezione di input di misurazione ottimamente rilevanti che contribuiscono alla ragionevole risoluzione della soluzione definita. Gli esperti del settore dovrebbero collaborare strettamente con i team di data science per aiutare a determinare categorie e fonti di misurazione ottimamente adeguate.

Mentre i sistemi basati sull’intelligenza artificiale aiutano nell’automatizzazione dei processi decisionali e offrono risparmi di costo, le istituzioni finanziarie che considerano l’intelligenza artificiale come soluzione devono essere vigili per assicurarsi che non si verifichino decisioni pregiudizievoli. I leader della conformità devono essere in sintonia con il loro team di data science per confermare che le capacità dell’IA sono responsabili, efficaci e prive di pregiudizi. Avere una strategia che sostenga un’IA responsabile è la cosa giusta da fare, e potrebbe anche offrire un percorso per la conformità con le future regolamentazioni sull’IA.