Bias și echitate în sistemele bazate pe inteligență artificială în domeniul crimei financiare

Când vine vorba de lupta împotriva crimei financiare, există provocări care depășesc sfera simplei opriri a fraudei sau a altor actori răi.

Unele dintre cele mai noi tehnologii avansate care sunt lansate adesea au propriile lor probleme specifice care trebuie luate în considerare în timpul etapelor de adoptare pentru a lupta cu succes împotriva fraudei fără repercusiuni regulatorii. În detectarea fraudei, echitatea modelului și biasul datelor pot apărea atunci când un sistem este mai greu ponderat sau lipsește reprezentarea anumitor grupuri sau categorii de date. În teorie, un model predictiv ar putea asocia în mod eronat numele de familie din alte culturi cu conturi frauduloase sau ar putea reduce în mod fals riscul în segmente de populație pentru anumite tipuri de activități financiare.

Sistemele de inteligență artificială bazate pe prejudecăți pot reprezenta o amenințare gravă atunci când reputațiile pot fi afectate și apar atunci când datele disponibile nu sunt reprezentative pentru populația sau fenomenul de explorat. Aceste date nu includ variabile care să capteze în mod corespunzător fenomenul pe care dorim să-l prezicem. Sau, alternativ, datele pot include conținut produs de oameni, care poate conține prejudecăți împotriva grupurilor de oameni, moștenite din experiențe culturale și personale, ceea ce duce la distorsionări atunci când se iau decizii. Deși, la început, datele pot părea obiective, ele sunt, de fapt, colectate și analizate de oameni și, prin urmare, pot fi supuse prejudecăților.

Deși nu există o soluție magică atunci când vine vorba de remedierea pericolelor discriminării și inechității în sistemele de inteligență artificială sau de remedierea definitivă a problemelor de echitate și bias în arhitectura modelului de învățare automată și utilizare, aceste probleme trebuie luate în considerare atât pentru motive sociale, cât și pentru motive de afaceri.

Facerea lucrurilor corecte în inteligența artificială

Abordarea prejudecăților în sistemele bazate pe inteligență artificială nu este doar corectă, ci și inteligentă pentru afaceri – și mizele pentru liderii de afaceri sunt ridicate. Sistemele de inteligență artificială bazate pe prejudecăți pot conduce instituțiile financiare pe calea greșită, alocând oportunități, resurse, informații sau calitatea serviciilor în mod inechitabil. Ele pot încălca, de asemenea, libertățile civile, pot pune în pericol siguranța indivizilor sau pot afecta starea de bine a unei persoane, dacă sunt percepute ca fiind denigratoare sau ofensatoare.

Este important ca întreprinderile să înțeleagă puterea și riscurile prejudecăților în inteligența artificială. Deși adesea nu este cunoscut de instituție, un sistem de inteligență artificială bazat pe prejudecăți ar putea utiliza modele sau date dăunătoare care expun prejudecăți de rasă sau de gen în deciziile de creditare. Informații precum numele și sexul pot fi proxy pentru categorizarea și identificarea solicitanților în moduri ilegale. Chiar dacă prejudecata este involuntară, ea pune, totuși, organizația în pericol, neconformându-se cu cerințele regulatorii și putând duce la faptul că anumite grupuri de oameni sunt refuzate în mod inechitabil credite sau linii de credit.

În prezent, organizațiile nu au piesele necesare pentru a remedia cu succes prejudecățile în sistemele de inteligență artificială. Cu toate acestea, pe măsură ce inteligența artificială este din ce în ce mai mult utilizată în întreprinderi pentru a informa deciziile, este vital ca organizațiile să se străduie să reducă prejudecățile, nu doar din motive morale, ci și pentru a se conforma cerințelor regulatorii și a genera venituri.

Cultură și implementare “conștientă de echitate”

Soluțiile care se concentrează pe proiectarea și implementarea conștientă de echitate vor avea cele mai benefice rezultate. Furnizorii ar trebui să aibă o cultură analitică care să ia în considerare achiziționarea, manipularea și gestionarea responsabilă a datelor ca componente necesare ale echității algoritmilor, deoarece, dacă rezultatele unui proiect de inteligență artificială sunt generate de seturi de date compromise sau distorsionate, părțile afectate nu vor fi protejate în mod corespunzător de prejudicii discriminatorii.

Acestea sunt elementele echității datelor pe care echipele de știință a datelor trebuie să le țină minte:

• Reprezentativitate: În funcție de context, fie subreprezentarea, fie suprareprezentarea grupurilor defavorizate sau a grupurilor protejate legal în eșantionul de date poate duce la dezavantajarea sistematică a părților vulnerabile în rezultatele modelului antrenat. Pentru a evita astfel de tipuri de bias de eșantionare, expertiza de domeniu va fi crucială pentru a evalua potrivirea dintre datele colectate sau achiziționate și populația subiacentă care trebuie modelată. Membrii echipei tehnice ar trebui să ofere mijloace de remediere pentru a corecta deficiențele de reprezentativitate în eșantion.
• Potrivire și suficiență: Este important să înțelegem dacă datele colectate sunt suficiente pentru scopul propus al proiectului. Seturile de date insuficiente nu pot reflecta în mod echitabil calitățile care ar trebui luate în considerare pentru a produce un rezultat justificat care este consecvent cu scopul dorit al sistemului de inteligență artificială. Prin urmare, membrii echipei de proiect cu competențe tehnice și politice ar trebui să colaboreze pentru a determina dacă cantitatea de date este suficientă și potrivită pentru scop.
• Integritatea surselor și acuratețea măsurării: Mitigarea eficientă a prejudecăților începe de la începutul proceselor de extragere și colectare a datelor. Atât sursele, cât și instrumentele de măsurare pot introduce factori discriminatorii într-un set de date. Pentru a asigura non-dăunare discriminatorie, eșantionul de date trebuie să aibă o integritate optimă a surselor. Acest lucru implică securizarea sau confirmarea faptului că procesele de colectare a datelor implicate surse și instrumente de măsurare adecvate, fiabile și imparțiale, precum și metode robuste de colectare.
• Actualitate și recentitate: Dacă seturile de date includ date învechite, atunci schimbările în distribuția subiacentă a datelor pot afecta negativ generalizabilitatea modelului antrenat. Având în vedere că aceste deplasări ale distribuției reflectă schimbări în relațiile sociale sau dinamica grupurilor, pierderea acurateței cu privire la caracteristicile reale ale populației subiacente poate introduce prejudecăți în sistemul de inteligență artificială. Pentru a preveni rezultate discriminatorii, actualitatea și recentitatea tuturor elementelor setului de date trebuie să fie examinate.
• Relevanță, adecvare și cunoașterea domeniului: Înțelegerea și utilizarea celor mai adecvate surse și tipuri de date sunt cruciale pentru construirea unui sistem de inteligență artificială robust și lipsit de prejudecăți. Cunoașterea solidă a domeniului a distribuției populației subiacente și a obiectivului predictiv al proiectului este instrumentală pentru selectarea intrărilor de măsurare optimale care contribuie la rezolvarea rezonabilă a soluției definite. Experții din domeniu ar trebui să colaboreze îndeaproape cu echipele de știință a datelor pentru a ajuta la determinarea categoriilor și surselor de măsurare optimale.

În timp ce sistemele bazate pe inteligență artificială ajută la automatizarea proceselor de luare a deciziilor și oferă economii de costuri, instituțiile financiare care iau în considerare inteligența artificială ca soluție trebuie să fie vigilente pentru a se asigura că nu au loc decizii bazate pe prejudecăți. Liderii de conformitate ar trebui să fie în pas cu echipele lor de știință a datelor pentru a confirma că capacitățile de inteligență artificială sunt responsabile, eficiente și lipsite de prejudecăți. A avea o strategie care promovează inteligența artificială responsabilă este lucrul corect de făcut și poate oferi, de asemenea, o cale către conformitatea cu viitoarele reglementări privind inteligența artificială.