AI: Av folket, for folket og av folket

Av: Balakrishna (Bali) D R, Senior Vice President, Service Offering Head – ECS, AI og automatisering i Infosys.

Vi er heldige å leve i en tid hvor kunstig intelligens (AI) jobber hardt for å gjøre livet vårt enklere – telefonene våre gjenkjenner oss og låser opp når de “ser” oss, vi har talende kart som hjelper oss finne den korteste og minst trafikkerte veien til hvor vi vil, smarte enheter som varmer og kjøler hjemmene våre før vi sagt et ord, intelligente apper som forutsier og forhindrer svindel, og mye mer.

Likevel har vi også hatt tilfeller hvor disse smarte AI-drevne systemene har sviktet oss fra et rettferdighet- og etikkperspektiv. For eksempel, en anerkjent bank som samarbeider med oss mistenkte at AI-modellene de bruker til å vurdere kreditverdighet før de utsteder lån, kunne være forvrengt, og de ba oss om hjelp. I en annen anledning samarbeidet en maskinprodusent med oss for å analysere mønster for garantikrav for å eliminere forvrengning fra datamengden og prosessen, før de omprogrammerte og automatiserte godkjenningsprosessen for krav. Rekrutteringsrelaterte AI-modeller finner vi ofte er korrupte av alders-, kjønns-, rase- og til og med postnummerforvrengninger i datamengdene – og leverer urimelige resultater hvis de ikke kontrolleres.

På grunn av den enorme innvirkningen AI-forvrengning kan ha på hele bedriften, har etiske spørsmål tatt sentralplassen i hvordan AI-systemer utvikles, implementeres og brukes. AI-systemer er en sammenslåing av mange menneskelige beslutninger, som også inneholder menneskelige forvrengninger. Beskyttelsen av ansattes autonomi og personvern, risiko for forvrengning som påvirker karriereutvikling og muligheter, diskriminering basert på hudfarge, rase eller kjønn, mangelen på forklarbarhet av valg gjort av AI-løsninger, og dermed, ansvar for AI-beslutninger, er nå het debattert når det gjelder å diskutere AI og dens fortjenester.

Opprettelse av ansvarlig AI

AI-forvrengning kan ha en ringvirkning gjennom hele organisasjonen. Det er derfor viktig at IT-ledere sikrer at de implementerer AI på en etisk måte som fungerer med, og ikke mot, ansatte. For å gjøre dette, bør organisasjonene inkludere følgende i AI-utviklingen.

Datastyring: Etisk bruk av AI er også avhengig av en godt styrt bruk av data, fra kilden av data på en etisk og transparent måte. For å gjøre dette, bør IT-ledere etablere en godt definert styringsramme som sikrer datasikkerhet, integritet og personvern, samt forhindrer datakorrupte og tap – er alle nødvendige.

Ansvar: Maskinlæringsmodeller må være rettferdige, upartiske, behandle mennesker like og også dele fordeler likt (samme aksept- og avvisningsrate) over alle attributter som rase, religion, kjønn osv. De må oppnå akseptabel nøyaktighet, ikke bare på det totale tallet, men også på minoritetsklassene. Disse modellene må være forklarbare når det gjelder å angi hvordan resultatet er oppnådd. For eksempel, å kunne forklare hvorfor modellen avviste en lånesøknad fra søker A, men godkjente samme søknad fra søker B. IT-ledere som utvikler AI-løsninger må gjøre den underliggende logikken som driver disse beslutningene klart for forretningsstakeholdere, så det er en større transparens innenfor bedriften.

Adversarial robusthet: Hele AI-økosystemet må være enige om behovet for AI-modeller å bli testet og hakket gjennom simuleringsstudier for å studere potensielle ugunstige resultater. For eksempel, kan IT-ledere bruke følgende tester til å sjekke AI-systemene og forberede seg på potensielle hindringer.

• Modifiser data: endre direkte datamengden som brukes til trening ved datainjeksjon, modifisering og logisk korrupte
• Modifiser modeller: teste for konfidensreduksjon og misklassifisering
• Tilleggsverktøy: bruke verktøy til å påvirke eller korrupte resultater

Menneske i løkken: AI-modeller må være avrisikert ved å ha mennesker i løkken for alle nøkkelbeslutningspunkter og ha en effektiv reserveordning eller en alternativ vei hvis AI-systemet må trekkes tilbake.

Utvikling av sosial samtykke for AI

I tillegg til disse retningslinjene, må vi fremme inklusive diskusjoner og overveielser mellom alle ledere på tvers av bedriften, om fordeler, interesser, kostnader og konsekvenser av enhver stor AI-utvikling. Bare slike inklusive prosesser som involverer alle interessenter, for å diskutere og avgjøre akseptable resultater, og veie ut risiko og fordeler, er sannsynlig å gi AI-teknologier lisens til å operere på tvers av hele bedriften, om benefits, interests, costs and consequences of any large AI deployment. Only such inclusive processes involving all stakeholders, to discuss and decide acceptable outcomes, and weigh out the risks and benefits, is likely to win AI technologies the license to operate throughout the enterprise.