Andrew Pery, etikk-evangelist, ABBYY – Intervju-serie

Andrew Pery er etikk-evangelist hos ABBYY, et selskap som driver med digital intelligens. De gir organisasjoner mulighet til å få tilgang til verdifull innsikt i deres operasjoner, noe som muliggjør virkelig forretnings-transformasjon.

ABBYY har nylig lansert en global initiativ for å fremme utviklingen av pålitelig kunstig intelligens. Vi bestemte oss for å spørre Andrew om spørsmål relatert til etikk i AI, misbruk av AI og hva AI-industrien kan gjøre med disse bekymringene fremover.

Hva var det som først vekket din interesse for AI-etikk?

Det som først vekket min interesse for AI-etikk var en dyp interesse for sammenhengen mellom lov og AI-teknologi. Jeg startet min karriere i det strafferettslige systemet, hvor jeg representerte fattige klienter som ikke hadde råd til å betale for juridiske tjenester. Deretter gikk jeg over til teknologi, hvor jeg fokuserte på anvendelsen av avansert søk og AI i rettspraksis. Som sertifisert datapersonvern-ekspert er jeg spesielt lidenskapelig opptatt av personvernloven og korrekt bruk av AI-teknologi som er i samsvar med og styrker personvernrettigheter.

Ansikts-gjenkjennelsesteknologi misbrukes ofte av myndigheter, inkludert den amerikanske regjeringen. Hvor stort er dette som et samfunnsproblem?

Konsekvensene av ansikts-gjenkjennelsesteknologi bør være et betydelig samfunnsproblem, ettersom denne teknologien kan påvirke så mange grunnleggende rettigheter, inkludert økonomiske, sosiale og sikkerhetsrettigheter.

Det er klare og overbevisende bevis for at ansikts-gjenkjennelse-algoritmer er upålitelige. En NIST-studie av ansikts-gjenkjennelse-algoritmer fant at afroamerikanere var opptil 100 ganger mer sannsynlig å bli feilidentifisert. En lignende studie fra Georgetown Law School fant at ansikts-gjenkjennelse-algoritmer basert på arrestasjon-fotografier produserte en høy prosentandel feil-positiver forbundet med afroamerikanske individer, og en 2018 MIT-studie av Amazon Facial Recognition Software (AMZN ) fant at mens hvite menn ble nøyaktig identifisert 99% av tiden, genererte mørkhudede individer opp til 35% feil-positiver.

Dette er grunnene til at regulatorer begynner å ta skritt for å forbyte bruk av ansikts-gjenkjennelse-teknologier, spesielt i sammenheng med overvåking og profilering. For eksempel vedtok California-senatet en landsomfattende forbud mot bruk av ansikts-gjenkjennelse-teknologi og andre biometriske overvåkingsmetoder.

Det er også en bevegelse innen teknologibransjen for å trekke seg tilbake fra markedsføring av ansikts-gjenkjennelse-programvare. IBM kunngjorde at de vil slutte å selge ansikts-gjenkjennelse-programvare, med henvisning til at det krenker grunnleggende menneskerettigheter og -friheter. Microsoft (MSFT ) kunngjorde en lignende beslutning om å slutte å selge sin ansikts-gjenkjennelse-teknologi, også med henvisning til grunnleggende menneskerettigheter.

COMPAS-programvaren, som har blitt brukt av amerikanske domstoler for å vurdere kriminell risiko, har feilaktig klassifisert synlige minoritets-forbrytere som mer sannsynlig å gjenta forbrytelser enn hvite forbrytere. Bør AI fortsatt brukes i domstolene?

Studier av COMPAS fant at det ikke er bedre enn tilfeldige personer til å forutsi kriminalitet. Mens prediktiv analyse leverer betydelig verdi i en kommersiell sammenheng, har det vært bevist å føre til urettferdigheter i sin anvendelse i strafferettssystemet. Dette er tydelig i en rapport publisert av Pro Publica, som fant at COMPAS, det mest populære programvaren brukt av amerikanske domstoler for å vurdere kriminell risiko, feilaktig klassifiserte synlige minoritets-forbrytere som mer sannsynlig å gjenta forbrytelser i dobbelt så høy en rate som hvite forbrytere.

Disse urettferdighetene førte til at tidligere justisminister Eric Holder spurte om rettferdigheten og uttrykte bekymring om de potensielle urettferdighetene som kan oppstå ved anvendelsen av AI-teknologi for å forutsi gjentakelse-rater innenfor forbryter-populasjonen.

Hvordan kan samfunnet unngå å programmere inn negative fordommer i AI-systemer?

Først og fremst må det være en anerkjennelse av at AI kan ha en tendens til å produsere uforutsette fordommer, også kjent som ubevisst fordom. Å mildne dens negative virkning krever en helhetlig tilnærming bestående av utvikling av etiske AI-retningslinjer, slik som foreslått av OECDs etiske rammeverk. Dette er basert på syv grunnleggende prinsipper, inkludert menneskelig handleevne og tilsyn, teknisk robusthet og sikkerhet, personvern og styring, åpenhet, mangfold og ikke-diskriminering, samfunnsvelvære og ansvar.

For det andre er overholdelse av lovmessige rammer som beskytter mot automatisert profilering nøkkel. For eksempel har EU en lang historie med å respektere og beskytte personvernrettigheter, med den siste og kraftigste uttrykket være den generelle personvernforordningen (GDPR), som spesifikt beskytter mot automatisert beslutningstagning.

Tredje, det må være en bransjeansvar for hvordan AI-teknologi utvikles og en forpliktelse til å gi åpenhet uten å påvirke deres proprietære IP-rettigheter. Det er positive utviklinger her. For eksempel er Partnership on AI en organisasjon med over 80 medlemmer i 13 land dedikert til forskning og diskusjon om nøkkel-AI-problemer.

Til slutt bør teknologi-organisasjoner opprettholde en forpliktelse til å foreta en fordoms-virknings-utredning før kommersiell utgivelse av AI-algoritmer, spesielt når deres anvendelser påvirker personvern og sikkerhetsrettigheter. Spørsmål teknologiledere bør vurdere før utgivelse av nye AI-aktiverede applikasjoner inkluderer: Er dataene som denne teknologien ble trent på tilstrekkelig diverse? Hvordan vil fordom bli oppdaget? Hvordan blir det testet og av hvem? Hva er utvikler- incitamenter? Hvem vil kommersielt fordel av det?

Det er viktig å huske at AI-løsninger reflekterer de underliggende dataene disse applikasjonene er trent på, så det er kritisk å sikre at disse dataene ikke er fordomsfulle og korrekt reflekterer mangfoldet av de konstituerende som løsningen vil tjene.

ABBYY har nylig lansert en global initiativ for å fremme utviklingen av pålitelig kunstig intelligens. Hvor viktig er dette initiativet for fremtiden til ABBYY?

Beslutningen om å utvikle vårt globale initiativ for pålitelig AI er en viktig beslutning drevet av vår overbevisning om at som en organisasjon hvis teknologier påvirker bedrifter over hele verden og tjener titusener av enkeltbrukere, har vi en forpliktelse til å være gode korporative borgere med en sosial samvittighet. Dette hjelper ikke bare til å fremme større tillit hos våre globale kunder og partnere, men det hjelper også til å sikre at våre teknologier fortsetter å ha en dyptgående innvirkning på en måte som er til fellesskapets beste.

Det er også god forretningssans å fremme og støtte pålitelig bruk av AI. Det styrker vår merkevare-ekvitet, fremmer tillit med vår globale kunder og partnere-økosystem. Tillit oversettes til gjentakelse-forretninger og bærekraftig vekst.

En del av dette initiativet er ABBYYs forpliktelse til å fremme en kultur som fremmer etisk bruk av AI og dens sosiale nytte. Hva må andre selskaper gjøre for å fremme en lignende kultur?

Teknologiselskaper må bygge ut en ramme for etisk bruk av AI. Omfanget av en slik forpliktelse avhenger av de planlagte anvendelsene av AI-algoritmer. Den beste måten å vurdere dens innvirkning er å anvende prinsippet om å ikke skade og ha en topp-ned-forpliktelse til pålitelig bruk av AI.

Likelynt er en forpliktelse til åpenhet viktig. Mens IP-rettigheter bør balanseres med prinsippet om pålitelig AI, bør viktigheten av åpenhet og ansvar for ansvarlig bruk av AI være tydelig artikulert og kommunisert gjennom hele organisasjonen.

En av initiativene som ABBYY har forpliktet seg til er å levere AI-teknologier som er sosialt og økonomisk nyttige. Dette kan være en vanskelig balanse å oppnå. Hvordan kan selskaper best implementere dette?

Lederne kan oppnå dette ved å ta hensyn til anbefalingene som er gitt av Deloitte: Å designe etikk inn i AI starter med å bestemme hva som betyr noe for interessenter som kunder, ansatte, regulatorer og den generelle offentligheten. Selskaper bør sette opp en dedikert AI-styrings- og rådgivende komité fra tverrfaglige ledere og eksterne rådgivere som ville engasjere seg med multi-stakeholder-arbeidsgrupper og etablere og overvåke styring av AI-aktiverede løsninger, inkludert deres design, utvikling, distribusjon og bruk.

Hvordan vi balanserer våre kommersielle interesser og det sosiale gode ble nylig vist under koronapandemien. Vi gjorde mange av våre teknologier tilgjengelige gratis eller til reduserte priser for å hjelpe enkeltpersoner og organisasjoner å navigere krisen, opprettholde forretningskontinuitet og støtte kundene i usikre omstendigheter.

Vi har nylig gjort våre teknologiske rammer tilgjengelige gjennom NeoML, vår cross-platform åpne kildekode-bibliotek for maskinlæring som muliggjør programvare-utviklere å utnytte beviste og pålitelige modeller for å fremme AI-innovasjon.

Kunne du dele dine synspunkter om å bruke AI for COVID-19-applikasjoner for kontakt-sporing og behovet for å balansere retten til personvern?

Dette er et spesielt plagsomt problem. Det er de som argumenterer for at implementeringen av mobile sporings-applikasjoner representerer en uvelkommen innblanding i personvernrettigheter. På den andre siden, når det gjelder offentlig sikkerhet, er det alltid grenser for rettigheter generelt. Det er en avveining mellom rettigheter og ansvar. Likevel er rettigheter ikke absolutte. Innesperring av en global pandemi krever koordinert handling og anvendelse av ressurser og teknologier som kan brukes ansvarlig for å beskytte befolkningen som helhet.

Dette balansen mellom individuelle personvernrettigheter og det felles beste er anerkjent i en lovmessig ramme. For eksempel identifiserer GDPR seks grunner for lovmessig behandling av personlige opplysninger, inkludert en bestemmelse om at når behandling er uunnværlig for det offentlige interesse, er slik behandling av personlige opplysninger berettiget uten å få samtykke fra personen.

Fortsatt er det viktig å implementere etisk lydhøre, åpne og rettferdige retningslinjer relatert til bruk av AI-drevet profilering og deling av høyst sensitive helseinformasjon. Store teknologiselskaper, inkludert Google (GOOGL ) og Facebook (META ), har allerede startet initiativer for å spore bevegelsene til brukerne for å identifisere hvordan viruset sprer seg og evaluere effektiviteten av sosiale distanserings-målinger.

Jeg tror at så lenge informasjonen er anonymisert, har den sosial nytte.

Er det noe annet du ønsker å dele om ABBYYs nye globale initiativ for å fremme utviklingen av pålitelig kunstig intelligens?

Reguleringer tenderer å være etter teknologisk innovasjon, derfor må selskaper ta en proaktiv rolle i å fremme åpenhet og ansvar for AI-teknologier og hvordan de påvirker personvern og sikkerhetsrettigheter. Vårt initiativ reflekterer vår forpliktelse i dette foretaket. Siden vår etablering har vi skapt innovative teknologier som bevare verdifull informasjon og omdanner den til anvendbar kunnskap.

Fortsatt bør etisk bruk av kunstig intelligens-teknologier ikke bare vurderes på en lovmessig basis, men også som en moralsk forpliktelse og en forretnings-imperativ. Hvis dine løsninger har en lang rekke, og påvirker forretnings-kritiske funksjoner, bør det være en bransje-standard å være åpen i anvendelsen av AI-teknologier.

Takk så mye for å svare på disse viktige spørsmålene. For å se ABBYYs retningslinjer og tilnærming til å holde fast og å fremme pålitelig AI-prinsipper, klikk her. Alle som ønsker å lære mer om ABBYY generelt kan besøke ABBYY-nettstedet.