Andrew Pery, Etisk Evangelist, ABBYY – Intervju-serie

Andrew Pery er Etisk Evangelist hos ABBYY, et digitalt intelligensselskab. De giver organisationer mulighed for at få adgang til værdifuld indsigt i deres drift, som ermöglicer sand virksomhedsforvandling.

ABBYY har nylig lanceret en global initiativ til fremme af udviklingen af troværdig kunstig intelligens. Vi besluttede at stille Andrew spørgsmål om etik i AI, misbrug af AI og hvad AI-industrien kan gøre vedrørende disse bekymringer fremover.

Hvad var det, der først fik dig interesseret i AI-etik?

Det, der først fik mig interesseret i AI-etik, var en dyb interesse for intersectionen mellem loven og AI-teknologi. Jeg startede min karriere i det kriminelle retssystem, hvor jeg repræsenterede fattige klienter, der ikke havde de økonomiske midler til at betale for juridiske ydelser. Jeg gik herefter over til teknologi med fokus på anvendelsen af avanceret søgning og AI i retspraksis. Som certificeret data beskyttelses professionel er jeg særligt passioneret omkring privatlivsloven og korrekt anvendelse af AI-teknologi, der er i overensstemmelse med og forbedrer privatlivsrettigheder.

Ansigtsgenkendelsesteknologi misbruges ofte af myndigheder, herunder den amerikanske regering. Hvor stort et samfundsmæssigt problem burde dette være?

Konsekvenserne af ansigtsgenkendelsesteknologi burde være et betydeligt samfundsmæssigt problem, da denne teknologi kan påvirke så mange grundlæggende rettigheder, herunder økonomiske, sociale og sikkerhedsrettigheder.

Der er klare og overbevisende beviser for, at ansigtsgenkendelsesalgoritmer er upålidelige. En NIST-undersøgelse af ansigtsgenkendelsesalgoritmer fandt, at afroamerikanere var op til 100 gange mere sandsynlige for at blive misidentificeret. En lignende undersøgelse ved Georgetown Law School fandt, at ansigtsgenkendelsesalgoritmer baseret på mug shots producerede en høj procentdel af falske positiver forbundet med afroamerikanske individer, og en 2018 MIT-undersøgelse af Amazon Facial Recognition Software (AMZN ) fandt, at mens hvide mænd blev nøjagtigt identificeret 99% af tiden, producerede mørkhudede individer op til 35% falske positiver.

Dette er årsagen til, at regulatorene begynder at tage skridt til at forbyde brugen af ansigtsgenkendelsesteknologi, særligt i sammenhæng med overvågning og profilering. For eksempel vedtog Californiens senat en landsdækkende forbud mod brugen af ansigtsgenkendelsesteknologi og andre biometriske overvågningsmetoder.

Der er også momentum inden for tech-samfundet til at trække sig tilbage fra markedsføringen af ansigtsgenkendelsesoftware. IBM annoncerede, at de vil stoppe med at sælge ansigtsgenkendelsesoftware, med henvisning til, at det krænker grundlæggende menneskerettigheder og grundlæggende friheder. Microsoft (MSFT ) annoncerede en lignende beslutning om at stoppe med at sælge deres ansigtsgenkendelsesteknologi, med henvisning til grundlæggende menneskerettigheder.

COMPAS-softwaren, der er blevet brugt af amerikanske domstole til kriminel risikovurdering, har fejlagtigt klassificeret synlige minoritetsforbrydere som mere sandsynlige for at begå nye forbrydelser end hvide forbrydere. Burde AI overhovedet være en mulighed i retssystemet?

Studier af COMPAS fandt, at det ikke er bedre til at forudsige forbrydelser end tilfældige personer. Mens predictiv analytics leverer betydelig værdi i en kommerciel kontekst, er det blevet bevist, at det resulterer i uligheder i dets anvendelse i strafferetsplejen. Dette er tydeligt i en rapport offentliggjort af Pro Publica, der fandt, at COMPAS, den mest populære software brugt af amerikanske domstole til kriminel risikovurdering, fejlagtigt klassificerede synlige minoritetsforbrydere som mere sandsynlige for at begå nye forbrydelser i dobbelt så høj en rate som hvide forbrydere.

Disse uligheder fik den daværende justitsminister Eric Holder til at stille spørgsmål ved retfærdigheden og udtrykke bekymring omkring de potentielle uligheder, der kan opstå ved anvendelsen af AI-teknologi til at forudsige recidiv-rater inden for forbryderpopulationen.

Hvordan kan samfundet undgå at programmere negative fordomme ind i AI-systemer?

Først og fremmest må der være en anerkendelse af, at AI kan have en tendens til at producere ufrivillig fordom, også kendt som ubevidst fordom. At mindske dens negative virkning kræver en holistisk tilgang bestående af udvikling af etiske AI-retningslinjer, såsom foreslået af OECD’s etiske rammer. Dette er baseret på syv grundlæggende principper, herunder menneskelig handling og tilsyn, teknisk robusthed og sikkerhed, privatliv og styring, gennemsigtighed, diversitet og ikke-diskrimination, samfundsmæssig trivsel og ansvarlighed.

For det andet er overholdelse af lovgivningsrammer, der beskytter mod automatiseret profilering, afgørende. For eksempel har EU en lang historie med at respektere og beskytte privatlivsrettigheder, med den seneste og kraftigste udtryk ved General Data Protection Regulation (GDPR), der specifikt beskytter mod automatiseret beslutningstagning.

For det tredje må der være branchens ansvarlighed for, hvordan AI-teknologi udvikles, og en forpligtelse til at give gennemsigtighed uden at påvirke deres ejendomsret til IP. Der er positive udviklinger her. For eksempel er Partnership on AI en organisation med over 80 medlemmer i 13 lande, der er dedikeret til forskning og diskussion om nøgle-AI-emner.

Til sidst burde teknologiorganisationer opretholde en forpligtelse til at foretage en bias-virkningsevaluering, før kommerciel udgivelse af AI-algoritmer, særligt når deres anvendelser påvirker privatlivs- og sikkerhedsrettigheder. Spørgsmål, som teknologilederne burde overveje, før de udgiver nye AI-aktiverede anvendelser, omfatter: Er data, som denne teknologi er trænet på, tilstrækkeligt divers? Hvordan vil fordomme blive opdaget? Hvordan bliver det testet og af hvem? Hvad er udviklerincitamenterne? Hvem vil få kommerciel udbytte af det?

Det er vigtigt at huske, at AI-løsninger reflekterer den underliggende data, disse anvendelser er trænet på, så det er afgørende, at denne data ikke er fordomsfuld og korrekt reflekterer mangfoldigheden af de konstituerende elementer, som løsningen vil tjene. I AI-forskeren Professor Joanna Brysons ord: “Hvis den underliggende data reflekterer stereotyper, eller hvis du træner AI fra menneskelig kultur, vil du finde fordomme. Og hvis vi ikke er forsigtige, risikerer vi at integrere denne fordom i computerprogrammerne, der hurtigt overtager drift af alt fra hospitaler til skoler til fængsler – programmer, der skal eliminere disse fordomme i første omgang.”

ABBYY har nylig lanceret et globalt initiativ til fremme af udviklingen af troværdig kunstig intelligens. Hvor vigtigt er dette initiativ for ABBYY’s fremtid?

Beslutningen om at udvikle vores globale initiativ for troværdig AI er en vigtig beslutning, der er drevet af vores overbevisning om, at som en organisation, hvis teknologier påvirker virksomheder verden over og tjener titusinder af enkeltbrugere, har vi en forpligtelse til at være gode samfundsborgere med en social samvittighed. Dette hjælper ikke kun med at skabe større tillid hos vores globale kunder og partnere, men det hjælper også med at sikre, at vores teknologier fortsætter med at have en dybdegående indvirkning på en måde, der gavner det fælles bedste.

Det er også god forretningssans at fremme og støtte troværdig brug af AI. Det styrker vores brandværdi, skaber tillid hos vores globale kunder og partnerøkosystem. Tillid oversætter sig til gentagne forretninger og bæredygtig vækst.

En del af dette initiativ er ABBYY’s forpligtelse til at fremme en kultur, der promoverer etisk brug af AI og dets samfundsmæssige nytte. Hvad skal andre virksomheder gøre for at fremme en lignende kultur?

Teknologivirksomhederne skal opbygge en ramme for etisk brug af AI. Omfanget af en sådan forpligtelse afhænger af de intentionerede anvendelser af AI-algoritmer. Den bedste måde at vurdere dets indvirkning er at anvende principperne om ikke at skade. Der skal være en top-down-forpligtelse til troværdig brug af AI.

Lige så vigtigt er en forpligtelse til gennemsigtighed. Mens IP-rettigheder bør balanceres med principperne om troværdig AI, bør vigtigheden af gennemsigtighed og ansvarlighed for ansvarlig brug af AI være tydeligt udtrykt og kommunikeret i hele organisationen.

En af initiativerne, som ABBYY har forpligtet sig til, er at levere AI-teknologier, der er samfundsmæssigt og økonomisk fordelagtige. Dette kan være en svær balance at opnå. Hvordan kan virksomheder bedst implementere dette?

Lederne kan opnå denne balance ved at tage i betragtning anbefalingerne fra Deloitte: At designe etik ind i AI starter med at afgøre, hvad der betyder noget for interessenter såsom kunder, medarbejdere, regulatore og den bredere offentlighed. Virksomhederne skal oprette en dedikeret AI-styrings- og rådgivningskomité bestående af tværfaglige ledere og eksterne rådgivere, der skal engagere sig med multi-stakeholder-arbejdsgrupper og oprette og overvåge styringen af AI-aktiverede løsninger, herunder deres design, udvikling, implementering og brug.

Hvordan vi balancerer vores kommercielle interesser og det samfundsmæssige bedste, blev senest demonstreret under coronaviruspandemien. Vi gjorde mange af vores teknologier tilgængelige gratis eller til rabatterede priser for at hjælpe enkeltpersoner og organisationer med at navigere i krisen, opretholde forretningskontinuitet og støtte deres kunder midt i uforudsigelige omstændigheder.

Vi har også nylig gjort vores teknologiske rammer tilgængelige gennem NeoML, vores cross-platform open-source machine learning-bibliotek, der giver softwareudviklere mulighed for at udnytte beprøvede og pålidelige modeller til at fremme AI-innovation.

Kunne du dele dine synspunkter om brug af AI til COVID-19-apps til kontaktsporing og behovet for at balancere retten til privatliv?

Dette er et særligt komplekst problem. Der er dem, der mener, at implementeringen af mobile sporingssystemer repræsenterer en uvelkommen indtrængen i privatlivsrettigheder. På den anden side, når det kommer til offentlig sikkerhed, er der altid grænser for rettigheder i almindelighed. Det er en balance mellem rettigheder og ansvar. Rettigheder er dog ikke absolutte. Indholdelse af en global pandemi kræver koordineret handling og anvendelse af ressourcer og teknologier, der kan bruges ansvarligt til at beskytte befolkningen i almindelighed.

Denne balance mellem individuel privatlivsret og det fælles bedste er anerkendt inden for en lovgivningsramme. For eksempel identificerer GDPR seks grundlag for lovligt behandling af personlige oplysninger, herunder en bestemmelse om, at når behandling er uundværlig for det offentlige interesse, er sådan behandling af personlige oplysninger berettiget uden at få samtykke fra den registrerede.

Derudover fastslår Recital 46 i GDPR direkte, at behandling af personlige oplysninger er berettiget uden at få samtykke fra den registrerede i humanitære nødsituationer, herunder epidemier. Det er dog vigtigt at bemærke, at Recital 46 tolker anvendelsen af den offentlige interesse-bestemmelse meget snævert, idet det bemærkes, at det kun skal ske, når det ikke kan baseres på en anden lovgivningsmæssig basis.

Ud over balancen mellem privatlivsrettigheder og det offentlige bedste er det også påkrævet, at teknologisektoren og lovgivere implementerer etisk lydige, gennemsigtige og retfærdige retningslinjer i forhold til brugen af AI-drevet profilering og deling af meget følsomme sundhedsoplysninger. Store teknologivirksomheder, herunder Google (GOOGL ) og Facebook (META ), har allerede initieret initiativer til at spore brugernes bevægelser for at identificere, hvordan virusset spreder sig, og evaluere effekten af sociale afstandsforanstaltninger.

Jeg mener, at så længe oplysningerne er anonymiserede, har de samfundsmæssig nytte.

Er der noget andet, du gerne vil dele omkring ABBYY’s nye globale initiativ til fremme af udviklingen af troværdig kunstig intelligens?

Reguleringer tenderer til at være langsomme i forhold til teknologisk innovation, derfor skal virksomhederne tage en proaktiv rolle i at fremme gennemsigtighed og ansvarlighed med AI-teknologier og deres indvirkning på privatlivs- og sikkerhedsrettigheder. Vores initiativ reflekterer vores forpligtelse i denne sag. Siden vores grundlæggelse har vi skabt innovative teknologier, der bevarer værdifuld information og omdanner den til anvendelig viden.

Derudover burde etisk brug af kunstig intelligens-teknologier ikke kun være baseret på lovgivning, men også på en moralsk forpligtelse og en forretningsimperativ. Hvis dine løsninger har en lang række og påvirker forretningskritiske funktioner, burde det være en branchestandard at være gennemsigtig i anvendelsen af AI-teknologier.

Tak så meget for at besvare disse vigtige spørgsmål. For at se ABBYY’s retningslinjer og tilgang til at overholde og fremme troværdig AI-principper, klik her. Enhver, der ønsker at lære mere om ABBYY i almindelighed, kan besøge ABBYY’s hjemmeside.