Andrew Pery, Ethiek Evangelist, ABBYY – Interview Serie

Andrew Pery is de Ethiek Evangelist bij ABBYY, een digitaal intelligentiebedrijf. Zij empoweren organisaties om toegang te krijgen tot waardevolle, maar vaak moeilijk te verkrijgen, inzichten in hun operaties die echte bedrijfstransformatie mogelijk maken.

ABBYY heeft onlangs een Global Initiative Promoting the Development of Trustworthy Artificial Intelligence gelanceerd. Wij besloten om Andrew vragen te stellen over ethiek in AI, misbruik van AI en wat de AI-industrie kan doen aan deze zorgen in de toekomst.

Wat is het dat uw interesse in AI-ethiek aanvankelijk heeft gewekt?

Wat mijn interesse in AI-ethiek aanvankelijk heeft gewekt, was een diepe interesse in de intersectie van recht en AI-technologie. Ik begon mijn carrière in het strafrechtssysteem, waar ik arme verdachten vertegenwoordigde die geen financiële middelen hadden om juridische diensten te betalen. Vervolgens ging ik over naar technologie, met een focus op de toepassing van geavanceerde zoektechnologie en AI in de rechtspraktijk. Als gecertificeerd Data Privacy-professional ben ik vooral gepassioneerd over privacywetgeving en de juiste toepassing van AI-technologie die in overeenstemming is met en de privacyrechten versterkt.

Gezichtsherkenningstechnologie wordt vaak misbruikt door autoriteiten, waaronder de Amerikaanse overheid. Hoe groot is deze maatschappelijke zorg?

De implicaties van gezichtsherkenningstechnologie moeten een significante maatschappelijke zorg zijn, aangezien deze technologie een impact kan hebben op zoveel fundamentele rechten, waaronder economische, sociale en veiligheidsrechten.

Er is duidelijk en overtuigend bewijs dat gezichtsherkenningstechnologie onbetrouwbaar is. Een NIST-studie van gezichtsherkenningstechnologie vond dat Afro-Amerikanen tot 100 keer vaker verkeerd geïdentificeerd werden. Een soortgelijke studie van de Georgetown Law School vond dat gezichtsherkenningstechnologie op basis van mugshots een hoog percentage valse positieven opleverde in verband met Afro-Amerikaanse individuen, en een 2018 MIT-studie van Amazon Facial Recognition Software (AMZN ) vond dat terwijl blanke mannen 99% van de tijd correct geïdentificeerd werden, donkere huidskleurige individuen tot 35% valse positieven gegenereerd.

Om deze redenen nemen regulators stappen om het gebruik van gezichtsherkenningstechnologie te verbieden, met name in de context van surveillance en profilering. Bijvoorbeeld, de California Senate keurde een landelijke verbod goed op het gebruik van gezichtsherkenningstechnologie en andere biometrische surveillance-methoden.

Er is ook momentum binnen de technologiegemeenschap om terug te trekken van de marketing van gezichtsherkenningstechnologie. IBM kondigde aan dat het zal stoppen met de verkoop van gezichtsherkenningstechnologie, omdat het basale mensenrechten en -vrijheden schendt. Microsoft (MSFT ) kondigde een soortgelijke beslissing aan om te stoppen met de verkoop van zijn gezichtsherkenningstechnologie, eveneens vanwege fundamentele mensenrechten.

COMPAS-software, die door Amerikaanse rechtbanken is gebruikt voor het beoordelen van criminele risico’s, heeft zichtbare minderheden als meer waarschijnlijk aangemerkt om opnieuw te overtreden dan blanke daders. Moet het gebruik van AI in rechtbanken überhaupt een optie zijn?

Studies van COMPAS toonden aan dat het niet beter is in het voorspellen van misdrijven dan willekeurige mensen. Terwijl predictieve analytics significante waarde levert in een commerciële context, is aangetoond dat het leidt tot ongelijkheden in de toepassing in de strafrechtelijke context. Dit is duidelijk in een rapport gepubliceerd door Pro Publica, dat aantoonde dat COMPAS, de meest gebruikte software door Amerikaanse rechtbanken voor het beoordelen van criminele risico’s, zichtbare minderheden verkeerd aangemerkt als meer waarschijnlijk om opnieuw te overtreden, met een frequentie van twee keer zoveel als blanke daders.

Deze ongelijkheden leidden ertoe dat voormalig minister van Justitie Eric Holder de rechtvaardigheid en uitte zijn zorgen over de potentiële ongelijkheden die door de toepassing van AI-technologie kunnen ontstaan bij het voorspellen van recidivepercentages binnen de daderpopulatie.

Hoe kan de samenleving onbewust programmeren van negatieve vooroordelen in AI-systemen voorkomen?

Ten eerste moet er een erkenning zijn dat AI de neiging kan hebben om onbewust vooroordelen te produceren. Het mitigeren van de nadelige gevolgen hiervan vereist een holistische aanpak, bestaande uit de ontwikkeling van ethische AI-richtlijnen, zoals voorgesteld door de OECD Ethical Frameworks. Dit is gebaseerd op zeven fundamentele principes, waaronder menselijke agentie en toezicht, technische robuustheid en veiligheid, privacy en governance, transparantie, diversiteit en non-discriminatie, maatschappelijk welzijn en aansprakelijkheid.

Ten tweede is het naleven van wettelijke kaders die bescherming bieden tegen geautomatiseerde profilering van essentieel belang. Bijvoorbeeld, de EU heeft een lange geschiedenis van respecteren en beschermen van privacyrechten, met de meest recente en krachtigste uitdrukking in de Algemene Verordening Gegevensbescherming (GDPR), die specifiek bescherming biedt tegen geautomatiseerde besluitvorming.

Ten derde moet er een verantwoordelijkheid zijn binnen de industrie voor de ontwikkeling en toepassing van AI-technologie. Er zijn positieve ontwikkelingen op dit gebied. Bijvoorbeeld, de Partnership on AI is een organisatie met meer dan 80 leden in 13 landen, gewijd aan onderzoek en discussie over belangrijke AI-kwesties.

Ten slotte moeten technologiebedrijven een toezegging doen om een bias-impactbeoordeling uit te voeren voordat AI-algoritmes commercieel worden uitgebracht, met name wanneer hun toepassingen een impact hebben op privacy- en veiligheidsrechten. Vragen die technologieleiders moeten overwegen voordat ze nieuwe AI-geactiveerde toepassingen uitbrengen, zijn: Is de data waarop deze technologie is getraind voldoende divers? Hoe wordt vooroordelen gedetecteerd? Hoe wordt het getest en door wie? Wat zijn de incentives voor ontwikkelaars? Wie zal commercieel profiteren van het?

Het is belangrijk om te onthouden dat AI-oplossingen de onderliggende data weerspiegelen waarop deze toepassingen zijn getraind, dus het is essentieel om ervoor te zorgen dat deze data niet vooroordeelkundig is en correct de diversiteit van degenen die de oplossing zal dienen, weerspiegelt. In de woorden van AI-onderzoeker Professor Joanna Bryson, “als de onderliggende data stereotypen weerspiegelt, of als u AI traint vanuit menselijke cultuur, zult u vooroordelen vinden. En als we niet voorzichtig zijn, riskeren we het integreren van dat vooroordelen in de computerprogramma’s die snel het beheer overnemen van alles, van ziekenhuizen tot scholen tot gevangenissen – programma’s die bedoeld zijn om die vooroordelen in de eerste plaats te elimineren.”

ABBYY heeft onlangs een Global Initiative gelanceerd om de ontwikkeling van Betrouwbaar Kunstmatig Intelligentie te bevorderen. Hoe belangrijk is deze initiatief voor de toekomst van ABBYY?

De beslissing om onze globale initiatief voor betrouwbaar AI te ontwikkelen, is een belangrijke beslissing, gedreven door ons geloof dat wij, als een organisatie wiens technologieën een impact hebben op ondernemingen over de hele wereld en die tienduizenden individuele gebruikers bedienen, een verplichting hebben om goede corporate burgers te zijn met een sociaal geweten. Niet alleen helpt dit om meer vertrouwen te creëren bij onze mondiale klanten en partners, maar het helpt ook om ervoor te zorgen dat onze technologieën blijven hebben een diepgaande impact op een manier die ten goede komt aan het algemeen welzijn.

Het is ook goed voor het bedrijf om de betrouwbare toepassing van AI te bevorderen en te ondersteunen. Het versterkt onze merkwaarde, creëert vertrouwen met onze mondiale klanten en partner-ecosysteem. Vertrouwen vertaalt zich in herhaalde zaken en in duurzame groei.

Underdeel van deze initiatief is dat ABBYY zich verplicht om een cultuur te creëren die de ethische toepassing van AI en zijn sociaal nut bevordert. Wat moet er gebeuren om andere bedrijven een soortgelijke cultuur te laten creëren?

Technologiebedrijven moeten een kader opbouwen voor de ethische toepassing van AI. De omvang van een dergelijke toezegging hangt af van de beoogde toepassingen van AI-algoritmes. De beste manier om de impact te meten is door de principe “geen schade” toe te passen en een toezegging te doen aan de betrouwbare toepassing van AI van bovenaf.

Even belangrijk is een toezegging aan transparantie. Terwijl IP-rechten in evenwicht moeten worden gebracht met het principe van betrouwbaar AI, moet de belangrijkheid van transparantie en verantwoordelijkheid voor het verantwoorde gebruik van AI duidelijk worden geformuleerd en door de hele organisatie worden gecommuniceerd.

Een van de initiatieven waaraan ABBYY zich heeft verbonden, is het leveren van AI-technologie die sociaal en economisch nuttig is. Dit kan een moeilijke balans zijn om te bereiken. Hoe kunnen bedrijven dit het beste implementeren?

Leiders kunnen deze balans bereiken door aanbevelingen van Deloitte te overwegen: Het ontwerpen van ethiek in AI begint met het bepalen wat belangrijk is voor stakeholders, zoals klanten, werknemers, regulators en het bredere publiek. Bedrijven moeten een speciaal AI-governance- en adviescomité oprichten van cross-functionele leiders en externe adviseurs die zullen samenwerken met multi-stakeholder-werkgroepen en governance van AI-geactiveerde oplossingen zullen vaststellen en toezicht houden op de ontwikkeling, implementatie en toepassing.

Hoe wij onze commerciële belangen en sociaal welzijn in evenwicht brengen, werd onlangs geïllustreerd tijdens de Coronapandemie. Wij maakten veel van onze technologieën beschikbaar voor gratis of tegen een gereduceerd tarief om individuen en organisaties te helpen de crisis te doorstaan, de bedrijfscontinuïteit te behouden en hun klanten te ondersteunen in onvoorspelbare omstandigheden.

Wij hebben onlangs ook onze technologieframeworks beschikbaar gemaakt via NeoML, onze cross-platform open-source machine learning library die softwareontwikkelaars in staat stelt om bewezen en betrouwbare modellen te gebruiken om AI-innovatie te bevorderen.

Kunt u uw mening delen over het gebruik van AI voor COVID-19-apps voor contactonderzoek en de noodzaak om het recht op privacy in evenwicht te brengen?

Dit is een bijzonder lastige kwestie. Er zijn diegenen die betogen dat de implementatie van mobiele tracking-apps een ongewenste inbreuk vormt op privacyrechten. Aan de andere kant, wanneer het gaat om openbare veiligheid, zijn er altijd grenzen aan rechten in het algemeen. Het is een afweging tussen rechten en verantwoordelijkheden. Rechten zijn echter niet absoluut. De bestrijding van een wereldwijde pandemie vereist gecoördineerde actie en toepassing van middelen en technologieën die verantwoord kunnen worden gebruikt om de bevolking als geheel te beschermen.

Deze balans tussen individuele privacyrechten en het algemeen welzijn wordt erkend in een wettelijk kader. Bijvoorbeeld, de GDPR identificeert zes gronden voor wettige verwerking van persoonlijk identificeerbare informatie, waaronder een bepaling dat wanneer verwerking onmisbaar is voor het algemeen welzijn, een dergelijke verwerking van PII gerechtvaardigd is zonder toestemming van de betrokkene.

Verder specificeert Aanbeveling 46 van de GDPR dat de verwerking van PII gerechtvaardigd is zonder toestemming van de betrokkene in humanitaire noodtoestanden, waaronder epidemieën. Echter, het is belangrijk op te merken dat Aanbeveling 46 de toepassing van de bepaling van het algemeen welzijn zeer nauw interpreteert, waarin wordt opgemerkt dat dit alleen moet gebeuren wanneer het niet kan worden gebaseerd op een andere wettelijke basis.

Los van de balans tussen privacyrechten en het algemeen welzijn, is het ook de verantwoordelijkheid van de technologiebranche en beleidsmakers om ethisch verantwoorde, transparante en eerlijke richtlijnen te implementeren met betrekking tot het gebruik van AI-gedreven profilering en het delen van zeer gevoelige gezondheidsinformatie. Grote technologiebedrijven, waaronder Google (GOOGL ) en Facebook (META ), zijn al begonnen met initiatieven om de bewegingen van gebruikers te volgen om te zien hoe het virus zich verspreidt en om de effectiviteit van sociale distantie-maatregelen te evalueren.

Ik geloof dat zolang de informatie anoniem is, het een sociaal nut heeft.

Is er nog iets dat u zou willen delen over ABBYY’s nieuwe Global Initiative Promoting the Development of Trustworthy Artificial Intelligence?

Regelgevingen hebben de neiging om achter te blijven op technologische innovatie, dus bedrijven moeten een proactieve rol spelen in het bevorderen van transparantie en verantwoordelijkheid met AI-technologie en hun impact op privacy- en veiligheidsrechten. Ons initiatief weerspiegelt onze toezegging aan deze onderneming. Sinds onze oprichting hebben wij innovatieve technologieën gecreëerd die waardevolle informatie bewaren en omzetten in actuele kennis.

Verder moet de ethische toepassing van AI-technologie niet alleen worden overwogen op basis van wettelijke gronden, maar ook als morele verplichting en een bedrijfsimperatief. Als uw oplossingen een grote impact hebben en bedrijfskritieke functies beïnvloeden, moet het een branche-norm zijn om transparant te zijn in de toepassing van AI-technologie.

Bedankt voor het beantwoorden van deze belangrijke vragen. Om ABBYY’s richtlijnen en benadering van het naleven van en pleiten voor betrouwbare AI-principes te bekijken, klik hier. Iedereen die meer wilt weten over ABBYY in het algemeen, kan de ABBYY-website bezoeken.