Reid Blackman, Ph.D, Oprichter en CEO van Virtue Consultants – Interviewreeks

Reid Blackman is de oprichter en CEO van Virtue Consultants. In die hoedanigheid heeft hij met bedrijven gewerkt om ethiek en ethische risicobeperking in de bedrijfscultuur en de ontwikkeling, implementatie en inkoop van opkomende technologieproducten te integreren. Hij is ook senior adviseur bij Ernst & Young en zit in hun Artificial Intelligence Advisory Board, en is lid van IEEE’s Ethically Aligned Design Initiative.

Reid’s werk is gepubliceerd in The Wall Street Journal en Dell Perspectives en hij heeft artikelen geschreven voor The Harvard Business Review, TechCrunch, VentureBeat en Risk & Compliance Magazine. Hij is geciteerd in talloze nieuwsartikelen en spreekt regelmatig op verschillende locaties, waaronder The World Economic Forum, SAP, Cannes Lions, Forbes, NYU Stern School of Business, Columbia University en AIG.

U was van 2009 tot 2018 filosofieprofessor aan de Colgate University. Op welk moment bent u begonnen met het incorporeren van AI-ethiek in uw lessen?

Ik gaf vaak een cursus over Sociale en Politieke Filosofie, waarin ik Marx behandelde. Een van Marx’ centrale beweringen is dat het kapitalisme uiteindelijk zal plaatsmaken voor het communisme vanwege een enorme toename van de “productiemiddelen”. Met andere woorden, het kapitalisme stimuleert een grotere en grotere efficiëntie in de naam van de concurrentie en het openen van nieuwe markten, wat een toename van de creatie van technologieën betekent die meer en meer in kortere en kortere tijd kunnen produceren. Marx voorspelde ook dat dit steeds meer geld in handen van een paar mensen zou doen belanden en steeds meer mensen in armoede zou doen belanden, op het moment dat de kapitalistische structuren zouden worden omvergeworpen door een revolutie geleid door de groeiende aantallen van de arme massa’s. Alles dit leidt tot een discussie over de ethiek van technologie die de behoefte aan menselijke arbeid overbodig maakt, wat een centraal element is van AI-ethiek.

Kleine zijverhaal als u geïnteresseerd bent: in 2002 was ik een graduate student die een discussie leidde over Marx met undergraduate studenten aan de Northwestern University. Op een gegeven moment stak een student zijn hand op en zei: “Uiteindelijk hebben we geen mensen nodig om enig werk te doen.” De klas was verward. Ik was verward. Dus zei ik: “Nou, wie gaat dan het werk doen?” Hij antwoordde op een zeer feitelijke manier: “Robots.” De klas barstte in lachen uit. Ik onderdrukte mijn eigen lachen. Maar het is vrij duidelijk wie het laatste lach had.

In 2018 lanceerde u Virtue Consultants, een ethiekadviesbureau dat Data- en AI-leiders in staat stelt om de ethische risico’s van hun producten te identificeren en te mitigeren. Wat heeft u geïnspireerd om deze ondernemingsreis te beginnen?

Jaloezie. Nou, een beetje. Ik startte een vuurwerk groothandelbedrijf toen ik een graduate student was, denk ik rond 2003 of 2004. Dat ging beter dan ik had verwacht, en het bedrijf bestaat nog steeds, hoewel ik nu alleen nog maar een adviseur ben en niet langer de dagelijkse activiteiten beheer. Hoe dan ook, het is relevant omdat het verklaart hoe ik een mentor werd voor start-ups in het ondernemingsprogramma van Colgate (genaamd TIA, Thought Into Action, geleid door twee geweldige VCs, Andy Greenfield en Wills Hapworth, die TIA Ventures runnen). Als mentor zag ik studenten die spannende projecten startten terwijl ze probeerden te figureren uit hoe ze hun voor-profit of non-profit start-ups konden oprichten en schalen, en ik dacht: “Ik wil dat!” Maar wat zou mijn nieuwe onderneming zijn? Het moest iets zijn dat mijn liefde voor filosofie en ethiek aansprak, en het eerste dat zin had, was een ethiekadviesbureau. Ik zag de markt voor dergelijke diensten niet op dat moment, omdat er geen was om te zien, en dus wachtte ik. En toen kwamen Cambridge Analytica, BLM en #MeToo in het nationale nieuws, en plotseling was er een groter bewustzijn van de behoefte.

Hoe belangrijk is het voor bedrijven om een AI-ethiekverklaring in te voeren?

Een AI-ethiekverklaring is niet essentieel, maar het is een zeer nuttig instrument voor het stellen van doelen. Wanneer u een AI-ethiekprogramma in uw organisatie introduceert, wilt u het identificeren en mitigeren en beheren van verschillende ethische, reputatie-, regelgevende en juridische risico’s. Dat is zijn hoofdfunctie. Een ethiekverklaring helpt bij het articuleren van wat dingen zullen zijn als u eenmaal de infrastructuur, het proces en de praktijken op hun plaats heeft om die functie te bereiken. Voor zover een strategie een doel nodig heeft – wat het altijd doet – is een AI-ethiekverklaring een leuke manier om die doelen te articuleren, hoewel het niet de enige manier is.

Hoe kunnen bedrijven ervoor zorgen dat de ethiekverklaring in processen en praktijken wordt omgezet?

Een ethiekverklaring is slechts een klein stap in de goede richting. Als u verder wilt gaan, is de volgende logische stap om een beoordeling te doen van waar u bent ten opzichte van de doelen die in die verklaring zijn gearticuleerd. Zodra u weet waar de grootste, riskantste kloven zijn – dat wil zeggen, waar u het meest risico loopt om uw doelen te missen – kunt u beginnen met het ontwikkelen van oplossingen om die kloven te verkleinen. Misschien is het een ethisch comité. Misschien is het een due diligence-proces tijdens productontwikkeling. Misschien is het beter worden in het omgaan met gegevens in niet-productafdelingen, zoals marketing en HR. Waarschijnlijk is het al die dingen en meer.

Wat zijn enkele oplossingen die bedrijven moeten implementeren om vooringenomenheid in het daadwerkelijke AI-algoritme te voorkomen?

Er zijn een heleboel technische tools beschikbaar om vooringenomenheid te identificeren, maar ze zijn beperkt. Ze zullen u toelaten om uw modeluitvoer te vergelijken met de tientallen kwantitatieve metrics die in de academische ML-ethiek-literatuur zijn aangeboden, maar u moet voorzichtig zijn, omdat die metrics niet onderling compatibel zijn. Dus een substantiële, ethische beslissing moet worden genomen: welke, zo nodig, van deze metrics, is de juiste in deze context?

Los van het gebruik van een dergelijke tool, aangevuld met een verantwoorde manier om die vraag te beantwoorden, zouden productteams goed doen om na te denken over waar vooringenomenheid kan binnensluipen voordat ze beginnen met bouwen. Hoe kan het worden gevangen of weerspiegeld in de trainingsdatasets? Hoe zit het met het bepalen van de objectiefunctie? Wat over het bepalen van de drempel? Er zijn veel plaatsen waar vooringenomenheid kan binnensluipen. Vooruitdenken over waar dat kan zijn in uw huidige project en hoe het erin kan komen, is essentieel voor het identificeren en mitigeren van vooringenomenheid.

AI-bedrijven zijn berucht om hun dominantie door witte mannen die onbewust vooringenomenheid in het AI-systeem kunnen programmeren. Om dit te voorkomen, welke eigenschappen moeten HR-afdelingen zoeken?

Ik ben voorstander van meer kansen en diversiteit onder engineers en productteams in het algemeen. Dat gezegd hebbende, denk ik dat dit door de verkeerde bril wordt bekeken. Het primaire probleem bij vooringenomen algoritmes is niet dat de vooringenomenheid van een witte man leidt tot vooringenomen code. Het is dat de trainingsdatasets vooringenomen zijn. In feite concludeerde een recente studie van Columbia – “Vooringenomen programmeurs? Of vooringenomen gegevens? Een veldexperiment in operationeel AI-ethiek” – dat “[p]rogrammeurs die technische richtlijnen begrijpen, vooringenomenheid met succes verminderen” en dat “[a]lgoritmevoorspellingen van vrouwelijke en minderheids-AI-programmeurs geen minder algoritmevooringenomenheid of discriminatie vertonen”. Dus terwijl HR aandacht moet besteden aan diversiteitskwesties, is het verre van duidelijk dat strategieën voor het reduceren van vooringenomen AI-uitvoer primair – laat staan exclusief – moeten focussen op wervingsbeslissingen in verband met diversiteitsefforts.

Kunt u bespreken wat ethische risicodue diligence is en waarom bedrijven dit moeten implementeren?

Een ethische risicodue diligence is een poging om de verschillende ethische risico’s te identificeren die gerealiseerd kunnen worden met het product dat u creëert, inclusief hoe het wordt geïmplementeerd, hoe het kan worden gebruikt en misbruikt, enz. U wilt zich richten op kenmerken van het product – zowel die het heeft als die het mist – en de manieren waarop die kunnen leiden, wanneer ze in verschillende contexten worden geïmplementeerd, tot ethisch onrecht. Wanneer het goed wordt gedaan, is het een systematische en uitgebreide inspectie. Natuurlijk, terwijl u uw best kunt doen om om de hoek te kijken, zijn er mogelijk enkele dingen die u mist, wat de reden is waarom continue monitoring belangrijk is.

Wat de reden is waarom bedrijven dit moeten implementeren: ze hoeven alleen maar te overwegen de ethische, reputatie-, regelgevende en juridische risico’s voor het niet doen ervan. Denk aan Optum in het nieuws en onder regelgevende onderzoek voor een (allegedly) vooringenomen algoritme dat aan zorgverleners aanbeval om meer aandacht te besteden aan blanke patiënten dan aan zieke zwarte patiënten. Of aan Goldman Sachs (GS ), onder onderzoek voor de kredietlimieten voor de Apple (AAPL ) Card, die (allegedly) discrimineert tegen vrouwen. Of Amazon’s (AMZN ) wervingssoftware, die werd geschrapt vanwege bezorgdheid over vooringenomenheid voordat het werd geïmplementeerd. Of IBM, dat wordt aangeklaagd door Los Angeles voor het (allegedly) misbruiken van gegevens verzameld van hun Weer-app. Of Facebook (META ) ….

Is er nog iets anders dat u zou willen delen over Virtue Consultants?

Virtue helpt senior leiders om AI-ethiek in praktijk te brengen, of het nu gaat om het onderwijzen en bijscholen van mensen over het onderwerp, het schrijven van een AI-ethiekverklaring, het creëren en implementeren van een actueel AI-ethisch risicokader, of simpelweg als adviseur op het gebied van AI-ethiek. Als dat interessant klinkt, moeten mensen even langskomen.

Dank u voor het geweldige interview, lezers die meer willen leren over Reid, kunnen bezoek Reid Blackman, of u kunt bezoek Virtue Consultants.