Reid Blackman, Ph.D, Oprichter en CEO van Virtue Consultants – Interview Series

Reid Blackman is de Oprichter en CEO van Virtue Consultants. In die hoedanigheid heeft hij met bedrijven samengewerkt om ethiek en ethische risicobeheersing te integreren in de bedrijfscultuur en de ontwikkeling, implementatie en inkoop van opkomende technologieproducten. Hij is ook Senior Advisor bij Ernst & Young en zit in hun Artificial Intelligence Advisory Board, en is lid van IEEE’s Ethically Aligned Design Initiative.

Reid’s werk is geprofileerd in The Wall Street Journal en Dell Perspectives en hij heeft bijdragen geleverd aan The Harvard Business Review, TechCrunch, VentureBeat en Risk & Compliance Magazine. Hij is geciteerd in talloze nieuwsartikelen en hij spreekt regelmatig op verschillende locaties, waaronder The World Economic Forum, SAP, Cannes Lions, Forbes, NYU Stern School of Business, Columbia University en AIG.

U was van 2009 tot 2018 een filosofieprofessor aan de Colgate University. Op welk moment bent u begonnen met het incorporeren van AI-ethiek in uw lessen?

Ik gaf vaak een cursus over Sociale en Politieke Filosofie, waarin ik Marx behandelde. Een van Marx’ centrale beweringen is dat het kapitalisme uiteindelijk zal plaatsmaken voor het communisme vanwege een enorme toename van de “productiemiddelen”. Met andere woorden, het kapitalisme stimuleert een grotere en grotere efficiëntie in de naam van concurrentie en het openen van nieuwe markten, wat leidt tot een toename in de creatie van technologieën die meer en meer in kortere en kortere tijd kunnen produceren. Marx voorspelde ook dat dit steeds meer geld in handen van een paar mensen zou doen belanden en steeds meer mensen in armoede zou doen belanden, op het moment waarop de kapitalistische structuren door een revolutie zouden worden omvergeworpen door de groeiende aantallen van de arme massa’s. Alles leidt tot een discussie over de ethiek van technologie die de noodzaak van menselijke arbeid overbodig maakt, wat een centraal element is van AI-ethiek.

Kleine zijverhaal als u geïnteresseerd bent: Terug in 2002 was ik een graduate student die een discussie over Marx leidde met undergraduate studenten aan de Northwestern University. Op een gegeven moment stak een student zijn hand op en zei: “Uiteindelijk hebben we geen mensen nodig om enig werk te doen.” De klas was verward. Ik was verward. Dus zei ik: “Nou, wie gaat dan het werk doen?” Hij antwoordde op een zeer feitelijke manier: “robots”. De klas barstte in lachen uit. Ik onderdrukte mijn eigen lachen. Maar het is vrij duidelijk wie het laatste lach had.

In 2018 lanceerde u Virtue Consultants, een ethiekadviesbureau dat Data- en AI-leiders in staat stelt om de ethische risico’s van hun producten te identificeren en te mitigeren. Wat inspireerde u om deze ondernemingsreis te beginnen?

Jaloezie. Nou, zo ongeveer. Ik startte een vuurwerk groothandelbedrijf toen ik een graduate student was, denk ik rond 2003 of 2004. Dat ging beter dan ik had verwacht, en het bedrijf bestaat nog steeds, hoewel ik nu een adviseur ben en niet langer de dagelijkse activiteiten beheer. Hoe dan ook, het is relevant omdat het uitlegt hoe ik een mentor voor start-ups werd in het ondernemingsprogramma van Colgate (genaamd TIA, Thought Into Action, geleid door twee geweldige VCs, Andy Greenfield en Wills Hapworth, die TIA Ventures leiden). Als mentor zag ik studenten die spannende projecten startten terwijl ze probeerden te figureren uit hoe ze hun voor-profit of non-profit start-ups konden oprichten en schalen, en ik dacht: “Ik wil dat!” Maar wat zou mijn nieuwe onderneming zijn? Het moest mijn liefde voor filosofie en ethiek weerspiegelen, en het eerste dat zin had, was een ethiekadviesbureau. Ik zag de markt voor dergelijke diensten op dat moment niet, omdat er geen markt was om te zien, en dus wachtte ik. En toen kwamen Cambridge Analytica, BLM en #MeToo in het nationale nieuws, en plotseling was er een groter bewustzijn van de noodzaak.

Hoe belangrijk is het voor bedrijven om een AI-ethiekverklaring in te voeren?

Een AI-ethiekverklaring is niet essentieel, maar het is een uiterst nuttig instrument voor het stellen van uw doelen. Wanneer u een AI-ethiekprogramma in uw organisatie introduceert, wilt u dat het de verschillende ethische, reputatie-, regelgevende en juridische risico’s identificeert en mitigeert. Dat is de belangrijkste functie ervan. Een ethiekverklaring helpt bij het articuleren van hoe dingen eruit zullen zien zodra u de infrastructuur, het proces en de praktijken op hun plaats heeft om die functie te bereiken. Voor zover een strategie een doel nodig heeft – wat het altijd doet – is een AI-ethiekverklaring een mooie manier om die doelen te articuleren, hoewel het niet de enige manier is.

Hoe kunnen bedrijven ervoor zorgen dat de ethiekverklaring wordt omgezet in proces en praktijk?
Een ethiekverklaring is slechts een kleine stap in de goede richting. Als u verder wilt gaan, is de volgende logische stap om een beoordeling te doen van waar u bent ten opzichte van de doelen die in die verklaring zijn geformuleerd. Zodra u weet waar de grootste, risicovolste lacunes zijn – dat wil zeggen, waar u het meest het risico loopt om uw doelen niet te bereiken – kunt u beginnen met het ontwikkelen van oplossingen om die lacunes te verkleinen. Misschien is het een ethisch comité. Misschien is het een due diligence-proces tijdens productontwikkeling. Misschien is het beter worden in het omgaan met gegevens in niet-productafdelingen, zoals marketing en HR. Waarschijnlijk is het allemaal en meer.

Wat zijn enkele oplossingen die bedrijven moeten implementeren om bias in de daadwerkelijke AI-algoritme te voorkomen?

Er zijn een heleboel technische tools beschikbaar voor het identificeren van bias, maar ze zijn beperkt. Ze zullen u toelaten om uw modeluitvoer te vergelijken met de tientallen kwantitatieve metrics die in de academische ML-ethiek-literatuur zijn aangeboden, maar u moet voorzichtig zijn, omdat die metrics niet onderling compatibel zijn. Dus een inhoudelijke, ethische beslissing moet worden genomen: welke, indien van toepassing, van deze metrics is de geschikte in deze context?

Behalve het gebruik van een dergelijk instrument, aangevuld met een verantwoorde manier om die vraag te beantwoorden, zouden productteams er goed aan doen om na te denken over waar bias kan intreden voordat ze beginnen met bouwen. Hoe kan het worden gecontroleerd of weerspiegeld in de trainingsdatasets? Hoe zit het met het bepalen van de objectiefunctie? Wat met het bepalen van de drempel? Er zijn veel plaatsen waar bias kan intreden. Vooruitdenken over waar dat zou kunnen zijn in uw huidige project en hoe het daar kan intreden, is essentieel voor het identificeren en mitigeren van bias.

AI-bedrijven zijn berucht om het feit dat ze gedomineerd worden door blanke mannen die onbewust vooroordelen in de AI-systemen kunnen programmeren. Om dit te voorkomen, welke eigenschappen moeten afdelingen Human Resources zoeken?

Ik ben voorstander van meer kansen en meer diversiteit onder engineers en productteams in het algemeen. Dat gezegd hebbende, denk ik dat dit door de verkeerde bril wordt bekeken. Het primaire probleem wanneer het gaat om bevooroordeelde algoritmes is niet dat de vooroordelen van een blanke man leiden tot bevooroordeelde code. Het is dat de trainingsdatasets bevooroordeeld zijn. In feite concludeerde een recent artikel uit Columbia – “Bevooroordeelde programmeurs? Of bevooroordeelde gegevens? Een veldexperiment in operationele AI-ethiek” – dat “[p]rogrammeurs die technische richtlijnen begrijpen, bias met succes verminderen” en dat “[a]lgoritme-predicties door vrouwelijke en minderheids-AI-programmeurs geen minder algoritmische bias of discriminatie vertonen”. Dus terwijl HR aandacht moet besteden aan diversiteitskwesties, is het verre van duidelijk dat strategieën voor het reduceren van bevooroordeelde AI-uitvoer hoofdzakelijk – laat staan exclusief – moeten focussen op wervingsbeslissingen in verband met diversiteitsefforts.

Kunt u discussieren wat ethische risicodue diligence is en waarom bedrijven dit moeten implementeren?

Een ethische risicodue diligence is een poging om de verschillende ethische risico’s te identificeren die gerealiseerd kunnen worden met het product dat u creëert, inclusief de manier waarop het wordt geïmplementeerd, gebruikt en misbruikt, enz. U wilt zich richten op kenmerken van het product – zowel die het heeft als die het ontbeert – en de manieren waarop die kunnen leiden, wanneer geïmplementeerd in verschillende contexten, tot ethisch onrecht. Wanneer het goed wordt gedaan, is het een systematische en uitputtende inspectie. Natuurlijk, terwijl u uw best kunt doen om om de hoek te kijken, zijn er mogelijk enkele dingen die u mist, en dat is waarom continue monitoring belangrijk is.

Wat betreft waarom bedrijven dit moeten implementeren: ze hoeven alleen maar te overwegen de ethische, reputatie-, regelgevende en juridische risico’s voor het niet doen ervan. Denk aan Optum in het nieuws en onder regelgevende onderzoek voor een (allegedly) bevooroordeeld algoritme dat aan zorgverleners aanbeval om meer aandacht te besteden aan blanke patiënten dan aan zieke zwarte patiënten. Of aan Goldman Sachs, onder onderzoek voor de kredietlimieten voor de Apple Card, die (allegedly) discrimineert tegen vrouwen. Of Amazon’s wervingssoftware, die werd geschrapt vanwege bezorgdheid over bias voordat het werd geïmplementeerd. Of IBM, dat wordt aangeklaagd door Los Angeles voor het (allegedly) misbruiken van gegevens verzameld uit hun Weer-app. Of Facebook…

Is er nog iets anders dat u wilt delen over Virtue Consultants?

Virtue helpt senior leiders om AI-ethiek in de praktijk te brengen, of het nu gaat om het onderwijzen en bijscholen van mensen over het onderwerp, het schrijven van een AI-ethiekverklaring, het creëren en implementeren van een actueel AI-ethisch risicokader, of simpelweg dienen als adviseurs over AI-ethiek. Als dat interessant klinkt, moeten mensen even langskomen.

Dank u voor het geweldige interview, lezers die meer willen leren over Reid, kunnen Reid Blackman bezoeken, of ze kunnen Virtue Consultants bezoeken.