Reid Blackman, fil.dr, grundare och VD för Virtue Consultants – Intervjuserie

Reid Blackman är grundare och VD för Virtue Consultants. I den rollen har han arbetat med företag för att integrera etik och etisk riskminimering i företagskulturen och utvecklingen, distributionen och inköpet av produkter inom ny teknik. Han är också senior rådgivare till Ernst & Young och sitter i deras styrelse för artificiell intelligens, och är medlem i IEEE:s initiativ för etiskt utformade system.

Reids arbete har presenterats i The Wall Street Journal och Dell Perspectives, och han har bidragit med artiklar till The Harvard Business Review, TechCrunch, VentureBeat och Risk & Compliance Magazine. Han har citerats i många nyhetsartiklar och talar regelbundet vid olika tillfällen, inklusive Världsekonomiskt forum, SAP, Cannes Lions, Forbes, NYU Stern School of Business, Columbia University och AIG.

Du var professor i filosofi vid Colgate University från 2009 till 2018. När började du att införa AI-etik i dina kurser?

Jag undervisade ofta i en kurs om social och politisk filosofi, där jag behandlade Marx. En av Marx centrala påståenden är att kapitalismen till slut kommer att ge vika för kommunismen på grund av en massiv ökning av “produktionsmedlen”. Med andra ord, kapitalismen driver effektivitet i namnet av konkurrens och öppnande av nya marknader, vilket innebär en ökning av skapandet av teknologier som kan producera mer och mer på kortare och kortare tid. Marx förutsade också att detta skulle leda till att allt mer pengar hamnar i händerna på få och att allt fler människor kommer att drivas in i fattigdom, vilket till slut kommer att störta de kapitalistiska strukturerna genom en revolution ledd av de växande skarorna av fattiga massor. Allt detta leder till en diskussion om etiken kring teknologi som gör det möjligt att undvara mänskligt arbete, vilket är ett centralt inslag i AI-etiken.

Liten sidohistoria om du är intresserad: 2002 var jag doktorand och ledde en diskussion om Marx med studenter vid Northwestern University. Vid ett tillfälle höjde en student handen och sa: “Till slut kommer vi inte att behöva människor för att göra något arbete.” Klassen var förvirrad. Jag var förvirrad. Så jag sa: “Vem kommer att göra arbetet då?” Han svarade på ett mycket sakligt sätt: “Robotar.” Klassen bröt ut i skratt. Jag undertryckte mitt eget. Men det är ganska uppenbart vem som fick den sista skratten.

2018 lanserade du Virtue Consultants, ett etik-konsultföretag som hjälper chefer inom data och AI att identifiera och mildra de etiska riskerna med deras produkter. Vad inspirerade dig att börja den här entreprenöriella resan?

Avund. Ja, lite grand. Jag startade ett företag som sålde fyrverkerier när jag var doktorand, tror jag runt 2003 eller 2004. Det gick bättre än jag hade förväntat mig, och företaget finns fortfarande, även om jag nu är rådgivare och inte längre sköter den dagliga verksamheten. Det är relevant eftersom det förklarar hur jag kom att bli mentor för start-ups i Colgates entreprenörsprogram (kallat TIA, Thought Into Action, lett av två fantastiska riskkapitalister, Andy Greenfield och Wills Hapworth, som driver TIA Ventures). Som mentor såg jag studenter som startade spännande projekt när de försökte ta reda på hur de kunde etablera och skala upp sina vinstdrivande eller icke-vinstdrivande företag, och jag tänkte: “Jag vill ha det!” Men vad skulle mitt nya företag vara? Det måste ha att göra med min kärlek till filosofi och etik, och det första som kändes rätt var ett etik-konsultföretag. Jag såg inte marknaden för sådana tjänster på den tiden, eftersom den inte fanns, så jag väntade. Och sedan kom Cambridge Analytica, BLM och #MeToo i nationella rubriker, och plötsligt fanns det en större medvetenhet om behovet.

Hur viktigt är det för företag att införa en AI-etisk deklaration?

En AI-etisk deklaration är inte absolut nödvändig, men det är ett mycket användbart verktyg för att sätta mål. När du inför en AI-etisk program i din organisation vill du identifiera och mildra samtliga etiska, ryktesmässiga, regulatoriska och juridiska risker. Det är dess huvudsakliga funktion. En etisk deklaration hjälper till att formulera vad saker och ting kommer att se ut som när du har infrastrukturen, processerna och metoderna på plats för att uppnå den funktionen. Så länge en strategi behöver ett mål – vilket den alltid gör – är en AI-etisk deklaration ett bra sätt att formulera dessa mål, även om det inte är det enda sättet.

Hur kan företag se till att den etiska deklarationen omsätts i process och praxis?

En etisk deklaration är bara ett litet steg i rätt riktning. Om du vill fortsätta måste du göra en bedömning av var du står i förhållande till de mål som formulerats i den deklarationen. När du vet var de största, riskfyllda luckorna är – det vill säga var du är som mest benägen att inte uppfylla dina mål – kan du börja utarbeta lösningar för att minska dessa luckor. Kanske är det en etisk kommitté. Kanske är det en due diligence-process under produktutvecklingen. Kanske är det att bli bättre på att hantera data i icke-produktavdelningar, som marknadsföring och HR. Förmodligen är det alla dessa saker och mer.

Vilka lösningar bör företag införa för att undvika fördomar i den faktiska AI-algoritmen?

Det finns en mängd tekniska verktyg där ute för att identifiera fördomar, men de är begränsade. De kommer att låta dig jämföra din modells utdata med de dussintals kvantitativa mått som har erbjudits i den akademiska ML-etiken, men du måste vara försiktig eftersom dessa mått inte är ömsesidigt kompatibla. Så ett substantiellt, etiskt beslut måste fattas: vilket, om något av dessa mått, är det lämpligaste i detta sammanhang?

Förutom att använda ett verktyg som det, kompletterat med ett ansvarsfullt sätt att besvara den frågan, bör produktteam fundera på var fördomar kan smyga in innan de börjar bygga. Hur kan det inneslutas eller återspeglas i träningsdatauppsättningarna? Hur är det med att bestämma objektfunktionen? Vad gäller att bestämma tröskeln? Det finns många platser där fördomar kan smyga in. Förutseende om var det kan vara i det aktuella projektet och hur det kan komma dit är avgörande för att identifiera och mildra fördomar.

AI-företag är ökända för att domineras av vita män som oavsiktligt kan programmera in vissa fördomar i AI-systemet. För att undvika detta, vilka egenskaper bör HR-avdelningar leta efter?

Jag är för större möjligheter och större mångfald bland ingenjörer och produktteam i allmänhet. Det sagt, tror jag att detta är att se på saker och ting genom fel lins. Det primära problemet när det gäller fördomsfulla algoritmer är inte att någon vit kille har fördomar som leder till fördomsfull kod. Det är att träningsdatauppsättningarna är fördomsfulla. I själva verket drog en nyligen publicerad rapport från Columbia – “Fördomsfulla programmerare? Eller fördomsfulla data? En fältstudie i att operationalisera AI-etik” – slutsatsen att “[p]rogrammerare som förstår teknisk vägledning minskar framgångsrikt fördomar”, och att “[a]lgoritmiska förutsägelser av kvinnliga och minoritets-AI-programmerare visar inte mindre algoritmisk fördom eller diskriminering”. Så medan HR bör uppmärksamma mångfaldsfrågor, är det långt ifrån klart att strategier för att minska fördomsfulla AI-utdata främst – eller ens uteslutande – bör fokusera på rekryteringsbeslut i förhållande till mångfaldsinsatser.

Kan du diskutera vad etisk riskdue diligence är och varför företag bör implementera det?

En etisk riskdue diligence är ett försök att identifiera de olika etiska risker som kan realiseras med den produkt du skapar, inklusive hur den distribueras, hur den kan användas och missbrukas, etc. Du vill fokusera på produktens funktioner – både de den har och de den saknar – och hur dessa kan leda, när de distribueras i olika sammanhang, till etiskt felbeteende. När det görs väl är det en systematisk och uttömmande inspektion. Naturligtvis kan du försöka se runt hörnet, men det finns möjligen några saker du kommer att missa, vilket är varför kontinuerlig övervakning är viktigt.

Såsom varför företag bör implementera det: de behöver bara överväga de etiska, ryktesmässiga, regulatoriska och juridiska riskerna för att inte göra det. Tänk på Optum i nyheterna och under regulatorisk utredning för en (påstådd) fördomsfull algoritm som rekommenderade vårdgivare att ge mer uppmärksamhet åt vita patienter än till sjukare svarta patienter. Eller Goldman Sachs (GS ), under utredning för kreditgränserna för Apple (AAPL ) -kortet, som påstås diskriminera kvinnor. Eller Amazons anställningsprogramvara, som skrotades på grund av oro för fördomar innan den distribuerades. Eller IBM som stäms av Los Angeles för påstådd olaglig användning av data som samlats in från deras Väder-app. Eller Facebook (META ) …

Finns det något annat du vill dela om Virtue Consultants?

Virtue hjälper seniorledare att omsätta AI-etik i praktiken, antingen genom att utbilda och kompetensutveckla människor inom området, skriva en AI-etisk deklaration, skapa och implementera en handlingsbar AI-etisk riskram, eller enbart fungera som rådgivare inom AI-etik. Om det låter intressant bör människor komma och säga hej.

Tack för den underbara intervjun, läsare som vill lära sig mer om Reid kan besöka Reid Blackman, eller du kan besöka Virtue Consultants.