Reid Blackman, Ph.D, grundlægger og administrerende direktør for Virtue Consultants – Intervju-serie

Reid Blackman er grundlægger og administrerende direktør for Virtue Consultants. I denne egenskab har han arbejdet med virksomheder for at integrere etik og etisk risikominimering i virksomhedens kultur og udvikling, implementering og indkøb af fremvoksende teknologiprodukter. Han er også seniorrådgiver for Ernst & Young og sidder i deres Artificial Intelligence Advisory Board og er medlem af IEEE’s Ethically Aligned Design Initiative.

Reids arbejde er blevet profileret i The Wall Street Journal og Dell Perspectives, og han har bidraget med artikler til The Harvard Business Review, TechCrunch, VentureBeat og Risk & Compliance Magazine. Han er blevet citeret i talrige nyhedsartikler, og han taler regelmæssigt på forskellige steder, herunder The World Economic Forum, SAP, Cannes Lions, Forbes, NYU Stern School of Business, Columbia University og AIG.

Hvornår begyndte du at indarbejde AI-etik i dine undervisningskurser, mens du var filosofiprofessor på Colgate University fra 2009 til 2018?

Jeg underviste ofte i en kursus om social og politisk filosofi, hvor jeg dækkede Marx. En af Marx’ centrale påstande er, at kapitalismen til sidst vil give plads til kommunismen på grund af en massiv øgning af “produktionsmidlerne”. Med andre ord, kapitalismen driver større og større effektivitet i navn af konkurrence og åbning af nye markeder, hvilket betyder en øgning af skabelsen af teknologier, der kan producere mere og mere på kortere og kortere tid. Marx forudsagde også, at dette ville føre til, at flere og flere mennesker blev tvunget ind i fattigdom, og at kapitalistiske strukturer ville blive væltet af en revolution ledet af de voksende masser af fattige. Alt dette fører til en diskussion omkring etikken i teknologi, der eliminerer behovet for menneskelig arbejdskraft, hvilket er et centralt element i AI-etik.

Lille sideshistorie, hvis du er interesseret: Tilbage i 2002 var jeg en ph.d.-studerende, der ledede en diskussion om Marx med studerende på Northwestern University. På et tidspunkt rejste en studerende hånden og sagde: “Til sidst behøver vi ikke mennesker til at udføre noget arbejde.” Klassen var forvirret. Jeg var forvirret. Så sagde jeg: “Nå, hvem skal så udføre arbejdet?” Han svarede på en meget faktamæssig måde: “Roboter.” Klassen brast i latter. Jeg undertrykte min egen. Men det er ret tydeligt, hvem der fik det sidste ord.

I 2018 lancerede du Virtue Consultants, en etik-konsulentvirksomhed, der giver Data- og AI-ledere mulighed for at identificere og minimere de etiske risici i deres produkter. Hvad inspirerede dig til at starte denne iværksætterrejse?

Jaloux. Vel, næsten. Jeg startede en fyrværks-grossistvirksomhed, da jeg var ph.d.-studerende, tror jeg omkring 2003 eller 2004. Det gik bedre, end jeg havde forventet, og virksomheden eksisterer stadig, selvom jeg nu er rådgiver og ikke længere beskæftiger mig med dag-til-dag-driften. Det er relevant, fordi det forklarer, hvordan jeg kom til at være mentor for start-ups i Colgates entrepreneurship-program (kaldet TIA, Thought Into Action, ledet af to fantastiske VCs, Andy Greenfield og Wills Hapworth, der driver TIA Ventures). Som mentor så jeg studerende, der startede spændende projekter, mens de prøvede at figurere ud, hvordan de kunne etablere og skale deres for-profit eller non-profit-startups, og jeg tænkte: “Jeg vil det!” Men hvad ville mit nye foretagende være? Det skulle have noget at gøre med min kærlighed til filosofi og etik, og det første, der gjorde mening, var en etik-konsulentvirksomhed. Jeg så ikke markedet for sådanne tjenester på det tidspunkt, fordi der ikke var noget at se, og så ventede jeg. Og så kom Cambridge Analytica, BLM og #MeToo i overskrifterne, og pludselig var der en større bevidsthed om behovet.

Hvor vigtigt er det for virksomheder at introducere en AI-etisk erklæring?

En AI-etisk erklæring er ikke afgørende, men det er et ekstremt nyttigt værktøj til at sætte mål. Når du introducerer et AI-etisk program i din organisation, vil du identificere og minimere og styre forskellige etiske, reputationsmæssige, reguleringsmæssige og juridiske risici. Det er dens primære funktion. En etisk erklæring hjælper med at formulere, hvordan tingene vil se ud, når du har infrastruktur, proces og praksis på plads til at opnå den funktion. I den udstrækning en strategi har brug for et mål – hvilket den altid har – er en AI-etisk erklæring en god måde at formulere disse mål på, selvom det ikke er den eneste måde.

Hvordan kan virksomheder sikre, at den etiske erklæring overføres til proces og praksis?

En etisk erklæring er kun et lille skridt i den rette retning. Hvis du vil fortsætte, er det næste naturlige skridt at gøre en vurdering af, hvor du er i forhold til de mål, der er formuleret i den erklæring. Når du ved, hvor de største, risikofyldte huller er – det vil sige, hvor du er mest risikofyldt for at falde kort i forhold til dine mål – kan du starte med at udvikle løsninger til at mindske disse huller. Måske er det en etik-komité. Måske er det en due diligence-proces under produktudvikling. Måske er det at blive bedre til at håndtere data i ikke-produkt-afdelinger, som marketing og HR. Det er sandsynligvis alle disse ting og mere.

Hvad er nogle løsninger, som virksomheder bør implementere for at undgå fordomme i den faktiske AI-algoritme?

Der er en masse tekniske værktøjer til at identificere fordomme, men de er begrænsede. De vil tillade dig at sammenligne din models output med de dusin kvantitative mål, der er blevet tilbudt i den akademiske ML-etik-litteratur, men du skal være forsigtig, fordi disse mål ikke er gensidigt kompatible. Så en substantiel, etisk beslutning skal træffes: hvilken, hvis nogen af disse mål, er det relevante i denne kontekst?

Foruden at bruge et værktøj som det, suppleret med en ansvarlig måde at besvare dette spørgsmål på, ville produktteams gøre godt i at tænke over, hvor fordomme kan snige sig ind, før de starter med at bygge. Hvordan kan det være indeholdt eller reflekteret i træningsdata-sæt? Hvad med at bestemme objekt-funktionen? Hvad med at bestemme grænseværdien? Der er mange steder, hvor fordomme kan snige sig ind. Forudseenhed om, hvor det kunne være i det aktuelle projekt, og hvordan det kan komme derind, er afgørende for at identificere og minimere fordomme.

AI-virksomheder er berygtede for at være domineret af hvide mænd, der ufrivilligt kan programmere nogle fordomme ind i AI-systemet. For at undgå dette, hvilke egenskaber bør HR-afdelinger lede efter?

Jeg er tilhænger af større muligheder og større diversitet blandt ingeniører og produktteams generelt. Det sagde, tror jeg, at dette er et spørgsmål, der ses gennem den forkerte linse. Det primære problem, når det kommer til fordomsfulde algoritmer, er ikke, at en hvid mands fordomme fører til fordomsfuld kode. Det er, at træningsdata-sæt er fordomsfulde. Faktisk konkluderede en ny rapport fra Columbia – “Biased Programmers? Or Biased Data? A Field Experiment in Operationalizing AI Ethics” – at “[p]rogrammerere, der forstår teknisk vejledning, reducerer med succes fordomme,” og at “[a]lgoritmiske forudsigelser af kvindelige og minoritets-AI-programmerere viser ikke færre algoritmiske fordomme eller diskrimination.” Så selvom HR bør være opmærksom på diversitetsproblemer, er det langt fra klart, at strategier for at reducere fordomsfulde AI-outputs primært – eller overhovedet – skal fokusere på ansættelsesbeslutninger i forhold til diversitetsindsats.

Kan du diskutere, hvad etisk risiko-due-diligence er, og hvorfor virksomheder bør implementere det?

Et etisk risiko-due-diligence er et forsøg på at identificere de forskellige etiske risici, der kan realiseres med det produkt, du skaber, herunder, hvordan det deployes, hvordan det kan bruges og misbruges osv. Du vil gerne fokusere på funktioner i produktet – både dem, det har, og dem, det mangler – og de måder, hvorpå disse kan føre til etisk forkert adfærd, når de deployes i forskellige kontekster. Når det udføres godt, er det en systematisk og udførlig inspektion. Selvfølgelig kan du prøve at se rundt om hjørnet, men der er sandsynligvis nogle ting, du vil overse, hvilket er, hvorfor kontinuerlig overvågning er vigtig.

Sådan kan virksomheder sikre, at den etiske erklæring overføres til proces og praksis: De skal kun overveje de etiske, reputationsmæssige, reguleringsmæssige og juridiske risici for ikke at gøre det. Tænk på Optum i nyhederne og under reguleringsspecifikation for en (angiveligt) fordomsfuld algoritme, der anbefalede sundhedsudbydere at give mere opmærksomhed til hvide patienter end til syge sorte patienter. Eller til Goldman Sachs (GS ), under specifikation for kreditgrænser for Apple (AAPL ) Card, der (angiveligt) diskriminerer kvinder. Eller Amazons rekrutteringssoftware, der blev skrottet på grund af bekymringer om fordomme, før den blev deployet. Eller IBM, der blev sagsøgt af Los Angeles for (angiveligt) at have misapproprieret data, der var indsamlet fra deres Vejr-app. Eller Facebook (META ) …

Er der noget andet, du gerne vil dele om Virtue Consultants?

Virtue hjælper seniorledere med at sætte AI-etik i praksis, enten det er at hjælpe med at uddanne og opskolere folk på dette område, skrive en AI-etisk erklæring, oprette og implementere en handlingsbar AI-etisk risikoframework, eller blot fungerer som rådgivere på AI-etik. Hvis det lyder interessant, skal folk komme og sige hej.

Tak for det gode interview. Læsere, der ønsker at lære mere om Reid, kan besøge Reid Blackman, eller de kan besøge Virtue Consultants.