Reid Blackman, Ph.D, Grundlægger og Administrerende Direktør af Virtue Consultants – Interview Serie

Reid Blackman er grundlægger og administrerende direktør af Virtue Consultants. I denne egenskab har han arbejdet med virksomheder for at integrere etik og etisk risikomindskning i virksomhedens kultur og udvikling, udvikling og indkøb af fremkomne teknologiprodukter. Han er også seniorrådgiver for Ernst & Young og sidder i deres kunstig intelligens-råd, og er medlem af IEEE’s Etisk Design-initiativ.

Reids arbejde er blevet præsenteret i The Wall Street Journal og Dell Perspectives, og han har bidraget med artikler til The Harvard Business Review, TechCrunch, VentureBeat og Risk & Compliance Magazine. Han er blevet citeret i talrige nyhedsartikler, og han taler regelmæssigt på forskellige steder, herunder The World Economic Forum, SAP, Cannes Lions, Forbes, NYU Stern School of Business, Columbia University og AIG.

Du var filosofiprofessor på Colgate University fra 2009 til 2018. På hvilket tidspunkt begyndte du at inkorporere AI-etik i dine kurser?

Jeg underviste ofte i en kursus om social og politisk filosofi, hvor jeg dækkede Marx. En af Marx’ centrale påstande er, at kapitalismen til sidst vil give plads til kommunismen på grund af en massiv øgning af “produktionsmidlerne”. Med andre ord, kapitalismen driver større og større effektivitet i konkurrencens navn og åbner nye markeder, hvilket betyder en øgning i skabelsen af teknologier, der kan producere mere og mere på kortere og kortere tid. Marx forudsagde også, at dette ville føre til, at pengene kommer i hænderne på få og flere og flere mennesker kommer til at leve i fattigdom, hvorefter kapitalistiske strukturer vil blive væltet af en revolution ledet af de voksende masses af fattige. Alt dette fører til en diskussion omkring etikken omkring teknologi, der eliminerer behovet for menneskelig arbejdskraft, hvilket er et centralt element i AI-etik.

Lille sideshistorie, hvis du er interesseret: Tilbage i 2002 var jeg en ph.d.-studerende, der ledede en diskussion om Marx med bachelorstuderende på Northwestern University. På et tidspunkt rejste en studerende hånden og sagde: “Til sidst behøver vi ikke mennesker til at udføre noget arbejde.” Klassen var forvirret. Jeg var forvirret. Så jeg sagde: “Nå, hvem skal så udføre arbejdet?” Han svarede på en meget faktuel måde: “robotter”. Klassen brød ud i latter. Jeg undertrykte min egen. Men det er ret tydeligt, hvem der fik det sidste ord.

I 2018 lancerede du Virtue Consultants, en etik-konsulentvirksomhed, der giver Data- og AI-ledere mulighed for at identificere og mindske de etiske risici i deres produkter. Hvad inspirerede dig til at begynde denne iværksætterrejse?

Jaloux. Vel, næsten. Jeg startede en fyrværkeri-grossistvirksomhed, da jeg var ph.d.-studerende, tror jeg omkring 2003 eller 2004. Det gik bedre, end jeg havde forventet, og virksomheden eksisterer stadig, selvom jeg nu er rådgiver og ikke længere beskæftiger mig med dag-til-dag-driften. Det er relevant, fordi det forklarer, hvordan jeg blev mentor for start-ups i Colgates iværksætterprogram (kaldet TIA, Thought Into Action, ledt af to fantastiske VCs, Andy Greenfield og Wills Hapworth, der driver TIA Ventures). Som mentor så jeg studerende, der påbegyndte spændende projekter, mens de prøvede at figurere ud, hvordan de kunne etablere og skale deres for-profit eller non-profit-startups, og jeg tænkte: “Jeg vil det!” Men hvad ville mit nye eventyr være? Det skulle tale til min kærlighed til filosofi og etik, og det første, der gjorde mening, var en etik-konsulentvirksomhed. Jeg så ikke markedet for sådanne tjenester på det tidspunkt, fordi der ikke var noget at se, og så ventede jeg. Og så kom Cambridge Analytica, BLM og #MeToo i nationale overskrifter, og pludselig var der en større bevidsthed om behovet.

Hvor vigtigt er det for virksomheder at introducere en AI-etik-erklæring?

En AI-etik-erklæring er ikke essentiel, men det er et ekstremt nyttigt værktøj til at sætte mål. Når du introducerer et AI-etik-program i din organisation, vil du identificere og mindske og styre forskellige etiske, reputationsmæssige, reguleringsmæssige og juridiske risici. Det er dens primære funktion. En etik-erklæring hjælper med at formulere, hvordan tingene vil se ud, når du har infrastrukturen, processen og praksis på plads for at opnå den funktion. I den udstrækning en strategi har brug for et mål – hvilket den altid gør – er en AI-etik-erklæring en god måde at formulere disse mål på, selvom det ikke er den eneste måde.

Hvordan kan virksomheder sikre, at etik-erklæringen overføres til proces og praksis?
En etik-erklæring er kun et lille skridt i den rigtige retning. Hvis du vil fortsætte, er det næste naturlige skridt at gøre en vurdering af, hvor du er i forhold til de mål, der er formuleret i den erklæring. Når du ved, hvor de største, risikofyldte huller er – det vil sige, hvor du er mest i fare for at falde kort i forhold til dine mål – kan du begynde at udvikle løsninger til at mindske disse huller. Måske er det en etik-komité. Måske er det en due diligence-proces under produktudvikling. Måske er det at blive bedre til at håndtere data i ikke-produktafdelinger, som marketing og HR. Sandsynligvis er det alle disse ting og mere.

Hvad er nogle løsninger, som virksomheder bør implementere for at undgå fordomme i den faktiske AI-algoritme?

Der er en masse tekniske værktøjer til at identificere fordomme, men de er begrænsede. De vil tillade dig at sammenligne din models output med de dusin kvantitative mål, der er blevet tilbudt i den akademiske ML-etik-litteratur, men du skal være forsigtig, fordi disse mål ikke er gensidigt kompatible. Så en substantiel, etisk beslutning skal træffes: hvilket, hvis nogen af disse mål, er det passende i denne kontekst?

Ud over at bruge et værktøj som det, suppleret med en ansvarlig måde at besvare det spørgsmål på, ville produktteamene gøre godt i at tænke over, hvor fordomme kan snige sig ind, før de begynder at bygge. Hvordan kan det indeholdes eller reflekteres i træningsdata-sæt? Hvad med at bestemme objekt-funktionen? Hvad med at bestemme grænseværdien? Der er mange steder, hvor fordomme kan snige sig ind. Førviden om, hvor det kunne være i det aktuelle projekt, og hvordan det kan komme derind, er afgørende for at identificere og mindske fordomme.

AI-virksomheder er berygtede for at være domineret af hvide mænd, der måske ufrivilligt programmerer nogle fordomme ind i AI-systemet. For at undgå dette, hvilke egenskaber bør HR-afdelingerne lede efter?

Jeg er for større muligheder og større diversitet blandt ingeniører og produktteam generelt. Det sagde, tror jeg, at dette er et spørgsmål om at se på tingene gennem det forkerte lens. Det primære problem, når det kommer til fordomsfulde algoritmer, er ikke, at en hvid mands fordomme fører til fordomsfuld kode. Det er, at data-trænings-sæt er fordomsfulde. Faktisk konkluderede en ny artikel fra Columbia – “Fordomte programmører? Eller fordomsfulde data? En felt-eksperiment i operationalisering af AI-etik” – at “[p]rogrammører, der forstår teknisk vejledning, reducerer med succes fordomme”, og at “[a]lgoritmiske forudsigelser af kvindelige og minoritets-AI-programmører viser ikke færre algoritmiske fordomme eller diskrimination”. Så selvom HR bør være opmærksom på diversitetsproblemer, er det langt fra sikkert, at strategier for at reducere fordomsfuld AI-output primært – eller overhovedet – skal fokusere på ansættelsesbeslutninger i forhold til diversitet.

Kunne du diskutere, hvad etisk risiko-due-diligence er, og hvorfor virksomheder bør implementere det?

En etisk risiko-due-diligence er et forsøg på at identificere de forskellige etiske risici, der kan realiseres med det produkt, du skaber, herunder, hvordan det deployes, hvordan det kan bruges og misbruges osv. Du vil fokusere på funktioner af produktet – både de, det har, og de, det mangler – og de måder, hvorpå disse kan føre til etisk forkert adfærd, når de deployes i forskellige kontekster. Når det udføres godt, er det en systematisk og udførlig inspektion. Selvfølgelig kan du prøve at se rundt om hjørnet, men der er måske nogle ting, du vil overse, hvilket er, hvorfor kontinuerlig overvågning er vigtig.

Hvis det kommer til, hvorfor virksomheder bør implementere det: de behøver kun at overveje de etiske, reputationsmæssige, reguleringsmæssige og juridiske risici for ikke at gøre det. Tænk på Optum i nyhederne og under regulerings-undersøgelse for en (angiveligt) fordomsfuld algoritme, der anbefalede sundhedspraktikere at give mere opmærksomhed til hvide patienter end til syge sorte patienter. Eller til Goldman Sachs, under undersøgelse for kreditgrænserne for Apple Card, der (angiveligt) diskriminerer kvinder. Eller Amazons rekrutteringssoftware, der blev skrottet på grund af bekymringer om fordomme, før den blev deployet. Eller IBM, der blev sagsøgt af Los Angeles for (angiveligt) at have misapproprieret data, der var indsamlet fra deres Vejr-app. Eller Facebook…

Er der noget andet, du gerne vil dele om Virtue Consultants?

Virtue hjælper seniorledere med at sætte AI-etik i praksis, enten det er at hjælpe med at uddanne og opskolere mennesker på emnet, skrive en AI-etik-erklæring, oprette og implementere en håndterbar AI-etisk risiko-ramme eller blot fungerer som rådgivere på AI-etik. Hvis det lyder interessant, skal folk komme og sige hej.

Tak for det gode interview. Læsere, der ønsker at lære mere om Reid, kan besøge Reid Blackman, eller de kan besøge Virtue Consultants.