Reid Blackman, Ph.D, grunnlegger og administrerende direktør i Virtue Consultants – Intervju-serie

Reid Blackman er grunnlegger og administrerende direktør i Virtue Consultants. I denne egenskapen har han arbeidet med selskaper for å integrere etikk og etisk risikohåndtering i selskapets kultur og utvikling, distribusjon og innkjøp av nye teknologiprodukter. Han er også seniorrådgiver for Ernst & Young og sitter i deres styre for kunstig intelligens, og er medlem av IEEE’s initiativ for etisk design.

Reids arbeid har blitt presentert i The Wall Street Journal og Dell Perspectives, og han har bidratt med artikler til The Harvard Business Review, TechCrunch, VentureBeat og Risk & Compliance Magazine. Han har blitt sitert i mange nyhetsartikler, og han taler regelmessig på ulike arenaer, inkludert The World Economic Forum, SAP, Cannes Lions, Forbes, NYU Stern School of Business, Columbia University og AIG.

Hva var det som fikk deg til å begynne å undervise i AI-etikk i dine klasser da du var professor i filosofi ved Colgate University fra 2009 til 2018?

Jeg underviste ofte i en kurs i sosial og politisk filosofi, der jeg dekket Marx. En av Marx’ sentrale påstander er at kapitalismen til slutt vil gi plass til kommunismen, på grunn av en massiv økning i “produksjonsmidlene”. Med andre ord, kapitalismen driver etter større og større effisiens i navnet til konkurranse og åpning av nye markeder, noe som betyr en økning i skapningen av teknologier som kan produsere mer og mer på kortere og kortere tid. Marx forutså også at dette ville plassere mer penger i hendene på de få og drive flere og flere mennesker inn i fattigdom, på et tidspunkt hvor kapitalistiske strukturer ville bli omvendt av en revolusjon ledet av de voksende tallene av de fattige massene. All dette leder til en diskusjon rundt etikken til teknologi som gjør det unødvendig for menneskelig arbeid, som er et sentralt element i AI-etikk.

En liten sidehistorie hvis du er interessert: Tilbake i 2002 var jeg en doktorgradsstudent som ledet en diskusjon om Marx med studenter ved Northwestern University. På et tidspunkt hevet en student hånden og sa: “Til slutt vil vi ikke trenge mennesker til å gjøre noe arbeid.” Klassen var forvirret. Jeg var forvirret. Så sa jeg: “Vel, hvem skal da gjøre arbeidet?” Han svarte på en veldig saklig måte: “Roboter.” Klassen brøt ut i latter. Jeg undertrykte min egen. Men det er ganske åpenbart hvem som fikk den siste latteren.

I 2018 lanserte du Virtue Consultants, en etikk-konsulent som gir Data- og AI-ledere mulighet til å identifisere og mildne de etiske risikoene til deres produkter. Hva inspirerte deg til å starte denne entreprenørreisen?

Sjalusi. Vel, sort of. Jeg startet et fyrverkeri-grossistfirma da jeg var doktorgradsstudent, tror jeg rundt 2003 eller 2004. Det gikk bedre enn jeg hadde forventet, og firmaet eksisterer fortsatt, selv om jeg nå er rådgiver og ikke lenger tar hånd om dag-til-dag-driften. Uansett, det er relevant fordi det forklarer hvordan jeg kom til å være mentor for start-ups i Colgates entreprenørprogram (kalt TIA, Thought Into Action, ledet av to fantastiske VCs, Andy Greenfield og Wills Hapworth, som driver TIA Ventures). Som mentor så jeg studenter som startet spennende prosjekter mens de prøvde å finne ut hvordan de kunne etablere og skalle opp sine for-profit eller non-profit start-ups, og jeg tenkte: “Jeg ønsker det!” Men hva skulle mitt nye eventyr være? Det måtte tale til min kjærlighet til filosofi og etikk, og det første som gjorde mening var en etikk-konsulent. Jeg så ikke markedet for slike tjenester på den tiden, fordi det ikke var noen å se, og så ventet jeg. Og så kom Cambridge Analytica, og BLM, og #MeToo på nasjonale overskrifter, og plutselig var det en større bevissthet om behovet.

Hvor viktig er det for selskaper å introdusere en AI-etikk-erklæring?

En AI-etikk-erklæring er ikke essensiell, men det er et svært nyttig verktøy for å sette mål. Når du introduserer et AI-etikk-program i din organisasjon, ønsker du å identifisere og mildne og håndtere ulike etiske, reputasjons-, regulatoriske og juridiske risikoer. Det er dens hovedfunksjon. En etikk-erklæring hjelper med å formulere hva ting vil se ut som når du har infrastrukturen, prosessen og praksisene på plass for å oppnå den funksjonen. Så langt en strategi trenger et mål – som den alltid gjør – er en AI-etikk-erklæring en fin måte å formulere disse målene, selv om det ikke er den eneste måten.

Hvordan kan selskaper sikre at etikk-erklæringen overføres til prosess og praksis?

En etikk-erklæring er bare et lite skritt i riktig retning. Hvis du ønsker å fortsette, er det neste naturlige skrittet å gjøre en vurdering av hvor du er i forhold til målene som er formulert i den erklæringen. Når du vet hvor de største, riskfylteste gapene er – det vil si hvor du er mest utsatt for å ikke nå målene – kan du begynne å utvikle løsninger for å lukke disse gapene. Kanskje det er et etikk-komite. Kanskje det er en due-diligence-prosess under produktutvikling. Kanskje det er å bli bedre på hvordan du håndterer data i ikke-produktavdelinger, som markedsføring og HR. Sannsynligvis er det alle disse tingene og mer.

Hva er noen løsninger som selskaper bør implementere for å unngå fordommer i den faktiske AI-algoritmen?

Det finnes en del tekniske verktøy der ute for å identifisere fordommer, men de er begrensede. De vil tillate deg å sammenligne din modells utdata mot de titalls kvantitative mål som er tilbudt i den akademiske ML-etikk-litteraturen, men du må være forsiktig fordi disse målene ikke er gjensidig kompatible. Så en substantiell, etisk beslutning må tas: hvilken, hvis noen av disse målene, er den riktige i denne konteksten?

Bortsett fra å bruke et verktøy som det, supplert med en ansvarlig måte å svare på det spørsmålet, ville produktteamene gjøre godt i å tenke på hvor fordommer kan klatre inn før de begynner å bygge. Hvordan kan det være begrenset eller reflektert i treningsdataene? Hvordan med å bestemme objekt-funksjonen? Hva med å bestemme terskelen? Det finnes mange steder fordommer kan klatre inn. Førtenkning om hvor det kan være i ett prosjekt og hvordan det kan komme der er essensiell for å identifisere og mildne fordommer.

AI-selskaper er notoriske for å være dominert av hvite menn som kan utilsiktet programmere inn noen fordommer i AI-systemet. For å unngå dette, hva slags egenskaper bør HR-avdelinger se etter?

Jeg er for større muligheter og større mangfold blant ingeniører og produktteam generelt. Det sagt, jeg tror dette er å se på ting gjennom feil briller. Det primære problemet når det gjelder fordomsfulle algoritmer er ikke at noen hvit mann sine fordommer leder til fordomsfuld kode. Det er at treningsdataene er fordomsfulle. Faktisk, en nylig artikkel fra Columbia – “Biased Programmers? Or Biased Data? A Field Experiment in Operationalizing AI Ethics” – konkluderte med at “[p]rogrammere som forstår teknisk veiledning reduserer med hell fordommer,” og at “[a]lgoritmiske forutsigelser fra kvinnelige og minoritets AI-programmere viser ikke mindre algoritmissk fordom eller diskriminering.” Så mens HR bør fokusere på mangfoldsspørsmål, er det langt ifra klart at strategier for å redusere fordomsfulle AI-utdata primært – eller eksklusivt – bør fokusere på rekrutteringsbeslutninger i forhold til mangfold.

Kunne du diskutere hva etisk risikovurdering er og hvorfor selskaper bør implementere det?

En etisk risikovurdering er et forsøk på å identifisere de ulike etiske risikoene som kan realiseres med produktet du skaper, inkludert hvordan det er distribuert, hvordan det kan brukes og misbrukes, osv. Du ønsker å fokusere på produktets egenskaper – både de det har og de det mangler – og måtene disse kan lede, når de er distribuert i ulike kontekster, til etisk feil. Når det gjøres godt, er det en systematisk og uttømmende inspeksjon. Selvfølgelig, mens du kan prøve å se rundt hjørnet, er det muligvis noen ting du vil overse, hvilket er hvorfor kontinuerlig overvåking er viktig.

Så langt hvorfor selskaper bør implementere det: de bare trenger å vurdere de etiske, reputasjons-, regulatoriske og juridiske risikoene for ikke å gjøre det. Tenk på Optum i nyhetene og under regulatorisk etterforskning for en (påstått) fordomsfull algoritme som anbefalte helsepersonell å gi mer oppmerksomhet til hvite pasienter enn til syke svarte pasienter. Eller til Goldman Sachs (GS ), under etterforskning for kredittgrensene for Apple (AAPL ) -kortet, som (påstått) diskriminerer kvinner. Eller Amazons rekrutteringssystem, som ble skrotet på grunn av bekymringer om fordommer før det ble distribuert. Eller IBM som blir saksøkt av Los Angeles for å ha misbrukt data samlet inn fra deres Vær-app. Eller Facebook (META ) …

Er det noe annet du ønsker å dele om Virtue Consultants?

Virtue hjelper seniorledere med å sette AI-etikk i praksis, enten det er å hjelpe med å utdanne og oppskille folk på temaet, å skrive en AI-etikk-erklæring, å skape og implementere en håndterbar AI-etisk risikoframework, eller bare å fungere som rådgivere på AI-etikk. Hvis det høres interessant ut, bør folk komme og si hei.

Takk for det flotte intervjuet, lesere som ønsker å lære mer om Reid, kan besøke Reid Blackman, eller du kan besøke Virtue Consultants.