Reid Blackman, Ph.D, zakladatel a generální ředitel Virtue Consultants – Interview Series

Reid Blackman je zakladatel a generální ředitel Virtue Consultants. V této funkci spolupracoval s firmami na začlenění etiky a snižování etických rizik do firemní kultury a vývoje, nasazení a pořizování produktů na základě umělé inteligence. Je také seniorním poradcem pro Ernst & Young a je členem jejich poradní rady pro umělou inteligenci a iniciativy IEEE pro eticky sladěný design.

Práce Reida Blackmana byla prezentována v The Wall Street Journal a Dell Perspectives a přispěl do The Harvard Business Review, TechCrunch, VentureBeat a Risk & Compliance Magazine. Byl citován v mnoha novinových článcích a pravidelně vystupuje na různých místech, včetně Světového ekonomického fóra, SAP, Cannes Lions, Forbes, NYU Stern School of Business, Columbia University a AIG.

Byl jste profesorem filozofie na Colgate University v letech 2009 až 2018. V jaké fázi jste začali zahrnovat etiku umělé inteligence do svých kurzů?

Často jsem učil kurz o sociální a politické filozofii, kde jsem se věnoval Marxovi. Jedním z Marxových hlavních tvrzení je, že kapitalismus nakonec ustoupí komunismu kvůli obrovskému nárůstu „prostředků výroby“. Jinými slovy, kapitalismus tlačí na větší a větší efektivitu ve jménu konkurence a otevírání nových trhů, což znamená nárůst vytváření technologií, které mohou produkovat více a více za kratší a kratší dobu. Marx také předpovídal, že to bude stále více dávat peníze do rukou několika málo lidí a bude stále více lidí táhnout do chudoby, v níž budou kapitalistické struktury svrženy revolucí vedenou rostoucím počtem chudých mas. To vše vede k diskusi o etice technologií, které činí lidskou práci zbytečnou, což je centrálním prvkem etiky umělé inteligence.

Malá vedlejší historka, pokud vás zajímá: V roce 2002 jsem byl doktorandem, který vedl diskusi o Marxovi se studenty Northwestern University. V určitém okamžiku zvedl student ruku a řekl: „Nakonec nebudeme potřebovat lidi, aby dělali žádnou práci.” Třída byla zmatená. Já jsem byl zmatený. Tak jsem řekl: „No, kdo bude dělat práci?” Odpověděl very matter-of-factly: „Roboti.” Třída vybuchla smíchem. Já jsem potlačil svůj vlastní. Ale je celkem jasné, kdo měl poslední slovo.

V roce 2018 jste spustil Virtue Consultants, poradenskou firmu pro etiku, která umožňuje lídrům v oblasti dat a umělé inteligence identifikovat a snižovat etická rizika svých produktů. Co vás inspirovalo k zahájení tohoto podnikatelského projektu?

Závist. Tak nějak. Založil jsem firmu na velkoobchod se zábavní pyrotechnikou, když jsem byl doktorandem, asi kolem roku 2003 nebo 2004. To šlo lépe, než jsem očekával, a firma stále existuje, i když jsem teď pouze poradcem a již se nestarám o denní operace. To je relevantní, protože vysvětluje, jak jsem se stal mentorem pro startupy v programu Colgate (Thought Into Action, vedený dvěma skvělémi VC, Andy Greenfieldem a Willem Hapworthem, kteří řídí TIA Ventures). Jako mentor jsem viděl studenty, kteří se snažili o zajímavé projekty, zatímco se snažili založit a rozvinout své startupy, a myslel jsem si: „Chci to!” Ale co by to mohlo být? Muselo by to souviset s mou láskou k filozofii a etice, a první věc, která dávala smysl, byla poradenská firma pro etiku. Neviděl jsem trh pro takové služby v té době, protože tam nebyl, a tak jsem čekal. A pak přišly Cambridge Analytica, BLM a #MeToo a najednou byla větší povědomí o potřebě.

Jak důležité je pro firmy zavést Prohlášení o etice umělé inteligence?

Prohlášení o etice umělé inteligence není nezbytné, ale je to velmi užitečný nástroj pro stanovení cílů. Když zavádíte program etiky umělé inteligence do své organizace, chcete identifikovat a snižovat a řídit různé etické, reputační, regulační a právní rizika. To je jeho hlavní funkce. Prohlášení o etice pomáhá při formulaci toho, jak bude vypadat, až budete mít infrastrukturu, procesy a postupy na místě k dosažení této funkce. Pokud strategie potřebuje cíl – což vždy potřebuje – Prohlášení o etice umělé inteligence je pěkný způsob, jak formulovat tyto cíle, i když není jediný způsob.

Jak mohou firmy zajistit, aby Prohlášení o etice bylo převedeno do procesu a praxe?

Prohlášení o etice je jen malý krok správným směrem. Pokud chcete pokračovat, další přirozený krok je provést hodnocení, kde jste relativně k cílům formulovaným v prohlášení. Jakmile víte, kde jsou největší, nejrizikovější mezery – tj. kde jste nejvíce ohroženi nesplněním svých cílů – můžete začít vyvíjet řešení, aby tyto mezery zmenšily. Možná to bude etický výbor. Možná to bude proces due diligence během vývoje produktu. Možná to bude lepší zacházení s daty v neprodukčních odděleních, jako je marketing a HR. Pravděpodobně to bude všechno a ještě více.

Jaké jsou některé řešení, která by firmy měly implementovat, aby se vyhnuly předpojatosti ve skutečném algoritmu umělé inteligence?

Existuje řada technických nástrojů pro identifikaci předpojatosti, ale jsou omezené. Povolení srovnání výstupů modelu s desítkami kvantitativních metrik nabízených v akademické literatuře o etice strojového učení, ale musíte být opatrní, protože tyto metriky nejsou vzájemně kompatibilní. Takže podstatné, etické rozhodnutí musí být učiněno: který, pokud některý z těchto metrik, je vhodný v tomto kontextu?

Kromě použití nástroje, jako je tento, doplněného o odpovědný způsob, jak odpovědět na tuto otázku, by produktové týmy měly dobře promyslet, kde může předpojatost proniknout, než začnou stavět. Jak by to mohlo být obsaženo nebo odráženo v trénovacích datových sadách? Jak o určení cílové funkce? Co o určení prahové hodnoty? Existuje mnoho míst, kde může předpojatost proniknout. Předchozí myšlenky o tom, kde by to mohlo být v aktuálním projektu a jak by se tam mohlo dostat, jsou nezbytné pro identifikaci a snižování předpojatosti.

Společnosti umělé inteligence jsou proslulé tím, že jsou ovládány bílými muži, kteří mohou neúmyslně naprogramovat do systému umělé inteligence některé předpojatosti. Aby se tomu zabránilo, jaké vlastnosti by měly lidské zdroje hledat?

Jsem pro větší příležitosti a větší rozmanitost mezi inženýry a produktovými týmy obecně. Říkám, že se na to díváme skrz špatnou optiku. Hlavní problém, pokud jde o předpojaté algoritmy, není, že některé předpojatosti bílého muže vedou k předpojatému kódu. Je to, že trénovací datové sady jsou předpojaté. Ve skutečnosti nedávná studie z Columbia – „Předpojatí programátoři? Nebo předpojatá data? Terénní experiment s provozováním etiky umělé inteligence“ – dospěla k závěru, že „[p]rogramátoři, kteří rozumějí technickým pokynům, úspěšně snižují předpojatost“ a že „algoritmické předpovědi ženských a menšinových programátorů umělé inteligence nevykazují méně algoritmické předpojatosti nebo diskriminace“. Zatímco by lidské zdroje měly věnovat pozornost otázkám rozmanitosti, je daleko od jasného, že strategie pro snižování předpojatých výstupů umělé inteligence by se měly primárně – nebo výlučně – soustředit na rozhodnutí o náboru v souvislosti s úsilím o rozmanitost.

Můžete diskutovat o tom, co je etické riziko due diligence a proč by jej měly společnosti implementovat?

Etické riziko due diligence je pokus identifikovat různá etická rizika, která mohou být realizována s produktem, který vytváříte, včetně toho, jak je nasazen, jak může být použit a zneužit, atd. Chcete se soustředit na funkce produktu – ty, které má, a ty, které postrádá – a způsoby, kterými mohou vést, když jsou nasazeny v různých kontextech, k etickému poškození. Když je provedeno dobře, je to systémový a vyčerpávající průzkum. Samozřejmě, zatímco se můžete snažit velmi dobře podívat kolem rohu, existují možná některé věci, které budete muset minout, a proto je důležité nepřetržité monitorování.

Jako důvod, proč by společnosti měly implementovat due diligence, stačí uvážit etická, reputační, regulační a právní rizika spojená s tím, že tak neučiní. Zvažte Optum v novinách a pod regulačním vyšetřením pro (údajně) předpojatý algoritmus, který doporučoval zdravotnickým pracovníkům věnovat více pozornosti bílým pacientům než nemocnějším černým pacientům. Nebo Goldman Sachs (GS ), který je pod vyšetřením pro limity kreditu pro Apple (AAPL ) Card, které (údajně) diskriminují ženy. Nebo softwarový nástroj Amazonu pro nábor, který byl zrušen kvůli obavám z předpojatosti, než byl nasazen. Nebo IBM, který je žalován Los Angeles za (údajně) neoprávněné použití dat shromážděných z jeho počasí aplikace. Nebo Facebook (META ) ….

Je něco jiného, co byste chtěli sdílet o Virtue Consultants?

Virtue pomáhá seniorním lídrům uvést etiku umělé inteligence do praxe, ať už jde o vzdělávání a doškolování lidí na toto téma, psaní Prohlášení o etice umělé inteligence, vytváření a implementaci akčního rámce pro etická rizika umělé inteligence, nebo jednoduše jako poradci pro etiku umělé inteligence. Pokud to zní zajímavě, lidé by měli přijít pozdravit.

Děkuji za skvělý rozhovor, čtenáři, kteří chtějí se více dozvědět o Reidovi, by měli navštívit Reid Blackman, nebo můžete navštívit Virtue Consultants.