Reid Blackman, FT, Virtue Consultantsin perustaja ja toimitusjohtaja – Haastattelusarja

Reid Blackman on Virtue Consultantsin perustaja ja toimitusjohtaja. Tässä roolissa hän on työskennellyt yritysten kanssa integroimassa eettisyyttä ja eettisten riskien vähentämistä yrityskulttuuriin ja kehittyvien teknologiatuotteiden kehittämiseen, käyttöönottoon ja hankintaan. Hän on myös Ernst & Youngin vanhempi neuvonantaja ja istuu heidän tekoälyneuvostossaan, ja hän on IEEE:n eettisesti suunnitellun suunnittelun aloitteelman jäsen.

Reidin työtä on esitetty The Wall Street Journalissa ja Dell Perspectivesissa, ja hän on kirjoittanut artikkeleita The Harvard Business Reviewiin, TechCrunchiin, VentureBeatiin ja Risk & Compliance Magazineen. Hänet on citattu useissa uutisartikkeleissa, ja hän puhuu säännöllisesti eri tilaisuuksissa, kuten Maailman talousfoorumissa, SAP:ssa, Cannes Lionsissa, Forbesissa, NYU Stern School of Businessissa, Columbian yliopistossa ja AIG:ssa.

Olit filosofian professorina Colgate Universityssä vuosina 2009-2018. Milloin aloitit sisällyttämään tekoälyn eettisiä kysymyksiä kursseihisi?

Opetin usein kurssin sosiaalifilosofiasta ja poliittisesta filosofiasta, jossa käsittelin Marxia. Yksi Marxin keskeisistä väitteistä on, että kapitalismi lopulta johtaa kommunismiin, joka johtuu suuresta “tuotantovälineiden” lisääntymisestä. Toisin sanoen kapitalismi pyrkii suurempaan tehokkuuteen kilpailun ja uusien markkinoiden avaamisen vuoksi, mikä tarkoittaa teknologioiden kehittämistä, jotka voivat tuottaa enemmän ja enemmän lyhyemmässä ja lyhyemmässä ajassa. Marx ennusti myös, että tämä johtaisi rahaa harvojen käsiin ja lisäisi yhä useamman ihmisen köyhyyttä, minkä seurauksena kapitalistiset rakenteet kaatuisivat vallankumouksessa, jota johtaisivat kasvavat joukot köyhyydestä kärsiviä massoja. Tämä johtaa keskusteluun teknologian eettisyydestä, joka on tärkeä osa tekoälyn eettisyyttä.

Pieni sivutarina, jos olet kiinnostunut: Vuonna 2002 olin Northwestern-yliopistossa johdattamassa keskustelua Marxista opiskelijoiden kanssa. Eräs opiskelija nosti kätensä ja sanoi: “Lopulta emme tarvitse ihmisiä tekemään mitään työtä.” Luokka oli hämmästynyt. Minäkin olin hämmästynyt. Sanoin: “No, kuka silloin tekee työn?” Hän vastasi hyvin faktapohjaisesti: “Robotit.” Luokka purskahti nauramaan. Minä tukahdutin oman nauruni. Mutta on selvää, kuka sai lopulta viimeisen sanan.

Vuonna 2018 lanseerasit Virtue Consultantsin, eettisen konsultointiyhtiön, joka antaa data- ja tekoälyjohtajille mahdollisuuden tunnistaa ja vähentää heidän tuotteidensa eettisiä riskejä. Mikä innoitti sinua aloittamaan tämän yrittäjyyden?

Mustasukkaisuus. Tai ainakin osittain. Perustin ilotuliteyrityksen ollessani graduntekijä, luultavasti vuonna 2003 tai 2004. Yritys meni odotettua paremmin, ja se on edelleen olemassa, vaikka olen nyt vain neuvonantajana eikä enää vastaa päivittäisestä toiminnasta. Tämä on relevanttia, koska se selittää, miten päädyin mentoriksi Colgaten yrittäjyysohjelmaan (jota kutsutaan TIA:ksi, Thought Into Action, jonka johtavat kaksi hienoa pääomasijoittajaa, Andy Greenfield ja Wills Hapworth, jotka johtavat TIA Venturesia). Mentorina näin opiskelijoiden lähtevän mukaan jännittäviin projekteihin, kun he yrittivät keksiä, miten perustaa ja laajentaa heidän voittoa tavoittelevia tai voittoa tavoittelemattomia startup-yrityksiään, ja ajattelin: “Haluan sen!” Mutta mikä olisi uusi yritykseni? Se oli pakko liittyä rakkauteeni filosofiaa ja eettisyyttä kohtaan, ja ensimmäinen asia, joka tuli mieleen, oli eettinen konsultointi. En nähnyt markkinaa tällaisille palveluille tuolloin, koska sellaista markkinaa ei ollut, joten odotin. Sitten Cambridge Analytica, BLM ja #MeToo tulivat kansallisiin otsikoihin, ja yhtäkkiä oli suurempi tietoisuus tarpeesta.

Kuinka tärkeää on yrityksille esittää tekoälyn eettinen julistus?

Tekoälyn eettinen julistus ei ole välttämätön, mutta se on erittäin hyödyllinen työkalu tavoitteiden asettamiseen. Kun otat tekoälyn eettisen ohjelman käyttöön organisaatiossasi, haluat tunnistaa ja vähentää ja hallita erilaisia eettisiä, maineeseen liittyviä, sääntely- ja oikeudellisia riskejä. Tämä on sen pääfunktio. Eettinen julistus auttaa määrittelemään, miltä asiat näyttävät, kun sinulla on infrastruktuuri, prosessi ja käytännöt paikallaan saavuttaaksesi tämän toiminnon. Siinä määrin kuin strategia tarvitsee tavoitteen – mikä se aina tarvitsee – tekoälyn eettinen julistus on mukava tapa ilmaista nämä tavoitteet, vaikka se ei ole ainoa tapa.

Miten yritykset voivat varmistaa, että eettinen julistus siirtyy prosessiin ja käytäntöön?
Eettinen julistus on vain pieni askel oikeaan suuntaan. Jos haluat jatkaa, seuraava luonnollinen askel on tehdä arvio siitä, missä olet suhteessa tavoitteisiin, jotka on määritelty julistuksessa. Kun tiedät, missä suurimmat ja riskialtisimmat aukot ovat – eli missä olet eniten vaarassa jäämään tavoitteistasi – voit aloittaa ratkaisujen kehittämisen näiden aukkojen kapeuttamiseksi. Ehkä se on eettinen komitea. Ehkä se on due diligence -prosessi tuotteen kehityksen aikana. Ehkä se on parantaminen siinä, miten käsitellään tietoja ei-tuoteprosesseissa, kuten markkinoinnissa ja HR:ssa. Luultavasti se on kaikkia näitä asioita ja enemmän.

Mitkä ovat ratkaisuja, joita yritykset voivat toteuttaa välttääkseen syrjinnän itse tekoälyalgoritmista?

On olemassa joukko teknisiä työkaluja syrjinnän tunnistamiseen, mutta ne ovat rajoittuneita. Ne antavat sinun verrata mallisi tulokset kymmeniin määrällisiin mittareihin, jotka on tarjottu tekoälyn eettisyyden akateemisessa kirjallisuudessa, mutta sinun on oltava varovainen, koska nämä mittarit eivät ole toisensa kanssa yhdenmukaisia. Joten olennainen eettinen päätös on tehtävä: kuka, jos mikään, näistä mittareista on sovelias tässä asiayhteydessä?

Lisäksi työkalun käytön, jota täydentää vastuullinen tapa vastata tähän kysymykseen, tuotejoukkueet voisivat hyvin pohtia, missä syrjintä voi piillä ennen kuin he alkavat rakentaa. Miten se voidaan rajoittaa tai heijastaa koulutusaineistoissa? Miten määritettäessä objektiivista funktiota? Miten määritettäessä kynnystä? On monia paikkoja, joissa syrjintä voi piillä. Ennakkoon tapahtuva harkinta siitä, missä se voi olla tässä projektissa ja miten se voi päästä sinne, on välttämätöntä syrjinnän tunnistamiseksi ja vähentämiseksi.

Tekoälyyritykset ovat maineeltaan valkoisia miehiä, jotka voivat tahattomasti ohjelmoida joitain syrjintää tekoälyjärjestelmiin. Jotta voidaan välttää tätä, minkälaisia ominaisuuksia henkilöstöosastojen tulisi etsiä?

Olen kaikenlaisen mahdollisuuden ja monimuotoisuuden puolella insinööreille ja tuotejoukkueille yleensä. Sanon kuitenkin, että tämä on väärä näkökulma. Pääongelma syrjintäalgoritmeja koskien ei ole, että jonkun valkoisen miehen syrjintä johtaa syrjintäkoodiin. Se on, että koulutusaineistot ovat syrjintäisiä. Itse asiassa äskettäinen tutkimus Columbiasta – “Syrjintäiset ohjelmoijat? Tai syrjintäiset tiedot? Kenttäkoe tekoälyn eettisyyden käytännön toimeenpanossa” – totesi, että “[o]hjelmoijat, jotka ymmärtävät teknisen ohjeistuksen, vähentävät onnistuneesti syrjintää”, ja että “[a]lgoritmisten ennusteiden tekeminen naispuolisiin ja vähemmistöön kuuluviin tekoälyohjelmoijiin ei näytä olevan vähemmän algoritmista syrjintää tai syrjintää.” Vaikka HR:n tulisi kiinnittää huomiota monimuotoisuuskysymyksiin, ei ole selvää, pitäisikö vähentää syrjintäisten tekoälytulosteiden strategiat keskittyä ensisijaisesti – tai edes yksinomaan – palkkaamisrakenteisiin monimuotoisuuden pyrkimyksiin liittyen.

Voitko keskustella siitä, mitä eettinen riskien due diligence on ja miksi yritysten tulisi toteuttaa se?

Eettinen riskien due diligence on yritysten pyrkimys tunnistaa erilaiset eettiset riskit, jotka voidaan toteuttaa tuotteen kanssa, mukaan lukien sen käyttöönotto ja mahdollinen väärinkäyttö. Haluat keskittyä tuotteen ominaisuuksiin – niin niiden, joita se on kuin niiden, joita se ei ole – ja miten ne voivat johtaa eettiseen vääryyteen, kun ne otetaan käyttöön eri yhteyksissä. Kun se tehdään hyvin, se on systemaattinen ja perusteellinen tarkastelu. Tietysti, vaikka voit yrittää parhaasi katsoa kulman taakse, on mahdollista, että joku asia jää huomaamatta, minkä vuoksi jatkuva seuranta on tärkeää.

Miksi yritysten tulisi toteuttaa se: he ainoastaan tarvitsevat tietää eettisistä, maineeseen liittyvistä, sääntelystä ja oikeudellisista riskeistä, jos he eivät sitä tee. Ajattele Optumia uutisissa ja sääntelytutkimuksessa (allegedly) syrjintäisestä algoritmista, joka suositteli terveydenhuollon ammattilaisille antaa enemmän huomiota valkoisille potilaille kuin mustille potilaille. Tai Goldman Sachsiin, jota tutkitaan Apple Cardin luottorajoista, jotka ovat syrjintäisiä naisten suhteen. Tai Amazonin palkkaamisohjelmisto, joka hylättiin ennen sen käyttöönottoa syrjinnän vuoksi. Tai IBM:ää, jota haetaan oikeutta Los Angelesissa väitetysti laittomasti kerätystä tiedosta heidän sääsovelluksestaan. Tai Facebook…

Onko jotain muuta, mitä haluaisit jakaa Virtue Consultantsista?

Virtue auttaa seniorijohtajia ottamaan tekoälyn eettisyyden käytäntöön, olipa kyse sitten koulutuksesta ja taitojen kehittämisestä aiheesta, tekoälyn eettisen julistuksen kirjoittamisesta, toimivan tekoälyn eettisen riskirakenteen luomisesta ja toteuttamisesta tai yksinkertaisesti toimimisesta tekoälyn eettisyyden neuvonantajana. Jos tämä kuulostaa mielenkiintoiselta, tule ja kerro terve.

Kiitos haastattelusta, lukijat, jotka haluavat oppia enemmän Reidistä, voivat vierailla Reid Blackmanilla tai vierailla Virtue Consultantsilla.