Reid Blackman, FT, Virtue Consultantsin perustaja ja toimitusjohtaja – Haastattelusarja

Reid Blackman on Virtue Consultantsin perustaja ja toimitusjohtaja. Tässä roolissaan hän on työskennellyt yritysten kanssa integroidakseen eettiset ja eettiset riskienhallintamenetelmät yrityskulttuuriin ja kehittyvien teknologioiden tuotteiden kehittämiseen, käyttöönottoon ja hankintaan. Hän on myös Ernst & Youngin vanhempi neuvonantaja ja kuuluu heidän tekoälyneuvostoonsa, ja hän on IEEE:n Eettisesti suunnitellun suunnittelun aloitteessa.

Reidin työ on esitetty The Wall Street Journalissa ja Dell Perspectivesissa, ja hän on kirjoittanut artikkeleita The Harvard Business Reviewiin, TechCrunchiin, VentureBeatiin ja Risk & Compliance Magazineen. Hänet on citattu useissa uutisartikkeleissa, ja hän puhuu säännöllisesti eri tilaisuuksissa, kuten Maailman talousfoorumissa, SAP:ssa, Cannes Lionsissa, Forbesissa, NYU Stern School of Businessissa, Columbian yliopistossa ja AIG:ssa.

Olit filosofian professorina Colgate Universityssa vuosina 2009-2018. Milloin aloitit AI-eettisten kysymysten sisällyttämisen kursseihisi?

Opetin usein kurssin sosiaalifilosofiasta ja poliittisesta filosofiasta, jossa käsittelin Marxia. Yksi Marxin keskeisistä väitteistä on, että kapitalismi lopulta antaa tiensä kommunismille johtuen massiivisesta “tuotantovälineiden” lisääntymisestä. Toisin sanoen kapitalismi ajaa tehokkuutta kilpailun ja uusien markkinoiden avaamisen nimissä, mikä tarkoittaa teknologioiden kehittämistä, jotka voivat tuottaa enemmän ja enemmän lyhyemmässä ja lyhyemmässä ajassa. Marx ennusti myös, että tämä johtaisi rahan keskittymiseen harvojen käsiin ja yhä useamman ihmisen köyhyyteen, minkä seurauksena kapitalistiset rakenteet kaatuisivat vallankumouksessa, jota johtaisivat kasvava määrä köyhyyden vaivannaisia. Tämä johtaa keskusteluun teknologian eettisyydestä, joka on keskeinen osa tekoälyeettisyyttä.

Pieni sivutarina, jos olet kiinnostunut: Vuonna 2002 olin jatko-opiskelija, joka johti keskustelua Marxista Northwesternin yliopistossa. Eräs opiskelija nosti kätensä ja sanoi: “Lopulta emme tarvitse ihmisiä tekemään työtä.” Luokka oli hämmästynyt. Minäkin olin hämmästynyt. Sanoin: “Hyvä, kuka silloin tekee työn?” Hän vastasi hyvin faktapohjaisesti: “Robotit.” Luokka purskahti nauramaan. Minä tukahdutin oman nauruni. Mutta on selvää, kuka sai viimeisen sanan.

Vuonna 2018 perustit Virtue Consultantsin, joka on eettinen konsultointiyritys, joka antaa datan ja tekoälyn johtajille mahdollisuuden tunnistaa ja lieventää heidän tuotteidensa eettisiä riskejä. Mikä innoitti sinua aloittamaan tämän yrittäjyyden?

Mustasukkaisuus. Tai ainakin osittain. Perustin ilotulitusvälitysyhtiön, kun olin jatko-opiskelija, luultavasti vuonna 2003 tai 2004. Se meni odotettua paremmin, ja yhtiö on edelleen toiminnassa, vaikka olen nyt vain neuvonantajana eikä enää vastaa päivittäisistä toimista. Tämä on relevanttia, koska se selittää, miten tulinkin start-up-yritysten mentoriksi Colgaten yrittäjyysohjelmassa (TIA, Thought Into Action, jota johtavat kaksi hienoa pääomasijoittajaa, Andy Greenfield ja Wills Hapworth, jotka johtavat TIA Venturesia). Mentorina näin opiskelijoiden lähtevän mielenkiintoisiin projekteihin, kun he yrittivät keksiä, miten perustaa ja laajentaa heidän voittoa tavoittelevia tai voittoa tavoittelemattomia start-up-yrityksiään, ja ajattelin: “Haluan sellaisen!” Mutta mikä olisi uusi yritykseni? Se olisi liityttävä rakkauteeni filosofiaa ja eettisyyttä kohtaan, ja ensimmäinen asia, joka tuli mieleeni, oli eettinen konsultointi. En nähnyt markkinaa tällaisille palveluille tuolloin, koska sitä ei ollut, joten odotin. Sitten Cambridge Analytica, BLM ja #MeToo saivat kansalliset otsikot, ja yhtäkkiä oli suurempi tietoisuus tarpeesta.

Kuinka tärkeää on yrityksille esittää tekoälyeettinen lausunto?

Tekoälyeettinen lausunto ei ole välttämätön, mutta se on erittäin hyödyllinen työkalu tavoitteiden asettamiseen. Kun otat tekoälyeettisen ohjelman yritykseesi, haluat tunnistaa ja lieventää erilaisia eettisiä, maineeseen liittyviä, sääntely- ja oikeudellisia riskejä. Tämä on sen pääfunktio. Eettinen lausunto auttaa määrittämään, miltä asiat näyttävät, kun sinulla on infrastruktuuri, prosessit ja käytännöt paikallaan tavoitteiden saavuttamiseksi. Siltä osin kuin strategia tarvitsee tavoitteen – mikä se aina tarvitsee – tekoälyeettinen lausunto on hyvä tapa ilmaista nämä tavoitteet, vaikka se ei ole ainoa tapa.

Miten yritykset voivat varmistaa, että eettinen lausunto siirtyy prosessiin ja käytäntöön?
Eettinen lausunto on vain pieni askel oikeaan suuntaan. Jos haluat jatkaa, seuraava luonnollinen askel on tehdä arvio siitä, missä olet suhteessa lausunnossa ilmaistuihin tavoitteisiin. Kun tiedät, missä suurimmat ja riskillisimmät aukot ovat – eli missä olet eniten vaarassa jäämään tavoitteistasi – voit aloittaa ratkaisujen kehittämisen näiden aukkojen kaventamiseksi. Ehkä se on eettinen komitea. Ehkä se on due diligence -prosessi tuotekehityksen aikana. Ehkä se on parantaminen siinä, miten käsittelet dataa ei-tuoteprosesseissa, kuten markkinoinnissa ja HR:ssa. Luultavasti se on kaikkia näitä ja enemmän.

Mitkä ovat ratkaisuja, joita yritykset voivat toteuttaa välttääkseen sisäänrakennetun tekoälyalgoritmin?

On olemassa joukko teknisiä työkaluja, joilla voidaan tunnistaa bias, mutta ne ovat rajoittuneita. Ne antavat sinun vertailla mallisi tuloksia kymmeniin määrällisiin mittareihin, jotka on tarjottu tekoälyeettisessä akateemisessa kirjallisuudessa, mutta sinun on oltava varovainen, koska nämä mittarit eivät ole toisensa kanssa yhdenmukaisia. Joten olennainen eettinen päätös on tehtävä: kumpi, jos mikään, näistä mittareista on sovelias tässä asiayhteydessä?

Poissaollessasi työkalun kaltaisesta, jota täydentää vastuullinen tapa vastata tähän kysymykseen, tuotejoukkueet voisivat hyvin pohtia, mistä kohtaa bias voisi tulla sisään ennen kuin he alkavat rakentaa. Miten se voisi olla sisäänrakennettu koulutusaineistoihin? Miten se voisi määritellä objektiivisen funktion? Miten se voisi määritellä kynnyksen? On monia kohtia, joista bias voisi tulla sisään. Ennakkoon tapahtuva pohtiminen siitä, mistä kohtaa se voisi tulla nykyisessä projektissa ja miten se voisi tulla sinne, on olennainen biasin tunnistamiseksi ja lieventämiseksi.

Tekoälyyritykset ovat maineeltaan valkoihoisia miehiä, jotka voivat tahattomasti ohjelmoida joitain biasseja tekoälyjärjestelmään. Miten ihmisresurssiosastot voivat etsiä ominaisuuksia välttääkseen tämän?

Olen kaiken järjen mukainen suuremmasta mahdollisuudesta ja suuremmasta monimuotoisuudesta insinööri- ja tuotejoukkueissa yleensä. Sanon kuitenkin, että tämä on katsottava väärästä näkökulmasta. Pääongelma, kun on kyse biasisista algoritmeista, ei ole se, että jonkun valkoisen miehen bias johtaa biasiseen koodiin. Se on se, että koulutusaineistot ovat biasisia. Itse asiassa äskettäinen tutkimus Columbiasta – “Biased Programmers? Or Biased Data? A Field Experiment in Operationalizing AI Ethics” – totesi, että “[p]rogrammers who understand technical guidance successfully reduce bias,” ja että “[a]lgorithmic predictions by female and minority AI programmers do not exhibit less algorithmic bias or discrimination.” Vaikka HR: n tulisi kiinnittää huomiota monimuotoisuuskysymyksiin, ei ole selvää, että strategiat vähentävät biasisia tekoälytuloksia, ja ne keskittyvät ensisijaisesti palkkaamispolitiikkaan suhteessa monimuotoisuuden pyrkimyksiin.

Voitko keskustella eettisestä riskin arvioinnista ja siitä, miksi yritysten tulisi toteuttaa se?

Eettinen riskin arviointi on yritys tunnistaa erilaiset eettiset riskit, jotka voidaan toteuttaa tuotteen luomisella, sen käyttöönotolla, sen käytöllä ja väärinkäytöllä jne. Haluat keskittyä tuotteen piirteisiin – niin niihin, joita se on kuin niihin, joita se ei ole – ja tapoihin, joilla ne voivat johtaa eettiseen vääryyteen, kun ne otetaan käyttöön erilaisissa asiayhteyksissä. Kun se tehdään hyvin, se on systemaattinen ja perusteellinen tarkastelu. Tietysti, vaikka voit yrittää parhaasi katsoa kulman taakse, on mahdollista, että jotkut asiat jäävät huomaamatta, minkä vuoksi jatkuva seuranta on tärkeää.

Yritysten tulisi toteuttaa sitä, koska heidän on vain mietittävä eettisiä, maineeseen liittyviä, sääntely- ja oikeudellisia riskejä, jos he eivät sitä tee. Ajattele Optumia uutisissa ja sääntelytutkimuksessa (allegedly) biasiseen algoritmiin, joka suositteli terveydenhuollon ammattilaisille antaa enemmän huomiota valkoisille potilaille kuin sairastuneille mustille potilaille. Tai Goldman Sachsiin, jota tutkitaan Apple (AAPL ) Cardin luottorajoista, jotka (allegedly) syrjivät naisia. Tai Amazonin palkkaamisohjelmisto, joka hylättiin biasin vuoksi ennen sen käyttöönottoa. Tai IBM:iä, jota haetaan oikeutta Los Angelesissa (allegedly) väärinkäytetystä sääsovelluksen kautta kerätyistä tietoista. Tai Facebook…

Onko mitään muuta, mitä haluaisit jakaa Virtue Consultantsista?

(GS ) (AMZN ) (META )

Virtue auttaa seniorijohtajia ottamaan tekoälyeettisyyden käyttöön, olipa se sitten koulutus ja taitojen kehittäminen aiheesta, tekoälyeettisen lausunnon kirjoittaminen, toimivan tekoälyeettisen riskienhallintakehys, tai vain toimiminen tekoälyeettisyyden neuvonantajana. Jos tämä kuulostaa mielenkiintoiselta, ihmiset voivat tulla tervehtimään.

Kiitos haastattelusta, lukijat, jotka haluavat oppia enemmän Reidistä, voivat vierailla Reid Blackmanilla tai Virtue Consultantsilla.