Bradford Newman, Pohjois-Amerikan kaupallisten salaisuuksien käytännön puheenjohtaja – Haastattelusarja

Bradford on erikoistunut kaupallisiin salaisuuksiin ja tekoälyyn liittyviin asioiden käsittelemiseen. Hän on ABA:n tekoäly-alikomitean puheenjohtaja. Daily Journal (DJCO ) -lehden tunnustama yksi Kalifornian 20 parhaasta tekoäly-Asianajajasta vuonna 2019, Bradford on ollut merkittävässä roolissa ehdottamassa liittovaltion tekoäly-työpaikka- ja immateriaalioikeuslainsäädäntöä, joka vuonna 2018 muutettiin Yhdysvaltain edustajainhuoneen keskustelualoitteeksi. Hän on myös kehittänyt tekoälyn valvontaan ja yritysten hallintoon liittyviä parhaita käytäntöjä, joiden tarkoituksena on varmistaa algoritmisen oikeudenmukaisuus.

Mikä alun perin sytytti kiinnostuksesi tekoälyä kohtaan?

Olen edustanut maailman johtavia innovaattoreita ja tekoälytuotteiden ja -teknologian valmistajia monien vuosien ajan. Minun kiinnostukseni on aina ollut ymmärtää tekoälyn oikeudelliset ja tekniset puolet, ja seurata tekoälyn kehittymistä. Olen lumoutunut siitä, mitä on mahdollista sovelluksissa eri aloilla.

Olet intohimoinen puolustaja tekoälyn järkevää sääntelyä, erityisesti sääntelyä, joka suojaa julkisen terveyden, voitko keskustella joistakin näistä suurista huolenaiheista?

Uskon, että olemme aloittamassa yhtä ihmiskunnan historian merkittävimmistä vallankumouksista. Tekoälyllä on potentiaalia vaikuttaa jokaiseen elämän osa-alueeseen, aamusta yömyöhään — ja myös silloin, kun nukumme. Monet tekoälyn sovelluksista vaikuttavat myönteisesti elämänlaatuun ja todennäköisesti myös lajimme pitkäikäisyyteen.

Tällä hetkellä, tietokoneen ja koneoppimisen näkökulmasta, ihmiset ovat edelleen vahvasti mukana prosessissa, alkaen algoritmien koodauksesta, koulutusaineistojen ymmärtämisestä, tulosten prosessoinnista, puutteiden tunnistamisesta ja teknologian tuotteistamisesta.

Olemme kuitenkin kiireessä kahdella merkittävällä rintamalla. Ensinnäkin, niin kutsuttu “musta laatikko” -ongelma: tekoälyn ymmärtäminen ja osallistuminen vähenevät ajan myötä, kun tekoälyn monimutkaisuus (kuten ANNet) kehittyy. Toiseksi, tekoälyn käyttö hallitusten ja yksityisten etujen toimesta lisääntyy.

Huoleni on, että tekoälyä käytetään sekä tietoisesti että tietämättömästi tavoin, jotka ovat ristiriidassa länsimaisen demokratian yksilönvapauden ja -vapauden ihanteiden kanssa.

Miten osoitamme nämä huolenaiheet?

Yhteiskunta on saavuttanut vaiheen, jossa meidän on ratkaistava ei se, mitä on mahdollista tekoälyn suhteen, vaan mitä pitäisi kieltää tai rajoittaa osittain.

Ensinnäkin, meidän on spesifisoidaan päätökset, jotka eivät voi koskaan tehdä kokonaan tai osittain algoritmisen tulostuksen perusteella, joka generoidaan tekoälyllä. Tämä tarkoittaa, että vaikka kaikki asiantuntijat ovat samaa mieltä siitä, että tulostus on täysin puolueeton, läpinäkyvä ja tarkka, on olemassa lakien mukainen kielto käyttää sitä mihinkään ennustavaan tai sisällölliseen päätöksentekoon.

Todennäköisesti tämä on vastoin intuition maailmassa, jossa kaipaamme matemaattista varmuutta, mutta tekoälyn “lentokieltoalueen” perustaminen on välttämätöntä yksilövapauttemme ja -oikeuksiemme säilyttämiseksi, jotka ovat yhteiskuntamme perusta.

Toiseksi, muiden tekoälyanalytiikkaan perustuvien päätösten osalta, joita ei kielletä, tarvitaan lainsäädäntöä, joka määrittää selkeästi ne, joissa ihmisen on oltava mukana päätöksenteossa.

Olet ollut merkittävässä roolissa ehdottamassa liittovaltion tekoäly-työpaikka- ja immateriaalioikeuslainsäädäntöä, joka vuonna 2018 muutettiin Yhdysvaltain edustajainhuoneen keskustelualoitteeksi. Voitko keskustella joistakin näistä ehdotuksista?

Tekoälyn tietosuojalaki on tarkoitettu edistämään innovaatioita ja suunniteltu (1) lisäämään avoimuutta tekoälyn luonteesta ja käytöstä sekä (2) rakentamaan julkista luottamusta tekoälyyn; (3) käsittelemään tekoälyn vaikutusta työmarkkinoihin ja (4) suojelemaan julkisen terveyden ja turvallisuuden.

Sillä on useita avainkomponentteja. Esimerkiksi se kieltää tekoälyyn perustuvat päätökset, kuten työntekijöiden palkkaamiseen tai lääketieteellisen hoidon kieltämiseen liittyvät päätökset, ja kieltää myös vakuutusyhtiöiden tekoälyyn perustuvat päätökset vakuutusten myöntämisestä. Se perustaa myös uuden liittovaltion viraston, joka vastaa tekoälyn sääntelystä julkisen terveyden ja turvallisuuden suhteen. Lisäksi se edellyttää, että yritysten on nimitettävä tekoälyvastaava.

Olet myös kehittänyt tekoälyn valvontaan ja yritysten hallintoon liittyviä parhaita käytäntöjä, joiden tarkoituksena on varmistaa algoritmisen oikeudenmukaisuus. Mitkä ovat joitakin nykyisiä ongelmia, joita näet tekoälyjärjestelmissä olevan?

Tämä aihe on ollut akateemisen tutkimuksen kohteena ja saa nyt Yhdysvaltain hallituksen virastojen, kuten EEOC:n, ja asianajajien huomiota. Useimmiten syy on joko virheellinen koulutusaineisto tai puute ymmärryksestä ja läpinäkyvyydestä testiympäristössä. Tämä on yhdistettynä tekoälyn keskitetyn omistamattomuuteen ja johtamattomuuteen.

Tämä puute teknisestä ymmärryksestä ja tilanneherkkyydestä on merkittävä vastuullisuusongelma. Olen puhunut useiden tunnettujen asianajajien kanssa, jotka etsivät tekoälyyn liittyviä syrjintätapauksia.

Syväoppiminen usein kärsii “mustan laatikon” ongelmasta, jossa syötämme dataa tekoälyverkkoon ja saamme tuloksen, mutta emme tiedä, miten se on generoitu. Uskotko, että tämä on suuri ongelma?

Uskon. Ja kun algoritmit ja neuroverkot jatkavat kehittymistä ja ihmiset eivät ole enää “silmänraskaassa”, on olemassa todellinen riski, että ylitämme kynnyskohdan, jossa emme enää ymmärrä tekoälyn toiminnan ja tulosteen keskeisiä elementtejä.

COVID-19-pandemian aikana monet maat ovat ottaneet käyttöön tekoälypohjaisia valvontajärjestelmiä. Kuinka suuri ongelma sinun mielestäsi tämä voi olla?

On viattomasti ja vastuuttomasti yksilöiden oikeuksien ja vapauksien kannalta väheksyä tai vähentää tällaisen valvonnan väärinkäytön riskiä. Vaikka kontaktien jäljitys näyttää tarkoituksenmukaiselta pandemian aikana ja tekoälypohjainen kasvontunnistus tarjoaa tehokkaan keinon, mihin ihmiset eivät yksin pysty, yhteiskunnan on asetettava laillisia rajoituksia väärinkäytölle ja tehokkaat valvonta- ja täytäntöönpanomekanismit. Muuten luovumme valtiolle yhden perustavanlaatuisen vapautemme ja yksityisyytemme perusoikeuden kokonaan. Kun se on kerran luovutettu, emme saa sitä takaisin.

Aikaisemmin totesit, että “Meidän on perustettava tekoälyn ‘lentokieltoalue’, jos haluamme säilyttää vapaudet, joita kaikki amerikkalaiset pitävät kalliina ja jotka muodostavat yhteiskuntamme perustan.” Voitko jakaa joitakin näistä huolenaiheista?

Kun keskustellaan tekoälystä, meidän on aina keskityttävä tekoälyn olennaiseen tarkoitukseen: tuottaa tarkkaa ennustavaa analytiikkaa suurista tietojoukoista, joita käytetään luokittelemään ihmisiä ja tekemään päätöksiä. Seuraavaksi meidän on tarkasteltava, kuka päätöksentekijät ovat, mitä he päättävät ja mihin he perustavat päätöksensä.

Jos ymmärrämme, että päätöksentekijät ovat niitä, joilla on suurin vaikutus terveyteemme, elinkeinoelämään ja vapauksiimme — työnantajat, vuokranantajat, lääkärit, vakuutusyhtiöt, lainvalvonta ja muut yksityiset, kaupalliset ja hallitukset, jotka voivat luoda, kerätä tai ostaa tekoälyanalytiikkaa — on helppo nähdä, että länsimaisessa liberaalissa demokratiassa, toisin kuin totalitaarisessa järjestelmässä, on olemassa päätöksiä, jotka eivät saa olla pelkästään tekoälyn varassa.

Monet ilmeiset päätökset tulevat mieleen, kuten kieltäminen jonkun vangitseminen ennen rikoksen tekemistä, tekoälyn laajamittainen soveltaminen elämän jokaiseen osa-alueeseen esittää paljon monimutkaisempia eettisiä arvoituksia. Esimerkiksi, jos algoritmi ennustaa, että työntekijät, jotka julkaisevat sosiaalisessa mediassa valokuvia rannalla ollessaan ja juodessaan alkoholia, irtisanoutuvat tai saavat potkut keskimäärin 3,5 vuotta aiemmin kuin ne, jotka julkaisevat valokuvia itsestään treenaamassa, pitäisikö ensimmäistä ryhmää kieltää ylennöksestä tai palkankorotuksesta pelkästään algoritmisen tulostuksen perusteella? Jos algoritmi määrittää, että nuoret, jotka pelaavat videopelien keskimäärin yli 2 tuntia päivässä, ovat vähemmän todennäköisesti valmistuvat neljän vuoden yliopistosta, pitäisikö tällaisia opiskelijoita kieltää pääsyyn? Jos aasialaiset naiset 60-vuotiaana, jotka on otettu sairaalaan COVID-19-oireiden vuoksi, on todettu selviävän paremmin kuin afrikkalaiset miehet 70-vuotiaana, pitäisikö naisille antaa etusija lääketieteellisessä hoidossa?

Nämä yksinkertaiset esimerkit ovat vain muutamia päätöksiä, joissa tekoälyn ainoan tulostuksen käyttäminen ristiriidassa yksilöiden oikeuksien kanssa, joita vaadimme.

Onko jotain muuta, mitä haluat jakaa tekoälystä tai Baker McKenzien asiasta?

Olen erittäin innostunut johtamaan Baker McKenzien todella kansainvälistä tekoälykäytäntöä muuttuvassa maisemassa. Tunnistamme, että asiakkaamme kaipaavat ohjausta kaikkeen tekoälyyn liittyvään, alkaen sopimusten neuvottelusta, sisäisen valvonnan perustamisesta, syrjinnän vaarojen välttämisestä ja kehittyvän kansallisen ja kansainvälisen sääntelykehyksen ymmärtämisestä.

Yritykset haluavat tehdä oikein, mutta on vain muutamia lakitoimistoja, joilla on tarvittavaa asiantuntemusta ja ymmärrystä tekoälystä ja koneoppimisesta voidakseen auttaa heitä. Niille meistä, jotka ovat sekä tekoälyfaneja että asianajajia, tämä on jännittävä aika lisätä todellista arvoa asiakkaillemme.

Kiitos fantastisista vastauksista joistakin näistä suurista yhteiskunnallisista huolenaiheista, jotka liittyvät tekoälyyn. Lukijat, jotka haluavat oppia lisää Bradford Newmanista, voivat klikata tästä.