Bradford Newman, leder av Nord-Amerikas handelshemmeligheter-praksis – Intervju-serie

Bradford spesialiserer seg på saker relatert til handelshemmeligheter og kunstig intelligens. Han er leder av AI-utvalget i ABA. Han ble kåret av Daily Journal (DJCO ) i 2019 som en av de 20 beste AI-advokatene i California, og har vært instrumental i å foreslå føderale AI-arbeidsplassen og IP-lovgivning som i 2018 ble omskrevet til en diskusjonsutkast i Representantenes hus. Han har også utviklet AI-tilsyn og bedriftsstyring beste praksis for å sikre algoritmesk fairhet.

Hva var det som først vekket din interesse for kunstig intelligens?

Jeg har representert verdens ledende innovatører og produsenter av AI-produkter og -teknologi i mange år. Min interesse har alltid vært å gå bak kulissene og forstå de juridiske og tekniske aspektene ved maskinlæring, og se hvordan AI utvikler seg. Jeg er fascinert av hva som er mulig for applikasjoner over ulike domener.

Du er en sterk forkjemper for rasjonell regulering av kunstig intelligens, spesielt i regulering som beskytter folkehelsen. Kan du diskutere noen av dine største bekymringer?

Jeg tror vi er i de tidlige stadiene av en av de mest profunde revolusjonene menneskeheten har opplevd. AI har potensialet til å påvirke hver eneste del av våre liv, fra det øyeblikket vi våkner om morgenen til det øyeblikket vi legger oss til å sove – og også mens vi sover. Mange av AI-applikasjonene vil positive påvirke kvaliteten på våre liv, og sannsynligvis vår langsiktighet som art.

For øyeblikket, fra et datavitenskapelig og maskinlæringssynspunkt, er mennesker fortsatt svært involvert i prosessen, fra å kode algoritmene, til å forstå treningsdataene, til å prosessere resultater, til å gjenkjenne svakheter og til å produktisere teknologien.

Men vi er i en kappløp mot tiden på to store fronter. Først, det som vanligvis kalles “black box”-problemet: menneskelig involvering og forståelse av AI vil avta over tid når AI-sophistikasjonen (tenk ANNs) utvikler seg. Og andre, bruken av AI av regjeringer og private interesser vil øke.

Mitt bekymring er at AI vil bli brukt, både med vilje og utilsiktet, på måter som er i strid med vestlige demokratiske idealer om individuell frihet og selvbestemmelse.

Hvordan kan vi møte disse bekymringene?

Samfunnet er nå på et punkt der vi må løse ikke hva som er mulig med hensyn til AI, men hva som bør være forbudt eller delvis begrenset.

Først, må vi spesifikt identifisere beslutningene som aldri kan tas i sin helhet eller delvis av algoritmeutgangen generert av AI. Dette betyr at selv i situasjoner hvor hver ekspert er enig om at dataene inn og ut er fullstendig upartiske, gjennomsiktige og nøyaktige, må det være en lovmessig forbud mot å bruke det til noen form for prediktiv eller substansiel beslutning.

Det er innrømmet, dette er motintuitivt i en verden hvor vi begjærer matematisk sikkerhet, men å etablere en AI “no-fly zone” er essensielt for å bevare de frihetene vi alle holder kjære og som tjener som grunnlaget for vårt samfunn.

Andre, for andre identifiserte beslutninger basert på AI-analyse som ikke er helt forbudt, trenger vi lovgivning som tydelig definerer de beslutningene hvor et menneske må være involvert i beslutningsprosessen.

Du har vært instrumental i å foreslå føderale AI-arbeidsplassen og IP-lovgivning som i 2018 ble omskrevet til en diskusjonsutkast i Representantenes hus. Kan du diskutere noen av disse forslagene?

AI Data Protection Act er ment å fremme innovasjon og er designet for å (1) øke gjennomsiktighet i naturen og bruken av, og å bygge offentlig tillit til, kunstig intelligens; (2) å håndtere impekten av kunstig intelligens på arbeidsmarkedet og (3) å beskytte folkehelse og sikkerhet.

Det har flere nøkkelkomponenter. For eksempel, det forbud mot å bruke kunstig intelligens alene til å ta visse beslutninger, inkludert en beslutning om ansættelse av personer eller avslag eller begrensning av medisinsk behandling, og det forbud mot å bruke kunstig intelligens alene til å ta beslutninger om dekning av medisinsk behandling. Det etablerer også det kunstige intelligens-styret – en ny føderal etat med ansvar for å regulere AI i forhold til folkehelse og sikkerhet. Og det krever at dekkede enheter utnevner en sjef for kunstig intelligens.

Du har også utviklet AI-tilsyn og bedriftsstyring beste praksis for å sikre algoritmesk fairhet. Hva er noen av de nåværende problemene du ser med fairhet eller fordom i AI-systemer?

Dette emnet har vært fokus for intens gjennomgang fra akademikere og er nå også fokusert av amerikanske regjeringsbyråer, som Equal Employment Opportunity Commission (EEOC), og saksøkerens advokater. De fleste gangene skyldes årsaken feil i treningsdataene eller manglende forståelse og gjennomsiktighet i testmiljøet. Dette er forverret av manglende sentral eierskap og tilsyn av AI av seniorledere.

Dette manglet teknisk forståelse og situasjonsbevissthet er en betydelig ansvarlig bekymring. Jeg har talt med flere fremtredende saksøker-advokater som er på jakt etter AI-forbudssaker.

Dyb læring lider ofte av “black box”-problemet, hvor vi setter inn data i en kunstig nevral nettverk (ANN), og så mottar utgangen, uten å vite hvordan utgangen ble generert. Tror du dette er et stort problem?

Jeg gjør. Og når algoritmene og nevral nettverkene fortsetter å utvikle seg, og mennesker er stadig mindre “i løkken”, er det en reell risiko for å gå over tippingpunktet hvor vi ikke lenger vil være i stand til å forstå kritiske elementer av funksjon og utgang.

Med COVID-19 har land over hele verden innført AI-drevne statsovervåkningssystemer. Hvor stort problem har du med mulig misbruk av denne type overvåking?

Det er naivt, og faktisk, uansvarlig fra et individuelt rettighets- og frihetsperspektiv, å ignorere eller nedtone risikoen for misbruk. Mens kontaktsporing ser ut til å være forsvarlig i midten av en global pandemi, og AI-basert ansiktsgjenkjenning gir en effektiv måte å gjøre hva mennesker alene ikke ville være i stand til å oppnå, må samfunnet innføre lovmessige forbud mot misbruk sammen med effektive tilsyns- og gjennomføringsmekanismer. Ellers overgir vi til staten en grunnleggende del av våre individuelle grunnleggende rettigheter. Når vi først har gitt bort denne grunnleggende delen av vår frihet og personvern, vil den ikke bli returnert.

Du sa tidligere at “Vi må etablere en AI ‘no-fly zone’ hvis vi ønsker å bevare de frihetene som amerikanerne alle holder kjære og som tjener som grunnlaget for vårt samfunn.” Kan du dele noen av dine bekymringer?

Når vi diskuterer AI, må vi alltid fokusere på AI-s essensielle formål: å produsere nøyaktige prediktive analyser fra svært store datamengder som deretter brukes til å klassifisere mennesker og ta beslutninger. Deretter må vi undersøke hvem beslutningstakerne er, hva de beslutter, og hva de baserer sine beslutninger på.

Hvis vi forstår at beslutningstakerne er de som har den største innvirkning på vår helse, liv og friheter – arbeidsgivere, husleiere, leger, forsikringsgivere, politi og hver eneste privat, kommersiell og offentlig virksomhet som kan generere, samle inn eller kjøpe AI-analyser – blir det lett å se at i en vestlig liberal demokrati, i motsetning til en totalitær regime, bør det være beslutninger som ikke bør, og ikke må, overlates til AI alene.

Mens mange åpenbare beslutninger kommer til tanker, som å forby fengsling av noen før en forbrytelse er begått, presenterer AI-s utbredelse inn i hver eneste del av våre liv mange mer komplekse eksempler på etiske dilemmaer. For eksempel, hvis en algoritme nøyaktig forutsier at arbeidere som poster bilder på sosiale medier av strandferier hvor de drikker alkohol, slutter eller blir sagt opp fra jobben i gjennomsnitt 3,5 år tidligere enn de som poster bilder av seg selv som jobber, bør den førstnevnte kategorien bli nektet en forfremmelse eller lønnsøkning basert bare på algoritmeutgangen? Hvis en algoritme korrekt bestemmer at tenåringer som spiller videospill i gjennomsnitt mer enn 2 timer per dag er mindre sannsynlig å fullføre en fireårig universitetsutdannelse, bør slike studenter bli nektet adgang? Hvis asiatiske kvinner i 60-årene som blir innlagt på intensivavdelingen for COVID-19-relaterte symptomer har en høyere overlevelsesrate enn afroamerikanske menn i 70-årene, bør kvinner få foretrukket medisinsk behandling?

Disse forenklede eksemplene er bare noen av de tallrike beslutningene hvor avhengighet av AI alene strider mot våre syn på hva individuelle menneskerettigheter krever.

Er det noe annet du ønsker å dele om AI eller Baker McKenzie?

Jeg er ekstremt energisert for å hjelpe med å lede Baker McKenzies virkelig internasjonale AI-praksis i det evoluerende landskapet. Vi erkjenner at våre klienter er sultne etter veiledning på alle ting AI, fra å forhandle kontrakter, til å etablere intern tilsyn, til å unngå krav om fordom, til å forstå den fremvoksende nasjonale og internasjonale reguleringsrammen.

Selskaper ønsker å gjøre det riktige, men det er svært få advokatfirmaer som har den nødvendige ekspertisen og forståelsen av AI og maskinlæring til å kunne hjelpe dem. For oss som er både AI-entusiaster og advokater, er dette en spennende tid å legge til verdien for våre klienter.

Takk for de fantastiske svarene om noen av disse store samfunnsproblemer som involverer AI. Lesere som ønsker å lære mer om Bradford Newman kan klikke her.