Bradford Newman, formand for Nordamerikas handelshemmeligheder – Interviewserie

Bradford specialiserer sig i sager relateret til handelshemmeligheder og kunstig intelligens. Han er formand for AI-udvalget i ABA. Han blev i 2019 anerkendt af Daily Journal (DJCO ) som en af de 20 bedste AI-advokater i Californien, og han har været med til at foreslå føderale love om AI på arbejdspladsen og IP, der i 2018 blev omdannet til et udskriftsudkast til en lovbil i Repræsentanternes Hus. Han har også udviklet bedste praksis for AI-tilsyn og corporate governance, der er designet til at sikre algoritme-fairness.

Hvad var det, der først antændte din interesse for kunstig intelligens?

Jeg har repræsenteret verdens førende innovatorer og producenter af AI-produkter og teknologi i mange år. Min interesse har altid været at gå bag kulisserne og forstå de juridiske og tekniske aspekter af maskinlæring og se AI udvikle sig. Jeg er fascineret af, hvad der er muligt for anvendelser på tværs af forskellige domæner.

Du er en stærk forkæmper for rationel regulering af kunstig intelligens, især i forhold til regulering, der beskytter offentlig sundhed. Kan du diskutere nogle af dine største bekymringer?

Jeg tror, vi er i begyndelsen af en af de mest dybtgående revolutioner, som menneskeheden har oplevet. AI har potentialet til at påvirke alle aspekter af vores liv, fra det øjeblik vi vågner om morgenen til det øjeblik vi går i seng — og også, mens vi sover. Mange af AI’s anvendelser vil sandsynligvis have en positiv indvirkning på vores livskvalitet og sandsynligvis også vores levetid som art.

I øjeblikket, fra et computervidenskabeligt og maskinlæringssynspunkt, er mennesker stadig meget involveret i processen, fra at kode algoritmerne til at forstå træningsdataene, til at behandle resultaterne, til at genkende svigtene og til at produktudvikle teknologien.

Men vi er i en kapløb mod tiden på to store fronter. Først, det, der almindeligvis kaldes “black box-problemet”: Menneskelig involvering og forståelse af AI vil aftage over tid, da AI’s sofistikation (tænk ANNs) udvikler sig. Og anden, brugen af AI af regeringer og private interesser vil øge.

Mit bekymring er, at AI vil blive brugt, både bevidst og ubevidst, på måder, der er i modstrid med Vestens demokratiske idealer om individuel frihed og frihed.

Hvordan kan vi imødegå disse bekymringer?

Samfundet er nået til et punkt, hvor vi må løse ikke, hvad der er muligt med hensyn til AI, men hvad der bør forbydes eller delvist begrænses.

Først, vi må specifikt identificere de beslutninger, der aldrig kan træffes helt eller delvist af den algoritme-baserede output, der genereres af AI. Dette betyder, at selv i situationer, hvor hver ekspert er enig om, at dataene er helt upartiske, gennemsigtige og nøjagtige, der må være en lovmæssig forbud mod at bruge det til nogen form for prædiktiv eller substantiel beslutningstagning.

Det er modsigelsesfuldt i en verden, hvor vi begærer matematisk sikkerhed, men etablering af en AI “no-fly zone” er afgørende for at bevare de friheder, vi alle holder kær og som tjener som grundlag for vores samfund.

Anden, for andre identificerede beslutninger baseret på AI-analyser, der ikke er helt forbudt, har vi brug for lovgivning, der tydeligt definerer, hvor en menneskelig skal være involveret i beslutningstagningen.

Du har været med til at foreslå føderale love om AI på arbejdspladsen og IP, der i 2018 blev omdannet til et udskriftsudkast til en lovbil i Repræsentanternes Hus. Kan du diskutere nogle af disse forslag?

AI Data Protection Act er designet til at fremme innovation og (1) øge gennemsigtighed i naturen og brugen af, og til at opbygge offentlig tillid til, kunstig intelligens; (2) til at imødegå virkningen af kunstig intelligens på arbejdsmarkedet og (3) til at beskytte offentlig sundhed og sikkerhed.

Den har flere nøglekomponenter. For eksempel, forbyder den dækkede virksomheders eneste afhængighed af kunstig intelligens til at træffe visse beslutninger, herunder en beslutning om ansættelse af personer eller afvisning eller begrænsning af medicinsk behandling, og forbyder medicinske forsikringsselskaber fra at træffe beslutninger om dækning af en medicinsk behandling udelukkende på basis af AI-analyser. Den etablerer også den Kunstig Intelligens-Board — en ny føderal myndighed, der er ansvarlig for specifikke ansvar for regulering af AI, så vidt angår offentlig sundhed og sikkerhed. Og den kræver, at dækkede enheder udpeger en Chief Kunstig Intelligens Officer.

Du har også udviklet AI-tilsyn og corporate governance bedste praksis, designet til at sikre algoritme-fairness. Hvad er nogle af de nuværende problemer, du ser med hensyn til fairness eller bias i AI-systemer?

Dette emne har været fokus for intensiv gennemgang fra akademikere og får nu opmærksomhed fra US-regeringens myndigheder, som Equal Employment Opportunity Commission (EEOC), og sagsøgerens bar. De fleste gange skyldes årsagen enten en fejl i træningsdataene eller manglen på forståelse og gennemsigtighed i testmiljøet. Dette er forværret af manglen på central ejerskab og tilsyn med AI af seniorledere.

Dette mangler på teknisk forståelse og situationsbevidsthed er en betydelig ansvarlig bekymring. Jeg har talt med flere fremtrædende sagsøgere, der er på udkig efter AI-bias-sager.

Deep learning lider ofte under “black box-problemet”, hvor vi indsætter data i en kunstig neural netværk (ANN), og vi derefter modtager en output, uden at vide, hvordan denne output er genereret. Tror du, at dette er et stort problem?

Jeg gør. Og da algoritmer og neurale netværk fortsætter med at udvikle sig, og mennesker er stadig mere ikke “i løkken”, er der en reel risiko for at gå over tipping-pointet, hvor vi ikke længere vil være i stand til at forstå kritiske elementer af funktion og output.

Med COVID-19 har lande over hele verden indført AI-drevet stats-overvågningssystemer. Hvor stort et problem har du med potentiel misbrug af denne type overvågning?

Det er naivt og faktisk ansvarsløst fra et individuelt rettigheds- og frihedsperspektiv at ignorere eller nedtone risikoen for misbrug. Mens kontaktsporing synes forsvarligt i midten af en global pandemi, og AI-baseret ansigtsgenkendelse giver en effektiv måde at gøre, hvad mennesker alene ikke ville være i stand til at opnå, skal samfundet indføre lovmæssige forbud mod misbrug sammen med effektive tilsyns- og gennemførelsesmekanismer. Ellers overdrager vi til staten en kerneelement af vores individuelle grundlæggende rettigheder. Når vi først har givet det væk på en helhedsbasis, vil denne grundlæggende del af vores frihed og privatliv ikke blive returneret.

Du sagde tidligere, at “Vi må etablere en AI ‘no-fly zone’, hvis vi ønsker at bevare de friheder, som amerikanerne alle holder kær og som tjener som grundlag for vores samfund.” Kan du dele nogle af dine bekymringer?

Når vi diskuterer AI, må vi altid fokusere på AI’s essentielle formål: at producere nøjagtige prædiktive analyser fra meget store data samlinger, der derefter bruges til at klassificere mennesker og træffe beslutninger. Dernæst må vi undersøge, hvem beslutningstagerne er, hvad de beslutter, og hvad de baserer deres beslutninger på.

Hvis vi forstår, at beslutningstagerne er dem, der har den største indvirkning på vores sundhed, liv og friheder — arbejdsgivere, lejere, læger, forsikringsselskaber, lovgivere og hver anden privat, kommerciel og regeringsmæssig virksomhed, der kan generere, indsamle eller købe AI-analyser — bliver det let at se, at i en vestlig liberal demokrati, modsat en totalitær regime, skal der være beslutninger, der ikke, og ikke må, overlades udelukkende til AI.

mens mange åbenlyse beslutninger kommer i tanker, som for eksempel at forbyde fængsling af en person, før en forbrydelse er begået, præsenterer AI’s bredde af anvendelser i alle aspekter af vores liv mange mere komplekse eksempler på etiske dilemmaer. For eksempel, hvis en algoritme korrekt forudser, at arbejdere, der poster billeder på sociale medier af strandferier, hvor de drikker alkohol, forlader eller bliver fyret fra deres job i gennemsnit 3,5 år tidligere end dem, der poster billeder af sig selv, der arbejder, skal den førstnævnte kategori nægtes en forfremmelse eller lønforhøjelse udelukkende på basis af algoritme-output? Hvis en algoritme bestemmer, at teenagerne, der spiller videospil i gennemsnit mere end 2 timer om dagen, er mindre sandsynlige for at graduere fra en fire-årig universitet, skal sådanne studerende nægtes adgang? Hvis asiatiske kvinder i deres 60’erne, der er indlagt på intensivafdelingen for COVID-19-relaterede symptomer, har en højere overlevelsesrate end afroamerikanske mænd i deres 70’erne, skal kvinder få foretrukken medicinsk behandling?

Disse forenklede eksempler er kun nogle få af de mange beslutninger, hvor afhængighed af AI alene modsiger vores opfattelse af, hvad individuelle menneskerettigheder kræver.

Er der noget andet, du gerne vil dele om AI eller Baker McKenzie?

Jeg er ekstremt energiseret til at hjælpe med at lede Baker McKenzies sandt internationale AI-praksis midt i det udviklende landskab. Vi erkender, at vores kunder er sultne efter vejledning på alt, der vedrører AI, fra forhandling af kontrakter til etablering af intern tilsyn, til undgåelse af krav om bias, til forståelse af den fremvoksende nationale og internationale regulering.

Virksomheder vil gøre det rigtige, men der er kun få advokatfirmaer, der har den nødvendige ekspertise og forståelse af AI og maskinlæring til at kunne hjælpe dem. For os, der er både AI-junkies og advokater, er dette en spændende tid til at tilføje reel værdi for vores kunder.

Tak for de fantastiske svar omkring nogle af disse store samfundsmæssige bekymringer, der involverer AI. Læsere, der ønsker at lære mere om Bradford Newman, skal klikke her.