Bradford Newman, ordförande för Nordamerikas handelshemlighetspraxis – Intervjuer

Bradford specialiserar sig på frågor relaterade till handelshemligheter och artificiell intelligens. Han är ordförande för AI-utskottet i ABA. Erkänd av Daily Journal 2019 som en av de 20 bästa AI-advokaterna i Kalifornien, har Bradford varit instrumental i att föreslå federal AI-arbetsplats- och IP-lagstiftning som 2018 blev en diskussionsutkast till en lag i USA:s representanthus. Han har också utvecklat AI-övervakning och företagsstyrning för att säkerställa algoritmisk rättvisa.

Vad var det som initialt tände din intresse för artificiell intelligens?

Jag har representerat världens ledande innovatörer och producenter av AI-produkter och teknologi under många år. Mitt intresse har alltid varit att gå bakom kulisserna och förstå de juridiska och tekniska aspekterna av maskinlärning och se AI utvecklas. Jag är fascinerad av vad som är möjligt för applikationer inom olika områden.

Du är en stark förespråkare för rationell reglering av artificiell intelligens, särskilt i reglering som skyddar folkhälsa, kan du diskutera några av dina största bekymmer?

Jag tror att vi är i de tidiga stadierna av en av de mest betydande revolutionerna som mänskligheten har upplevt. AI har potentialen att påverka varje aspekt av våra liv, från det ögonblick vi vaknar på morgonen till det ögonblick vi somnar — och också medan vi sover. Många av AI:s applikationer kommer att ha en positiv inverkan på livskvaliteten och sannolikt vår livslängd som art.

Just nu, från ett datavetenskapligt och maskinlärningsperspektiv, är människor fortfarande mycket involverade i processen, från att koda algoritmerna till att förstå träningsdatauppsättningarna, till att bearbeta resultaten, känna igen bristerna och kommersialisera tekniken.

Men vi är i en kapplöpning mot tiden på två stora fronter. Först, vad som vanligtvis kallas “black box”-problemet: mänsklig inblandning och förståelse av AI kommer att minska över tiden allteftersom AI:s sofistikering (t.ex. ANNs) utvecklas. Och andra, användningen av AI av regeringar och privata intressen kommer att öka.

Min oro är att AI kommer att användas, både medvetet och omedvetet, på sätt som strider mot västerländska demokratiska ideal om individuell frihet och frihet.

Hur hanterar vi dessa bekymmer?

Samhället är nu vid en punkt där vi måste lösa inte vad som är möjligt med avseende på AI, utan vad som bör förbjudas och/eller delvis begränsas.

Först måste vi specifikt identifiera de beslut som aldrig kan fattas i sin helhet eller delvis av den algoritmiska utdata som genereras av AI. Detta innebär att även i situationer där varje expert är överens om att data in och ut är helt oberörd, transparent och korrekt, måste det finnas en lagstadgad förbud mot att använda det för någon form av prediktiv eller substantiell beslutsfattning.

Medgett, detta är motstridigt i en värld där vi suktar efter matematisk säkerhet, men att etablera en AI “no-fly zone” är essentiellt för att bevara de friheter som vi alla håller kära och som utgör grunden för vårt samhälle.

Sedan, för andra identifierade beslut baserade på AI-analytik som inte är helt förbjudna, behöver vi lagstiftning som tydligt definierar de beslut där en människa måste vara involverad i beslutsfattandet.

Du har varit instrumental i att föreslå federal AI-arbetsplats- och IP-lagstiftning som 2018 blev en diskussionsutkast till en lag i USA:s representanthus. Kan du diskutera några av dessa förslag?

AI Data Protection Act är avsedd att främja innovation och utformad för att (1) öka transparensen i arten och användningen av, och att bygga allmänhetens förtroende för, artificiell intelligens; (2) hantera AI:s påverkan på arbetsmarknaden och (3) skydda folkhälsa och säkerhet.

Den har flera nyckelkomponenter. Till exempel förbjuder den att företag som omfattas enbart förlitar sig på artificiell intelligens för att fatta vissa beslut, inklusive ett beslut om anställning av individer eller avslag eller begränsning av medicinsk behandling, och förbjuder medicinska försäkringsgivare från att fatta beslut om täckning av en medicinsk behandling enbart baserat på AI-analytik. Den etablerar också den artificiella intelligensstyrelsen — en ny federal myndighet som har specifika ansvar för att reglera AI i fråga om folkhälsa och säkerhet. Och den kräver att företag som omfattas utser en Chief Artificial Intelligence Officer.

Du har också utvecklat AI-övervakning och företagsstyrning för att säkerställa algoritmisk rättvisa. Vilka är några av de aktuella problemen som du ser med rättvisa eller partiskhet i AI-system?

Detta ämne har varit fokus för intensiv granskning från akademiker och får nu uppmärksamhet från USA:s regeringsmyndigheter, som t.ex. Equal Employment Opportunity Commission (EEOC), och kärandeadvokater. De flesta gånger resulterar orsaken i antingen en brist i träningsdatauppsättningarna eller brist på förståelse och transparens i testmiljön. Detta förvärras av bristen på central ägarskap och tillsyn av AI av seniorledning.

Denna brist på teknisk förståelse och situationsmedvetenhet är en betydande ansvarsfråga. Jag har talat med flera framstående kärandeadvokater som är ute efter AI-partiskhetsfall.

Deep learning lider ofta av “black box”-problemet, där vi matar in data i ett artificiellt neuronnät (ANN), och sedan får en utdata, utan att veta hur utdatan genererades. Tror du att detta är ett stort problem?

Ja. Och allteftersom algoritmerna och neurala nätverken fortsätter att utvecklas, och människor är alltmer inte “i loopen”, finns det en verklig risk för att vi kommer att passera en brytpunkt där vi inte längre kommer att kunna förstå kritiska element av funktion och utdata.

Med COVID-19 har länder över hela världen infört AI-drivna statssövervakningssystem. Hur stort problem har du med möjlig missbruk av denna typ av övervakning?

Det är naivt, och faktiskt, ansvarsfullt från ett individuellt rättighets- och frihetsperspektiv, att ignorera eller nedspela risken för missbruk. Medan smittspårning verkar klokt under en global pandemi, och AI-baserad ansiktsigenkänning ger en effektiv åtgärd för att göra vad människor ensamma inte skulle kunna åstadkomma, måste samhället etablera lagliga förbud mot missbruk tillsammans med effektiv tillsyn och verkställighetsmekanismer. Annars överlämnar vi till staten en kärna av våra individuella grundläggande rättigheter. När vi en gång har gett bort detta i stor skala, kommer denna grundläggande del av vår frihet och integritet inte att återlämnas.

Du sa tidigare att “Vi måste etablera en AI ‘no-fly zone’ om vi vill bevara de friheter som amerikanerna alla håller kära och som utgör grunden för vårt samhälle.” Kan du dela några av dessa bekymmer som du har?

När vi diskuterar AI, måste vi alltid fokusera på AI:s grundläggande syfte: att producera korrekt prediktiv analys från mycket stora datauppsättningar som sedan används för att klassificera människor och fatta beslut. Nästa, måste vi undersöka vem beslutsfattarna är, vad de beslutar om och vad de baserar sina beslut på.

Om vi förstår att beslutsfattarna är de som har den största påverkan på vår hälsa, försörjning och friheter — arbetsgivare, hyresvärdar, läkare, försäkringsgivare, polis och alla andra privata, kommersiella och statliga företag som kan generera, samla in eller köpa AI-analytik — blir det lätt att se att i en västerländsk liberal demokrati, till skillnad från en totalitär regim, bör det finnas beslut som inte och måste inte lämnas enbart till AI.

Medan många uppenbara beslut kommer till sinnes, som att förbjuda fängslande av någon innan ett brott begåtts, presenterar AI:s omfattande antagande i varje aspekt av våra liv många mer besvärliga instanser av etiska dilemma. Till exempel, om en algoritm korrekt förutsäger att arbetare som lägger upp foton på sociala medier av strandsemestrar där de dricker alkohol slutar eller blir avskedade från sina jobb i genomsnitt 3,5 år tidigare än de som lägger upp foton av sig själva som tränar, bör den förra kategorin nekas en befordran eller löneförhöjning baserat enbart på algoritmiska utdata? Om en algoritm korrekt bestämmer att tonåringar som spelar videospel i genomsnitt mer än 2 timmar per dag är mindre benägna att ta examen från ett fyraårigt universitet, bör sådana studenter nekas antagning? Om asiatiska kvinnor i 60-årsåldern som tas in på intensivvårdsavdelningen för COVID-19-relaterade symtom visar sig ha en högre överlevnadsgrad än afroamerikanska män i 70-årsåldern, bör kvinnor få företräde till medicinsk behandling?

Dessa förenklade exempel är bara några av de många besluten där tillit till AI ensam strider mot våra uppfattningar om vad mänskliga rättigheter kräver.

Finns det något annat som du vill dela angående AI eller Baker McKenzie?

Jag är extremt energiserad för att hjälpa leda Baker McKenzies verkligt internationella AI-praxis mitt i den föränderliga landskapsbilden. Vi erkänner att våra kunder är hungriga efter vägledning om allt som rör AI, från att förhandla kontrakt till att etablera intern övervakning, till att undvika anspråk på partiskhet, till att förstå den framväxande inhemska och internationella regleringsramen.

Företag vill göra rätt, men det finns mycket få advokatbyråer som har den nödvändiga expertisen och förståelsen av AI och maskinlärning för att kunna hjälpa dem. För oss som är både AI-entusiaster och advokater är detta en spännande tid att lägga till verkligt värde för våra kunder.

<Tack för de fantastiska svaren angående några av dessa stora samhällsproblem som involverar AI. Läsare som vill lära sig mer om Bradford Newman bör klicka här.