Bradford Newman, ordförande för Nordamerikas handelshemligheter – Intervjuer

Bradford specialiserar sig på ärenden som rör handelshemligheter och artificiell intelligens. Han är ordförande för AI-utskottet i ABA. Han erkändes av Daily Journal (DJCO ) 2019 som en av de 20 bästa AI-advokaterna i Kalifornien, och Bradford har varit instrumental i att föreslå federal AI-arbetsplats- och IP-lagstiftning som 2018 blev en diskussionsutkast till en lag i USA:s representanthus. Han har också utvecklat AI-övervaknings- och företagsstyrningsbästa praxis för att säkerställa algoritmisk rättvisa.

Vad var det som initialt tände din intresse för artificiell intelligens?

Jag har representerat världens ledande innovatörer och producenter av AI-produkter och teknik i många år. Mitt intresse har alltid varit att gå bakom ridån och förstå de juridiska och tekniska aspekterna av maskinlärning och se AI utvecklas. Jag är fascinerad av vad som är möjligt för applikationer inom olika områden.

Du är en stark förespråkare för rationell reglering av artificiell intelligens, särskilt i reglering som skyddar folkhälsa. Kan du diskutera några av dina stora bekymmer?

Jag tror att vi är i början av en av de mest djupgående revolutionerna som mänskligheten har upplevt. AI har potentialen att påverka varje aspekt av våra liv, från det ögonblick vi vaknar på morgonen till det ögonblick vi somnar — och även medan vi sover. Många av AI:s applikationer kommer att ha en positiv inverkan på livskvaliteten och vår art som helhet.

För närvarande, från ett datavetenskapligt och maskinlärningsperspektiv, är människor fortfarande mycket involverade i processen, från att skriva algoritmerna, till att förstå träningsdatauppsättningarna, till att bearbeta resultaten, känna till bristerna och kommersialisera tekniken.

Men vi är i en kapplöpning mot tiden på två stora fronter. Först, vad som vanligtvis kallas “black box”-problemet: mänsklig inblandning och förståelse av AI kommer att minska över tiden allteftersom AI:s sofistikering (tänk ANNs) utvecklas. Och andra, användningen av AI av regeringar och privata intressen kommer att öka.

Mitt bekymmer är att AI kommer att användas, både medvetet och omedvetet, på sätt som strider mot västerländska demokratiska ideal om individuell frihet och rättigheter.

Hur kan vi hantera dessa bekymmer?

Samhället är nu vid en punkt där vi måste lösa inte vad som är möjligt med avseende på AI, utan vad som bör förbjudas och/eller delvis begränsas.

Först måste vi specifikt identifiera de beslut som aldrig kan fattas i sin helhet eller delvis av den algoritmiska utdata som genereras av AI. Detta innebär att även i situationer där varje expert är överens om att data in och ut är helt opartiska, transparenta och korrekta, måste det finnas en lagstadgad förbud mot att använda det för någon form av prediktivt eller substantiellt beslutsfattande.

Tillstånd, detta är motigt i en värld där vi begär matematisk säkerhet, men att etablera en AI “no-fly zone” är avgörande för att bevara de friheter vi alla håller kära och som utgör grunden för vårt samhälle.

Andra, för andra identifierade beslut baserade på AI-analyser som inte är helt förbjudna, behöver vi lagstiftning som tydligt definierar de där en människa måste vara involverad i beslutsprocessen.

Du har varit instrumental i att föreslå federal AI-arbetsplats- och IP-lagstiftning som 2018 blev en diskussionsutkast till en lag i USA:s representanthus. Kan du diskutera några av dessa förslag?

AI Data Protection Act är tänkt att främja innovation och är utformad för att (1) öka transparensen i naturen och användningen av, och för att bygga allmänhetens förtroende för, artificiell intelligens; (2) hantera påverkan av artificiell intelligens på arbetsmarknaden och (3) skydda folkhälsa och säkerhet.

Den har flera nyckelkomponenter. Till exempel förbjuder den ensam tillit till artificiell intelligens för att fatta vissa beslut, inklusive ett beslut om anställning av individer eller avslag eller begränsning av medicinsk behandling, och förbjuder medicinska försäkringsgivare från att fatta beslut om täckning av en medicinsk behandling enbart på AI-analyser. Den etablerar också den artificiella intelligensstyrelsen — en ny federal myndighet som har specifika ansvar för att reglera AI i fråga om folkhälsa och säkerhet. Och den kräver att täckta enheter utser en chef för artificiell intelligens.

Du har också utvecklat AI-övervaknings- och företagsstyrningsbästa praxis för att säkerställa algoritmisk rättvisa. Vilka är några av de aktuella problemen som du ser med rättvisa eller partiskhet i AI-system?

Detta ämne har varit fokus för intensiv granskning från akademiker och får nu uppmärksamhet från USA:s regeringsmyndigheter, som Equal Employment Opportunity Commission (EEOC), och kärandeadvokater. De flesta gånger beror orsaken på antingen en brist i träningsdatauppsättningarna eller bristen på förståelse och transparens i testmiljön. Detta förvärras av bristen på central ägande och övervakning av AI av seniorledningen.

Denna brist på teknisk förståelse och situationsmedvetenhet är en betydande ansvarsfråga. Jag har talat med flera framstående kärandeadvokater som är ute efter AI-partiskhetsfall.

Deep learning lider ofta av “black box”-problemet, där vi matar in data i en artificiell neural nätverk (ANN), och sedan får vi en utdata, utan att veta hur utdatan genererades. Tror du att detta är ett stort problem?

Jag gör. Och allteftersom algoritmer och neurala nätverk fortsätter att utvecklas, och människor är alltmer inte “i looppen”, finns det en verklig risk för att passera tippingpunkten där vi inte längre kommer att kunna förstå kritiska delar av funktion och utdata.

Med COVID-19 har länder över hela världen infört AI-drivna statliga övervakningssystem. Hur stort problem har du med möjlig missbruk av denna typ av övervakning?

Det är naivt, och faktiskt, ansvarsfullt från ett individuellt rättighets- och frihetsperspektiv, att ignorera eller nedspela risken för missbruk. Medan kontaktspårning verkar klokt i mitten av en global pandemi, och AI-baserad ansiktsigenkänning ger en effektiv åtgärd för att göra vad människor ensamma inte skulle kunna åstadkomma, måste samhället införa lagliga förbud mot missbruk tillsammans med effektiva övervaknings- och verkställighetsmekanismer. Annars överlämnar vi till staten en grundläggande del av våra individuella grundläggande rättigheter. När vi en gång har gett bort den på ett omfattande sätt, kommer denna grundläggande del av vår frihet och integritet inte att återlämnas.

Du sa tidigare att “Vi måste etablera en AI “no-fly zone” om vi vill bevara de friheter som amerikaner alla håller kära och som utgör grunden för vårt samhälle.” Kan du dela några av dessa bekymmer som du har?

När vi diskuterar AI, måste vi alltid fokusera på AI:s grundläggande syfte: att producera korrekta prediktiva analyser från mycket stora datauppsättningar som sedan används för att klassificera människor och fatta beslut. Nästa, måste vi undersöka vem beslutsfattarna är, vad de beslutar om och vad de baserar sina beslut på.

Om vi förstår att beslutsfattarna är de som har den största påverkan på vår hälsa, våra levebröd och våra friheter — arbetsgivare, hyresvärdar, läkare, försäkringsgivare, polis och alla andra privata, kommersiella och statliga företag som kan generera, samla in eller köpa AI-analyser — blir det lätt att se att i en västerländsk liberal demokrati, till skillnad från en totalitär regim, bör det finnas beslut som inte, och inte kan, lämnas enbart till AI.

Medan många uppenbara beslut kommer till tankarna, som att förbjuda fängslande av någon innan ett brott begås, presenterar AI:s omfattande antagande i alla aspekter av våra liv många mer besvärliga exempel på etiska dilemman. Till exempel, om en algoritm korrekt förutsäger att arbetare som lägger upp foton på sociala medier av strandsemestrar där de dricker alkohol slutar eller blir avskedade från jobbet i genomsnitt 3,5 år tidigare än de som lägger upp foton av sig själva som arbetar, bör den förra kategorin nekas en befordran eller löneförhöjning baserat enbart på algoritmisk utdata? Om en algoritm bestämmer att tonåringar som spelar videospel i genomsnitt mer än 2 timmar per dag är mindre benägna att ta examen från ett fyraårigt universitet, bör sådana studenter nekas antagning? Om asiatiska kvinnor i 60-årsåldern som tas in på intensivvårdsavdelningen för COVID-19-relaterade symtom har en högre överlevnadsgrad än afroamerikanska män i 70-årsåldern, bör kvinnor få företräde för medicinsk behandling?

De här förenklade exemplen är bara några av de många besluten där tillit till AI ensam strider mot vår syn på vad mänskliga rättigheter kräver.

Finns det något annat du vill dela angående AI eller Baker McKenzie?

Jag är extremt energiserad för att hjälpa leda Baker McKenzies verkligt internationella AI-praxis mitt i den föränderliga landskapsbilden. Vi erkänner att våra kunder är hungriga efter vägledning om allt som rör AI, från att förhandla kontrakt till att etablera intern övervakning, till att undvika anspråk på partiskhet, till att förstå den framväxande inhemska och internationella regleringsramen.

Företag vill göra rätt, men det finns mycket få advokatbyråer som har den nödvändiga expertisen och förståelsen för AI och maskinlärning för att kunna hjälpa dem. För oss som är både AI-entusiaster och advokater är detta en spännande tid för att lägga till verkligt värde för våra kunder.

Tack för de fantastiska svaren angående några av dessa stora samhällsproblem som rör AI. Läsare som vill lära sig mer om Bradford Newman kan klicka här.