Bradford Newman, voorzitter van de Noord-Amerikaanse handelsgeheimenpraktijk – Interviewserie

Bradford specialiseert zich in zaken die verband houden met handelsgeheimen en kunstmatige intelligentie. Hij is de voorzitter van de AI-subcommissie van de ABA. Hij werd in 2019 door de Daily Journal (DJCO ) erkend als een van de top 20 AI-advocaten in Californië en heeft een belangrijke bijdrage geleverd aan de voorstellen voor federale AI-werkplek- en IE-wetgeving die in 2018 werden omgezet in een discussieontwerp van het Huis van Afgevaardigden. Hij heeft ook AI-toezicht en corporate governance-richtlijnen ontwikkeld om algoritme-fairness te waarborgen.

Wat was het dat uw interesse in kunstmatige intelligentie aanvankelijk aanwakkerde?

Ik heb de wereldleiders en producenten van AI-producten en -technologie al vele jaren vertegenwoordigd. Mijn interesse is altijd geweest om achter de schermen te kijken en de juridische en technische aspecten van machine learning te begrijpen en te zien hoe AI evolueert. Ik word gefascineerd door de mogelijkheden voor toepassingen in verschillende domeinen.

U bent een fervent voorstander van rationele regulering van kunstmatige intelligentie, met name in regulering die de volksgezondheid beschermt. Kunt u enkele van uw belangrijkste zorgen bespreken?

Ik geloof dat we in de vroege stadia zijn van een van de meest ingrijpende revoluties die de mensheid heeft meegemaakt. AI heeft het potentieel om elke aspect van ons leven te beïnvloeden, van het moment dat we ‘s ochtends wakker worden tot het moment dat we ‘s avonds gaan slapen – en ook terwijl we slapen. Veel van de toepassingen van AI zullen onze levenskwaliteit positief beïnvloeden en waarschijnlijk onze levensduur als soort verlengen.

Op dit moment, vanuit een computerwetenschappelijk en machine learning-standpunt, zijn mensen nog steeds betrokken bij het proces, van het schrijven van algoritmen tot het begrijpen van de trainingsgegevenssets, het verwerken van de resultaten, het herkennen van de tekortkomingen en het productiseren van de technologie.

Maar we zijn in een race tegen de tijd op twee belangrijke fronten. Ten eerste, wat algemeen wordt aangeduid als het “black box”-probleem: de menselijke betrokkenheid en het begrip van AI zullen in de loop van de tijd afnemen naarmate de complexiteit van AI (denk aan ANNs) evolueert. En ten tweede, het gebruik van AI door overheden en particuliere belangen zal toenemen.

Mijn zorg is dat AI zal worden gebruikt, zowel opzettelijk als onopzettelijk, op manieren die in strijd zijn met de idealen van individuele vrijheid en vrijheid in de westerse democratieën.

Hoe lossen we deze zorgen op?

De samenleving is op het punt gekomen waarop we niet langer moeten beslissen wat mogelijk is met betrekking tot AI, maar wat verboden of gedeeltelijk beperkt moet worden.

Ten eerste moeten we specifiek de beslissingen identificeren die nooit in zijn geheel of gedeeltelijk door de algoritme-uitvoer gegenereerd door AI kunnen worden genomen. Dit betekent dat zelfs in situaties waarin elke expert het erover eens is dat de gegevens die binnenkomen en buitenkomen volledig onbevooroordeeld, transparant en accuraat zijn, er een wettelijk verbod moet zijn op het gebruik ervan voor enige vorm van voorspellende of inhoudelijke besluitvorming.

Dit is tegenintuïtief in een wereld waarin we wiskundige zekerheid nastreven, maar het instellen van een AI-“no-fly zone” is essentieel om de vrijheden te behouden die we allemaal koesteren en die de basis vormen van onze samenleving.

Ten tweede, voor andere geïdentificeerde beslissingen op basis van AI-analyse die niet volledig verboden zijn, hebben we wetgeving nodig die duidelijk definieert welke beslissingen een menselijke betrokkenheid in het besluitvormingsproces vereisen.

U bent instrumenteel geweest bij het voorstellen van federale AI-werkplek- en IE-wetgeving die in 2018 werd omgezet in een discussieontwerp van het Huis van Afgevaardigden. Kunt u enkele van deze voorstellen bespreken?

De AI-gegevensbeschermingswet is bedoeld om innovatie te bevorderen en is ontworpen om (1) transparantie te vergroten in de aard en het gebruik van, en om het publieke vertrouwen in, kunstmatige intelligentie te verhogen; (2) het effect van kunstmatige intelligentie op de arbeidsmarkt aan te pakken en (3) de volksgezondheid en -veiligheid te beschermen.

Deze wet heeft verschillende sleutelonderdelen. Bijvoorbeeld, het verbiedt bedrijven om uitsluitend te vertrouwen op kunstmatige intelligentie om bepaalde beslissingen te nemen, waaronder een beslissing over de tewerkstelling van individuen of de weigering of beperking van medische behandeling, en verbiedt medische verzekeraars om beslissingen over de dekking van medische behandelingen uitsluitend op basis van AI-analyse te nemen. Het stelt ook de AI-raad in – een nieuwe federale instantie die specifieke verantwoordelijkheden heeft voor de regulering van AI met betrekking tot de volksgezondheid en -veiligheid. En het vereist dat bedrijven een hoofd AI-functionaris aanstellen.

U heeft ook AI-toezicht en corporate governance-richtlijnen ontwikkeld om algoritme-fairness te waarborgen. Wat zijn enkele van de huidige problemen die u ziet met betrekking tot fairness of bias in AI-systemen?

Dit onderwerp is het onderwerp van intense onderzoek van academici en krijgt nu de aandacht van Amerikaanse overheidsinstanties, zoals de Equal Employment Opportunity Commission (EEOC), en de eisende partij. Meestal is de oorzaak van de bias het gevolg van een fout in de trainingsgegevenssets of het gebrek aan begrip en transparantie in de testomgeving. Dit wordt verergerd door het gebrek aan centrale eigendom en toezicht van AI door het senior management.

Dit gebrek aan technisch begrip en situatiebewustzijn is een aanzienlijk aansprakelijkheidsprobleem. Ik heb met verschillende prominente eisende advocaten gesproken die op zoek zijn naar AI-bias-zaken.

Diepe leerprocessen lijden vaak aan het “black box”-probleem, waarbij we gegevens invoeren in een kunstmatig neuronaal netwerk (ANN) en vervolgens een uitvoer ontvangen, zonder te weten hoe die uitvoer werd gegenereerd. Gelooft u dat dit een groot probleem is?

Ja, dat doe ik. En naarmate algoritmen en neurale netwerken evolueren en mensen steeds minder “in de lus” zitten, is er een reëel risico dat we een keerpunt bereiken waarop we niet langer in staat zullen zijn om kritische elementen van functionaliteit en uitvoer te begrijpen.

Met COVID-19 hebben landen over de hele wereld AI-gestuurde staatsbewakingsystemen ingevoerd. Hoe groot is uw bezorgdheid over het potentieel voor misbruik van dit soort bewakingsystemen?

Het is naïef en, eerlijk gezegd, onverantwoordelijk vanuit het oogpunt van individuele rechten en vrijheden om het risico van misbruik te negeren of te bagatelliseren. Terwijl contactonderzoek in het midden van een wereldwijde pandemie verstandig lijkt en AI-gebaseerde gezichtsherkenning een effectieve maatregel biedt om te doen wat mensen alleen niet zouden kunnen doen, moet de samenleving wettelijke verboden op misbruik instellen, evenals effectieve toezichts- en handhavingsmechanismen. Anders geven we aan de staat een kern-element van onze individuele fundamentele rechten over. Zodra we dit in bulk hebben overgedragen, zal dit basis-element van onze vrijheid en privacy niet worden teruggegeven.

U zei eerder dat “We moeten een AI-‘no-fly zone’ instellen als we de vrijheden die Amerikanen allemaal koesteren en die de basis vormen van onze samenleving willen behouden.” Kunt u enkele van deze zorgen delen?

Wanneer we het over AI hebben, moeten we ons altijd richten op het wezenlijke doel van AI: het produceren van nauwkeurige voorspellende analyses van zeer grote gegevenssets die vervolgens worden gebruikt om mensen te classificeren en beslissingen te nemen. Vervolgens moeten we de besluitvormers onderzoeken, wat ze beslissen en op basis van wat ze hun beslissingen nemen.

Als we begrijpen dat de besluitvormers degenen zijn met de grootste impact op onze gezondheid, middelen van bestaan en vrijheden – werkgevers, verhuurders, artsen, verzekeraars, handhavers en elke andere particuliere, commerciële en overheidsinstantie die AI-analyse kan genereren, verzamelen of kopen – wordt het gemakkelijk om te zien dat in een westerse liberale democratie, in tegenstelling tot een totalitaire dictatuur, er beslissingen moeten zijn die niet, en niet mogen worden, uitsluitend aan AI worden overgelaten.

Terwijl veel voor de hand liggende beslissingen in ons opkomen, zoals het verbieden van de gevangenneming van iemand voordat een misdaad is gepleegd, presenteert de wijdverbreide adoptie van AI in elk aspect van ons leven veel meer verwarrende voorbeelden van ethische dilemma’s. Bijvoorbeeld, als een algoritme nauwkeurig voorspelt dat werknemers die foto’s op sociale media plaatsen van strandvakanties waarop ze alcohol drinken, gemiddeld 3,5 jaar eerder ontslagen worden dan degenen die foto’s plaatsen van zichzelf die werken, moet de eerste categorie worden geweigerd voor een promotie of loonsverhoging op basis van de algoritme-uitvoer alleen? Als een algoritme correct bepaalt dat tieners die meer dan 2 uur per dag videogames spelen gemiddeld minder waarschijnlijk zijn om af te studeren aan een vierjarige universiteit, moeten dergelijke studenten worden geweigerd voor toelating? Als Aziatische vrouwen in hun zestiger jaren die worden opgenomen in de ICU voor COVID-19-gerelateerde symptomen een hogere overlevingskans hebben dan Afro-Amerikaanse mannen in hun zeventiger jaren, moeten vrouwen voorkeursbehandeling ontvangen?

Deze vereenvoudigde voorbeelden zijn slechts enkele van de vele beslissingen waarbij het vertrouwen op AI alleen in strijd is met onze opvattingen over wat individuele mensenrechten vereisen.

Is er nog iets dat u zou willen delen over AI of Baker McKenzie?

Ik ben enorm gemotiveerd om Baker McKenzie’s echt internationale AI-praktijk te leiden te midden van de evoluerende landschap. We erkennen dat onze cliënten hongerig zijn naar richtlijnen over alles wat met AI te maken heeft, van het onderhandelen over contracten tot het instellen van interne toezicht, het vermijden van claims van bias, het begrijpen van het opkomende nationale en internationale regelgevingskader.

Bedrijven willen de juiste dingen doen, maar er zijn maar weinig advocatenkantoren die de noodzakelijke expertise en kennis van AI en machine learning hebben om hen te kunnen helpen. Voor ons die zowel AI-junkies als advocaten zijn, is dit een spannende tijd om waarde toe te voegen voor onze cliënten.

Dank u voor de fantastische antwoorden over enkele van deze grote maatschappelijke zorgen met betrekking tot AI. Lezers die meer willen leren over Bradford Newman kunnen hier klikken.