Tankeledere

Fra nevrale nettverk til uaktsomhet: hvem har ansvaret når AI svikter?

Kanon Clifford
Legg til Unite.AI blant dine foretrukne kilder på Google
A conceptual legal illustration showing a lawyer in a boardroom, a scale of justice with a glowing AI brain and a human hand, and a digital
Viktige punkterAI's ugjennomsiktighet skaper et ansvarsgap ved å komplisere kjerneelementene i…
Vis mer
  • AI's ugjennomsiktighet skaper et ansvarsgap ved å komplisere kjerneelementene i uaktsomhet, som plikt og årsakssammenheng.
  • Domstoler kan anvende eksisterende produktansvarsdoktriner på AI, men krever avansert teknisk bevisføring.
  • Strekt ansvarsregimer kan fordele risiko rettferdig når AI-skade er forutsigbar, men årsakssammenhengen er uklar.

Denne artikkelen diskuterer juridiske spørsmål omkring skadene som forårsakes av kunstig intelligens, og hvem som kan ha ansvaret hvis et nevralt nettverk ikke fungerer korrekt i den virkelige verden.

Kunstig intelligens (AI) har glidd fra forskningslaboratorier og inn i rettssaler, klinikker, biler og børser, med nevrale nettverk som diagnostiserer sykdommer, godkjenner lån og stadig oftere utfører oppgaver som tidligere ble ansett som menneskers domene. Men når slike systemer feiler i den virkelige verden, gjør de det med alvorlige og noen ganger dødelige konsekvenser.

Som advokat for saksøkere i personskadesaker i Ontario i Canada og nåværende kandidat til graden Doctor of Business Administration, der jeg forsker på skjæringspunktet mellom næringsliv, juss og teknologi, får jeg stadig oftere et enkelt spørsmål: Hvis AI forårsaker skade, hvem har ansvaret?

Svaret er faktisk mer komplisert. AI stiller utfordringer til doktrinene om uaktsomhet, årsakssammenheng og påregnelighet, og fremmer grunnleggende spørsmål om hvordan loven skal reagere på maskinbeslutninger.

Den utvidede rollen til AI i beslutninger med høy risiko

AI er ikke lenger begrenset til automatisering av lavkvalifiserte oppgaver eller maskinlæringsplattformer. Det tar nå beslutninger om helse, finans, arbeid, transport, politi og juridisk analyse.

Aktuelle AI-modeller består vanligvis av dype nevrale nettverk som, selv om de kan detektere komplekse mønster innenfor store datasett, forblir vesentlig uigjennomtrengelige for deres utviklere. Akademikere har observert at AI-systemer introduserer uforutsigbarhet og autonomi i loven, som tidligere var strengt styrt av påregnelighet og intensjon. Dette skaper en konflikt mellom innovasjon og ansvar.

Rettssystemer tilskriver mennesker ansvaret for skader som er forårsaket, men AI fordeler ansvaret mellom dem som utarbeider datasettene, systemutviklere, dem som tar systemene i bruk, og sluttbrukere. Ansvar blir diffust.

Ansvarsgapet: Når det er vanskelig å plassere ansvaret for skade

Juridiske eksperter henviser stadig til et fremvoksende “ansvarsgap” i AI-styring. Tradisjonell skadeerstatningsrett avhenger av å identifisere:

  1. En aktsomhetsplikt
  2. Et brudd på denne plikten
  3. Årsakssammenheng
  4. Skader

AI kompliserer hver enkelt komponent. For eksempel vet utviklere kanskje ikke hvordan en modell vil oppføre seg etter at systemet er tatt i bruk, og organisasjoner kan bruke tredjeparts maskinlæringssystemer. Fra sluttbrukerens perspektiv er mekanismen for å bestemme utdata uigjennomtrengelig.

En akademisk studie noterte hvordan det er vanskeligere å bevise skyld hvis AI-systemer handler semi-autonomt eller tilpasser seg autonomt gjennom prosesser som maskinlæring. Denne fragmenteringen utfordrer doktriner som avhenger av menneskelig handling.

I personskadesaker undersøker rettsinstanser tradisjonelt om en saksøkt har handlet rimelig under omstendighetene. Men hvordan skal rettsinstanser vurdere rimelighet når beslutningstaking er delvis delegert til probabilistiske modeller?

Nevrale nettverk og problemet med forklarbarhet

Systemer for dyp læring opererer ofte som “svarte bokser”. Deres interne beslutningsprosesser er ikke lett tolkbare, selv for eksperter. Mangelen på forklarbarhet har alvorlige juridiske implikasjoner.

Hvis et medisinsk AI-system feildiagnostiserer kreft, hvem ville være skyldig? Det kunne være:

  • Hvordan modellen ble trent
  • Om treningsdata inneholdt bias
  • Om valideringsprosesser var tilstrekkelige
  • Om kliniske ansatte la for stor vekt på de automatiske resultatene

Juridisk litteratur anbefaler en distinksjon mellom ansvar for årsaksbidrag, rolleansvar og juridisk erstatningsansvar for å tillegge ansvar for skader forårsaket av AI.

Men i praksis kunne ansvar utvides til en rekke aktører:

  • Dataleverandører
  • Programvareutviklere
  • Modelltrenerne
  • De som tar systemene i bruk
  • Organisasjoner som bruker AI-utdata
  • Profesjonelle som avhenger av AI-anbefalinger

AI fjerner ikke ansvaret, men omfordeler det.

Leksjoner fra autonome kjøretøy: En case-studie i AI-ansvar

Saker om autonome kjøretøy gir et tidlig innblikk i hvordan rettsinstanser kan håndtere AI-relatert skade. Rettsinstanser har siden anvendt de vanlige prinsippene for uaktsomhet og produktansvar på nye teknologier som forårsaker skade. I nyere saker har juryer begynt å fordele ansvar mellom menneskelige sjåfører og teknologiselskapene som lagde de automatiske kjøresystemene.

Juridiske kommentatorer har foreslått at eksisterende produktansvarsdoktriner, som designfeil, produksjonsfeil og manglende advarsel, er relevante for systemer som bruker AI.

Men autonome kjøretøy avdekker begrensningene i nåværende rettslige rammer. Skal ansvar knyttes til: Kjøretøyprodusenten? Programvareutvikleren? Den menneskelige operatøren? Eller dataene som ble brukt til å trene algoritmen?

Noen eksperter har foreslått at analogier med produktansvarsprinsipper kan effektivt avgrense ansvar mellom oppstrøms- og nedstrømsaktører.

Fra saksøkerens perspektiv viser sakene at rettsinstanser fortsatt kan anvende vanlige prinsipper på nye teknologier, men bare med svært kvalifisert sakkyndig bevisføring og teknisk kunnskap.

Objektivt ansvar og uaktsomhet: Konkurrerende juridiske teorier

En sentral debatt er om vanlige uaktsomhetsrammer kan anvendes på AI-systemer. Noen eksperter tar til orde for ordninger med objektivt ansvar, og argumenterer for at skadde parter ikke bør bære byrden av å bevise skyld i svært komplekse tekniske miljøer.

Objektivt ansvar kan være spesielt nyttig der skade er forutseelig, men uunngåelig, der et AI-system er tatt i bruk i stor skala, og der risiko er sosialt fordelt. Det samme gjelder når tekniske årsakssammenhenger er vanskelige å bevise.

Det argumenteres også for at reglene om ansvar for uaktsomhet kan tilpasse seg teknologiske endringer. Sammenlignende juridisk forskning har argumentert for å bygge på eksisterende doktriner, med deres innbygde stabiliserende effekter og inkrementelle tilpasning til nye skader.

Objektivt ansvar og uaktsomhet illustrerer politiske preferanser relatert til innovasjon, rettferdighet og hvordan risiko og kostnader skal allokeres.

Skal innovatører være ansvarlige for den teknologiske risikoen? Eller skal samfunnet bredt dele kostnadene av fremgang?

Bedriftsperspektivet: Risikofordeling og forsikring

Fra et bedriftsperspektiv er AI-ansvar ikke bare et juridisk spørsmål, men også et spørsmål om risikostyring. Organisasjoner som tar AI-systemer i bruk, har begynt å fokusere på kontraktsbasert risikofordeling, profesjonsansvarsforsikring, forsikringsdekning av cyberrisiko, skadesløsholdelse og rammer for regelverksetterlevelse.

Forsikringsmarkedene kan spille en viktig rolle i å etablere ansvar for AI. Noen studier foreslår at visse skader fra AI til syvende og sist kanskje best kan håndteres gjennom hybride erstatningsordninger som kombinerer forsikring og erstatningsrett.

Selskaper som inkorporerer AI i operasjonelle beslutninger bør ta hensyn til risikoen for rettssaker i deres digitale transformasjon. Hvis de unnlater dette, kan organisasjonene bli utsatt for omdømmeskade, sanksjoner fra tilsynsmyndigheter og sivilrettslig ansvar.

Etisk ansvar vs. juridisk ansvar

I mange tilfeller er juridisk ansvar ikke likeverdig med etisk ansvar. AI-styringsdebatter inkluderer følgende prinsipper:

  • Rettferdighet
  • Åpenhet
  • Ansvar
  • Forklarbarhet

Juridiske forpliktelser følger imidlertid ikke automatisk fra etiske overveielser.

Nyere arbeid foreslår konseptuelle rammer for å tillegge ansvar i AI-økosystemer med flere aktører og for å konstruere bevisregler som kobler designbeslutninger til juridiske resultater. Derfor må rettssystemer som søker å fremme innovasjon også ta hensyn til de som blir skadet av ny teknologi. Denne balanseøvelsen vil forme fremtiden for AI-styring.

Fremtiden for uaktsomhet i AI-alderen

Kunstig intelligens utfordrer antagelsen om at beslutningsmyndighet alltid hviler hos identifiserbare menneskelige aktører. Men juridisk ansvar forblir til slutt menneskelig.

I nær fremtid er det usannsynlig at rettsinstanser vil anerkjenne AI-systemer som juridiske personer. I stedet er det forventet at personer som utvikler AI-systemer, tar dem i bruk og tjener på dem, vil bli holdt ansvarlige.

Etter hvert som AI-systemer blir mer uavhengige, kan hybridmodeller utvikle seg, som kombinerer ulike former for regulering:

  1. Uaktsomhetsprinsipper
  2. Produktansvarsdoktriner
  3. Reguleringsmessig tilsyn
  4. Forsikringsbaserte kompensasjonsordninger

I stedet for å erstatte begreper fra common law, kan AI bare tvinge rettsinstanser til å klargjøre dem. Fra en saksøkers perspektiv er spørsmålet hva som skjedde.

Hvem er risikoskaperen? Hvem kan best hindre at risikoen skader enkeltpersoner?

Inntil lovgiverne innfører helhetlige ordninger for AI-ansvar, vil domstolene anvende eksisterende juridiske doktriner på ny teknologi. Nevrale nettverk kan være nye. Uaktsomhet er ikke noe nytt.

Kanon Clifford er en advokat som representerer saksøkere i personskadesaker hos Bergeron Clifford. Evnen til å gjøre en meningfull endring i menneskers liv er det som tiltrekker Kanon til skaderett. For Kanon er klientenes rett til rettferdig kompensasjon den viktigste delen av hans dype forpliktelse til å forbedre livene til skadde personer og deres familier. Kanon startet hos Bergeron Clifford som en sommerstudent, og lærte de praktiske detaljene i skaderett. Han fullførte deretter sin juridiske praksisperiode hos vårt firma før han ble kalt til den ontarianske advokatforeningen i 2020. Han har en B.Soc.Sc. fra University of Ottawa. Han avla sin LL.B. (Honours) fra University of Exeter i Devon, England og har også en LL.M. (Conflict Resolution) med Distinctions fra University of Law i London, England. Han studerer for tiden deltid for sin Doctor of Business Administration (D.B.A.), med fokus på sammenhengene mellom rett, forretning og teknologi.