Fra neurale nettverk til uaktsomhet: Hvem er ansvarlig når AI feiler?

Denne artikkelen diskuterer juridiske spørsmål omkring skadene som forårsakes av kunstig intelligens, og hvor ansvarlig kan ligge hvis et neuralt nettverk ikke fungerer korrekt i den virkelige verden.

Kunstig intelligens (AI) har glidd fra forskningslaboratorier og inn i rettssaler, klinikker, biler og børser, med neurale nettverk som diagnotiserer sykdommer, godkjenner lån og stadig oftere utfører oppgaver som tidligere ble ansett som menneskers domene. Men når slike systemer feiler i den virkelige verden, gjør de det med alvorlige og noen ganger dødelige konsekvenser.

Som en sakfører for personskader i Ontario, Canada, og en nåværende kandidat for en doktorgrad i bedriftsadministrasjon som studerer sammenhengen mellom bedrift, lov og teknologi, blir jeg stadig bedt om å svare på et enkelt spørsmål: Hvis AI-skade skjer, hvem er skyldig?

Svaret er faktisk mer komplisert. AI stiller utfordringer til doktrinene om uaktsomhet, årsak og forutseeligheit, og fremmer grunnleggende spørsmål om hvordan loven skal reagere på maskinbeslutninger.

Den utvidede rollen til AI i høyrisikodecisjoner

AI er ikke lenger begrenset til automatisering av lavkvalifiserte oppgaver eller maskinlæringplattformer. Det tar nå beslutninger om helse, finans, arbeid, transport, politi og juridisk analyse.

Aktuelle AI-modeller består vanligvis av dype neurale nettverk som, selv om de kan detektere komplekse mønster innenfor store datasett, forblir vesentlig uigjennomtrengelige for deres utviklere. Akademikere har observert at AI-systemer introduserer uforutseeligheit og autonomi i loven, som tidligere var strengt styrt av forutseeligheit og intensjon. Dette skaper en konflikt mellom innovasjon og ansvar.

Mens rettssystemer behandler årsakede skader som tilregnelige for mennesker, distribuerer AI ansvar til datasettets ingeniører, som lager dem, deployerer og sluttbrukere. Ansvar blir diffust.

Ansvarsgapet: Når skade ikke kan lett tilregnes

Juridiske eksperter henviser stadig til et fremvoksende “ansvarsgap” i AI-styring. Tradisjonell skadeerstatningsrett avhenger av å identifisere:

1. En plikt til å vise omsorg
2. En brudd på denne plikten
3. Årsak
4. Skader

AI kompliserer hver enkelt komponent. For eksempel kan utviklere ikke vite hvordan en modell vil oppføre seg etter deployering, og organisasjoner kan bruke tredjeparts maskinlæringsystemer. Fra sluttbrukerens perspektiv er mekanismen for å bestemme utdata uigjennomtrengelig.

En akademisk studie noterte hvordan det er vanskeligere å bevise skyld hvis AI-systemer handler semi-autonomt eller tilpasser seg autonomt gjennom prosesser som maskinlæring. Denne fragmenteringen utfordrer doktriner som avhenger av menneskelig handling.

I personskadesakfører undersøker rettsinstanser tradisjonelt om en respondent har handlet rimelig under omstendighetene. Men hvordan skal rettsinstanser vurdere rimelighet når beslutningstaking er delvis delegert til probabilistiske modeller?

Neurale nettverk og problemet med forklarbarhet

Dype læringsystemer opererer ofte som “svarte bokser”. Deres interne beslutningsprosesser er ikke lett tolkbare, selv for eksperter. Mangelen på forklarbarhet har alvorlige juridiske implikasjoner.

Hvis et medisinsk AI-system feildiagnostiserer kreft, hvem ville være skyldig? Det kunne være:

• Hvordan modellen ble trent
• Om treningdata inneholdt bias
• Om valideringsprosesser var tilstrekkelige
• Om kliniske ansatte la for stor vekt på den automatiske utdata

Juridisk litteratur anbefaler en distinksjon mellom årsakansvar, rolleansvar og ansvaransvar for å tillegge ansvar for skader forårsaket av AI.

Men i praksis kunne ansvar utvides til en rekke aktører:

• Dataleverandører
• Programvareutviklere
• Modelltrenerne
• Deployere
• Organisasjoner som bruker AI-utdata
• Profesjonelle som avhenger av AI-anbefalinger

AI eliminerer ikke ansvar, men redistribuerer det.

Leksjoner fra autonome kjøretøy: En case-studie i AI-ansvar

Saker om autonome kjøretøy gir en tidlig glimt inn i hvordan rettsinstanser kan håndtere AI-relatert skade. Rettsinstanser har siden anvendt de vanlige prinsippene for uaktsomhet og produktansvar på nye teknologier som forårsaker skade. I nyere saker har juryer begynt å fordelle ansvar mellom menneskelige sjåfører og teknologiselskapene som lagde de automatiske kjøresystemene.

Juridiske kommentatorer har foreslått at eksisterende produktansvarsdoktriner, som designfeil, produksjonsfeil og manglende advarsel, er relevante for AI-aktiverede systemer.

Men autonome kjøretøy avdekker begrensningene i nåværende rettslige rammer. Skal ansvar knyttes til: Kjøretøyprodusenten? Programvareutvikleren? Menneskelige operatøren? Eller dataene som ble brukt til å trene algoritmen?

Noen eksperter har foreslått at analogier med produktansvarsprinsipper kan effektivt avgrense ansvar mellom oppstrøms- og nedstrømsaktører.

Fra sakførerens perspektiv viser sakene at rettsinstanser kan fortsatt anvende vanlige prinsipper på nye teknologier, men bare med virkelig avansert ekspertkunnskap og teknisk kunnskap.

Strengt ansvar og uaktsomhet: Konkurrerende juridiske teorier

En sentral debatt er om vanlige uaktsomhetsrammer kan anvendes på AI-systemer. Noen eksperter forespråker strengt ansvarlige regimer, og argumenterer for at skadde parter ikke bør bære byrden av å bevise skyld i svært komplekse tekniske miljøer.

Strengt ansvar kan være spesielt nyttig der skade er forutseelig, men uunngåelig, der et AI-system er deployert i stor skala, og der risiko er sosialt fordelt. Eller der teknisk årsak ikke er lett å bevise.

Det argumenteres også for at uaktsomhetsloven kan tilpasse seg teknologiske endringer. Sammenlignende juridisk forskning har argumentert for å bygge på eksisterende doktriner, med deres innbygde stabiliserende effekter og inkrementelle tilpasning til nye skader.

Strengt ansvar og uaktsomhet illustrerer politiske preferanser relatert til innovasjon, rettferdighet og hvordan risiko og kostnader skal allokeres.

Skal innovatører være ansvarlige for den teknologiske risikoen? Eller skal samfunnet bredt dele kostnadene av fremgang?

Bedriftsperspektivet: Risikofordeling og forsikring

Fra et bedriftsperspektiv er AI-ansvar ikke bare et juridisk spørsmål, men også et spørsmål om risikostyring. Organisasjonene som deployer AI-systemer har begynt å fokusere på spørsmål om kontraktbasert risikofordeling: 2. faglig ansvarsforsikring, 3. cybersecurity-dekning og 4. erstatning, samt reguleringsmessige rammer.

Forsikringsmarkedene kan spille en viktig rolle i å etablere ansvar for AI. Noen studier foreslår at visse skader fra AI ultimate kan bli best behandlet gjennom hybrid kompensasjonsordninger som kombinerer forsikring og skadeerstatning.

Selskaper som inkorporerer AI i operasjonelle beslutninger bør ta hensyn til risikoen for rettssaker i deres digitale transformasjon. Å ikke gjøre dette kan etterlate slike organisasjoner åpen for omdømmeskade, reguleringsmessige sanktioner og sivile ansvar.

Etisk ansvar vs. juridisk ansvar

I mange tilfeller er juridisk ansvar ikke likeverdig med etisk ansvar. AI-styringsdebatter inkluderer følgende prinsipper:

• Rettferdighet
• Gjennomskuelighet
• Ansvar
• Forklarbarhet

Juridiske forpliktelser følger imidlertid ikke automatisk fra etiske overveielser.

Nyere arbeid foreslår konseptuelle rammer for å tillegge ansvar i multi-aktør AI-økosystemer og for å konstruere bevisregler som kobler designbeslutninger til juridiske resultater. Derfor må rettssystemer som søker å fremme innovasjon også ta hensyn til de som blir skadet av ny teknologi. Denne balanseøvelsen vil forme fremtiden for AI-styring.

Fremtiden for uaktsomhet i AI-alderen

Kunstig intelligens utfordrer antagelsen om at beslutningsmyndighet alltid hviler hos identifiserbare menneskelige aktører. Men juridisk ansvar forblir til slutt menneskelig.

I nær fremtid er det usannsynlig at rettsinstanser vil anerkjenne AI-systemer som juridiske personer. I stedet er det forventet at personer som utvikler, deployer og profitterer av AI-systemer vil bli holdt ansvarlige.

Etterhvert som AI-systemer blir mer uavhengige, kan hybridmodeller utvikle seg, som kombinerer ulike former for regulering:

1. Uaktsomhetsprinsipper
2. Produktansvarsdoktriner
3. Reguleringsmessig tilsyn
4. Forsikringsbaserte kompensasjonsordninger

I stedet for å erstatte vanlige rettslige konsepter, kan AI bare tvinge rettsinstanser til å klargjøre dem. Fra en sakførers perspektiv er spørsmålet hva som skjedde.

Hvem er risikoskaperen? Hvem kan best forebygge risikoen fra å skade enkeltpersoner?

Frem til lovgivere vedtar omfattende teknologier. I neurale AI-ansvarsregimer vil rettsinstanser anvende eksisterende juridiske doktriner på nye teknologier. Neurale nettverk kan være nye. Uaktsomhet er ikke.