Från neuronnät till oaktsamhet: Vem är ansvarig när AI misslyckas?

Denna artikel diskuterar de juridiska frågorna kring de skador som orsakas av artificiell intelligens och var ansvar kan ligga om ett neuronnät inte fungerar korrekt i den verkliga världen.

Artificiell intelligens (AI) har lämnat forskningslaboratorierna och kommit in i domstolar, kliniker, bilar och börser, med neuronnät som diagnosticerar sjukdomar, godkänner lån och alltmer utför uppgifter som tidigare ansågs vara människors domän. Men när sådana system misslyckas i den verkliga världen, sker det med allvarliga och ibland dödliga konsekvenser.

Som en advokat för personskador i Ontario, Kanada, och en nuvarande kandidat för doktorsexamen i företagsekonomi som studerar skärningspunkten mellan företag, lag och teknik, får jag alltmer ofta en enkel fråga: Om AI-skada inträffar, vem är ansvarig?

Svaret är faktiskt mer komplext. AI utmanar doktrinerna om oaktsamhet, orsakssamband och förutsebarhet, och väcker grundläggande frågor om hur lagen ska hantera maskinbeslut.

AI:s utvidgade roll i beslutsfattande med hög risk

AI är inte längre begränsad till automatisering av lågkvalificerade uppgifter eller till maskinlärningsplattformar. Den fattar nu beslut om hälsovård, finans, anställning, transport, polis och juridisk analys.

Nuvarande AI-modeller består vanligtvis av djupa neuronnät som, även om de kan upptäcka komplexa mönster inom stora datamängder, förblir i stor utsträckning ogenomskinliga för deras utvecklare. Akademiker har observerat att AI-system introducerar oförutsägbarhet och autonomi i lagen, som tidigare styrdes av förutsebarhet och avsikt. Detta skapar en konflikt mellan innovation och ansvar.

Medan rättssystemen behandlar orsakade skador som tillskrivs människor, distribuerar AI ansvar till datamängdernas ingenjörer, som skapar dem, distributörer och slutanvändare. Ansvaret blir därmed diffust.

Ansvarsgapet: När skada inte kan lätt tillskrivas

Rättsliga experter hänvisar alltmer till ett växande “ansvarsgap” i AI-styrning. Traditionell skadeståndsrätt beror på att man identifierar:

1. En skyldighet att vara aktsam
2. En brott mot denna skyldighet
3. Orsakssamband
4. Skador

AI komplicerar varje element. Till exempel kan utvecklare inte veta hur en modell kommer att bete sig efter distribution, och organisationer kan använda tredjeparts maskinlärningssystem (ML). Från slutanvändarens perspektiv är mekanismen för att bestämma utdata ogenomskinlig.

En akademisk studie noterade hur bevisning av fel är svårare om AI-systemen agerar semi-autonomt eller anpassar sig autonomt genom processer som maskinlärning. Denna fragmentering utmanar doktriner som förlitar sig på mänsklig agent.

I personskadeprocesser undersöker domstolarna traditionellt om en tilltalad har agerat skäligt under omständigheterna. Men hur ska domstolarna bedöma skälighet när beslutsfattandet delegeras delvis till sannolikhetsmodeller?

Neuronnät och problemet med förklarbarhet

Djupinlärningssystem fungerar ofta som “svarta lådor”. Deras interna beslutsprocesser är inte lättolkade, även för experter. Detta bristande på förklarbarhet har allvarliga rättsliga konsekvenser.

Om ett medicinskt AI-system missdiagnosticerar cancer, vem skulle vara ansvarig? Det kunde vara:

• Hur modellen tränades
• Om träningsdata innehöll partiskhet
• Om valideringsprocesserna var tillräckliga
• Om kliniker förlitade sig för mycket på den automatiserade utdatan

Rättslig litteratur rekommenderar en distinktion mellan orsakligt ansvar, rollansvar och skadeståndsansvar för att tillskriva ansvar för skador orsakade av AI.

Men i praktiken kan ansvaret utsträckas till en kedja av aktörer:

• Dataleverantörer
• Programvaruutvecklare
• Modelltränare
• Distributörer
• Organisationer som använder AI-utdata
• Yrkesverksamma som förlitar sig på AI-rekommendationer

AI eliminerar inte ansvaret, men distribuerar det.

Lektioner från autonoma fordon: En fallstudie i AI-ansvar

Processer om autonoma fordon ger en tidig inblick i hur domstolar kan hantera AI-relaterad skada. Domstolar har sedan tillämpat de sedvanliga principerna om oaktsamhet och produktskada på nya teknologier som orsakar skada. I nyliga fall har juryn börjat fördela ansvar mellan mänskliga förare och teknikföretagen som skapade de automatiserade körningssystemen.

Rättsliga kommentatorer har föreslagit att befintliga produktskadedoktriner, såsom designfel, tillverkningsfel och underlåtenhet att varna, är relevanta för AI-aktiverade system.

Men autonoma fordon avslöjar begränsningarna i nuvarande rättsliga ramverk. Ska ansvaret tillhöra: fordonstillverkaren? Programvaruutvecklaren? Den mänskliga operatören? Eller data som används för att träna algoritmen?

Vissa forskare har föreslagit att analogier med produktskadedoktriner kan effektivt avgränsa ansvaret mellan uppströms- och nedströmsaktörer.

Från kärandens synvinkel visar fallen att domstolar fortfarande kan tillämpa sedvanliga principer på nya teknologier, men endast med verkligt avancerad expertkunskap och teknisk kunskap.

Strikt ansvar och oaktsamhet: Tävlande rättsliga teorier

En central debatt är om sedvanliga oaktsamhetsramverk kan tillämpas på AI-system. Vissa forskare förespråkar strikta ansvarsregimer, och hävdar att skadade parter inte bör bära bördan av att bevisa fel i högt komplexa tekniska miljöer.

Strikt ansvar kan vara särskilt användbart där skada är förutsebar men oundviklig, där ett AI-system distribueras i stor skala och där riskerna är socialt fördelade. Eller teknisk orsakssamband inte är lätt att bevisa.

Det hävdas också att oaktsamhetslagen kan anpassas till teknologiska förändringar. Jämförande rättslig forskning har argumenterat för att bygga på befintliga doktriner, med deras inbyggda stabiliserande effekter och gradvis anpassning till nya skador.

Strikt ansvar och oaktsamhet illustrerar policypreferenser relaterade till innovation, rättvisa och hur risk och kostnader ska fördelas.

Ska innovatörerna vara ansvariga för den tekniska risken? Eller ska samhället i stort dela på kostnaderna för framstegen?

Det företagsekonomiska perspektivet: Riskallokering och försäkring

Från ett företagsekonomiskt perspektiv är AI-ansvar inte bara en rättslig fråga, utan också en fråga om riskhantering. Organisationer som distribuerar AI-system har börjat fokusera på frågor om kontraktuell riskallokering: 2. professionell ansvarsförsäkring, 3. cybersäkerhetstäckning och 4. regress, samt regleringsramverk.

Försäkringsmarknaden kan spela en viktig roll i att etablera ansvar för AI. Viss forskning tyder på att vissa skador från AI slutligen kan hanteras bäst genom hybridersättningssystem som kombinerar försäkring och skadestånd.

Företag som integrerar AI i operativa beslutsprocesser bör ta hänsyn till risken för rättsliga processer i sin digitala transformation. Underlåtenhet att göra detta kan lämna sådana organisationer utsatta för rykteskador, regleringsåtgärder och civilrättsligt ansvar.

Etiskt ansvar kontra rättsligt ansvar

I många fall är rättsligt ansvar inte likvärdigt med etiskt ansvar. AI-styrningsdebatter inkluderar följande principer:

• Rättvisa
• Transparens
• Ansvar
• Förklarbarhet

Rättsliga skyldigheter följer dock inte automatiskt från etiska överväganden.

Nylig forskning föreslår konceptuella ramverk för att fördela ansvar i multi-aktörs AI-ekosystem och för att konstruera bevisregler som kopplar designbeslut till rättsliga resultat. Därför måste rättssystem som syftar till att främja innovation också ta hänsyn till de som skadas av ny teknik. Denna avvägning kommer att forma framtiden för AI-styrning.

Framtiden för oaktsamhet i AI-eran

Artificiell intelligens utmanar antagandet att beslutsmyndighet alltid vilar hos identifierbara mänskliga aktörer. Men rättsligt ansvar förblir slutligen mänskligt.

I nära framtid är det osannolikt att domstolar kommer att erkänna AI-system som rättsliga personer. Istället förväntas det att de som utvecklar, distribuerar och tjänar på AI-system kommer att hållas ansvariga.

Medan AI-system blir alltmer oberoende kan hybridmodeller utvecklas, som kombinerar olika former av reglering:

1. Oaktsamhetsprinciper
2. Produktskadedoktriner
3. Regleringsövervakning
4. Försäkringsbaserade ersättningssystem

Istället för att ersätta sedvanliga rättsbegrepp kan AI enkelt tvinga domstolar att förtydliga dem. Från en kärandes synvinkel är frågan vad som hände.

Vem är riskskaparen? Vem kan bäst förhindra att risken skadar individer?

Tills lagstiftarna antar omfattande teknologier. I neuronnät och AI-ansvar kommer domstolar att tillämpa befintliga rättsliga doktriner på nya teknologier. Neuronnät kan vara nya. Oaktsamhet är inte.