Från neuronnät till oaktsamhet: Vem är ansvarig när AI misslyckas?

Denna artikel diskuterar rättsliga frågor kring de skador som orsakas av artificiell intelligens och var ansvar kan ligga om ett neuronnät inte fungerar korrekt i den verkliga världen.

Artificiell intelligens (AI) har lämnat forskningslaboratorierna och kommit in i domstolar, kliniker, bilar och börsen, med neuronnät som diagnosticerar sjukdomar, godkänner lån och alltmer utför uppgifter som tidigare ansågs vara människors domän. Men när sådana system misslyckas i den verkliga världen, gör de det med allvarliga och ibland dödliga konsekvenser.

Som en skadeståndsjurist i Ontario, Kanada, och som doktorand i företagsekonomi som studerar skärningspunkten mellan företag, lag och teknik, får jag alltmer ofta en enkel fråga: Om AI-skada inträffar, vem är ansvarig?

Svaret är faktiskt mer komplext. AI utmanar doktrinerna om oaktsamhet, orsakssamband och förutsebarhet, och väcker grundläggande frågor om hur lagen ska bemöta maskinbeslut.

AI:s utvidgade roll i högriskbeslut

AI är inte längre begränsad till automatisering av lågkvalificerade uppgifter eller maskinlärningsplattformar. Den fattar nu beslut om hälsovård, finans, anställning, transport, polis och juridisk analys.

Nuvarande AI-modeller består vanligtvis av djupa neuronnät som, även om de kan upptäcka komplexa mönster inom stora datamängder, förblir i stor utsträckning ogenomskinliga för sina utvecklare. Akademiker har observerat att AI-system introducerar oförutsägbarhet och autonomi i lagen, som tidigare styrdes av förutsebarhet och avsikt. Detta skapar en konflikt mellan innovation och ansvar.

Medan rättssystemen behandlar orsakade skador som om de vore tillräknade människor, distribuerar AI ansvaret till datamängdernas ingenjörer, som skapar dem, distributörer och slutanvändare. Ansvaret blir därmed diffust.

Ansvarsgapet: När skada inte kan lätt tillräknas

Rättsliga experter hänvisar alltmer till ett växande “ansvarsgap” i AI-styrning. Traditionell skadeståndsrätt förutsätter att man kan identifiera:

1. En skyldighet att vara aktsam
2. Ett brott mot denna skyldighet
3. Orsakssamband
4. Skada

AI komplicerar varje element. Till exempel kan utvecklare inte veta hur en modell kommer att bete sig efter distribution, och organisationer kan använda tredjeparts maskinlärningssystem. Från slutanvändarens perspektiv är mekanismen för att bestämma utdata ogenomskinlig.

En akademisk studie noterade hur svårt det är att bevisa fel om AI-systemen agerar semi-autonomt eller anpassar sig autonomt genom processer som maskinlärning. Denna fragmentering utmanar doktriner som förlitar sig på mänsklig agent.

I skadeståndsprocesser undersöker domstolarna traditionellt om en tilltalad har agerat rimligt under omständigheterna. Men hur ska domstolarna bedöma rimlighet när beslutsfattandet är delvis delegerat till sannolikhetsmodeller?

Neuronnät och problemet med förklarbarhet

Djupa lärningsystem fungerar ofta som “svarta lådor”. Deras interna beslutsprocesser är inte lättförståeliga, inte ens för experter. Detta brist på förklarbarhet har allvarliga rättsliga konsekvenser.

Om ett medicinskt AI-system missdiagnosticerar cancer, vem är ansvarig? Det kan vara:

• Hur modellen tränades
• Om träningsdata innehöll fördomar
• Om valideringsprocesser var tillräckliga
• Om kliniker förlitade sig för mycket på den automatiserade utdatan

Rättslig litteratur rekommenderar en distinktion mellan orsakligt ansvar, rollansvar och ansvarsansvar för att tilldela ansvar för skador orsakade av AI.

Men i praktiken kan ansvaret sträcka sig till en kedja av aktörer:

• Dataleverantörer
• Mjukvaruutvecklare
• Modelltränare
• Distributörer
• Organisationer som använder AI-utdata
• Yrkesverksamma som förlitar sig på AI-rekommendationer

AI eliminerar inte ansvaret, men distribuerar det.

Lärdomar från autonoma fordon: En fallstudie i AI-ansvar

Rättsprocesser kring autonoma fordon ger en tidig inblick i hur domstolar kan hantera AI-relaterad skada. Domstolar har sedan tillämpat sedvanliga principer om oaktsamhet och produktskada på nya teknologier som orsakat skada. I nyliga fall har juryer börjat fördela ansvaret mellan mänskliga förare och teknikföretagen som skapade de automatiserade körningssystemen.

Rättsliga kommentatorer har föreslagit att befintliga produktskade doktriner, som designfel, tillverkningsfel och bristande varning, är relevanta för AI-aktiverade system.

Men autonoma fordon avslöjar begränsningarna i nuvarande rättsliga ramverk. Ska ansvaret tilldelas: fordonstillverkaren? Mjukvaruutvecklaren? Mänskliga föraren? Eller data som användes för att träna algoritmen?

Vissa forskare har föreslagit att analogier med produktskadedoktriner kan effektivt avgränsa ansvaret mellan uppströms- och nedströmsaktörer.

Från kärandens perspektiv visar fallen att domstolar fortfarande kan tillämpa sedvanliga principer på nya teknologier, men endast med verkligt avancerad expertkunskap och teknisk kunskap.

Strikt ansvar och oaktsamhet: Tävlande rättsliga teorier

En central debatt handlar om huruvida sedvanliga oaktsamhetsramverk kan tillämpas på AI-system. Vissa forskare förespråkar strikt ansvar, och hävdar att skadade parter inte bör bära bördan av att bevisa fel i tekniskt komplexa miljöer.

Strikt ansvar kan vara särskilt användbart där skada är förutsebar men oundviklig, där ett AI-system distribueras i stor skala och där riskerna är socialt fördelade. Eller teknisk orsakssamband inte är lätt att bevisa.

Det hävdas också att oaktsamhetslagen kan anpassas till teknologiska förändringar. Jämförande rättslig forskning har argumenterat för att bygga på befintliga doktriner, med deras inbyggda stabiliserande effekter och gradvis anpassning till nya skador.

Strikt ansvar och oaktsamhet illustrerar policypreferenser relaterade till innovation, rättvisa och hur risk och kostnader ska fördelas.

Ska innovatörerna vara ansvariga för den tekniska risken? Eller ska samhället i stort dela på kostnaderna för framstegen?

Företagsperspektivet: Riskfördelning och försäkring

Från ett företagsperspektiv är AI-ansvar inte bara en rättslig fråga, utan också en fråga om riskhantering. Organisationer som distribuerar AI-system har börjat fokusera på frågor om kontraktuell riskfördelning: 2. professionell ansvarsförsäkring, 3. cybersäkerhetsförsäkring och 4. regress och regleringsramverk.

Försäkringsmarknaden kan spela en viktig roll i att etablera ansvar för AI. Viss forskning tyder på att vissa skador från AI kan slutligen hanteras bäst genom hybridersättningssystem som kombinerar försäkring och skadestånd.

Företag som integrerar AI i operativa beslutsprocesser bör ta hänsyn till risken för rättsliga processer i sin digitala transformation. Underlåtenhet att göra detta kan utsätta sådana organisationer för rykteskada, regleringsböter och civilrättsligt ansvar.

Etiskt ansvar vs rättsligt ansvar

I många fall är rättsligt ansvar inte likvärdigt med etiskt ansvar. AI-styrningsdebatter inkluderar följande principer:

• Rättvisa
• Transparens
• Ansvar
• Förklarbarhet

Rättsliga skyldigheter följer dock inte automatiskt av etiska överväganden.

Nylig forskning föreslår konceptuella ramverk för att fördela ansvar i multi-aktörs AI-ekosystem och för att konstruera bevisregler som kopplar designbeslut till rättsliga resultat. Rättsliga system som syftar till att främja innovation måste också ta hänsyn till de som skadas av ny teknik. Denna avvägning kommer att forma framtiden för AI-styrning.

Framtiden för oaktsamhet i AI-eran

Artificiell intelligens utmanar antagandet att beslutsfattande myndighet alltid vilar hos identifierbara mänskliga aktörer. Men rättsligt ansvar förblir slutligen mänskligt.

I närtiden är det osannolikt att domstolar kommer att erkänna AI-system som rättsliga personer. Istället förväntas det att de som utvecklar, distribuerar och tjänar på AI-system kommer att hållas ansvariga.

När AI-system blir alltmer oberoende kan hybridmodeller utvecklas, som kombinerar olika former av reglering:

1. Oaktsamhetsprinciper
2. Produktskadedoktriner
3. Regleringsövervakning
4. Försäkringsbaserade ersättningssystem

Istället för att ersätta sedvanliga rättsbegrepp, kan AI enbart tvinga domstolar att förtydliga dem. Från en kärandes perspektiv är frågan vad som hände.

Vem är riskskaparen? Vem kan bäst förhindra att risken skadar individer?

Tills lagstiftarna antar omfattande teknologier. I neuralt AI-ansvarssystem kommer domstolar att tillämpa befintliga rättsliga doktriner på nya teknologier. Neuronnät kan vara nya. Oaktsamhet är inte.