De la rețele neuronale la neglijență: Cine este responsabil atunci când IA eșuează?

Acest articol discută despre problemele legale legate de prejudiciile cauzate de inteligența artificială și unde poate fi atribuită răspunderea în cazul în care un sistem de rețele neuronale nu funcționează corect în lumea reală.

Inteligența artificială (IA) a părăsit laboratoarele de cercetare și a intrat în săli de judecată, clinici, mașini și burse, cu rețele neuronale care diagnostichează boli, aprobă împrumuturi și îndeplinesc din ce în ce mai multe sarcini considerate anterior a fi domeniul exclusiv al oamenilor. Dar atunci când astfel de sisteme eșuează în lumea reală, ele o fac cu consecințe grave și uneori fatale.

Ca avocat pentru victimele unor accidente în Ontario, Canada, și ca student actual într-un program de doctorat în administrație de afaceri, care studiază intersecția dintre afaceri, drept și tehnologie, sunt din ce în ce mai des întrebată de o întrebare simplă: Dacă se produce un prejudiciu cauzat de IA, cine este vinovat?

Răspunsul este de fapt mult mai complex. IA ridică provocări pentru doctrinele de neglijență, cauzalitate și previzibilitate și pune întrebări fundamentale despre modul în care dreptul ar trebui să răspundă la deciziile luate de mașini.

Extinderea rolului IA în luarea deciziilor cu risc ridicat

IA nu mai este limitată la automatizarea sarcinilor cu nivel scăzut de calificare sau la platformele de învățare automată. Ea ia acum decizii în domeniul sănătății, finanțelor, angajării, transportului, poliției și analizei juridice.

Modelele actuale de IA sunt de obicei constituite din rețele neuronale profunde care, deși pot detecta modele complexe în cadrul unor seturi de date mari, rămân în mare măsură opace pentru dezvoltatorii lor. Academicienii au observat că sistemele IA introduc imprevizibilitate și autonomie în drept, care a fost anterior guvernat strict de previzibilitate și intenție. Acest lucru creează un conflict între inovație și răspundere.

În timp ce sistemele juridice tratează prejudiciile cauzate ca fiind atribuibile oamenilor, IA distribuie răspunderea către inginerii care creează seturile de date, cei care le implementează și utilizatorii finali. Răspunderea devine difuză.

Lacuna de răspundere: Când prejudiciul nu poate fi ușor atribuit

Savanții juridici se referă din ce în ce mai mult la o “lacună de răspundere” în guvernanța IA. Dreptul clasic al delictelor depinde de identificarea:

1. Unei obligații de îngrijire
2. Unei încălcări a acestei obligații
3. Cauzalității
4. Prejudiciului

IA complică fiecare element. De exemplu, dezvoltatorii nu pot ști cum se va comporta un model după implementare, iar organizațiile pot utiliza sisteme de învățare automată create de terți. Din perspectiva utilizatorului final, mecanismul de determinare a ieșirilor este opac.

Un studiu academic a observat cum dovedirea vinovăției este mai dificilă dacă sistemele IA acționează semi-autonom sau se adaptează autonom prin procese precum învățarea automată. Această fragmentare provoacă doctrinele care se bazează pe agenția umană.

În litigiile privind răspunderea civilă, instanțele examinează în mod tradițional dacă un pârât a acționat în mod rezonabil în împrejurările date. Dar cum ar trebui instanțele să evalueze rezonabilitatea atunci când luarea deciziilor este parțial delegată unor modele probabilistice?

Rețele neuronale și problema explicației

Sistemele de învățare profundă funcționează adesea ca “cutii negre”. Procesele lor interne de luare a deciziilor nu sunt ușor de interpretat, nici măcar de către experți. Această lipsă de explicație are implicații juridice grave.

Dacă un sistem medical IA greșește diagnosticul unui cancer, cine ar fi vinovat? Ar putea fi:

• Modul în care a fost antrenat modelul
• Dacă datele de antrenare conțineau prejudecăți
• Dacă procesele de validare au fost adecvate
• Dacă clinicienii s-au bazat prea mult pe ieșirile automate

Literatura juridică recomandă o distincție între răspunderea cauzală, răspunderea de rol și răspunderea de daune pentru atribuirea răspunderii pentru prejudiciile cauzate de IA.

Cu toate acestea, în practică, răspunderea ar putea fi extinsă la o serie de actori:

• Furnizorii de date
• Dezvoltatorii de software
• Antrenorii de modele
• Implementatorii
• Organizațiile care utilizează ieșirile IA
• Profesioniștii care se bazează pe recomandările IA

IA nu elimină răspunderea, ci o redistribuie.

Lecții din vehiculele autonome: Un studiu de caz privind răspunderea IA

Litigiile privind vehiculele autonome oferă o primă vedere asupra modului în care instanțele ar putea aborda prejudiciile legate de IA. Instanțele au aplicat principiile obișnuite de neglijență și răspundere a produsului la noi tehnologii care cauzează prejudicii. În cazuri recente, juriile au început să atribuie răspunderea între șoferii umani și companiile care au creat sistemele de conducere automate.

Comentatorii juridici au sugerat că doctrinele existente de răspundere a produsului, cum ar fi defectul de proiectare, defectul de fabricație și lipsa de avertizare, sunt relevante pentru sistemele activate de IA.

Cu toate acestea, vehiculele autonome expun limitările cadrului juridic actual. Ar trebui să se atribuie răspunderea:

Producătorului de vehicule? Dezvoltatorului de software? Operatorului uman? Sau datelor utilizate pentru antrenarea algoritmului?

Unii savanți au sugerat că principiile de răspundere a produsului pot fi eficient utilizate pentru a delimita răspunderea între actorii din amonte și cei din aval.

Din perspectiva reclamantului, cazurile arată că instanțele pot aplica în continuare principiile obișnuite la noi tehnologii, dar numai cu adevărat avansate expertize și cunoștințe tehnice.

Răspunderea strictă și neglijența: Teorii juridice concurente

O dezbatere centrală este dacă cadrul obișnuit de neglijență poate fi aplicat sistemelor IA. Unii savanți susțin regimuri de răspundere strictă, argumentând că părțile prejudiciate nu ar trebui să suporte povara de a dovedi vinovăția în medii tehnologice complexe.

Răspunderea strictă poate fi deosebit de utilă acolo unde prejudiciul este previzibil, dar inevitabil, unde un sistem IA este implementat la scară largă și unde riscurile sunt distribuite social. Sau unde cauzalitatea tehnică nu este ușor de dovedit.

Se argumentează, de asemenea, că dreptul neglijenței poate fi adaptat la schimbările tehnologice. Cercetarea juridică comparativă a argumentat pentru construirea pe doctrinele existente, cu efectele lor intrinseci de stabilizare și adaptare treptată la noi prejudicii.

Răspunderea strictă și neglijența ilustrează preferințele de politică legate de inovație, echitate și modul în care riscurile și costurile ar trebui să fie alocate.

Ar trebui ca inovatorii să fie responsabili pentru riscul tehnologic? Sau ar trebui societatea să împartă în mod larg costurile progresului?

Perspectiva afacerilor: Alocarea riscului și asigurarea

Din perspectiva afacerilor, răspunderea IA nu este doar o problemă juridică, ci și una de gestionare a riscurilor. Organizațiile care implementează sisteme IA au început să se concentreze asupra întrebărilor de alocare a riscurilor contractuale: 2. asigurarea de răspundere profesională, 3. acoperirea cibernetica, și 4. despăgubirea, precum și cadrele de conformitate regulatorie.

Piața asigurărilor poate juca un rol important în stabilirea responsabilității pentru IA. Unele cercetări sugerează că anumite prejudicii cauzate de IA ar putea fi abordate în cele din urmă prin scheme de compensare hibride care combină asigurarea și dreptul delictual.

Companiile care integrează IA în procesele de luare a deciziilor operaționale ar trebui să ia în considerare riscul de litigiu în transformarea digitală. Lipsa unei astfel de considerări ar putea lăsa astfel de organizații expuse la prejudicii de reputație, sancțiuni regulatorii și răspundere civilă.

Răspunderea etică versus răspunderea juridică

În multe cazuri, răspunderea juridică nu este echivalentă cu răspunderea etică. Dezbaterile privind guvernanța IA includ următoarele principii:

• Echitate
• Transparență
• Răspundere
• Explicație

Obligațiile juridice, totuși, nu decurg automat din considerații etice.

Lucrări recente propun cadre conceptuale pentru alocarea răspunderii în ecosistemele IA cu mulți actori și pentru construirea regulilor probatorii care leagă deciziile de proiectare de rezultatele juridice. Astfel, sistemele juridice care își propun să promoveze inovația trebuie să țină cont și de cei prejudiciați de noile tehnologii. Acest exercițiu de echilibrare va modela viitorul guvernanței IA.

Viitorul neglijenței în era inteligenței artificiale

Inteligența artificială pune la încercare presupunerea că autoritatea decizională se află întotdeauna în mâinile unor actori umani identificabili. Dar răspunderea juridică rămâne în cele din urmă umană.

În viitorul apropiat, este puțin probabil ca instanțele să recunoască sistemele IA ca persoane juridice. În schimb, se așteaptă ca indivizii care dezvoltă, implementează și profitează de sistemele IA să fie ținuți răspunzători.

Pe măsură ce sistemele IA devin mai independente, pot apărea modele hibride, care combină diverse forme de reglementare:

1. Principiile neglijenței
2. Doctrinele răspunderii produsului
3. Supravegherea regulatorie
4. Schemele de compensare bazate pe asigurare

În loc de a înlocui conceptele de drept comun, IA poate pur și simplu forța instanțele să le clarifice. Din perspectiva reclamantului, întrebarea este ce s-a întâmplat.

Cine este creatorul riscului? Cine poate preveni cel mai bine ca riscul să prejudicieze indivizii?

Până când legiuitorii adoptă tehnologii cuprinzătoare. În regimurile de răspundere IA neuronale, instanțele vor aplica doctrinele juridice existente la tehnologii noi. Rețelele neuronale pot fi noi. Neglijența nu este.