Lideri de opinie
De la rețele neuronale la neglijență: Cine este responsabil atunci când AI eșuează?
Acest articol discută problemele legale legate de prejudiciile cauzate de inteligența artificială și unde poate să se afle răspunderea în cazul în care o rețea neuronală nu funcționează corect în lumea reală.
Inteligența artificială (AI) a părăsit laboratoarele de cercetare și a intrat în săli de judecată, clinici, mașini și burse, cu rețele neuronale care diagnostichează boli, aprobă împrumuturi și îndeplinesc din ce în ce mai mult sarcini considerate anterior a fi exclusiv umane. Dar atunci când astfel de sisteme eșuează în lumea reală, ele o fac cu consecințe grave și, uneori, fatale.
Ca avocat pentru răspundere personală în Ontario, Canada, și ca actual candidat pentru titlul de Doctor în Administrarea Afacerilor, studiez intersecția dintre afaceri, drept și tehnologie, și tot mai des sunt întrebată o întrebare simplă: Dacă se produce un prejudiciu cauzat de AI, cine este vinovat?
Răspunsul este, de fapt, mult mai complex. AI ridică provocări pentru doctrinele de neglijență, cauzalitate și previzibilitate, și pune întrebări fundamentale despre modul în care dreptul ar trebui să răspundă deciziilor luate de mașini.
Extinderea rolului AI în procesele de luare a deciziilor cu risc ridicat
AI nu mai este limitat la automatizarea sarcinilor cu abilități scăzute sau la platformele de învățare automată. Acum ia decizii în domenii precum sănătate, finanțe, angajare, transport, poliție și analize juridice.
Modelele actuale de AI sunt, de obicei, rețele neuronale profunde care, deși pot detecta tipare complexe în cadrul unor seturi de date mari, rămân în mare măsură opace pentru dezvoltatorii lor. Academicienii au observat că sistemele AI introduc imprevizibilitate și autonomie în drept, care a fost guvernat anterior de previzibilitate și intenție. Acest lucru creează un conflict între inovație și răspundere.
În timp ce sistemele juridice tratează prejudiciile cauzate ca fiind atribuibile ființelor umane, AI distribuie răspunderea către inginerii care creează seturile de date, cei care le implementează și utilizatorii finali. Răspunderea devine difuză.
Lacuna de răspundere: Când prejudiciul nu poate fi atribuit ușor
Savanții juridici se referă din ce în ce mai mult la o “lacună de răspundere” emergentă în guvernanța AI. Dreptul clasic al delictelor depinde de identificarea:
- Unei obligații de îngrijire
- Încălcării acelei obligații
- Cauzalității
- Prejudiciului
AI complică fiecare element. De exemplu, dezvoltatorii nu pot ști cum se va comporta un model după implementare, și organizațiile pot utiliza sisteme de învățare automată (ML) de la terți. Din perspectiva utilizatorului final, mecanismul de determinare a ieșirilor este opac.
Un studiu academic a observat cum probarea vinovăției este mai dificilă dacă sistemele AI acționează semi-autonom sau se adaptează autonom prin procese precum învățarea automată. Această fragmentare provoacă doctrinele care se bazează pe agenția umană.
În litigiile privind răspunderea personală, instanțele examinează, de obicei, dacă un pârât a acționat în mod rezonabil în circumstanțele date. Dar cum ar trebui instanțele să evalueze rezonabilitatea atunci când procesul de luare a deciziilor este delegat parțial către modele probabilistice?
Rețele neuronale și problema explicabilității
Sistemele de învățare profundă funcționează adesea ca “cutii negre”. Procesele lor interne de luare a deciziilor nu sunt ușor de interpretat, nici măcar de către experți. Lipsa acestei explicabilități are implicații juridice grave.
Dacă un sistem medical AI diagnostichează greșit cancerul, cine ar fi vinovat? Ar putea fi:
- Modul în care a fost antrenat modelul
- Dacă datele de antrenare conțineau prejudecăți
- Dacă procesele de validare au fost adecvate
- Dacă clinicienii s-au bazat prea mult pe ieșirile automate
Literatura juridică recomandă o distincție între răspunderea cauzală, răspunderea de rol și răspunderea de prejudiciu pentru atribuirea răspunderii pentru prejudiciile cauzate de AI.
Cu toate acestea, în practică, răspunderea ar putea să se extindă la o serie de actori:
- Furnizorii de date
- Dezvoltatorii de software
- Antrenorii de modele
- Implementatorii
- Organizațiile care utilizează ieșirile AI
- Profesioniștii care se bazează pe recomandările AI
AI nu elimină răspunderea, ci o redistribuie.
Lecții din vehiculele autonome: Un studiu de caz privind răspunderea AI
Litigiile privind vehiculele autonome oferă o primă vedere asupra modului în care instanțele pot aborda prejudiciile legate de AI. Instanțele au aplicat principiile obișnuite de neglijență și răspundere pentru produse noi care cauzează leziuni. În cazuri recente, juriile au început să împartă răspunderea între șoferii umani și companiile care au creat sistemele de conducere automată.
Comentatorii juridici au sugerat că doctrinele existente de răspundere pentru produse, cum ar fi defectele de proiectare, defectele de fabricație și eșecul de a avertiza, sunt relevante pentru sistemele activate de AI.
Cu toate acestea, vehiculele autonome expun limitările cadrului juridic actual. Ar trebui să se atribuie răspunderea:
La producătorul de vehicule? Dezvoltatorul de software? Operatorul uman? Sau datele utilizate pentru a antrena algoritmul?
Unii savanți au sugerat că analogia principiilor de răspundere pentru produse poate delimita în mod eficient răspunderea între actorii din amonte și cei din aval.
Din perspectiva reclamantului, cazurile arată că instanțele pot aplica în continuare principiile obișnuite la noi tehnologii, dar numai cu adevărat avansate dovezi și cunoștințe tehnice.
Răspundere strictă și neglijență: Teorii juridice concurente
O dezbatere centrală este dacă cadrele obișnuite de neglijență pot fi aplicate sistemelor AI. Unii savanți susțin regimuri de răspundere strictă, argumentând că părțile vătămate nu ar trebui să suporte povara de a dovedi vinovăția în medii tehnologice complexe.
Răspunderea strictă poate fi deosebit de utilă atunci când prejudiciul este previzibil, dar inevitabil, atunci când un sistem AI este implementat la scară largă și atunci când riscurile sunt distribuite social. Sau atunci când cauzalitatea tehnică nu este ușor de demonstrat.
Se argumentează, de asemenea, că dreptul neglijenței poate să se adapteze la schimbările tehnologice. Cercetarea juridică comparativă a susținut construirea pe doctrinele existente, cu efectele lor intrinseci de stabilizare și adaptare treptată la noi prejudicii.
Răspunderea strictă și neglijența ilustrează preferințele politice legate de inovație, echitate și modul în care riscul și costurile ar trebui să fie alocate.
Ar trebui oare inovatorii să fie responsabili pentru riscul tehnologic? Sau ar trebui societatea, în general, să suporte costurile progresului?
Perspectiva afacerilor: Alocarea riscului și asigurarea
Din perspectiva afacerilor, răspunderea AI nu este doar o problemă juridică, ci și una de gestionare a riscului. Organizațiile care implementează sisteme AI au început să se concentreze asupra întrebărilor legate de alocarea riscului contractual: asigurarea de răspundere profesională, acoperirea cibernetică și despăgubirile, precum și cadrele de conformitate regulamentară.
Piețele de asigurări pot juca un rol important în stabilirea răspunderii pentru AI. Unele cercetări sugerează că anumite prejudicii cauzate de AI ar putea fi abordate în cele din urmă prin scheme de compensare hibride care combină asigurarea și delictul.
Companiile care integrează AI în procesele de luare a deciziilor operaționale ar trebui să ia în considerare riscul de litigiu în transformarea lor digitală. Eșecul de a face acest lucru ar putea lăsa astfel de organizații expuse la prejudicii de imagine, sancțiuni regulatorii și răspundere civilă.
Răspunderea etică versus răspunderea juridică
În multe cazuri, răspunderea juridică nu este echivalentă cu răspunderea etică. Dezbaterile privind guvernanța AI includ următoarele principii:
- Echitate
- Transparență
- Răspundere
- Explicabilitate
Obligațiile juridice, cu toate acestea, nu decurg automat din considerente etice.
Lucrări recente propun cadre conceptuale pentru alocarea răspunderii în ecosistemele AI cu mulți actori și pentru construirea unor reguli probatorii care leagă deciziile de proiectare de rezultatele juridice. Astfel, sistemele juridice care își propun să promoveze inovația trebuie, de asemenea, să țină cont de cei care sunt vătămați de noile tehnologii.
Viitorul neglijenței în era inteligenței artificiale
Inteligența artificială contestă presupunerea că autoritatea decizională se află întotdeauna în mâinile unor actori umani identificabili. Dar răspunderea juridică rămâne, în cele din urmă, umană.
În viitorul apropiat, este puțin probabil ca instanțele să recunoască sistemele AI ca persoane juridice. În schimb, se așteaptă ca persoanele care dezvoltă, implementează și obțin profit de pe urma sistemelor AI să fie ținute răspunzătoare.
Pe măsură ce sistemele AI devin mai independente, pot apărea modele hibride, care combină diverse forme de reglementare:
- Principiile neglijenței
- Doctrinele de răspundere pentru produse
- Supravegherea regulamentară
- Scheme de compensare bazate pe asigurări
În loc să înlocuiască conceptele de drept comun, AI poate forța pur și simplu instanțele să le clarifice. Din perspectiva reclamantului, întrebarea este ce s-a întâmplat.
Cine este creatorul de risc? Cine poate preveni cel mai bine ca riscul să vatăme indivizii?
Până când legiuitorii adoptă regimuri cuprinzătoare de tehnologie. În regimurile de răspundere AI bazate pe rețele neuronale, instanțele vor aplica doctrinele juridice existente la tehnologii noi. Rețelele neuronale pot fi noi. Neglijența nu este.
