Od sieci neuronowych do zaniedbania: Kto jest odpowiedzialny, gdy sztuczna inteligencja zawodzi?

Ten artykuł omawia kwestie prawne związane ze szkodami spowodowanymi przez sztuczną inteligencję i gdzie leży odpowiedzialność, jeśli sieć neuronowa nie funkcjonuje poprawnie w świecie rzeczywistym.

Sztuczna inteligencja (AI) przekroczyła granice laboratoriów badawczych i wkroczyła do sal sądowych, klinik, samochodów i giełd, z sieciami neuronowymi diagnozującymi choroby, zatwierdzającymi kredyty i coraz częściej wykonującymi zadania, które wcześniej były zarezerwowane dla ludzi. Ale gdy takie systemy zawodzą w świecie rzeczywistym, robią to z poważnymi i czasem śmiertelnymi konsekwencjami.

Jako adwokat ds. szkód osobowych w Ontario, Kanadzie, i obecnie kandydat na stopień doktora administracji biznesu, studiujący skrzyżowanie biznesu, prawa i technologii, coraz częściej zadawane jest mi proste pytanie: Kto ponosi winę, gdy dojdzie do szkody spowodowanej przez AI?

Odpowiedź jest jednak bardziej złożona. AI stwarza wyzwania dla doktryn zaniedbania, przyczynowości i przewidywalności, oraz rodzi podstawowe pytania dotyczące tego, jak prawo powinno reagować na decyzje podejmowane przez maszyny.

Rozszerzająca się rola AI w podejmowaniu decyzji o wysokim ryzyku

AI nie jest już ograniczona do automatyzacji zadań o niskim poziomie umiejętności lub do platform uczenia maszynowego. Teraz podejmuje decyzje w dziedzinach takich jak opieka zdrowotna, finanse, zatrudnienie, transport, policja i analiza prawna.

Obecne modele AI składają się z głębokich sieci neuronowych, które, chociaż potrafią wykrywać złożone wzorce w dużych zbiorach danych, pozostają w dużej mierze nieprzezroczyste dla ich twórców. Naukowcy zaobserwowali, że systemy AI wprowadzają nieprzewidywalność i autonomię do prawa, które wcześniej było ściśle uregulowane przez przewidywalność i intencję. To stwarza konflikt między innowacją a odpowiedzialnością.

Chociaż systemy prawne traktują wyrządzone szkody jako przypisywane ludziom, AI rozprasza odpowiedzialność wśród inżynierów tworzących zestawy danych, osób wdrażających i użytkowników końcowych. Odpowiedzialność staje się rozproszona.

Luka odpowiedzialności: Gdy szkoda nie może być łatwo przypisana

Prawniczy uczeni coraz częściej mówią o pojawiającej się „luce odpowiedzialności” w zarządzaniu AI. Tradycyjne prawo deliktowe opiera się na identyfikacji:

1. Odpowiedzialności za staranne działanie
2. Naruszeniu tej odpowiedzialności
3. Przyczynowości
4. Szkodzie

AI komplikuje każdy z tych elementów. Na przykład, twórcy modeli mogą nie wiedzieć, jak model będzie się zachowywał po wdrożeniu, a organizacje mogą używać systemów uczenia maszynowego firm trzecich. Z perspektywy użytkownika końcowego, mechanizm określania danych wyjściowych jest nieprzezroczysty.

Jedno z badań naukowych zauważyło, jak trudno jest udowodnić winę, jeśli systemy AI działają półautonomicznie lub adaptują się autonomicznie za pomocą procesów takich jak uczenie maszynowe. To rozdrobnienie wyzwania doktryn, które polegają na ludzkiej agencji.

W sprawach o szkody osobowe, sądy tradycyjnie badają, czy pozwanego postąpił rozsądnie w danych okolicznościach. Ale jak sądy powinny oceniać rozsądek, gdy podejmowanie decyzji jest częściowo delegowane do modeli probabilistycznych?

Sieci neuronowe a problem wyjaśnialności

Systemy głębokiego uczenia się często działają jak „czarne skrzynki”. Ich wewnętrzne procesy decyzyjne nie są łatwo interpretowalne, nawet dla ekspertów. Brak wyjaśnialności ma poważne konsekwencje prawne.

Jeśli system AI do diagnozowania chorób źle zdiagnozuje raka, kto ponosi winę? Mogą to być:

• Jak model został wytrenowany
• Czy dane szkoleniowe zawierały błędy
• Czy procesy walidacji były odpowiednie
• Czy klinicyści zbyt mocno polegali na automatycznym wyniku

Literatura prawnicza zaleca rozróżnienie między odpowiedzialnością przyczynową, odpowiedzialnością za rolę i odpowiedzialnością za szkodę w celu przypisania odpowiedzialności za szkody spowodowane przez AI.

Jednak w praktyce odpowiedzialność może sięgać do łańcucha aktorów:

• Dostawców danych
• Twórców oprogramowania
• Personelu szkoleniowego
• Osób wdrażających
• Organizacji, które używają danych wyjściowych AI
• Profesjonalistów, którzy polegają na zaleceniach AI

AI nie eliminuje odpowiedzialności, ale ją redystrybuuje.

Lekcje z pojazdów autonomicznych: Studium przypadku odpowiedzialności AI

Sprawy sądowe związane z pojazdami autonomicznymi dostarczają wczesnego spojrzenia na to, jak sądy mogą rozpatrywać szkody spowodowane przez AI. Sądy zastosowały zwyczajowe zasady zaniedbania i odpowiedzialności za produkty do nowych technologii powodujących urazy. W niedawnych sprawach, ławy przysięgłych zaczęły rozdzielać odpowiedzialność między kierowcami a firmami technologicznymi, które stworzyły systemy jazdy autonomicznej.

Komentatorzy prawni sugerowali, że istniejące doktryny odpowiedzialności za produkty, takie jak wada konstrukcyjna, wada produkcyjna i brak ostrzeżenia, są istotne dla systemów wspomaganych przez AI.

Jednak pojazdy autonomiczne ujawniają ograniczenia obecnych ram prawnych. Czy odpowiedzialność powinna być przypisana do: producenta pojazdu? Twórcy oprogramowania? Kierowcy? Czy danych użytych do szkolenia algorytmu?

Niektórzy uczeni sugerowali, że analogie do zasad odpowiedzialności za produkty mogą skutecznie wyznaczyć odpowiedzialność między aktorami na górze i na dole łańcucha dostaw.

Z perspektywy powoda, sprawy pokazują, że sądy mogą nadal stosować zwyczajowe zasady do nowych technologii, ale tylko z wyjątkowo zaawansowaną wiedzą ekspercką i techniczną.

Ścisła odpowiedzialność a zaniedbanie: Konkurujące teorie prawne

Centralną debatą jest to, czy ramy zaniedbania mogą być stosowane do systemów AI. Niektórzy uczeni opowiadają się za reżimami ścisłej odpowiedzialności, argumentując, że poszkodowane strony nie powinny ponosić ciężaru udowodnienia winy w wysoko złożonych środowiskach technologicznych.

Ścisła odpowiedzialność może być szczególnie przydatna, gdy szkoda jest przewidywalna, ale nieunikniona, gdy system AI jest wdrożony na dużą skalę, a ryzyko jest społecznie rozproszone. Lub gdy techniczna przyczynowość nie jest łatwa do udowodnienia.

Argumentowano również, że prawo zaniedbania może dostosować się do zmian technologicznych. Porównawcze badania prawne argumentowały za budowaniem na istniejących doktrynach, z ich wewnętrznymi efektami stabilizującymi i stopniową adaptacją do nowych szkód.

Ścisła odpowiedzialność i zaniedbanie ilustrują preferencje polityczne dotyczące innowacji, sprawiedliwości i tego, jak ryzyko i koszty powinny być rozdzielone.

Czy innowatorzy powinni ponosić odpowiedzialność za ryzyko technologiczne? Czy społeczeństwo powinno szeroko dzielić się kosztami postępu?

Perspektywa biznesowa: Allokacja ryzyka i ubezpieczenie

Z perspektywy biznesu, odpowiedzialność AI nie jest tylko kwestią prawną, ale także kwestią zarządzania ryzykiem. Organizacje wdrażające systemy AI zaczęły się koncentrować na kwestiach alokacji ryzyka umownego: 2. ubezpieczenia odpowiedzialności zawodowej, 3. ubezpieczenia cybernetycznego, 4. odszkodowań i ram regulacyjnych.

Rynki ubezpieczeniowe mogą odegrać ważną rolę w ustanowieniu odpowiedzialności za AI. Niektóre badania sugerują, że pewne szkody spowodowane przez AI mogą być ostatecznie najlepiej rozwiązane za pomocą hybrydowych systemów odszkodowań, które łączą ubezpieczenie i prawo deliktowe.

Firmy, które włączają AI do podejmowania decyzji operacyjnych, powinny uwzględnić ryzyko procesów sądowych w swojej transformacji cyfrowej. Niepowodzenie w tym może pozostawić takie organizacje narażone na szkody wizerunkowe, sankcje regulacyjne i odpowiedzialność cywilną.

Odpowiedzialność etyczna a odpowiedzialność prawna

W wielu przypadkach odpowiedzialność prawna nie jest równoznaczna z odpowiedzialnością etyczną. Debata na temat zarządzania AI obejmuje następujące zasady:

• Sprawiedliwość
• Przezroczystość
• Odpowiedzialność
• Wyjaśnialność

Obowiązki prawne nie wynikają automatycznie z rozważań etycznych.

Ostatnie prace proponują ramy konceptualne dla rozdziału odpowiedzialności w wieloaktorowych ekosystemach AI oraz dla konstruowania reguł dowodowych, które łączą decyzje projektowe z wynikami prawnymi. Systemy prawne, które dążą do promowania innowacji, muszą również uwzględnić tych, którzy zostali poszkodowani przez nową technologię. To ćwiczenie równowagi ukształtuje przyszłość zarządzania AI.

Przyszłość zaniedbania w erze sztucznej inteligencji

Sztuczna inteligencja wyzwala założenie, że władza decyzyjna zawsze spoczywa w rękach ludzi. Ale ostatecznie odpowiedzialność prawna pozostaje ludzka.

W najbliższej przyszłości nie jest prawdopodobne, że sądy uznają systemy AI za osoby prawne. Zamiast tego można oczekiwać, że osoby, które rozwijają, wdrażają i czerpią korzyści z systemów AI, będą ponosić odpowiedzialność.

Im bardziej systemy AI stają się niezależne, mogą ewoluować hybrydowe modele, łączące różne formy regulacji:

1. Zasady zaniedbania
2. Doktryny odpowiedzialności za produkty
3. Nadzór regulacyjny
4. Systemy odszkodowań oparte na ubezpieczeniu

Zamiast zastępować powszechne pojęcia prawne, AI może po prostu zmusić sądy do wyjaśnienia ich. Z perspektywy powoda, pytanie brzmi: co się stało.

Kto jest twórcą ryzyka? Kto może najlepiej zapobiec ryzyku, aby nie szkodził ludziom?

Aż do czasu, gdy legislatura przyjmie kompleksowe technologie. W reżimach odpowiedzialności AI, sądy będą stosować istniejące doktryny prawne do nowych technologii. Sieci neuronowe mogą być nowe. Zaniedbanie nie jest.