Kolejne wyzwanie dla AI w prawie odszkodowań osobistych to odpowiedzialność

Niektóre zastosowania AI są stosunkowo niewinne; inne mogą wywoływać spore kontrowersje. A biorąc pod uwagę, że technologia jest jeszcze stosunkowo nowa, można argumentować, że jej powszechne przyjęcie w branży prawniczej zalicza się do tej drugiej kategorii.

Obawy dotyczące roli AI w praktyce prawnej pozostają powszechne, szczególnie gdy jej wyniki wpływają na analizę prawną lub wyniki dla klientów. Ludzie obawiają się, że prawnicy zlecają myślenie maszynie, a kluczowe dowody przygotowane przez narzędzie mogą zostać źle zinterpretowane przez sędziego lub ławę przysięgłych. Czy AI może kiedykolwiek odgrywać uzasadnioną rolę w systemie wymiaru sprawiedliwości, który opiera się na sprawiedliwości, przejrzystości i praworządności jako filarach?

Niezależnie od tego, AI już znalazło praktyczne zastosowania w pracy prawniczej, szczególnie przy przeglądzie dokumentów, badaniach, podsumowywaniu i redagowaniu. I prawdopodobnie nie zniknie w najbliższym czasie: Zespoły prawne w około 41 percent kancelarii prawnych korzystają już z narzędzi AI, a liczba ta wydaje się rosnąć.

Jako prawnik specjalizujący się w odszkodowaniach osobistych, widzę, że luki regulacyjne pojawiają się w wyniku stosowania AI w kancelariach znacznie szybciej niż standardy prawne są w stanie nadążyć. Obowiązujące zasady zawodowe nakładają na prawników odpowiedzialność za ich pracę, ale niekoniecznie rozwiązują wszystkie pytania specyficzne dla AI, dotyczące ujawniania, audytowalności, odpowiedzialności dostawcy, przechowywania danych oraz wymaganego poziomu przeglądu ludzkiego.

Definiowanie odpowiedzialności

Accountability is one of the hardest questions raised by AI: Who assumes legal responsibility when AI makes a mistake?

Słynnie, w sprawie z 2023 roku Mata vs. Avianca, prawnicy powoda użyli ChatGPT do generowania cytatów prawnych. Jednak chatbot „halucynował” i przedstawił nieistniejące sprawy, które następnie zostały formalnie złożone jako precedens przed sędzią. Powstały zamieszanie było pod wieloma względami nieuniknione, ale pomógł ustalić ważną zasadę: AI może wspierać prawników, ale nie może zastąpić ich zawodowego obowiązku weryfikacji poprawności swojej pracy.

W prawie odszkodowań osobistych wyzwanie związane z odpowiedzialnością wykracza jednak poza cytaty prawne. Biorąc pod uwagę wrażliwy i często złożony charakter spraw w tej dziedzinie, wszelkie błędy mogą kształtować negocjacje ugodowe lub strategię procesową na długo przed tym, jak sprawa trafi do sądu.

Załóżmy, że narzędzie AI jest używane do podsumowania i skondensowania setek stron dokumentacji medycznej w chronologiczną relację zdarzeń. Jednak szczegóły wcześniejszej poważnej kontuzji zostają ukryte. Takie pominięcie wpłynie na żądania prawnika i klienta i może zostać wykryte dopiero podczas zeznań.

Nie pomaga fakt, że błędy AI mogą być trudne do wykrycia. Sfałszowany cytat jest wyraźnym i łatwo rozpoznawalnym błędem, ale system AI pomijający istniejące wcześniej schorzenie, nieprawidłowo podsumowujący opinię świadka lub błędnie obliczający koszty przyszłej opieki — takie błędy mogą wydawać się uzasadnione i pozostać niezauważone.

Stronniczość może być jeszcze trudniejsza do wykrycia. System wyceny wytrenowany na historycznie wypaczonej bazie danych może na przykład systematycznie niedoszacowywać roszczeń związanych z określonymi grupami demograficznymi.

Stosowanie AI z rozwagą

AI może przeszukiwać góry dokumentów, analizować dokumentację medyczną, a nawet przygotowywać żądania prawne. Przy właściwym użyciu te możliwości mogą ograniczyć zbędną pracę administracyjną i pozwolić prawnikom poświęcić więcej czasu na doradzanie klientom oraz opracowywanie strategii prawnych.

Jednak nie każde zadanie powinno być delegowane, a sprawy odszkodowań osobistych rzadko są proste. Obejmują sprzeczne zeznania świadków, zmieniające się dowody medyczne, kwestie wiarygodności oraz negocjacje, które zależą tak samo od ludzkiego osądu, jak od precedensów prawnych. Dane historyczne mogą pomóc AI w identyfikacji wzorców ugodowych, ale nie mogą zastąpić oceny prawnika, jak konkretna strona, świadek lub fakt zostanie odebrany podczas procesu.

Największym niebezpieczeństwem jest więc to, że prawnicy pokładają nieuzasadnioną pewność w wynikach, które wydają się autorytatywne i obiektywne, mimo że AI może się mylić, jest ślepe na kontekst i niezdolne do ludzkiego osądu.

Podobny niepokój pojawia się w sektorze ubezpieczeń. Rozważmy sprzeciw wobec firm ubezpieczeniowych wykorzystujących AI do weryfikacji roszczeń. Ludzie chcą mieć pewność, że istnieje nadzór ludzki, wiedząc, że prawdziwy człowiek zdolny do osądu przejrzał ich sprawy, nawet jeśli obciążenie pracą zostało zmniejszone i przyspieszone przez AI.

Prawo nie jest inne, i niezależnie od tego, jak bardzo AI pomaga w żmudnej pracy, należy pamiętać, że musi być używane selektywnie, z wyraźnymi granicami i znaczącym nadzorem ludzkim. Na szczęście wydaje się, że taką drogą podąża większość prawników: około 83 percent of legal professionals say using AI to provide legal advice is inappropriate.

Ramowy system regulacji

Essentially, regulation should target how AI is used, as well as where it is appropriate to use.

Jeśli generatywna AI jest używana do tworzenia dokumentów sądowych lub innych dokumentów, prawo powinno wymagać od prawników osobistego zweryfikowania wszelkich analiz prawnych, cytatów lub odszkodowań przed ich przekazaniem klientom lub złożeniem w sądzie.

Przegląd ludzki musi być obowiązkowym krokiem, a nie jedynie zalecaną praktyką. Im bardziej konsekwentny jest wynik, tym bardziej rygorystyczny powinien być wymóg przeglądu. Każdy cytat prawny, obliczenia odszkodowań, chronologia medyczna czy stwierdzenie faktu wygenerowane przez AI i przeznaczone dla klienta lub sądu nie powinny trafić do odbiorcy bez istotnej weryfikacji przez prawnika.

Niezastosowanie się do tego, np. zostanie przyłapanym na przedstawieniu w sądzie wymyślonych informacji, powinno skutkować poważnymi konsekwencjami zawodowymi.

Kancelarie powinny również być zobowiązane do tworzenia i utrzymywania audytowalnego rejestru wykorzystania AI. Jeśli AI pomaga w przeglądzie dokumentacji medycznej, redagowaniu listu z żądaniem lub podsumowywaniu zeznań, prawnicy powinni móc określić, które narzędzie zostało użyte, jakie informacje przetworzyło i który prawnik przejrzał oraz zatwierdził ostateczny dokument. Należy stworzyć system, który premiuje odpowiedzialność, aby błędy mogły być naprawione, zanim staną się problemem w toku postępowania.

Na koniec pojawia się kwestia ochrony danych. Sprawy odszkodowań osobistych często obejmują obszerne dokumenty medyczne, historie zatrudnienia, dokumenty finansowe oraz inne poufne informacje o kliencie. Wprowadzanie tych danych do systemów AI generuje nowe ryzyka związane z przechowywaniem danych, nieautoryzowanym dostępem oraz tym, czy informacje przekazane dostawcy AI mogą być wykorzystane do szkolenia przyszłych modeli.

Obecne środki poufności już wymagają od prawników uwzględniania takich ryzyk. Regulatorzy powinni dążyć do dalszych działań, definiując minimalne oczekiwania dotyczące staranności dostawcy, polityk przechowywania, wykorzystania danych szkoleniowych oraz kontroli dostępu.

Końcowe przemyślenia

W miarę jak AI jest coraz częściej wykorzystywane w postępowaniach sądowych, branża stoi przed zarówno szansą, jak i wyzwaniem. Technologia może z pewnością dać prawnikom czas na skupienie się na ważniejszych elementach, ale bez przejrzystości i przemyślanych ram dotyczących użycia i ujawniania, istnieje ryzyko podważenia zaufania do naszego systemu sądowniczego oraz wprowadzenia stronniczości do postępowań sądowych.

Wydaje się, że samo AI jest teraz w sądzie. Jednak zanim będzie mogło zeznawać, muszą istnieć konkretne regulacje określające, co jest, a co nie jest prawnie dopuszczalne. Tylko tworząc jasne standardy przejrzystości i odpowiedzialności, klienci i sądy zostaną przekonani, że AI usprawnia postępowania sądowe, nie naruszając zasad sprawiedliwości, uczciwości i równości dla wszystkich.