Josephine Petrick, Chief of AI Products w BriefCatch – Wywiad

Josephine Petrick, jako Chief of AI Products w BriefCatch, łączy rzadkie połączenie doświadczenia w apelacjach, wyczucia w zakresie produktów AI oraz praktycznej wiedzy z zakresu redagowania tekstów prawnych w jednej z najbardziej wyspecjalizowanych platform do pisania w branży prawniczej. Na swoim stanowisku kieruje strategią produktów AI w BriefCatch, nadzorując rozwój narzędzi generatywnych i opartych na wyszukiwaniu, zaprojektowanych, aby pomóc prawnikom i sędziom w tworzeniu, edytowaniu i udoskonalaniu dokumentów prawnych. Jej doświadczenie zawodowe obejmuje stanowisko partnera w The Norton Law Firm, starszego radcy i litigatora apelacyjnego w Hanson Bridgett oraz asystenta sędziego Jamesa L. Dennisa z Sądu Apelacyjnego Stanów Zjednoczonych dla Piątego Okręgu. To połączenie doświadczenia sali sądowej, apelacyjnego i doradczego daje jej praktyczną perspektywę na budowanie narzędzi AI, które rozwiązują rzeczywiste wyzwania związane z pisaniem tekstów prawnych, a nie abstrakcyjne problemy produktywności.

BriefCatch to platforma do pisania i edycji tekstów prawnych oparta na AI, stworzona specjalnie dla prawników, sędziów, kancelarii, sądów i agencji rządowych. Założona w 2017 roku i zbudowana w oparciu o wiedzę z zakresu pisania tekstów prawnych Rossa Gubermana, platforma pomaga profesjonalistom z branży prawniczej poprawić jasność, precyzję, siłę perswazji i wiarygodność bezpośrednio w ich przepływie pracy. BriefCatch informuje, że obsługuje ponad 300 kancelarii prawnych, w tym ponad 45 firm z listy Am Law 200, wraz z ponad 80 sądami, a jego nowszy produkt BriefCatch Next łączy fachowe wskazówki dotyczące pisania tekstów prawnych z opcjonalnymi narzędziami AI, których celem jest wzmocnienie, a nie zastąpienie, osądu prawnego.

Niedawno dołączyła Pani do BriefCatch jako Chief of AI Products po pracy jako adwokat apelacyjny, certyfikowany specjalista ds. apelacji i twórca produktów technologii prawniczej. Jak Pani doświadczenie na styku prawa apelacyjnego, strategii prawnej i technologii ukształtowało Pani wizję AI w zawodzie prawnika?

Po ukończeniu lingwistyki na Uniwersytecie Kalifornijskim w Berkeley, fascynowała mnie sztuczna inteligencja i zawsze żałowałam, że nie zajęłam się tą dziedziną. Pociągał mnie jej potencjał do poszerzania ludzkiej inteligencji i pomagania w praktycznym rozwiązywaniu problemów na dużą skalę. Z podobnych powodów zostałam prawnikiem. Moja matka była prawnikiem konstytucyjnym i nauczyłam się od niej, że prawo może być używane do skutecznej pomocy ludziom na szeroką skalę. W momencie, gdy rozpoczęłam praktykę, zakładałam, że ścieżka kariery w AI jest już dla mnie zamknięta. Jest więc nieco ironiczne i głęboko satysfakcjonujące, że moja kariera prawnicza przywiodła mnie z powrotem do pytań, które interesowały mnie od początku: Jak wykorzystać technologię, aby uczynić wiedzę specjalistyczną bardziej dostępną, bardziej użyteczną i bardziej humanitarną?

Eksperymentowałem z dużymi modelami językowymi, zanim zostały one zapakowane jako chatboty, w czasach, gdy OpenAI oferowało swój produkt jako piaskownicę. Od samego początku widziałem potencjał do praktycznego rozwiązywania problemów. Czy to mogłoby pomóc w przeglądzie akt? Czy mogłoby sprawić, że badanie przepisów lokalnych stanie się mniej bolesne? Czy mogłoby pomóc w śledzeniu toczących się spraw Sądu Najwyższego Kalifornii, oszacować, jak długo potrwają apelacje, lub usprawnić praktykę dotyczącą wniosków poprocesowych? Czy mogłoby pomóc komuś wyjść z impasu?

Jednym z moich ulubionych przykładów odpowiedzi na to ostatnie pytanie pochodzi od mojego ojca, emerytowanego teorii liczb, który wciąż pracuje nad otwartymi problemami. Namówiłem go, aby wypróbował profesjonalne konto LLM, a on użył go do udowodnienia twierdzeń i poczynienia postępów w problemach, nad którymi myślał od lat. Jednym z powodów, dla których LLM są tak skuteczne w rozwiązywaniu otwartych problemów matematycznych, takich jak problemy Erdősa, jest to, że mają one przeszkolenie w wielu obszarach matematyki i mogą przenosić te techniki z jednej dziedziny do rozwiązywania problemów w innej (na przykład używając technik z algebraicznej teorii liczb do rozwiązania problemu z geometrii elementarnej). To doświadczenie uchwyciło dla mnie coś ważnego: AI może rozszerzyć nasz zasięg twórczy, pomóc nam czerpać z szerszego zasobu ludzkiej wiedzy i doświadczenia, niż jesteśmy w stanie samodzielnie utrzymać w głowach, i wykorzystać to do dokonywania postępów w ludzkiej wiedzy i przedsięwzięciach, które w przeciwnym razie zajęłyby znacznie więcej czasu.

Widziałem ten sam wzór w praktyce prawniczej. Jako prawnik apelacyjny, te same pytania proceduralne i strategiczne pojawiały się w kółko. Zbudowałem więc bazy danych, trackery, infografiki, zasoby dla klientów, kalkulatory czasu trwania apelacji, narzędzia do harmonogramowania po procesie, a ostatecznie pomogłem zbudować bazę danych przepisów prawnych. Wspólnym mianownikiem było zawsze to samo: wiedza istniała, ale była uwięziona w plikach PDF, książkach, seminariach, notatkach wewnętrznych lub w głowie jakiegoś eksperta. Miałem obsesję na punkcie problemu, do rozwiązania którego AI jest wyjątkowo dobrze przystosowane: jak udostępnić wiedzę i doświadczenie w momencie, gdy ludzie ich potrzebują.

To ukształtowało moją wizję dla AI w prawie. Większość produktów legaltech obiecuje, że AI zautomatyzuje żmudne zadania, aby prawnicy mogli skupić się na strategii. To prawda i jest wartościowe, ale to dopiero początek. To, co mnie teraz najbardziej interesuje, to aktywowanie wiedzy specjalistycznej. Prawnik mógł przeczytać odpowiednią książkę, wziąć udział w odpowiednim szkoleniu CLE, zapisać odpowiedni post lub wyciągnąć odpowiednią lekcję z praktyki, ale ta wiedza często pozostaje uśpiona, gdy prawnik faktycznie tworzy dokumenty, prowadzi badania lub doradza klientowi.

BriefCatch znajduje się bezpośrednio w tej przestrzeni możliwości. Pisanie tekstów prawnych to nie tylko szlifowanie. To miejsce, gdzie osąd prawny, strategia i perswazja stają się użyteczne dla innego umysłu. Cieszę się na przyszłość, w której AI pomaga prawnikom wyszukiwać i stosować właściwą regułę, technikę, strategię, ostrzeżenie lub strategiczną wskazówkę w danym momencie, zachowując jednocześnie profesjonalny osąd i odpowiedzialność. Myślę o tym jak o egzoszkielecie wiedzy specjalistycznej: technologii, która pomaga prawnikom przenosić więcej wiedzy, widzieć wyraźniej, unikać możliwych do uniknięcia błędów i stosować swój najlepszy osąd, gdy ma to największe znaczenie. Jeśli zbudujemy te systemy dobrze, społeczeństwo skorzysta, ponieważ wiedza prawnicza stanie się mniej uwięziona w kosztownych kanałach jeden-na-jeden, a bardziej dostępna dla ludzi, firm, sądów i instytucji, które na niej polegają.

BriefCatch niedawno wprowadził RealityCheck, narzędzie zaprojektowane do identyfikowania halucynacyjnych lub niepopartych cytatów prawnych przed złożeniem dokumentu. Jakie były, Pani zdaniem, największe luki w istniejących narzędziach AI dla prawników, które sprawiły, że ta funkcja stała się niezbędna, i jak poważny jest dziś problem wiarygodności cytatów?

Największą luką jest to, że zbyt wiele narzędzi jest wciąż zoptymalizowanych pod kątem generowania, a nie weryfikacji. Mogą pomóc w szybkim tworzeniu tekstu, co wygląda imponująco, ale praca prawnicza nie kończy się na wiarygodnym tekście. Nawet się od niego nie zaczyna. Nasz system prawny zasadniczo opiera się na tym, że sędziowie i prawnicy wiernie przytaczają i stosują autorytety. Każde narzędzie prawne musi zaczynać się od autorytetów, które faktycznie istnieją, musi dokładnie opisywać, co te autorytety mówią, jak były stosowane i czy teza, na poparcie której są przywoływane, jest uzasadniona, biorąc pod uwagę kontekst, w którym dany autorytet został wydany. Wszystko mniej niż to jest prawniczą fan fiction. Są na to mniej grzeczne słowa, ale pozostawię to sędziom, którzy mieli z tym do czynienia na swoich salach sądowych.

Dlatego narzędzie takie jak RealityCheck jest tak ważne. Problem nie ogranicza się do całkowicie zmyślonych spraw, choć te są oczywiście niepokojące. Istnieją subtelniejsze i bardziej powszechne tryby awarii: prawdziwa sprawa cytowana na poparcie błędnej tezy, przesadzone orzeczenie, nieco zmieniony cytat, nawias wygładzający niewygodne rozróżnienie lub cytat, który wygląda poprawnie na pierwszy rzut oka, ale w rzeczywistości nie potwierdza zdania, po którym następuje.

Nie są to nowe problemy w praktyce prawniczej, ale teraz są one spotęgowane. Prawnicy zawsze byli odpowiedzialni za sprawdzanie swojej pracy, ale skala i szybkość tworzenia dokumentów wspomaganego przez AI sprawiają, że weryfikacja jest jeszcze ważniejsza. Pytanie brzmi nie tylko „Czy AI halucynowało?” Chodzi o to: „Czy ten złożony dokument zawiera twierdzenia prawne, które są dokładne, poparte i profesjonalnie obronne?”

Myślę też, że musimy być ostrożni, aby nie traktować pracy wykonanej wyłącznie przez człowieka jako złotego standardu. Ludzie również błędnie cytują, przesadzają i pomijają rzeczy, zwłaszcza pod presją czasu. Niezależnie od źródła tekstu, najlepszą praktyką jest wielowarstwowa kontrola: osąd ludzki, narzędzia oparte na źródłach, tam gdzie to właściwe, kontrole deterministyczne oraz przepływy pracy weryfikacyjnej, które ułatwiają wyłapanie błędów, zanim staną się one podstawą do wezwania do złożenia wyjaśnień.

Wielu prawników pozostaje sceptycznych wobec generatywnej AI ze względu na obawy dotyczące dokładności, etyki i odpowiedzialności zawodowej. Jakie praktyczne kroki mogą podjąć firmy z branży technologii prawniczych, aby zbudować zaufanie i zachęcić do odpowiedzialnego wdrażania?

Godne zaufania produkty powinny uwidaczniać swoje granice. Powinny pokazywać źródła, gdy źródła mają znaczenie. Powinny jasno wskazywać, kiedy system generuje język, a kiedy weryfikuje cytat lub stosuje deterministyczną regułę. Powinny również szczerze mówić o ograniczeniach, ponieważ przesadzanie z obietnicami to jeden z najszybszych sposobów na utratę zaufania prawników.

Odpowiedzialne wdrażanie musi być wbudowane w przepływ pracy. Prawnicy nie powinni musieć stawać się inżynierami promptów lub oficerami ds. ryzyka AI, aby dobrze korzystać z tych narzędzi. Dobre produkty powinny kierować użytkowników w stronę odpowiedzialnego użytkowania poprzez swój projekt: zachowywanie poufności, wspieranie nadzoru, umożliwianie przeglądu, tam gdzie to właściwe, przechowywanie ścieżek audytu i ułatwianie weryfikacji.

Pracowała Pani intensywnie z generacją wspomaganą wyszukiwaniem (RAG) i innymi technikami mającymi na celu poprawę niezawodności systemów AI. Gdzie, Pani zdaniem, obecne produkty AI dla prawników wciąż nie spełniają oczekiwań i jakie postępy techniczne są potrzebne, aby zamknąć te luki?

Produkty AI dla prawników są już imponujące w zakresie tworzenia projektów, podsumowywania, burzy mózgów i wyszukiwania. Niektóre wciąż nie spełniają oczekiwań w ważnym aspekcie: dokładności wymaganej przez praktykę prawniczą. (Nasz system wymiaru sprawiedliwości na tym polega!)

Myślałbym o luce w niezawodności jako o problemie systemowym, a nie problemie pojedynczego modelu. Lepsze modele pomogą, ale niezawodność na poziomie prawniczym wymaga współpracy kilku warstw: wyszukiwania i rankingu, pętli weryfikacji, pamięci, projektowania przepływu pracy oraz hybrydowej architektury deterministycznej/LLM.

Podstawowa mechanika wyszukiwania jest dość dobrze poznana, ale potrzeba dużo testowania i iteracji, aby uzyskać odpowiedni poziom trafności i rankingu. Agenci adversarialni i pętle agencyjne stają się coraz bardziej powszechne, ale wyzwaniem projektowym jest uczynienie tych kontroli zasadnymi, a nie tworzenie kosztownego, obciążonego opóźnieniami „rozrostu podwójnego sprawdzania”. W przypadku pamięci LLM, wyzwania techniczne obejmują to, gdzie pamięć powinna się znajdować (pamięć ogólna a pamięć specyficzna dla konkretnego przepływu pracy; systemy pamięci mogą wydawać się dość doczepione) oraz formę, jaką przybiera, aby zapewnić, że agent uzyskuje do niej dostęp, gdy jest to właściwe. Projektowanie przepływu pracy wciąż ma znaczenie; jeśli system otrzyma pojedynczy, długi, niejasny prompt, wygeneruje niekompletne lub ogólne wyniki. AI dla prawników potrzebuje bardziej ustrukturyzowanych przepływów pracy, dzieląc zadanie na przemyślane kroki, aby upewnić się, że ma potrzebny kontekst i przechodzi przez wszystkie kroki wymagane do wygenerowania dokładnego, doskonałego produktu pracy prawniczej. Może to jednak stać się mniejszym problemem w miarę opracowywania większych modeli podstawowych i poprawy kompresji.

Kolejną dźwignią do pociągnięcia jest mieszanka reguł deterministycznych, takich jak wyrażenia regularne, i modeli probabilistycznych. LLM są niezwykle przydatne w fazie prototypowania, ponieważ pomagają odkryć kształt problemu. Ale gdy masz już dobry działający prototyp i rozumiesz wzorzec, możesz chcieć odciągnąć części przepływu pracy z powrotem do logiki deterministycznej. I chociaż LLM mogą być niespójne, są doskonałe w uzupełnianiu tego, czego reguły deterministyczne nie są wystarczająco elastyczne, aby wychwycić, oraz w samodzielnym wykorzystywaniu reguł/kodu deterministycznego. Najsilniejsze systemy nie będą ani czysto deterministyczne, ani oparte wyłącznie na LLM. Będą używać reguł deterministycznych tam, gdzie problem jest zrozumiały, a LLM tam, gdzie potrzebna jest niejednoznaczność, osąd lub wrażliwe na kontekst rozumienie języka. Pytanie brzmi, gdzie leży granica: gdzie kończą się reguły, a gdzie model powinien przejąć kontrolę?

Kiedy zaczniesz nakładać na siebie te techniki, możesz osiągnąć ogromną poprawę w zakresie luki niezawodnościowej, ale kompromisem jest złożoność inżynieryjna, koszt tokenów i opóźnienie. Spodziewam się, że ulegną one poprawie wraz z postępem technicznym oraz gdy pamięć i kompresja staną się bardziej skuteczne i łatwo wbudowane w modele podstawowe.

Pisanie tekstów prawnych często wymaga niuansów, perswazji i starannej interpretacji precedensów. Które aspekty pisania tekstów prawnych, Pani zdaniem, AI może realnie poprawić już dziś, a które elementy wciąż wymagają wyjątkowo ludzkiego osądu?

AI może już teraz poprawić wiele aspektów pisania tekstów prawnych, zwłaszcza gdy zadanie jest dobrze zdefiniowane. Może pomóc w identyfikacji niejasnych zdań, ukrytych punktów, niespójności, powtórzeń, słabej organizacji, niepopartych twierdzeń faktycznych, niedopasowanych zdefiniowanych terminów, problemów z cytowaniem oraz miejsc, w których projekt nie prowadzi dobrze czytelnika. Może również pomóc prawnikom w kreatywnym myśleniu, testowaniu argumentów i stosowaniu znanych zasad pisania i perswazji w momencie tworzenia tekstu, zamiast polegać wyłącznie na pamięci.

Ta ostatnia kwestia jest dla mnie szczególnie ekscytująca. Prawnik może wiedzieć w teorii, że pismo potrzebuje mocniejszego wstępu, czystszego sformułowania zasady prawnej lub bardziej przyjaznego dla czytelnika opisu stanu faktycznego. Ale kiedy tworzysz dokument pod presją, wiedza i stosowanie to nie to samo. AI może pomóc wnieść fachowe wskazówki dotyczące pisania do przepływu pracy w momencie, gdy mogą one rzeczywiście poprawić dokument.

Ale dobre pisanie tekstów prawnych to nie tylko kunszt lub optymalizacja tekstu. To także umiejętność zidentyfikowania najbardziej istotnych, interesujących i specyficznych dla danej sprawy szczegółów, a następnie przekształcenia ich w teorię, która sprawi, że czytelnik zrozumie, dlaczego ten spór ma znaczenie. Z mojego doświadczenia wynika, że to wciąż dziedzina, w której ludzcy prawnicy są znacznie silniejsi niż LLM. Może to kwestia gustu, może doświadczenia, a może czegoś głębszego w działaniu tych systemów. LLM są trenowane do generowania prawdopodobnych kontynuacji tekstu, co tworzy siłę przyciągania w kierunku statystycznie przeciętnie brzmiącego tekstu. W wielu kontekstach prawnych jest to przydatne. Często nie chcesz, aby pismo prawne zwracało na siebie uwagę. Chcesz, aby pomysły, fakty i autorytety przebijały się.

Ale naprawdę przekonujące pismo prawne często opiera się na znalezieniu tego, co jest inne. Jaki jest szczegół, który ożywia sprawę? Jaki fakt zmienia emocjonalny wydźwięk sporu? Jaki punkt prawny sprawi, że sędzia usiądzie prosto i rozpozna problem? Jako prawnik apelacyjny, często to jest właśnie nić, którą próbujesz znaleźć. Szukasz wersji sprawy, która jest na tyle wyjątkowa i przekonująca, aby zainteresować trybunał.

To jest ta część, której nie chciałbym, aby AI pozbyło się przez swoje uprzedzenie do przeciętności. System może zasugerować jaśniejsze sformułowania, wskazać słabe punkty, sprawdzić cytaty pod kątem presji lub przypomnieć prawnikowi o technikach perswazyjnych. Ale prawnik wciąż musi zdecydować, co jest ważne, co przyznać, jak agresywnie postępować, czego nie mówić, jak ująć niepewność i jak wyjaśnić emocjonalne i etyczne sedno sprawy.

Jestem ostrożny w mówieniu „AI nigdy nie będzie w stanie tego zrobić”, ponieważ te przewidywania wielokrotnie okazywały się błędne. AI już teraz wykonuje wiele odrębnych zadań szybciej i dokładniej niż ludzie i nie sądzę, aby miało sens czuć się tym zagrożonym. To narzędzie. Ale przynajmniej dziś, najważniejsze części perswazji prawnej wciąż wymagają ludzkiego osądu: wybór odpowiednich szczegółów, zrozumienie, dlaczego mają one znaczenie, i zbudowanie historii, która rezonuje emocjonalnie.

W miarę jak AI będzie coraz głębiej integrowane z przepływami pracy w prawie, jak widzi Pani ewolucję roli młodszych prawników i asystentów? Czy AI może zasadniczo zmienić sposób, w jaki następne pokolenie prawników rozwija umiejętności pisania i prowadzenia badań prawniczych?

Tak, i powinniśmy podejść do tego celowo. Młodsi prawnicy tradycyjnie uczyli się, wykonując trudną pracę powoli: badając, tworząc projekty, poprawiając, otrzymując komentarze i stopniowo rozwijając osąd. AI zmieni tę ścieżkę, ale nie musi jej osłabiać. Używane dobrze, może uczynić szkolenie bardziej jawnym i skutecznym.

Ryzyko polega na tym, że młodsi prawnicy pominą zmagania, które budują osąd. Jeśli narzędzie zbyt szybko wyprodukuje wiarygodny projekt, nowy prawnik może nie nauczyć się, jak zbudowano argument, gdzie są słabe punkty lub dlaczego jedno ujęcie jest lepsze od drugiego. To byłaby prawdziwa strata.

Ale możliwość jest ogromna. AI może funkcjonować jako korepetytor, symulator, trener pisania i źródło natychmiastowej informacji zwrotnej. Może pokazywać alternatywne struktury, identyfikować niepoparte twierdzenia, wyjaśniać, dlaczego cytat może nie potwierdzać tezy, lub porównywać projekt z zasadami skutecznego pisania tekstów prawnych. Może również dać młodszym prawnikom więcej powtórzeń. Robienie powtórzeń i otrzymywanie informacji zwrotnej to sposób, w jaki się uczymy i rozwijamy.

Kancelarie i działy prawne, które zrobią to najlepiej, nie dadzą po prostu młodszym prawnikom AI i nie będą liczyć na najlepsze. Przeprojektują szkolenie wokół niego. Poproszą młodszych prawników o wyjaśnienie swoich wyborów, weryfikację wyników, porównanie alternatyw i nauczenie się nadzorowania pracy wspomaganej przez AI, tak jak ostatecznie będą nadzorować pracę ludzką.

Doradzała Pani klientom z różnych branż, od kryptowalut i technologii konsumenckich po złożone spory handlowe. Czy są szczególne sektory, w których, Pani zdaniem, wdrażanie AI w prawie będzie najszybsze i dlaczego?

Uważam, że wdrażanie AI w prawie będzie najszybsze, gdy

1. Organizacja ma przepływy pracy, które dobrze współpracują z LLM,
2. Organizacja jest otwarta na innowacje, oraz
3. Organizacja jest zmotywowana do wprowadzenia zmiany.

W pierwszym punkcie, prawo jest naturalną domeną dla LLM, ponieważ prawo jest pod wieloma względami ludzkim zachowaniem i ludzkimi wartościami zakodowanymi w języku. Praca prawnicza przekształca nieuporządkowane fakty w kategorie, reguły, obowiązki, argumenty, ryzyka i konsekwencje. To jest dokładnie teren, na którym modele językowe mogą być potężne, pod warunkiem że są ugruntowane, weryfikowalne i zaprojektowane wokół tego, jak prawnicy faktycznie pracują. Myślę więc, że większość organizacji w branży prawniczej jest dobrymi kandydatami, z wyjątkiem być może tych, których podstawowy model usług opiera się na interakcji międzyludzkiej. Ale nawet w przypadku organizacji takich jak kliniki pro bono, LLM mogą pomóc w takich kwestiach jak triaż i zarządzanie wiedzą, więc nie skreślałbym ich.

Drugi czynnik, otwartość na innowacje, może być większą bramą. Dlatego uważam, że wewnętrzne działy prawne są szczególnie dobrze przygotowane. Znajdują się one wewnątrz organizacji, które już starają się poprawić szybkość, obniżyć koszty i zoperacjonalizować wiedzę. Zarządzają umowami, sporami, politykami, zobowiązaniami regulacyjnymi, kwestiami klientów, pytaniami pracowniczymi, doradztwem produktowym i ocenami ryzyka na dużą skalę. Te przepływy pracy są często wystarczająco powtarzalne, aby wspierać wdrażanie AI, jednocześnie wymagając wystarczającego osądu prawnego, aby lepsze narzędzia mogły mieć znaczący wpływ.

Uważam również, że spory sądowe, praktyka apelacyjna, branże regulowane, fintech i kryptowaluty, technologia konsumencka, ubezpieczenia i opieka zdrowotna będą ważnymi obszarami. W sporach sądowych i pracy apelacyjnej, na przykład, AI może pomóc w przeglądzie akt, śledzeniu kwestii, sprawdzaniu cytatów, przepisach proceduralnych, analizie zachowania praw, mapowaniu argumentów i opiniach o projektach. Stawka jest wysoka, więc narzędzia muszą być poważne. Ale to nie jest powód, aby unikać wdrażania. To powód, aby budować lepsze produkty.

Trzeci punkt – motywacja do zmiany – jest wciąż znaczącym czynnikiem ograniczającym. Jak ja to widzę, branża prawnicza jako całość powinna być zmotywowana do zmiany. System wymiaru sprawiedliwości jest powolny, kosztowny i niedostępny dla zbyt wielu ludzi. Trudniejsze pytanie brzmi, czy zawód jest otwarty na zmiany. Myślę, że coraz bardziej tak. Niektóre części branży były powolne w działaniu, ponieważ istniejący model był dochodowy i znajomy. Ale prawnicy są również rozwiązywaczami problemów. Wielu z nas ma nastawienie na sprawiedliwość, reformy i jest upartych w użytecznym sensie. Jesteśmy szkoleni, aby argumentować za zmianą, gdy istniejąca odpowiedź jest zła.

Sektor prywatny może ruszyć pierwszy, ponieważ jest bardziej elastyczny i lepiej wyposażony w zasoby. Organizacje rządowe, pomocy prawnej i pro bono stoją przed innymi ograniczeniami i często muszą skupić się na pilnej pracy bezpośrednio przed sobą. Ale te sektory nie powinny się lekceważyć. Jeśli AI może pomóc uczynić usługi prawne bardziej wydajnymi, bardziej dostępnymi i bardziej przystępnymi cenowo, długoterminowa możliwość nie ogranicza się do żadnego pojedynczego sektora. Jest istotna dla każdego, komu zależy na lepszym działaniu systemu prawnego.

Sądy, organy regulacyjne i izby adwokackie coraz częściej analizują wykorzystanie AI w praktyce prawniczej. Jakich ram regulacyjnych lub etycznych spodziewa się Pani w ciągu najbliższych kilku lat i jak powinni przygotować się dostawcy technologii prawniczych?

Nasze istniejące ramy etyczne mogą już poradzić sobie z większością tych obaw. Prawnicy zawsze byli zobowiązani do zapewnienia, że wszystko, co przedstawiają sądowi, jest oparte na prawdzie. Muszą być szczerzy, gdy sprawa jest przeciwko nim, i przejrzyści, gdy popełniają błędy. Muszą prowadzić swoje sprawy kompetentnie i nadzorować młodszych prawników oraz osoby niebędące prawnikami, które im pomagają. Muszą zachować poufność wrażliwych informacji swoich klientów.

Pierwsza fala etyki AI nie wymaga całkowicie nowego systemu operacyjnego moralności. Musimy zastosować te znane obowiązki z nową powagą. Prawnik nie może zlecić osądu na zewnątrz, a następnie zrzec się odpowiedzialności. Ta część nie powinna być kontrowersyjna.

Jedną z rzeczy, które powinniśmy zacząć robić częściej, są szkolenia specyficzne dla technologii, aby prawnicy nie byli zaskoczeni, gdy nie będą odpowiednio nadzorować lub sprawdzać wyników AI. Kalifornia, na przykład, wymaga teraz kompetencji technologicznych jako części ustawicznego kształcenia prawniczego i myślę, że to właściwy kierunek. Ale jedna godzina co kilka lat to za mało. Kancelarie, działy prawne, sądy i organizacje usług prawnych powinny opracowywać własne wewnętrzne polityki AI i obowiązkowe szkolenia: nie tylko „nie cytuj halucynacyjnych źródeł”, ale także kiedy używać tych narzędzi, kiedy ich nie używać, jak weryfikować wyniki, jak chronić poufne informacje i jak myśleć o podziale odpowiedzialności między człowiekiem a maszyną.

Dla dostawców technologii prawniczych, etyka nie powinna być traktowana jako etykieta ostrzegawcza naklejona na produkt na końcu. Powinna być architekturą produktu. Najlepsze narzędzia ułatwią odpowiedzialne użytkowanie poprzez swój projekt: przejrzystość źródeł, kontrole poufności i przepływy pracy ułatwiające przegląd przez człowieka.

Żaden z problemów, które obecnie widzimy, nie jest więc tym, co nazwałbym „nowym”. Ale na horyzoncie pojawia się prawdziwie bezprecedensowe pytanie z zakresu etyki prawnej. Obecnie prawie wszyscy zgadzają się, że AI powinno wspomagać prawników i sędziów, a nie ich zastępować. Zgadzam się z tym instynktem, biorąc pod uwagę, gdzie technologia jest dzisiaj. Ale co się stanie, jeśli systemy AI staną się szybsze, tańsze, bardziej spójne, bardziej obiektywnie niezawodne i mniej stronnicze niż ludzie w zadaniach związanych z rozumowaniem prawniczym? Czy nadal będziemy twierdzić, że człowiek musi zawsze pozostać w pętli decyzyjnej?

To dziwne i niewygodne pytanie, ale myślę, że musimy być wystarczająco uczciwi, aby je zadać. Nie sądzę, abyśmy byli blisko zastąpienia sędziów lub prawników w sporach o wysokiej stawce, i byłbym głęboko sceptyczny wobec każdego systemu, który twierdziłby inaczej dzisiaj. Ale to już się dzieje w określonych kontekstach: AI już rozwiązuje niektóre spory u głównego dostawcy ADR i na X, Grok często rozstrzyga spory dotyczące weryfikacji faktów.

Zwykle zakładamy, że ludzki osąd jest etycznym zabezpieczeniem. Często tak jest. Ludzie wnoszą odpowiedzialność moralną, legitymację instytucjonalną, empatię, praktyczną mądrość i zrozumienie kontekstu, których maszyny jeszcze nie posiadają. Ale ludzie wnoszą również opóźnienie, koszt, niespójność, zmęczenie, stronniczość, gatekeeping i nierówny dostęp. Jeśli rozstrzyganie wspomagane przez AI stanie się dokładniejsze, bardziej przystępne cenowo i bardziej dostępne niż status quo, pytanie etyczne nie powinno być rozstrzygane odruchowo. Pytanie powinno brzmieć: „Jaki proces daje najsprawiedliwszy, najdokładniejszy, najbardziej przejrzysty i najbardziej odpowiedzialny wynik?”

Jeśli zautomatyzowane lub wspomagane przez AI systemy ostatecznie przejmą bardziej rutynowe spory, przegląd ludzki może stać się najważniejszy na obrzeżach: w nietypowych sprawach, niewygodnych trybach awarii i miejscach, gdzie sztywna spójność zaczyna wyglądać mniej jak sprawiedliwość, a bardziej jak staromodny formalizm prawny.

Tak właśnie, moim zdaniem, powinni przygotowywać się dostawcy technologii prawniczych. Budujcie dla obecnych zasad etycznych, ale także dla przyszłości, w której zawód będzie musiał uczciwie porównywać wydajność człowieka i maszyny. Celem nie powinno być zachowanie każdego istniejącego rytuału praktyki prawniczej. Celem powinno być zachowanie tego, co te rytuały mają chronić: uczciwości, dokładności, odpowiedzialności, legitymacji i dostępu do wymiaru sprawiedliwości.

BriefCatch zbudował swoją reputację wokół ulepszania pisania tekstów prawnych, a nie tylko automatyzacji pracy prawniczej. Jak godzi Pani wzrost produktywności dzięki AI z potrzebą zachowania krytycznego myślenia, rozumowania prawnego i odpowiedzialności zawodowej?

Nie sądzę, aby produktywność i krytyczne myślenie musiały być ze sobą w konflikcie. W rzeczywistości, gdy prawnik jest bardziej wydajny w rutynowych zadaniach, tworzy to więcej miejsca na kreatywne, krytyczne myślenie. Pytanie brzmi więc, jaki rodzaj produktywności tworzymy. Jeśli AI pomaga prawnikom po prostu generować więcej słów szybciej, to niekoniecznie jest postęp. Praca prawnicza ma już mnóstwo słów.

Lepszym celem jest pomoc prawnikom w tworzeniu jaśniejszej, dokładniejszej, bardziej przekonującej i lepiej obronnej pracy. Dlatego skupienie BriefCatch na pisaniu ma znaczenie. Pisanie tekstów prawnych to nie dekoracyjna warstwa na wierzchu analizy prawnej. To miejsce, w którym analiza staje się precyzyjna, weryfikowalna i użyteczna dla czytelnika.

Sposobem na zachowanie odpowiedzialności jest zaprojektowanie AI jako warstwy wiedzy specjalistycznej, a nie substytutu autorytetu. Narzędzie może sugerować, flagować, weryfikować, porównywać i testować pod kątem presji. Może pomóc w stosowaniu zasad pisania, identyfikować słabe punkty i wyłapywać problemy. Ale prawnik musi podjąć ostateczną decyzję i pozostać odpowiedzialnym za pracę. Parafrazując mojego ulubionego instruktora Peloton, „AI przedstawia sugestie. Ty podejmujesz decyzje.”

Moim własnym zdaniem, AI jest najbardziej wartościowe, gdy sprawia, że prawnik jest bardziej zaangażowany. Dobry system powinien wyostrzać uwagę prawnika. Powinien zadać pytanie, które prawnik mógł przeoczyć, wydobyć autorytet wymagający sprawdzenia lub zasugerować jaśniejszy sposób wyrażenia myśli. Nie powinien uśpić użytkownika w przekonaniu, że wiarygodny tekst jest tym samym co ukończona praca.

Patrząc pięć lat w przyszłość, jak wygląda idealna relacja między prawnikami a AI? Czy wyobraża sobie Pani AI przede wszystkim jako asystenta, współpracownika, czy coś bliższego zaufanemu drugiemu pilotowi w prawie?

Wolę „egzoszkielet wiedzy specjalistycznej”. Idealny system AI dla prawników powinien pomagać prawnikom i sędziom robić to, za co już są odpowiedzialni, ale z lepszym zasięgiem, lepszą pamięcią, lepszą spójnością, lepszą kreatywnością i lepszymi narzędziami weryfikacji.

Za pięć lat mam nadzieję, że prawnicy będą mieli systemy AI głęboko zintegrowane ze swoimi przepływami pracy i znacznie bardziej wyspecjalizowane niż dzisiejsze chatboty ogólnego przeznaczenia. Prawnik tworzący pismo procesowe powinien móc czerpać z wiedzy o pisaniu, orzecznictwie, materiałach z akt, przepisach proceduralnych, kontroli cytatów, wiedzy wewnętrznej i strategicznych informacjach zwrotnych bez opuszczania przepływu pracy. Ale system powinien być również przejrzysty co do tego, co wie, co sprawdził i gdzie prawnik musi wykazać się osądem.

Idealna relacja to nie delegowane zrozumienie czy osąd. To skalibrowane zaufanie. Prawnicy powinni wiedzieć, które zadania system wykonuje doskonale, które wymagają nadzoru, a które należą wyłącznie do ludzkiego osądu.

Jeśli zrobimy to dobrze, AI uczyni wiedzę specjalistyczną bardziej dostępną. Pomoże prawnikom lepiej pisać, staranniej rozumować, unikać możliwych do uniknięcia błędów i spędzać więcej czasu na częściach pracy, które wymagają intuicji i osądu. Uważam, że idea legionu „Mecha Prawników” jest o wiele bardziej interesująca i optymistyczna niż prosta automatyzacja.

Dziękuję za świetny wywiad, czytelnicy, którzy chcą dowiedzieć się więcej, powinni odwiedzić BriefCatch.