Sarah Webb, dyrektorka operacyjna (COO) i współzałożycielka LawVu – cykl wywiadów

Sarah Webb jest dyrektorką operacyjną (COO) i współzałożycielką LawVu. Ma doświadczenie w inżynierii i kierowaniu zespołami programistycznymi, zdobyte m.in. w LOVEFiLM i Amazon. Dołączyła do LawVu w 2015 roku jako dyrektorka ds. technologii (CTO), a w 2020 roku została dyrektorką operacyjną (COO), łącząc doświadczenie w obszarze technologii, operacji, bezpieczeństwa i ładu organizacyjnego. W swojej pracy koncentruje się na pomaganiu zespołom prawnym w łączeniu danych i przepływów pracy, przy jednoczesnym równoważeniu innowacji w dziedzinie AI z ryzykiem biznesowym.

LawVu oferuje wewnętrznym zespołom prawnym system operacyjny, który łączy obsługę zgłoszeń, sprawy, umowy, wydatki i wiedzę na jednej zintegrowanej platformie. Funkcje AI i integracje pomagają zespołom pracować z użyciem dotychczasowych narzędzi, przy zachowaniu kontroli uprawnień i nadzoru. W tym wywiadzie Webb opowiada o nieautoryzowanym korzystaniu z AI, agentowych przepływach pracy, wiedzy instytucjonalnej oraz podstawach, których firmy potrzebują, by wdrażać AI pod odpowiednim nadzorem.

Współzałożyła Pani LawVu po tym, jak znaczną część kariery poświęciła budowaniu zespołów programistycznych i kierowaniu nimi, m.in. w LOVEFiLM i Amazon. Co sprawiło, że uznała Pani obsługę prawną w firmach za problem wart rozwiązania i jak pierwotna wizja LawVu ewoluowała w miarę jak AI zmieniała krajobraz technologiczny?

Większość początkowego okresu kariery spędziłam na stanowiskach związanych z inżynierią i technologią, m.in. w LOVEFiLM i Amazon. Przejście do technologii prawniczych nie było czymś, co planowałam — wynikło raczej z okoliczności. Pracuję w LawVu już prawie 11 lat; początkowo byłam dyrektorką ds. technologii (CTO), ale dość szybko przeszłam na stanowisko dyrektorki operacyjnej (COO). Już ta zmiana znacząco wpłynęła na to, jak postrzegam działalność firmy.

Na początku najważniejszym problemem, który chcieliśmy rozwiązać, był brak widoczności. Większość klientów korzystała wcześniej z Outlooka i arkuszy kalkulacyjnych Excel, więc samo zgromadzenie wszystkiego w jednym miejscu było dużym sukcesem. Potem zespoły zaczęły pracować zdalnie, a bez scentralizowanej platformy współpraca stała się jeszcze trudniejsza. To potwierdziło to, co już zauważaliśmy: wiele powtarzalnych zadań prawnych nie było docenianych, a reszta firmy nawet o nich nie wiedziała, bo nie było miejsca, w którym można by je zobaczyć. Ten okres skłonił nas do intensywnej pracy edukacyjnej z klientami — pomagaliśmy im porządkować dane i zarządzać wewnętrzną zmianą, zamiast po prostu przekazywać im narzędzie.

Od początku rozwijaliśmy też integracje z pakietem Microsoft, bo zawsze chcieliśmy dostosować się do sposobu, w jaki firma pracuje na co dzień, zamiast oczekiwać, że zespoły porzucą znane im rozwiązania. Zmieniła się skala wymagań, jakie dziś wiążą się z tą samą ideą. Obniżanie progu wejścia, by uzyskać użyteczny zbiór danych, miało kiedyś przede wszystkim zwiększać wygodę. Dziś decyduje o tym, czy AI może rzeczywiście działać w obszarze pracy prawnej, czy tylko odzwierciedla tę samą fragmentację.

Twierdzi Pani, że „shadow AI” to często problem związany z przepływem pracy, a nie z pracownikiem. Co to oznacza w praktyce i czego organizacje mogą się nauczyć, gdy pracownicy omijają zatwierdzone narzędzia lub systemy AI i korzystają zamiast nich z własnych rozwiązań?

Jeśli nie udostępnisz pracownikom odpowiednich narzędzi, poszukają własnych, by zwiększyć efektywność. Na tym polega sedno problemu. Gdy ktoś omija zatwierdzony system, pierwszym odruchem jest uznanie tego za naruszenie zasad zgodności — coś, co trzeba zablokować lub czemu należy zapobiec za pomocą odpowiedniej polityki. W praktyce zwykle świadczy to o problemie z samym przepływem pracy: zatwierdzona ścieżka była wolniejsza lub bardziej uciążliwa niż alternatywa, więc ludzie znaleźli sposób, by ją obejść.

Właśnie dlatego „shadow AI” stanowi większe zagrożenie niż kiedykolwiek stanowiło „shadow IT”. Incydenty związane z nieautoryzowanym korzystaniem z AI odpowiadają obecnie za 20 procent naruszeń bezpieczeństwa danych, a ich średni koszt wynosi 10,2 miliona dolarów. Dzieje się tak dlatego, że ludzie nie tylko zaczynają korzystać z niezatwierdzonych narzędzi, lecz także bezpośrednio wprowadzają do nich poufne materiały: treść umów, warunki transakcji i wewnętrzne analizy.

Organizacje powinny przede wszystkim wyciągnąć z tego wnioski na temat istniejącej luki. Brak bezpiecznej alternatywy, opartej na wiarygodnych danych, nie powstrzymuje ludzi przed korzystaniem z AI — jedynie skłania ich do używania jej w miejscu, którego nie widać. Kryje się za tym jeszcze poważniejsze zagrożenie, wykraczające poza kwestie bezpieczeństwa. Gdy praca jest rozproszona między prywatnymi narzędziami AI zamiast prowadzona w jednym wspólnym, uporządkowanym systemie, firma podejmuje decyzje na podstawie niepełnego obrazu sytuacji, nawet nie zdając sobie sprawy, że brakuje części danych. Jeśli narzędzie AI ma dostęp tylko do 60 procent istotnych danych, bo reszta znajduje się na czyimś prywatnym koncie, jego dokładność spada, a ryzyko podjęcia błędnej decyzji rośnie. Zakazanie obchodzenia systemu niczego z tych problemów nie rozwiązuje. Rozwiązuje je udostępnienie ludziom lepszego rozwiązania.

Na podstawie współpracy LawVu z setkami zespołów prawnych dużych firm — jakie najczęstsze błędy popełniają organizacje przy ustanawianiu zasad nadzoru nad AI, zwłaszcza teraz, gdy pracownicy uzyskują dostęp do coraz bardziej zaawansowanych, uniwersalnych narzędzi AI?

Najczęstszym błędem jest uznawanie pisemnej polityki za rzeczywisty mechanizm kontroli. Wiele organizacji ma już dokument określający, jak należy i jak nie należy korzystać z AI. Bardzo niewiele wdrożyło jednak rozwiązania operacyjne, które faktycznie kontrolują dostęp narzędzia do danych, rejestrują jego działania i umożliwiają ich późniejsze odtworzenie, jeśli zajdzie taka potrzeba.

Drugim błędem jest nieuwzględnianie tego, jak bardzo ryzyko rośnie z każdym kolejnym narzędziem. Każde rozwiązanie punktowe wdrażane przez zespół — do obsługi umów, wydatków czy przyjmowania spraw — wymaga własnej integracji, korzysta z własnego protokołu uwierzytelniania i przechowuje własną kopię wrażliwych danych. Z osobna każde z nich wydaje się łatwe do opanowania. Razem sprawiają, że stos technologii prawnych staje się rozproszonym węzłem ryzyka, a ponad jedna trzecia naruszeń bezpieczeństwa ma swoje źródło właśnie w takim dostępie podmiotów zewnętrznych. Większość zespołów nie zdaje sobie sprawy z łącznej skali tego ryzyka, dopóki po jakimś incydencie sama nie zostanie poddana kontroli.

Trzecim błędem jest traktowanie narzędzi AI ogólnego przeznaczenia inaczej niż pozostałego oprogramowania, które ma dostęp do wrażliwych danych. Każdy klient, z którym współpracujemy od samego początku — w tym klienci z sektora publicznego — przechodzi z nami pełną ocenę bezpieczeństwa, ponieważ w systemie takim jak nasz znajdują się jedne z najbardziej wrażliwych informacji, jakie przechowuje firma: tajemnice handlowe, dane dotyczące fuzji i przejęć (M&A), dane osobowe (PII). Tymczasem pracownicy każdego dnia przekazują tego samego rodzaju informacje publicznie dostępnym narzędziom AI, nie poddając ich nawet zbliżonemu poziomowi kontroli, bo nie odbierają tego jako wdrażania nowego dostawcy — mają poczucie, że po prostu korzystają z narzędzia. Ta rozbieżność między tym, co podlega audytowi, a tym, co faktycznie wiąże się z ryzykiem, sprawia, że większość programów zarządzania AI się załamuje.

LawVu wykorzystuje agentów AI i przepływy pracy oparte na agentach w obsłudze operacji prawnych. Jak ustalacie, które procesy prawne nadają się do autonomicznej realizacji przez AI, a które zawsze powinny wymagać weryfikacji lub zatwierdzenia przez człowieka?

Większą wagę przywiązujemy do skutków i możliwości cofnięcia zmian niż do tego, jak skomplikowany proces wydaje się na papierze. Jeśli błąd łatwo wykryć i naprawić, taki proces zazwyczaj dobrze nadaje się do autonomicznej realizacji. Dlatego prace o dużej skali i jasno określonych zasadach, takie jak przyjmowanie i wstępna selekcja spraw, zwykle sprawdzają się w tym modelu.

W przypadku wszystkiego, co wiąże się ze zobowiązaniem wobec podmiotu zewnętrznego, ryzykiem prawnym lub decyzją trudną do cofnięcia, człowiek musi uczestniczyć w procesie — niezależnie od tego, jak dokładnie agent wypada w testach. Tą samą zasadą kierujemy się w LawVu, określając szerzej naszą tolerancję na ryzyko. Ustalamy, na jakie ryzyko zespół może sobie pozwolić, dobieramy odpowiednie zabezpieczenia, a dopiero potem rozszerzamy zakres autonomii. Prawdziwym sprawdzianem nie jest dokładność, lecz to, czy potrafimy ustalić, do czego agent uzyskał dostęp, dlaczego podjął dane działanie, czy miał do tego uprawnienia i czy możemy to później udowodnić. Jeśli nie potrafimy odpowiedzieć na te pytania, proces nie jest jeszcze gotowy do samodzielnego działania.

Takich decyzji nie podejmuje się raz na zawsze: proces, który dziś można bezpiecznie zautomatyzować, może przestać być bezpieczny, gdy wzrośnie skala jego wykorzystania albo gdy przepływ pracy zacznie obejmować bardziej wrażliwe materiały niż na początku. Dlatego trzeba regularnie weryfikować przyjęte granice, a nie wyznaczać je tylko raz.

Serwer MCP LawVu pozwala organizacjom łączyć narzędzia takie jak ChatGPT, Claude i Microsoft Copilot bezpośrednio ze środowiskiem operacji prawnych. Jak firmy mogą zapewnić zewnętrznym systemom AI użyteczny dostęp do danych przedsiębiorstwa, a jednocześnie zachować uprawnienia, możliwość audytu, prywatność i kontrolę?

Można odnieść wrażenie, że łączność i bezpieczeństwo są ze sobą sprzeczne, ale wcale nie muszą. To platforma musi pozostać źródłem prawdy w kwestii uprawnień, a nie nałożone na nią narzędzie AI. Niezależnie od tego, czy ktoś rozpoczyna rozmowę w ChatGPT, Claude czy Copilot, zakres tego, co wolno mu zobaczyć i zrobić, nie powinien zależeć od tego, który interfejs akurat otworzył danego dnia.

To działa tylko wtedy, gdy środowisko po drugiej stronie ma już odpowiednie zabezpieczenia, zanim cokolwiek zostanie połączone — a właśnie takie przygotowania pomija większość firm. Wszyscy uznają MCP za automatyczną korzyść dla bezpieczeństwa, bo ogranicza przepływ danych. To prawda, ale tylko pod warunkiem, że system odbierający dane potrafi wskazać, do czego uzyskano dostęp, dlaczego i przez którego agenta, w czyim imieniu, a także udowodnić to po fakcie.

Ma to również uzasadnienie biznesowe. Jeśli centralne narzędzie AI potrafi rozpoznać, że zapytanie dotyczy kwestii prawnych, i automatycznie przekazać je do LawVu, eliminuje to konieczność ustalania przez pracownika, z którego systemu powinien skorzystać. Oznacza to też, że pracownicy nie sięgają po prywatne narzędzie AI, które w ogóle nie ma dostępu do wiarygodnego, bezpiecznego zbioru danych. Zapewnienie wszystkim jednego, dobrze zarządzanego punktu wyjścia sprzyja wdrażaniu rozwiązań skuteczniej niż jakiekolwiek ograniczanie dostępu.

Modele AI ogólnego przeznaczenia mogą być potężne, ale często nie mają dostępu do pamięci instytucjonalnej organizacji, jej wcześniejszych decyzji ani specyficznego profilu ryzyka. Jakie informacje i jaka infrastruktura muszą otaczać model AI, aby stał się naprawdę przydatny w przedsiębiorstwie, w którym stawka jest wysoka?

Myślę o horyzontalnej AI jak o genialnym nieznajomym — kimś, kto przeczytał ogromną ilość materiałów, pięknie pisze i potrafi rozmawiać niemal na każdy temat. Ale nigdy nie poznał twojego klienta. Nigdy nie uczestniczył w twoich negocjacjach. Nie wie, jak twoja organizacja równoważy ryzyko. Nie widział rozmów, które doprowadziły do wyjątków uzgodnionych przez twój zespół sześć miesięcy temu.

Dlatego jedną z pierwszych rzeczy, jakie robi wiele zespołów prawnych, jest połączenie AI z zestawem wytycznych — i warto podkreślić, że jest to niezwykle cenne. Gdy model AI uzyskuje dostęp do preferowanych klauzul, alternatywnych stanowisk, progów zatwierdzania i wskazówek dotyczących negocjacji, wzrost efektywności jest widoczny niemal natychmiast. Problem polega na tym, że najważniejsze decyzje prawne często zapadają wtedy, gdy standardowe stanowisko przestaje pasować: strategiczny klient potrzebuje wyjątku, szansa na szybki rozwój uzasadnia podjęcie dodatkowego ryzyka albo negocjacje dochodzą do punktu, w którym priorytety biznesowe przeważają nad preferowaną klauzulą.

Właśnie wtedy zaczyna być widoczny osąd prawny. Część najcenniejszej wiedzy kryje się w wyjątkach, a nie w zestawie wytycznych. Dlaczego zrobiliśmy wyjątek dla tego klienta? Co się stało, gdy ostatnim razem negocjowaliśmy to stanowisko z tym samym kontrahentem? Czy firma zaakceptowała takie ryzyko w innych przypadkach? Czy tę kwestię eskalowano wcześniej i jaka była ostateczna decyzja?

Odpowiedzi rzadko można znaleźć w jednym dokumencie — są rozproszone w umowach, zatwierdzeniach, e-mailach, dokumentacji spraw, notatkach ze spotkań i doświadczeniu osób, które wówczas brały w tym udział. Dokument odnotowuje jedynie wynik, a organizacja przechowuje uzasadnienie gdzie indziej.

Błyskotliwy nieznajomy może niezwykle szybko poznać zasady, ale zrozumienie, dlaczego w ogóle od nich odstąpiono, to zupełnie inne wyzwanie. Tym, co zwykle odróżnia użyteczną AI od AI, która przynosi przełomowe zmiany, jest to, jak wiele własnych doświadczeń organizacja zachowała, by AI mogła się na nich uczyć.

Wiele firm zgromadziło rozproszone systemy do obsługi umów, narzędzia do zarządzania sprawami, arkusze kalkulacyjne, archiwa e-maili i inne źródła wiedzy organizacyjnej. Jak ważne jest stworzenie jednolitej podstawy danych przed wdrożeniem agentów AI i co organizacja musi zrobić, aby jej dane były naprawdę gotowe na AI?

Prawo to doskonały przykład tego, dlaczego ma to znaczenie: umowy są redagowane z użyciem śledzenia zmian w Wordzie, wnioski o zatwierdzenie przychodzą e-mailem, decyzje zapadają na Slacku, a następnie AI nakłada się na repozytorium dokumentów, zamiast rzeczywiście łączyć ze sobą poszczególne elementy pracy. Nałożenie AI na rozproszony system oznacza jedynie szybszy dostęp do chaosu.

Firmy, które przez lata budowały solidną infrastrukturę danych i porządkowały swoje systemy, zanim pojawiła się AI, to właśnie te, które już czerpią z niej korzyści. Na tym właśnie polega sedno sprawy. Nie da się skalować agentów opartych na rozproszonych systemach do obsługi umów, narzędziach do zarządzania sprawami, arkuszach kalkulacyjnych i archiwach e-maili, a jednocześnie oczekiwać wiarygodnych wyników. Najpierw trzeba stworzyć fundament: połączone systemy, jasne zasady kontroli dostępu i określony poziom akceptowanego ryzyka. Dopiero potem można w ogóle myśleć o skalowaniu AI.

Jak osoby odpowiedzialne za technologię powinny podejść do decyzji, czy tworzyć własne aplikacje AI, kupować wyspecjalizowane platformy AI, czy łączyć modele ogólnego przeznaczenia z istniejącymi systemami, gdy firmy rozważają te możliwości?

Wybór między tworzeniem a kupowaniem brzmi jak decyzja technologiczna. Z mojego doświadczenia wynika, że tak naprawdę chodzi o dojrzałość operacyjną działu prawnego. Istotne jest to, jak poważnie zespół prawny traktuje swoją rolę jako funkcji mającej własne przepływy pracy, dane i model operacyjny. Gdy zadba się o ten aspekt dojrzałości, właściwa strategia AI dla działu prawnego zwykle przychodzi sama.

Jeśli chodzi o tworzenie: dla nielicznych zespołów, które mają zasoby, by działać jak firma programistyczna, może to mieć sens. Modele ewoluują, infrastruktura się zmienia, a prace nigdy tak naprawdę się nie kończą. W przypadku większości zespołów wyzwaniem nie jest jednorazowe stworzenie rozwiązania, lecz jego nieustanne utrzymywanie.

Jeśli chodzi o kupowanie: większość zespołów wybiera tę drogę, ale „kupowanie” nie oznacza jednej możliwości. Pod tym określeniem kryją się co najmniej trzy różne rozwiązania. Ogólnego przeznaczenia AI, takie jak ChatGPT, Copilot i Claude, ma duże możliwości, ale z założenia nie rozumie struktury spraw, ich przyjmowania ani przepływów pracy związanych z zatwierdzaniem. AI połączona z pojedynczym, wyspecjalizowanym rozwiązaniem za pośrednictwem czegoś takiego jak MCP to istotny krok naprzód, ale jej obraz sytuacji nadal ogranicza się do tego, co znajduje się w tym jednym systemie.

Większe możliwości stwarza AI, która rozumie, jak poszczególne elementy pracy działu prawnego łączą się ze sobą, a nie tylko to, co dzieje się w ramach jednego narzędzia. Gdy przyjmowanie spraw, sprawy, umowy, wydatki i wiedza znajdują się w jednym miejscu, AI może analizować całość, zamiast skupiać się tylko na jej wycinku.

Pełniłaś w LawVu zarówno funkcję CTO, jak i COO, odpowiadając za technologię, operacje, bezpieczeństwo i realizację prac nad produktem. Jak połączenie tych ról wpłynęło na Twoje podejście do równoważenia szybkiego rozwoju AI z bezpieczeństwem, zgodnością z przepisami, niezawodnością i ryzykiem związanym z działalnością przedsiębiorstwa?

Dołączyłam do LawVu w 2015 roku jako CTO, a w 2020 roku objęłam funkcję COO, więc od ponad dekady zajmuję się zarówno technologią, jak i operacjami.

To połączenie zmienia sposób myślenia o innowacjach w dziedzinie AI w kontekście bezpieczeństwa i zgodności z przepisami, ponieważ nie postrzega się ich jako odrębnych kwestii. Odpowiadam wewnętrznie za ład organizacyjny, ryzyko i zgodność, a jednocześnie rozwijam platformę, która pomaga klientom zarządzać tymi samymi obszarami. Dlatego nie mogę traktować innowacji i bezpieczeństwa jako kolejnych etapów — jedno nie następuje po drugim; albo zachodzą równocześnie, albo wcale. Każdy klient, z którym współpracujemy od początku działalności, przeszedł pełną ocenę bezpieczeństwa, a za każdym razem, gdy dodajesz nowe narzędzie do swojego ekosystemu, zwiększasz ryzyko związane z tymi danymi. Dotyczy to zarówno nas, jak i naszych klientów, dlatego tworzenie rozwiązania i ponoszenie odpowiedzialności za sposób zarządzania nim wymaga jednoczesnego uwzględniania obu tych kwestii.

Jak, Pani zdaniem, agentowa AI wpłynie w przyszłości na rolę działów prawnych w firmach? Czy działy prawne będą wykorzystywać AI przede wszystkim do zwiększania produktywności, czy z czasem mogą stać się nadzorcami w dużej mierze autonomicznych procesów obejmujących całą organizację?

Generatywna AI przesunęła punkt ciężkości dyskusji z przyrostowej poprawy efektywności na fundamentalne przemyślenie sposobu wykonywania pracy prawnej oraz modelu operacyjnego, który będzie potrzebny w świecie szybko zmierzającym ku rozwiązaniom agentowym. Nie traktuję agentowej AI jako chwilowej mody, lecz jako warstwę wykonawczą, która może pomóc działom prawnym przejść od zarządzania pracą do aktywnego jej realizowania, przy zachowaniu odpowiednich mechanizmów kontroli i zabezpieczeń.

W organizacjach trwa obecnie zmiana polegająca na tym, że narzędzia stają się „punktem wejścia”: użytkownicy biznesowi coraz częściej zaczynają pracę od narzędzi takich jak Microsoft Copilot czy Claude, a pytanie brzmi, jak dział prawny może zadbać o to, by te interakcje były powiązane z właściwymi systemami, danymi i procesami.

Nie postrzegam tego więc jako wyboru między warstwą zwiększającą produktywność a nadzorem, lecz jako ewolucję. Dział prawny zaczyna od wykorzystywania AI do szybszego wykonywania poszczególnych zadań, ale wraz z dojrzewaniem rozwiązań agentowych prawdziwa szansa polega na przejęciu przez dział prawny odpowiedzialności za samą warstwę wykonawczą i aktywnym realizowaniu zadań za pośrednictwem systemów objętych odpowiednimi mechanizmami kontroli, zamiast jedynie szybszego przygotowywania pierwszych wersji dokumentów.

Dziękuję za świetny wywiad. Czytelnicy, którzy chcą poznać możliwości zintegrowanych operacji prawnych i procesów pracy z AI objętych odpowiednimi mechanizmami kontroli, mogą odwiedzić stronę LawVu.