Wendy Gilbert, Wiceprezes ds. Produktu, Mark43 – Seria wywiadów

Wendy Gilbert, Wiceprezes ds. Produktu w Mark43, ma ponad dwie dekady doświadczenia w technologiach bezpieczeństwa publicznego, z karierą obejmującą role kierownicze w zarządzaniu produktami w organizacjach takich jak CentralSquare Technologies, TriTech Software Systems i VisionAIR. Stopniowo awansując na stanowiskach skupionych na systemach zarządzania rekordami (RMS) i platformach bezpieczeństwa publicznego, obecnie kieruje strategią produktu w Mark43, gdzie jest odpowiedzialna za kształtowanie ewolucji chmurowych rozwiązań wykorzystywanych przez agencje policyjne. Jej kadencja odzwierciedla głęboką specjalizację w modernizowaniu oprogramowania misji krytycznych dla pierwszych odpowiedzi, ze szczególnym uwzględnieniem użyteczności, zgodności i efektywności operacyjnej w środowiskach o wysokim stopniu ryzyka.

Mark43 jest wiodącym dostawcą chmurowych rozwiązań bezpieczeństwa publicznego, oferującym zintegrowaną platformę, która obejmuje zarządzanie rekordami (RMS), komputerowo wspomagane dysponowanie (CAD), analitykę i narzędzia mobilne zaprojektowane dla służb policyjnych i ratunkowych. Zbudowana na architekturze SaaS, platforma umożliwia agencjom uproszczenie pisania raportów, zarządzanie sprawami i dostęp do danych w czasie rzeczywistym z dowolnego miejsca, znacznie redukując administracyjne obciążenie i poprawiając czas reakcji. Systemy te są zaprojektowane do zastąpienia starszej infrastruktury skalowalnymi, bezpiecznymi i mobilnymi rozwiązaniami, pomagając ponad setkom agencji w poprawie świadomości sytuacyjnej, współpracy i ogólnych wyników bezpieczeństwa publicznego.

Przez ponad dwie dekady budowałaś produkty w firmach takich jak VisionAIR, TriTech, CentralSquare i teraz Mark43. Jak Twoja perspektywa na technologie bezpieczeństwa publicznego ewoluowała, a co podstawowo różni się w tej obecnej fali adopcji sztucznej inteligencji?

Technologia zmieniła się bardzo przez ostatnie dwie dekady. Przez większość tego czasu technologia była zaprojektowana, aby wspierać misję po fakcie. Systemy rejestrowały, co się wydarzyło, ale nie aktywnie pomagały kształtować, co powinno się wydarzyć następnie. To jest to, co jest podstawowo różne teraz.

Po raz pierwszy nie dodajemy tylko technologii do workflow bezpieczeństwa publicznego. Przebudowujemy te systemy jako rodzime dla sztucznej inteligencji od podstaw, co całkowicie zmienia rolę, jaką odgrywa technologia. Przechodzimy od systemów rejestracji do systemów działania. Zamiast tylko dokumentować incydenty, pomagamy agencjom interpretować, priorytetować i działać w czasie rzeczywistym. To jest pierwszy raz w mojej karierze, kiedy widzę, że technologia naprawdę działa z prędkością, jaką bezpieczeństwo publiczne zasługuje, czyli dostarcza produkty, które mogą przekształcić, w jaki sposób agencje funkcjonują na co dzień i ostatecznie dostarczają lepsze wyniki bezpieczeństwa publicznego.

Badania Mark43 pokazują silne poparcie dla sztucznej inteligencji wśród służb policyjnych, ale także wyraźne oczekiwanie dotyczące nadzoru ludzkiego. Co oznacza rzeczywiste zaangażowanie ludzkie w codziennych operacjach?

W każdej decyzji produktowej nasza zasada jest jasna. Sztuczna inteligencja wspiera. Ludzie decydują.

Sztuczna inteligencja może sformatować raport, wyświetlić połączenia między rekordami lub podkreślić kluczowe informacje w połączeniu. Ale funkcjonariusz, dyspozytor lub śledczy zawsze jest tym, kto stosuje sąd i podejmuje decyzję. W praktyce oznacza to, że sztuczna inteligencja przyspiesza drogę do wglądu, jednocześnie zachowując odpowiedzialność z ludźmi. Przyspiesza, sugeruje i łączy, ale nie decyduje.

To jest szczególnie ważne w workflow CAD i RMS, gdzie decyzje mają realne konsekwencje. Rola sztucznej inteligencji polega na redukowaniu tarcia i obciążenia poznawczego, aby profesjonaliści bezpieczeństwa publicznego mogli się skoncentrować na wszystkim, co wymaga ich ekspertyzy.

Jednym z powtarzających się problemów jest to, czy raporty i decyzje wspomagane przez sztuczną inteligencję będą utrzymywać się w sądzie. Jak projektujecie systemy, które są nie tylko operacyjnie przydatne, ale także prawnie uzasadnione?

Pochodząc z tła CAD i RMS, uzasadnienie nie jest „miłym dodatkiem”. Jeśli rekordy z systemu nie mogą się utrzymać w sądzie, narzędzia nie są gotowe do użycia w bezpieczeństwie publicznym.

To zaczyna się od przejrzystości. Każde wyjście wygenerowane przez sztuczną inteligencję musi być bezpośrednio połączone z danymi źródłowymi. Użytkownicy muszą być w stanie śledzić, skąd pochodzi informacja, w jaki sposób została wygenerowana i w jaki sposób została użyta. Jeśli ten łańcuch nie jest klarowny, system nie wytrzyma pod wpływem kontroli. System musi również znać swoje ograniczenia. Gdy dane są niepełne, projektujemy sztuczną inteligencję, aby zasygnalizować tę lukę, a nie próbować ją rozwiązać samodzielnie. Nie zgaduje.

Jeszcze jednym kluczowym elementem jest wyrównanie z tym, jak agencje naprawdę działają. Sztuczna inteligencja nie może dyktować polityki ani workflow. Musi dostosować się do wymagań prawnych, standardów raportowania i rzeczywistości operacyjnej każdej agencji.

Budujemy konfigurowalność bezpośrednio w systemie. Walidacje zgodności i uprawnienia sztucznej inteligencji mogą być ustawione na poziomie raportu i kodu przestępstwa, dzięki czemu agencje mogą wybrać, gdzie wsparcie sztucznej inteligencji jest odpowiednie, a gdzie nie. Na przykład agencja może włączyć wsparcie sztucznej inteligencji dla incydentów na niższym poziomie, podczas gdy ogranicza je w przypadkach, które mają wyższy standard dowodowy.

Także utrzymujemy pełną przejrzystość w zakresie korzystania z sztucznej inteligencji. Każdy przypadek zaangażowania sztucznej inteligencji jest rejestrowany, a pełna historia robocza jest zachowywana w ramach raportu. To tworzy klarowny, przeglądalny zapis, który wspiera zarówno wewnętrzną odpowiedzialność, jak i zewnętrzną kontrolę prawną.

Te systemy muszą wytrzymać kontrolę ze strony przełożonych, prawników i publiczności, aby być operacyjnie przydatne i skuteczne.

Z Twojego doświadczenia, gdzie sztuczna inteligencja już dostarcza wymierną wartość w bezpieczeństwie publicznym dzisiaj, a gdzie jeszcze nie spełnia oczekiwań?

Najbardziej natychmiastowa wartość jest w podstawowych workflow, nad którymi pracowałam przez całą moją karierę.

Pisanie raportów jest niezwykle ważne, ale jest to również uporczywe obciążenie czasem. Sztuczna inteligencja zmienia to, zmieniając dokumentację w coś, co dzieje się obok pracy, a nie po niej. To jest znacząca zmiana dla funkcjonariuszy i agencji zarządzających ograniczeniami kadrowymi.

Ale większa zmiana zachodzi w tym, jak agencje przechodzą od informacji do działania. Sztuczna inteligencja może wyświetlić to, co jest istotne w czasie rzeczywistym, a nie tylko po fakcie. Tam, gdzie widzę lukę, nie leży w technologiach. Leży w tym, jak organizacje wdrożą ją. Sztuczna inteligencja wymaga klarownych polityk, zarządzania i szkolenia, aby być skuteczna. Agencje, które traktują ją jako transformację workflow, widzą rezultaty. Jeśli agencje postrzegają ją tylko jako funkcję, nie odblokują tej samej możliwości.

Uprzedzenia pozostają jednym z najbardziej krytycznych wyzwań w sztucznej inteligencji, szczególnie w służbach policyjnych, gdzie historyczne dane mogą odzwierciedlać systemowe problemy. Jak Mark43 podejmuje próby łagodzenia uprzedzeń, jednocześnie utrzymując dokładność i zaufanie w swoich systemach?

Uprzedzenia są prawdziwą troską, szczególnie w systemach, które polegają na historycznych danych.

Od strony produktu odpowiedź nie polega na ukrywaniu, jak system działa. Polega na tym, aby uczynić go bardziej przejrzystym i odpowiedzialnym. Koncentrujemy się na poprawie jakości danych w punkcie wejścia, zapewnieniu spójności wyjść i zapewnieniu, że jest zawsze przegląd ludzki. W systemach CAD i RMS lepsze dane prowadzą do lepszych decyzji. Sztuczna inteligencja powinna wzmocnić to, a nie podważyć.

Celem jest uzasadnienie decyzji w bardziej kompletnych i spójnych informacjach, jednocześnie zapewniając, że każde wyjście może być zbadane, skontrolowane i poprawione w czasie.

Przejrzystość i audytowalność są często dyskutowane jako wymagania dla odpowiedzialnej sztucznej inteligencji. Co oznacza pełna audytowalność w praktyce dla agencji korzystających z narzędzi napędzanych przez sztuczną inteligencję?

W systemach bezpieczeństwa publicznego audytowalność zawsze była niezwykle ważna. Sztuczna inteligencja podnosi poprzeczkę.

Dla agencji korzystających z sztucznej inteligencji powinna istnieć pełna widoczność tego, co zostało wygenerowane, jakie dane ją poinformowały i w jaki sposób zostało użyte. Nic nie powinno istnieć bez klarownego połączenia z powiązanym rekordem. Każde wyjście powinno być wyjaśnialne. Każdy krok powinien być przeglądalny. To jest sposób, w jaki buduje się systemy, które mogą być zaufane, nie tylko operacyjnie, ale także publicznie.

Wiele agencji bezpieczeństwa publicznego nadal polega na starszych systemach i fragmentowanych danych. Jak ważna jest modernizacja infrastruktury przed tym, zanim sztuczna inteligencja może naprawdę dostarczyć znaczące rezultaty?

Sztuczna inteligencja jest tak potężna, jak fundament, na którym się opiera. Pracowałam z środowiskami CAD i RMS przez większość mojej kariery i widziałam, jak bardzo systemy fragmentowane ograniczają to, co agencje mogą zrobić. Śledczy używający tych systemów często muszą wyszukiwać wiele narzędzi, aby tylko zrozumieć pojedynczy przypadek. To nie jest zrównoważone.

Sztuczna inteligencja zależy od połączonych, dostępnych danych. Jeśli systemy są rozproszone lub wymagają ręcznych obejść, sztuczna inteligencja nie może dostarczyć znaczących wyników. Staje się kolejną warstwą złożoności zamiast mnożnikiem siły. Nowoczesna, chmurowa infrastruktura odblokowuje możliwość sztucznej inteligencji w całej połączonej platformie.

Widzisz przyszłość, w której sztuczna inteligencja aktywnie uczestniczy w workflow, takich jak zarządzanie sprawami lub dysponowanie, i gdzie powinny być ustawione granice?

Sztuczna inteligencja będzie kontynuowała przechodzenie głębiej w workflow, szczególnie w obszarach takich jak obsługa połączeń, triage i zarządzanie sprawami. Będzie coraz bardziej koordynować workflow, priorytetować działania i wyświetlać następne najlepsze kroki w czasie rzeczywistym. Jednak w bezpieczeństwie publicznym będą musiały być wyznaczone klarowne granice. Sztuczna inteligencja może rekomendować, priorytetować i wyświetlać kluczowe informacje. Może skrócić czas potrzebny do przejścia od informacji do działania. Ale decyzje, które wpływają na życie ludzi, muszą pozostać w gestii wyszkolonych profesjonalistów. Naszym celem jest klarowność i pewność w odpowiedniej chwili.

Zaufanie publiczne jest niezwykle ważne w policji, szczególnie gdy wprowadzane są nowe technologie. Jakie są najskuteczniejsze środki, aby zapewnić, że sztuczna inteligencja wzmacnia zaufanie, a nie podważa go?

Rozpoznajemy, że zaufanie jest czymś, nad czym agencje bezpieczeństwa publicznego pracują każdego dnia. Technologia musi spełniać ten sam standard. Dla sztucznej inteligencji zaczyna się to od widoczności i przejrzystości. Użytkownicy muszą zrozumieć, co system robi i dlaczego. Wymaga to również spójności, zarządzania i możliwości przeglądania wyników w czasie. Budujemy z pętlą sprzężenia zwrotnego bezpośrednio z pola, ponieważ zaufanie jest ustanawiane przez rzeczywiste użycie i ciągłe walidację.

Spójrzając w przyszłość przez najbliższe lata, jak oczekujesz, że rola sztucznej inteligencji w bezpieczeństwie publicznym ewoluować będzie od wsparcia administracyjnego w kierunku podejmowania decyzji w czasie rzeczywistym?

Sztuczna inteligencja stanie się wbudowana w cały cykl życia bezpieczeństwa publicznego, od momentu, gdy połączenie przychodzi, aż do tego, jak sprawa jest rozwiązana. Największa zmiana będzie w tym, jak szybko agencje mogą przechodzić od informacji do działania. To zawsze było wyzwaniem w systemach CAD i RMS. Przechodzimy w kierunku modelu, w którym system rozumie, jak Twoja agencja działa, przewiduje pierwsze kroki w workflow i pomaga je wykonać, jednocześnie pozostając ludzko-centrycznym.

Rola sztucznej inteligencji polega na redukowaniu administracyjnego obciążenia, ujednoliceniu fragmentowanych systemów, wyświetleniu odpowiednich informacji w odpowiednim czasie i wspieraniu lepszych decyzji pod presją. Sztuczna inteligencja nie może zastąpić doświadczenia. Pomaga zapewnić, że ludzie na pierwszej linii są lepiej poinformowani, przygotowani i wspierani w każdej decyzji, którą podejmują.

Dziękuję za wspaniały wywiad, czytelnicy, którzy chcą dowiedzieć się więcej, powinni odwiedzić Mark43.