Rick Caccia, CEO i współzałożyciel WitnessAI – seria wywiadów

Rick Caccia, CEO i współzałożyciel WitnessAI, ma bogate doświadczenie w uruchamianiu produktów związanych z bezpieczeństwem i zgodnością. Pełnił role kierownicze w dziale produktowym i marketingowym w firmach Palo Alto Networks (PANW ), Google (GOOGL ) i Symantec. Caccia wcześniej kierował marketingiem produktowym w ArcSight przez okres jego pierwszej oferty publicznej i późniejszych operacji jako spółki publicznej, a także pełnił funkcję pierwszego dyrektora marketingu w Exabeam. Posiada wiele tytułów uzyskanych na Uniwersytecie Kalifornijskim w Berkeley.

WitnessAI rozwija platformę bezpieczeństwa skoncentrowaną na zapewnieniu bezpiecznego i zabezpieczonego wykorzystania sztucznej inteligencji w przedsiębiorstwach. Z każdą dużą zmianą technologiczną – taką jak sieć, urządzenia mobilne i chmura obliczeniowa – pojawiają się nowe wyzwania bezpieczeństwa, tworząc możliwości dla liderów branży, aby wyłonić się. Sztuczna inteligencja reprezentuje następny etap tej ewolucji.

Spółka ma na celu ustanowienie się jako lider w dziedzinie bezpieczeństwa sztucznej inteligencji, łącząc ekspertyzę w zakresie uczenia maszynowego, bezpieczeństwa cybernetycznego i dużych operacji chmury. Zespół posiada głębokie doświadczenie w rozwoju sztucznej inteligencji, inżynierii wstecznej i wdrożeniu Kubernetes w wielu chmurach, rozwiązując krytyczne wyzwania związane z zabezpieczaniem technologii opartych na sztucznej inteligencji.

Czym skłoniło Cię do współzałożenia WitnessAI, a jakie kluczowe wyzwania w zakresie zarządzania i bezpieczeństwa sztucznej inteligencji staraliście się rozwiązać? 

Gdy po raz pierwszy rozpoczęliśmy działalność, myśleliśmy, że zespoły bezpieczeństwa będą martwić się o ataki na ich wewnętrzne modele sztucznej inteligencji. Zamiast tego, pierwszych 15 CISO, z którymi rozmawialiśmy, powiedziało, że odległe wdrożenie LLM w korporacjach jest jeszcze daleko, ale pilnym problemem jest ochrona pracowników przed korzystaniem z aplikacji sztucznej inteligencji innych firm. Zrobiliśmy krok wstecz i zobaczyliśmy, że problemem nie jest bronienie się przed strasznymi cyberatakami, ale bezpieczne umożliwienie firmom produktywnego korzystania z sztucznej inteligencji. Podczas gdy zarządzanie może być mniej atrakcyjne niż cyberataki, jest to to, czego potrzebują zespoły bezpieczeństwa i ochrony danych. Potrzebują widoczności tego, co ich pracownicy robią z aplikacjami sztucznej inteligencji innych firm, sposobu wdrożenia polityki korzystania i ochrony danych bez blokowania korzystania z tych danych. Dlatego właśnie to zbudowaliśmy.

Biorąc pod uwagę Twoje ogromne doświadczenie w Google Cloud, Palo Alto Networks i innych firmach związanych z bezpieczeństwem cybernetycznym, jak te role wpłynęły na Twój sposób budowania WitnessAI? 

Miałem okazję rozmawiać z wieloma CISO na przestrzeni lat. Jedną z najczęstszych rzeczy, które słyszę od CISO, jest: „Nie chcę być ‘Doktor Nie’, kiedy chodzi o sztuczną inteligencję; chcę pomóc naszym pracownikom w jej wykorzystaniu, aby byli lepsi.” Jako osoba, która pracowała z dostawcami rozwiązań bezpieczeństwa przez długi czas, jest to bardzo odmienne stwierdzenie. Jest to bardziej przypomina era internetu, kiedy sieć była nową i przełomową technologią. Kiedy budowaliśmy WitnessAI, specjalnie zaczynaliśmy od możliwości produktowych, które pomagały klientom w bezpiecznym wdrożeniu sztucznej inteligencji; nasza wiadomość brzmiała: „To jest jak magia, i oczywiście każdy chce doświadczyć magii.” Uważam, że firmy bezpieczeństwa zbyt szybko grają kartą strachu, a my chcieliśmy być inni.

Co odróżnia WitnessAI od innych platform zarządzania i bezpieczeństwa sztucznej inteligencji dostępnych na rynku? 

Np. większość innych dostawców w tej dziedzinie koncentruje się przede wszystkim na aspekcie bezpieczeństwa, a nie na zarządzaniu. Dla mnie zarządzanie jest jak hamulce w samochodzie. Jeśli naprawdę chcesz szybko dojechać do celu, potrzebujesz skutecznych hamulców oprócz silnego silnika. Nikt nie będzie jeździł ferrari bardzo szybko, jeśli nie ma hamulców. W tym przypadku twoja firma korzystająca z sztucznej inteligencji to ferrari, a WitnessAI to hamulce i kierownica.

W przeciwieństwie do tego, większość naszych konkurentów koncentruje się na teoretycznych strasznych atakach na model sztucznej inteligencji organizacji. To jest prawdziwy problem, ale jest to inny problem niż uzyskanie widoczności i kontroli nad tym, jak pracownicy korzystają z aplikacji sztucznej inteligencji dostępnych w internecie. Jest to o wiele łatwiejsze dla nas dodać zaporę ogniową sztucznej inteligencji (i mamy ją), niż dla dostawców zapory ogniowej sztucznej inteligencji dodać skuteczne zarządzanie i zarządzanie ryzykiem.

Jak WitnessAI równoważy potrzebę innowacji sztucznej inteligencji z bezpieczeństwem i zgodnością przedsiębiorstw? 

Jak napisałem wcześniej, uważamy, że sztuczna inteligencja powinna być jak magia – może pomóc ci w zrobieniu niesamowitych rzeczy. Z tym na uwadze, uważamy, że innowacje sztucznej inteligencji i bezpieczeństwo są ze sobą powiązane. Jeśli twoi pracownicy mogą bezpiecznie korzystać z sztucznej inteligencji, będą ją często wykorzystywać, a ty będziesz mógł wyprzedzić innych. Jeśli zastosujesz typowe podejście do bezpieczeństwa i zablokujesz ją, twoi konkurenci nie zrobią tego, a oni wyprzedzą ciebie. Wszystko, co robimy, dotyczy umożliwienia bezpiecznego wdrożenia sztucznej inteligencji. Jak jeden z naszych klientów powiedział mi: „To jest magia, ale większość dostawców traktuje ją jak czarną magię, straszną i czymś, czego się boją.” W WitnessAI pomagamy umożliwić tę magię.

Czy możesz opowiedzieć o filozofii firmy w zakresie zarządzania sztuczną inteligencją – czy widzisz bezpieczeństwo sztucznej inteligencji jako umożliwienie, a nie ograniczenie? 

Często mamy CISO, którzy podchodzą do nas na wydarzeniach, na których prezentowaliśmy, i mówią nam: „Wasza konkurencja mówi tylko o strasznych aspektach sztucznej inteligencji, a wy jesteście jedynymi, którzy mówią, jak ją skutecznie wykorzystywać.” Sundar Pichai z Google powiedział, że „sztuczna inteligencja może być bardziej głęboka niż ogień”, a to jest interesująca metafora. Ogień może być niezwykle szkodliwy, jak to widzieliśmy ostatnio. Ale kontrolowany ogień może tworzyć stal, co przyspiesza innowacje. Czasami w WitnessAI mówimy o tworzeniu innowacji, które umożliwiają naszym klientom bezpieczne kierowanie „ogniem” sztucznej inteligencji, aby tworzyć coś w rodzaju stali. Alternatywnie, jeśli uważasz, że sztuczna inteligencja jest jak magia, to może naszym celem jest dać ci magiczną różdżkę, aby ją kierować i kontrolować.

W każdym przypadku absolutnie wierzymy, że bezpieczne umożliwienie sztucznej inteligencji jest celem. Po prostu, aby dać przykład, istnieje wiele narzędzi do zapobiegania utracie danych (DLP), jest to technologia, która istnieje od dawna. Ludzie próbują zastosować DLP do korzystania z sztucznej inteligencji, a może wtyczka przeglądarki DLP widzi, że wpisałeś długi tekst z prośbą o pomoc w pracy, i ten tekst zawiera przypadkowo numer identyfikacyjny klienta. Co się dzieje? Produkt DLP blokuje tekst, aby nie wyszedł, i nigdy nie otrzymujesz odpowiedzi. To jest ograniczenie. Zamiast tego, z WitnessAI, możemy zidentyfikować ten sam numer i cicho oraz chirurgicznie usunąć go, a następnie odtworzyć go w odpowiedzi sztucznej inteligencji, abyś otrzymał użyteczną odpowiedź, jednocześnie chroniąc twoje dane. To jest umożliwienie.

Jakie są największe ryzyka, przed którymi stają przedsiębiorstwa wdrażające generatywną sztuczną inteligencję, i jak WitnessAI łagodzi te ryzyka?

Pierwszym jest widoczność. Wiele osób jest zaskoczonych, dowiadując się, że wszechświat aplikacji sztucznej inteligencji nie ogranicza się tylko do ChatGPT i DeepSeek; istnieje literalnie tysiące aplikacji sztucznej inteligencji w internecie, a przedsiębiorstwa absorbują ryzyko związane z korzystaniem z tych aplikacji przez pracowników, więc pierwszym krokiem jest uzyskanie widoczności: które aplikacje sztucznej inteligencji używają moi pracownicy, co robią z tymi aplikacjami i czy jest to ryzykowne?

Drugim jest kontrola. Twój zespół prawniczy opracował kompleksową politykę korzystania z sztucznej inteligencji, która zapewnia bezpieczeństwo danych klientów, danych obywateli, własności intelektualnej, a także bezpieczeństwo pracowników. Jak wdrożysz tę politykę? Czy jest to w produkcie zabezpieczeń końcowych? W zaporze sieciowej? W sieci VPN? W chmurze? Co, jeśli pochodzą one z różnych dostawców? Dlatego potrzebujesz sposobu na zdefiniowanie i wdrożenie polityki korzystania, który jest spójny wśród modeli sztucznej inteligencji, aplikacji, chmur i produktów zabezpieczeń.

Trzecim jest ochrona własnych aplikacji. W 2025 roku zobaczymy szybsze wdrożenie modeli językowych w przedsiębiorstwach, a następnie szybsze wdrożenie aplikacji czatu opartych na tych modelach. Dlatego przedsiębiorstwa muszą upewnić się, że nie tylko aplikacje są chronione, ale także, że aplikacje nie mówią „głupich” rzeczy, takich jak zalecenie konkurenta.

Rozwiązujemy wszystkie trzy. Zapewniamy widoczność aplikacji, do których ludzie uzyskują dostęp, jak z nich korzystają, politykę opartą na tym, kim jesteś i czego próbujesz osiągnąć, oraz bardzo skuteczne narzędzia do zapobiegania atakom, takim jak jailbreaki lub niepożądane zachowania botów.

Jak funkcja obserwowalności sztucznej inteligencji WitnessAI pomaga firmom śledzić korzystanie z sztucznej inteligencji przez pracowników i zapobiegać ryzykom „cieniowej sztucznej inteligencji”?

WitnessAI łączy się z twoją siecią w sposób prosty i cichy, tworząc katalog każdej aplikacji sztucznej inteligencji (a jest ich literalnie tysiące w internecie), do której pracownicy uzyskują dostęp. Mówimy ci, gdzie te aplikacje są zlokalizowane, gdzie przechowują dane itd., abyś zrozumiał, jak ryzykowne są te aplikacje. Możesz włączyć widoczność rozmów, gdzie używamy głębokiej inspekcji pakietów, aby obserwować teksty wejściowe i wyjściowe. Możemy klasyfikować teksty wejściowe według ryzyka i zamiaru. Zamiar może być „napisanie kodu” lub „napisanie umowy korporacyjnej”. Jest to ważne, ponieważ pozwala nam później napisać kontrolę polityki opartą na zamiarze.

Jaką rolę odgrywa egzekwowanie polityki sztucznej inteligencji w zapewnieniu zgodności korporacyjnej, a jak WitnessAI ułatwia ten proces?

Zgodność oznacza zapewnienie, że twoja firma przestrzega przepisów lub polityk, i istnieją dwie części zapewnienia zgodności. Pierwsza polega na tym, że musisz być w stanie zidentyfikować problematyczne działania. Na przykład, muszę wiedzieć, że pracownik używa danych klienta w sposób, który może naruszyć prawo ochrony danych. Robimy to za pomocą naszej platformy obserwowalności. Druga część polega na opisaniu i egzekwowaniu polityki wobec tego działania. Nie chcesz tylko wiedzieć, że dane klienta są narażone na utratę, chcesz je powstrzymać. Dlatego zbudowaliśmy unikalny silnik polityki sztucznej inteligencji, Witness/CONTROL, który pozwala ci łatwo tworzyć polityki oparte na tożsamości i zamiarze, aby chronić dane, zapobiegać szkodliwym lub nielegalnym odpowiedziom itd. Na przykład, możesz utworzyć politykę, która mówi coś w rodzaju: „Tylko nasz dział prawny może używać ChatGPT do pisania umów korporacyjnych, a jeśli to zrobi, automatycznie usuń wszystkie dane osobowe.” Łatwo to powiedzieć, a z WitnessAI łatwo to zaimplementować.

Jak WitnessAI rozwiązuje problemy związane z atakami na LLM i wstrzyknięciami poleceń?

Mamy zespół badawczy sztucznej inteligencji – naprawdę wyjątkowy. Na początku zbudowali system do tworzenia syntetycznych danych ataków, oprócz danych szkoleniowych. W efekcie, oceniliśmy nasze wstrzyknięcie poleceń w porównaniu z wszystkim, co jest dostępne, i jesteśmy skuteczni w ponad 99%, i regularnie łapiemy ataki, których same modele nie wykrywają.

W praktyce większość firm, z którymi rozmawiamy, chce zacząć od zarządzania aplikacjami pracowników, a następnie nieco później wdrożyć aplikację sztucznej inteligencji dla klienta opartą na ich danych wewnętrznych. Dlatego używają Witness, aby chronić swoich pracowników, a następnie włączają zaporę ogniową wstrzyknięć poleceń. Jeden system, jeden spójny sposób tworzenia polityk, łatwy do skalowania.

Jakie są Twoje długoterminowe cele dla WitnessAI, i jak widzisz ewolucję zarządzania sztuczną inteligencją w ciągu najbliższych pięciu lat? 

Do tej pory rozmawialiśmy tylko o modelu od osoby do aplikacji czatu. Nasz następny etap będzie dotyczył aplikacji do aplikacji, czyli sztucznej inteligencji agenty. Zaprojektowaliśmy API naszej platformy, aby działały równie dobrze z agentami i ludźmi. Poza tym, uważamy, że zbudowaliśmy nowy sposób uzyskania widoczności na poziomie sieci i kontroli polityki w erze sztucznej inteligencji, i będziemy rozwijać firmę z tym na uwadze. Thank you for the great interview, readers who wish to learn more should visit WitnessAI.