Steve Wilson, Chief AI i Product Officer w Exabeam – Wywiad z serii

Steve Wilson jest Chief AI i Product Officer w Exabeam, gdzie jego zespół stosuje najnowocześniejsze technologie AI, aby rozwiązać prawdziwe wyzwania związane z cyberbezpieczeństwem. Założył i współprzewodniczy projektowi OWASP Gen AI Security, organizacji odpowiedzialnej za branżowy standard listy OWASP Top 10 dla Large Language Model Security.

Jego nagradzana książka, „The Developer’s Playbook for Large Language Model Security” (O’Reilly Media), została wybrana jako najlepsza książka o cyberbezpieczeństwie przez Cyber Defense Magazine.

Exabeam jest liderem w dziedzinie inteligencji i automatyzacji, która napędza operacje bezpieczeństwa dla najbardziej inteligentnych firm na świecie. Łącząc skalę i moc AI z siłą naszej wiodącej analityki behawioralnej i automatyzacji, organizacje zyskują bardziej holistyczny widok incydentów bezpieczeństwa, odkrywają anomalie, które inne narzędzia przegapiają, oraz osiągają szybsze, bardziej dokładne i powtarzalne odpowiedzi. Exabeam umożliwia globalnym zespołom bezpieczeństwa walkę z cyberzagrożeniami, ograniczanie ryzyka i usprawnianie operacji.

Twoje nowe stanowisko to Chief AI i Product Officer w Exabeam. Jak to odzwierciedla ewoluujące znaczenie AI w cyberbezpieczeństwie?

Cyberbezpieczeństwo było jednym z pierwszych obszarów, które naprawdę zaakceptowały machine learning — w Exabeam używamy ML jako rdzenia naszego silnika wykrywania od ponad dekady, aby identyfikować nietypowe zachowania, które ludzie mogliby przegapić. Z przybyciem nowszych technologii AI, takich jak inteligentni agenci, AI przeszło od bycia ważnym do absolutnie centralnego.

Moja połączona rola Chief AI i Product Officer w Exabeam odzwierciedla dokładnie tę ewolucję. W firmie, która jest głęboko zaangażowana w wbudowanie AI w swoje produkty, oraz w branży takiej jak cyberbezpieczeństwo, gdzie rola AI jest coraz bardziej krytyczna, miało sens połączenie strategii AI i produktowej pod jedną rolą. To połączenie zapewnia, że jesteśmy strategicznie wyalignowani, aby dostarczać transformacyjne rozwiązania AI dla analityków i zespołów operacyjnych, którzy od nas zależą.

Exabeam jest pionierem “agentic AI” w operacjach bezpieczeństwa. Czy możesz wyjaśnić, co to znaczy w praktyce i jak się różni od tradycyjnych podejść AI?

Agentic AI reprezentuje znaczącą ewolucję od tradycyjnych podejść AI. Jest to ukierunkowane na działanie — proaktywnie inicjuje procesy, analizuje informacje i prezentuje spostrzeżenia, zanim analitycy nawet o nie poproszą. Poza samą analizą danych, agentic AI działa jako doradca, oferując strategiczne rekomendacje w całym SOC, prowadząc użytkowników w kierunku najłatwiejszych zwycięstw i zapewniając krok-po-kroku wskazówki, aby poprawić ich postawę bezpieczeństwa. Dodatkowo, agenci działają jako specjalistyczne pakiety, a nie jeden nieporęczny chatbot, każdy dostosowany do konkretnych osobowości i zbiorów danych, które integrują się bezproblemowo z workflow analityków, inżynierów i menedżerów, aby dostarczyć ukierunkowaną, wpływową pomoc.

Z Exabeam Nova integrującym wiele agentów AI w workflow SOC, jaki jest przyszły wygląd roli analityka bezpieczeństwa? Czy ewoluuje, kurczy się, czy staje się bardziej wyspecjalizowany?

Rola analityka bezpieczeństwa ewoluuje zdecydowanie. Analitycy, inżynierowie i menedżerowie SOC są przytłoczeni danymi, alertami i przypadkami. Prawdziwa przyszła zmiana nie dotyczy tylko oszczędności czasu na rutynowych zadaniach — choć agenci naprawdę pomagają tam — ale raczej podniesienia ich roli do poziomu lidera zespołu. Analitycy nadal będą potrzebować silnych umiejętności technicznych, ale teraz będą prowadzili zespół agentów gotowych do przyspieszenia ich zadań, wzmocnienia ich decyzji i naprawdę poprawy postawy bezpieczeństwa. Ta transformacja pozycjonuje analityków, aby stali się strategicznymi koordynatorami, a nie taktycznymi reagującymi.

Najnowsze dane pokazują rozłąkę między executive a analitykami dotyczącą wpływu AI na produktywność. Dlaczego, według ciebie, istnieje ta luka percepcyjna, i jak można ją rozwiązać?

Najnowsze dane pokazują wyraźną rozłąkę: 71% executive wierzy, że AI znacząco zwiększa produktywność, ale tylko 22% analityków pierwszej linii, codziennych użytkowników, zgadza się. W Exabeam widzieliśmy, jak ta luka rosła wraz z ostatnim szałem obietnic AI w cyberbezpieczeństwie. Nikt nie miał łatwiej tworzyć efektowne demo AI, a dostawcy są szybcy, aby twierdzić, że rozwiązali każdy problem SOC. Chociaż te demo zaczarowują executive początkowo, wiele z nich zawodzi tam, gdzie się liczy — w rękach analityków. Potencjał jest tam, a kieszenie prawdziwych korzyści istnieją, ale jest jeszcze za dużo szumu i za mało znaczących ulepszeń. Aby zmostować tę lukę percepcyjną, executive muszą priorytetowo traktować narzędzia AI, które naprawdę umożliwiają analitykom, a nie tylko imponują w demo. Kiedy AI naprawdę zwiększa skuteczność analityków, zaufanie i prawdziwe ulepszenia produktywności będą następować.

AI przyspiesza wykrywanie i odpowiedź na zagrożenia, ale jak utrzymać równowagę między automatyzacją a ludzkim osądem w przypadku wysokiego ryzyka incydentów cyberbezpieczeństwa?

Możliwości AI rozwijają się szybko, ale dzisiejsze podstawowe „modele językowe” podpinane pod inteligentne agenty zostały pierwotnie zaprojektowane do zadań takich jak tłumaczenie języka — a nie nuansowane podejmowanie decyzji, teoria gier czy obsługa złożonych czynników ludzkich. To sprawia, że osąd ludzki staje się jeszcze bardziej niezbędny w cyberbezpieczeństwie. Rola analityka nie jest zmniejszona przez AI; jest podniesiona. Analitycy są teraz liderami zespołu, wykorzystującymi swoje doświadczenie i wgląd, aby kierować i kierować wieloma agentami, zapewniając, że decyzje pozostają poinformowane przez kontekst i nuans.

Jak twoja strategia produktowa ewoluuje, gdy AI staje się podstawowym założeniem projektowym, a nie dodatkiem?

W Exabeam nasza strategia produktowa jest fundamentalnie ukształtowana przez AI jako podstawowe założenie projektowe, a nie powierzchowne dodatek. Zbudowaliśmy Exabeam od podstaw, aby wspierać machine learning — od ingestion logów, parsowania, wzbogacania i normalizacji — aby zaludnić robustowy Common Information Model, specjalnie zoptymalizowany do karmienia systemów ML. Wysokiej jakości, ustrukturyzowane dane nie są tylko ważne dla systemów AI — są ich życiodajne. Dziś bezpośrednio wbudowujemy naszych inteligentnych agentów w krytyczne workflow, unikając generycznych, nieporęcznych chatbotów. Zamiast tego celujemy precyzyjnie w kluczowe przypadki użycia, które dostarczają realne, namacalne korzyści naszym użytkownikom.

Z Exabeam Nova, celujesz w “przejście od asysty do autonomii”. Jakie są kluczowe kamienie milowe, aby osiągnąć w pełni autonomiczne operacje bezpieczeństwa?

Pomysł w pełni autonomicznych operacji bezpieczeństwa jest intruigujący, ale przedwczesny. W pełni autonomiczni agenci, w dowolnej dziedzinie, po prostu nie są jeszcze efektywni ani bezpieczni. Chociaż podejmowanie decyzji w AI poprawia się, nie osiągnęło jeszcze poziomu niezawodności ludzkiej i nie osiągnie przez jakiś czas. W Exabeam nasze podejście nie polega na gonieniu za całkowitą autonomią, co moja grupa w OWASP identyfikuje jako podstawową słabość znaną jako Nadmierna Agencja. Nadanie agentom więcej autonomii, niż można było wiarygodnie przetestować i zwalidować, stawia operacje na niebezpiecznym gruncie. Zamiast tego nasz cel to zespoły inteligentnych agentów, zdolnych, ale starannie prowadzonych, pracujących pod nadzorem ludzkich ekspertów w SOC. To połączenie ludzkiego nadzoru i ukierunkowanej pomocy agenticznej jest realistyczną, wpływową drogą do przodu.

Jakie są największe wyzwania, z którymi spotkałeś się przy integrowaniu GenAI i machine learning w skali wymaganej dla cyberbezpieczeństwa w czasie rzeczywistym?

Jednym z największych wyzwań w integrowaniu GenAI i machine learning w skali dla cyberbezpieczeństwa jest balansowanie prędkości i precyzji. GenAI sam w sobie nie może zastąpić olbrzymiej skali, jaką obsługuje nasz silnik ML o wysokiej prędkości — przetwarzający terabajty danych w sposób ciągły. Nawet najbardziej zaawansowani agenci AI mają „okno kontekstowe”, które jest ogromnie niewystarczające. Zamiast tego nasz przepis polega na tym, aby użyć ML do destylacji ogromnych ilości danych w actionable spostrzeżenia, które nasze inteligentne agenty następnie tłumaczą i operacjonalizują skutecznie.

Byłeś współzałożycielem OWASP Top 10 dla aplikacji LLM. Co cię zainspirowało do tego, i jak widzisz, jak to kształtuje najlepsze praktyki bezpieczeństwa AI?

Kiedy uruchomiłem OWASP Top 10 dla aplikacji LLM na początku 2023 roku, strukturalna informacja o bezpieczeństwie LLM i GenAI była rzadka, ale zainteresowanie było niezwykle wysokie. W ciągu kilku dni ponad 200 wolontariuszy dołączyło do inicjatywy, przynosząc różnorodne opinie i ekspertyzę, aby ukształtować oryginalną listę. Od tego czasu została ona przeczytana ponad 100 000 razy i stała się podstawą międzynarodowych standardów branżowych. Dziś wysiłek ten rozwinął się w projekt OWASP Gen AI Security, obejmujący obszary takie jak AI Red Teaming, zabezpieczanie systemów agenticznych i obsługę ofensywnego użycia Gen AI w cyberbezpieczeństwie. Nasza grupa niedawno przekroczyła 10 000 członków i nadal rozwija praktyki bezpieczeństwa AI na całym świecie.

Twoja książka, ‘The Developer’s Playbook for LLM Security‘, wygrała nagrodę. Jaki jest najważniejszy wniosek lub zasada z tej książki, którą każdy deweloper AI powinien zrozumieć przy budowaniu bezpiecznych aplikacji?”

Najważniejszy wniosek z mojej książki, “The Developer’s Playbook for LLM Security”, jest prosty: „z wielką mocą przychodzi wielka odpowiedzialność”. Podczas gdy zrozumienie tradycyjnych pojęć bezpieczeństwa pozostaje niezwykle ważne, deweloperzy teraz stają twarzą w twarz z całkowicie nowym zestawem wyzwań unikalnych dla LLM. Ta potężna technologia nie jest darmową przepustką; wymaga proaktywnych, przemyślanych praktyk bezpieczeństwa. Deweloperzy muszą rozszerzyć swoją perspektywę, rozpoznając i adresując te nowe słabości od samego początku, wbudowując bezpieczeństwo w każdy krok cyklu życia aplikacji AI.

Jak widzisz ewolucję siły roboczej cyberbezpieczeństwa w ciągu najbliższych 5 lat, gdy agentic AI staje się bardziej mainstreamowy?

Obecnie jesteśmy w wyścigu zbrojeń AI. Przeciwnicy agresywnie wdrożenia AI, aby wesprzeć swoje złe cele, czyniąc profesjonalistów cyberbezpieczeństwa jeszcze bardziej niezbędnymi niż kiedykolwiek. Następne pięć lat nie zmniejszy siły roboczej cyberbezpieczeństwa; podniosą ją. Profesjonaliści muszą zaakceptować AI, integrując ją w swoje zespoły i workflow. Role bezpieczeństwa przesuną się w kierunku strategicznego dowodzenia — mniej indywidualnego wysiłku i bardziej o koordynowaniu skutecznej odpowiedzi z zespołem agentów AI. Ta transformacja umożliwia profesjonalistom cyberbezpieczeństwa prowadzenie zdecydowanie i pewnie w walce z ewoluującymi zagrożeniami.

Dziękuję za wspaniały wywiad, czytelnicy, którzy chcą dowiedzieć się więcej, powinni odwiedzić Exabeam.