Steve Wilson, Chief AI and Product Officer at Exabeam – Wywiad z serii

Steve Wilson jest Chief AI and Product Officer w Exabeam, gdzie jego zespół stosuje najnowocześniejsze technologie AI, aby rozwiązać prawdziwe wyzwania związane z cyberbezpieczeństwem. Założył i współprzewodniczy projektowi OWASP Gen AI Security, organizacji odpowiedzialnej za branżowy standard listy OWASP Top 10 dla Large Language Model Security.

Jego nagradzana książka, „The Developer’s Playbook for Large Language Model Security” (O’Reilly Media), została wybrana jako najlepsza książka o cyberbezpieczeństwie przez Cyber Defense Magazine.

Exabeam jest liderem w dziedzinie inteligencji i automatyki, która napędza operacje bezpieczeństwa dla najbardziej inteligentnych firm na świecie. łącząc skalę i moc AI z siłą naszej wiodącej analityki behawioralnej i automatyki, organizacje zyskują bardziej holistyczny widok incydentów bezpieczeństwa, odkrywają anomalie, których nie wykrywają inne narzędzia, i osiągają szybsze, bardziej dokładne i powtarzalne odpowiedzi. Exabeam umożliwia globalnym zespołom bezpieczeństwa walkę z cyberzagrożeniami, ograniczanie ryzyka i usprawnianie operacji.

Twoje nowe stanowisko to Chief AI and Product Officer at Exabeam. Jak to odzwierciedla ewoluujące znaczenie AI w cyberbezpieczeństwie?

Cyberbezpieczeństwo było jednym z pierwszych obszarów, które naprawdę przyjęło uczenie maszynowe — w Exabeam używamy ML jako rdzenia naszego silnika wykrywania od ponad dekady, aby identyfikować nietypowe zachowania, których ludzie mogliby nie zauważyć. Z przybyciem nowszych technologii AI, takich jak inteligentne agenci, AI rozwinęło się z czegoś ważnego w coś absolutnie centralnego.

Moja połączona rola Chief AI and Product Officer at Exabeam odzwierciedla genau tę ewolucję. W firmie, która jest głęboko zaangażowana w wbudowywanie AI w swoje produkty, i w branży takiej jak cyberbezpieczeństwo, gdzie rola AI jest coraz bardziej krytyczna, było sensowne, aby zjednoczyć strategię AI i produktu pod jedną rolą. To połączenie zapewnia, że jesteśmy strategicznie wyalignowani, aby dostarczać transformacyjne rozwiązania napędzane przez AI dla analityków bezpieczeństwa i zespołów operacyjnych, którzy od nas zależą.

Exabeam jest pionierem “agentic AI” w operacjach bezpieczeństwa. Czy możesz wyjaśnić, co to oznacza w praktyce i jak różni się od tradycyjnych podejść AI?

Agentic AI reprezentuje znaczącą ewolucję od tradycyjnych podejść AI. Jest to podejście ukierunkowane na działanie — proaktywne inicjowanie procesów, analiza informacji i prezentacja wniosków, zanim analitycy nawet o nie poproszą. Poza zwykłą analizą danych, agentic AI działa jako doradca, oferując strategiczne rekomendacje w całym SOC, prowadząc użytkowników w kierunku najłatwiejszych zwycięstw i zapewniając krok-po-kroku wskazówki, aby poprawić ich postawę bezpieczeństwa. Dodatkowo, agenci działają jako specjalistyczne pakiety, a nie jeden nieporęczny chatbot, każdy dostosowany do określonych osobowości i zestawów danych, które integrują się bezproblemowo z przepływem pracy analityków, inżynierów i menedżerów, aby dostarczyć ukierunkowaną, efektywną pomoc.

Z Exabeam Nova integrującym wiele agentów AI w całym przepływie pracy SOC, jaki jest przyszły wygląd roli analityka bezpieczeństwa? Czy ewoluuje, kurczy się, czy staje się bardziej wyspecjalizowana?

Rola analityka bezpieczeństwa ewoluuje zdecydowanie. Analitycy, inżynierowie i menedżerowie SOC są przytłoczeni danymi, alertami i przypadkami. Prawdziwa przyszła zmiana nie dotyczy tylko oszczędności czasu na mundurach zadaniach — choć agenci naprawdę pomagają tam — ale raczej podniesienia ich roli do poziomu lidera zespołu. Analitycy nadal będą potrzebowali silnych umiejętności technicznych, ale teraz będą prowadzili zespół agentów gotowych do przyspieszenia ich zadań, wzmocnienia ich decyzji i prawdziwego poprawienia postawy bezpieczeństwa. Ta transformacja pozycjonuje analityków, aby stali się strategicznymi koordynatorami, a nie taktycznymi odpowiednikami.

Najnowsze dane pokazują rozłączność między menedżerami a analitykami dotyczącą wpływu AI na produktywność. Dlaczego uważasz, że istnieje taka luka percepcyjna, i jak można ją rozwiązać?

Najnowsze dane pokazują wyraźną rozłączność: 71% menedżerów uważa, że AI znacząco zwiększa produktywność, ale tylko 22% analityków, codziennych użytkowników, zgadza się. W Exabeam widzieliśmy tę lukę, która rosła wraz z niedawnym szałem obietnic AI w cyberbezpieczeństwie. Nigdy nie było łatwiej stworzyć efektowne demo AI, a dostawcy są szybcy, aby twierdzić, że rozwiązali każde wyzwanie SOC. Chociaż te demo są początkowo imponujące, wiele z nich nie spełnia oczekiwań, gdzie to się liczy — w rękach analityków. Potencjał jest tam, a są kieszenie prawdziwej zapłaty, ale jest za dużo szumu i za mało znaczących ulepszeń. Aby przezwyciężyć tę lukę percepcyjną, menedżerowie muszą priorytetowo traktować narzędzia AI, które naprawdę upoważniają analityków, a nie tylko imponują na demo. Kiedy AI naprawdę zwiększa skuteczność analityków, zaufanie i prawdziwe ulepszenia produktywności będą następować.

AI przyspiesza wykrywanie zagrożeń i odpowiedzi, ale jak utrzymać równowagę między automatyką a ludzkim osądem w przypadku incydentów bezpieczeństwa o wysokim ryzyku?

Możliwości AI rozwijają się szybko, ale dzisiejsze podstawowe “modele językowe” podpinane pod inteligentne agenci zostały pierwotnie zaprojektowane do zadań takich jak tłumaczenie języka — a nie nuansowane podejmowanie decyzji, teoria gier lub obsługa złożonych czynników ludzkich. To sprawia, że ludzki osąd jest bardziej istotny niż kiedykolwiek w cyberbezpieczeństwie. Rola analityka nie jest zmniejszona przez AI; jest podniesiona. Analitycy są teraz liderami zespołu, wykorzystując swoje doświadczenie i wgląd, aby kierować i kierować wieloma agentami, zapewniając, że decyzje pozostają poinformowane przez kontekst i nuans. Ostatecznie, równowaga między automatyką a ludzkim osądem polega na stworzeniu symbiotycznego związku, w którym AI wzmocni ludzką ekspertyzę, a nie ją zastąpi.

Jak Twoja strategia produktowa ewoluuje, gdy AI staje się podstawowym założeniem projektowym, a nie dodatkiem?

W Exabeam nasza strategia produktowa jest fundamentalnie ukształtowana przez AI jako podstawowe założenie projektowe, a nie powierzchowny dodatek. Zbudowaliśmy Exabeam od podstaw, aby wspierać uczenie maszynowe — od pobierania logów, parsowania, wzbogacania i normalizacji — do zaludnienia solidnego Common Information Model specjalnie zoptymalizowanego do karmienia systemów ML. Wysokiej jakości, ustrukturyzowane dane nie są tylko ważne dla systemów AI — są ich życiem. Dziś bezpośrednio wbudowujemy naszych inteligentnych agentów w krytyczne przepływy pracy, unikając ogólnych, nieporęcznych chatbotów. Zamiast tego celujemy w kluczowe przypadki użycia, które dostarczają realne, namacalne korzyści naszym użytkownikom.

Z Exabeam Nova, który przechodzi od “asystującego do autonomicznego”. Jakie są kluczowe kamienie milowe, aby osiągnąć w pełni autonomiczne operacje bezpieczeństwa?

Pomysł w pełni autonomicznych operacji bezpieczeństwa jest intruigujący, ale przedwczesny. W pełni autonomiczni agenci, we wszystkich dziedzinach, po prostu nie są jeszcze wydajni ani bezpieczni. Chociaż podejmowanie decyzji w AI poprawia się, nie osiągnęło jeszcze ludzkiej niezawodności i nie osiągnie przez jakiś czas. W Exabeam nasze podejście nie polega na gonieniu za całkowitą autonomią, co moja grupa w OWASP identyfikuje jako podstawową słabość znaną jako Nadmierna Agencja. Dając agentom więcej autonomii niż można niezawodnie przetestować i zwalidować, stawia operacje na ryzykownym gruncie. Zamiast tego naszym celem są zespoły inteligentnych agentów, zdolnych, ale starannie prowadzonych, pracujących pod nadzorem ludzkich ekspertów w SOC. To połączenie ludzkiego nadzoru i ukierunkowanej pomocy agenticznej jest realistyczną, wpływową ścieżką do przodu.

Jakie są największe wyzwania, z którymi spotkałeś się przy integrowaniu GenAI i uczenia maszynowego w skali wymaganej dla cyberbezpieczeństwa w czasie rzeczywistym?

Jednym z największych wyzwań w integrowaniu GenAI i uczenia maszynowego w skali dla cyberbezpieczeństwa jest balansowanie prędkości i precyzji. GenAI sam w sobie nie może zastąpić czystej skali, jaką obsługuje nasz silnik ML — przetwarzając terabajty danych w sposób ciągły. Nawet najbardziej zaawansowani agenci AI mają “okno kontekstowe”, które jest ogromnie niewystarczające. Zamiast tego nasz przepis polega na używaniu ML do destylowania ogromnych ilości danych w działające wnioski, które nasze inteligentne agenci następnie tłumaczą i operacjonalizują skutecznie.

Byłeś współzałożycielem OWASP Top 10 dla aplikacji LLM. Co Cię zainspirowało do tego, i jak widzisz, jak kształtuje to najlepsze praktyki bezpieczeństwa AI?

Kiedy uruchomiłem OWASP Top 10 dla aplikacji LLM na początku 2023 roku, sformatowana informacja o bezpieczeństwie LLM i GenAI była rzadka, ale zainteresowanie było niezwykle wysokie. W ciągu kilku dni ponad 200 wolontariuszy dołączyło do inicjatywy, przynosząc różne opinie i ekspertyzę, aby ukształtować oryginalną listę. Od tego czasu została przeczytana ponad 100 000 razy i stała się podstawą międzynarodowych standardów branżowych. Dziś wysiłek rozwinął się w OWASP Gen AI Security Project, obejmujący obszary takie jak AI Red Teaming, zabezpieczanie systemów agenticznych i obsługa ofensywnych zastosowań Gen AI w cyberbezpieczeństwie. Nasza grupa niedawno przekroczyła 10 000 członków i nadal rozwija najlepsze praktyki bezpieczeństwa AI na całym świecie.

Twoja książka, ‘The Developer’s Playbook for LLM Security‘, wygrała nagrodę. Jaki jest najważniejszy wniosek lub zasada z tej książki, którą każdy deweloper AI powinien zrozumieć przy budowaniu bezpiecznych aplikacji?

Najważniejszy wniosek z mojej książki, “The Developer’s Playbook for LLM Security”, jest prosty: “z wielką mocą przychodzi wielka odpowiedzialność”. Chociaż zrozumienie tradycyjnych pojęć bezpieczeństwa pozostaje niezwykle ważne, deweloperzy teraz stają twarzą w twarz z całkowicie nowym zestawem wyzwań unikalnych dla LLM. Ta potężna technologia nie jest darmową przepustką; wymaga proaktywnych, przemyślanych praktyk bezpieczeństwa. Deweloperzy muszą rozszerzyć swoją perspektywę, rozpoznając i adresując te nowe słabości od samego początku, wbudowując bezpieczeństwo w każdy krok cyklu życia swoich aplikacji AI.

Jak widzisz ewolucję siły roboczej cyberbezpieczeństwa w ciągu najbliższych 5 lat, gdy agentic AI staje się bardziej mainstreamowy?

Jesteśmy obecnie w wyścigu zbrojeń AI. Przeciwnicy agresywnie wdrożenia AI, aby dalej ich złośliwe cele, sprawiają, że profesjonaliści cyberbezpieczeństwa są bardziej niezbędni niż kiedykolwiek. Następne pięć lat nie zmniejszy siły roboczej cyberbezpieczeństwa; podniosą ją. Profesjonaliści muszą zaakceptować AI, integrując ją z ich zespołami i przepływami pracy. Role bezpieczeństwa przesuną się w kierunku strategicznego dowództwa — mniej w kierunku indywidualnych wysiłków i bardziej w kierunku koordynowania skutecznej odpowiedzi z zespołem agentów napędzanych przez AI. Ta transformacja upoważnia profesjonalistów cyberbezpieczeństwa do prowadzenia zdecydowanie i pewnie w bitwie przeciwko ewoluującym zagrożeniom.

Dziękujemy za wspaniały wywiad. Czytelnicy, którzy chcą dowiedzieć się więcej, powinni odwiedzić Exabeam.