Sean Roche, starszy dyrektor ds. marketingu produktów i analizy wartości w Obsidian Security – cykl wywiadów

Sean Roche, starszy dyrektor ds. marketingu produktów i analizy wartości w Obsidian Security, kieruje międzydziałowymi inicjatywami skupionymi na bezpieczeństwie SaaS, bezpieczeństwie AI oraz strategii wejścia na rynek. Odgrywał kluczową rolę w tworzeniu pierwszych zintegrowanych ram zastosowań, łącząc działania sprzedaży, marketingu i zespołów dbających o sukces klientów wokół mierzalnych wyników biznesowych, a także nadzorując wdrożenia rozwiązań zabezpieczeń GenAI i agentów AI. Przed dołączeniem do Obsidian Security, Roche zajmował stanowiska kierownicze w firmach takich jak Forter, Aviatrix i Okta, gdzie specjalizował się w konsultingu wartości biznesowej, strategii cenowej, analizie wartości dla klienta i analizach zwrotu z inwestycji dla kadry zarządzającej. Jego doświadczenie łączy bezpieczeństwo cybernetyczne, strategię oprogramowania przedsiębiorstw i badania finansowe, dając mu rozległe doświadczenie w tłumaczeniu technicznych możliwości na mierzalny wpływ biznesowy dla klientów biznesowych.

Obsidian Security to firma zajmująca się cyberbezpieczeństwem, skupiona na zabezpieczaniu aplikacji SaaS, agentów AI, tożsamości i integracji przedsiębiorstw w środowiskach chmury. Firma dostarcza zintegrowaną platformę, która pomaga organizacjom wykrywać zagrożenia, zarządzać stanem zabezpieczeń SaaS, zarządzać dostępem do danych i monitorować ryzykowną aktywność w aplikacjach kluczowych dla działalności biznesowej, takich jak Microsoft 365, Salesforce (CRM ), Slack i inne usługi chmury. W ostatnich latach Obsidian rozwinął się w kierunku zabezpieczeń agentów AI, pomagając przedsiębiorstwom uzyskać wgląd w to, jak autonomiczne systemy AI wchodzą w interakcje z platformami SaaS, danymi i przepływami pracy w czasie rzeczywistym. Założony przez liderów bezpieczeństwa z doświadczeniem w firmach takich jak CrowdStrike (CRWD ), Okta, Cylance i Carbon Black, Obsidian pozycjonuje się jako kompleksowa platforma bezpieczeństwa SaaS i AI, zaprojektowana w celu rozwiązania rosnącej złożoności środowisk chmurowych i środowisk z autonomicznymi agentami AI.

Zbudowałeś swoją karierę na przecięciu wartości biznesowej, strategii ryzyka i bezpieczeństwa SaaS, obecnie kierując analizą wartości i marketingiem produktów w Obsidian Security. Co skłoniło Cię do skupienia się na zabezpieczaniu ekosystemów SaaS napędzanych przez AI, i jak podejście Obsidian różni się w przypadku wschodzących technologii autonomicznych agentów AI, takich jak OpenClaws?

Przez całą swoją karierę największą luką zawsze było to, czego bezpieczeństwo nie może zobaczyć, ponieważ to właśnie tam występują naruszenia. Widziałem to w incydentach, w których odłączone lub niezarządzane systemy stwarzały ekspozycję, której tradycyjne kontrole po prostu nie potrafiły wykryć. I widziałem tę samą dynamikę również w przypadku nowoczesnych mostów, których ludzie używają do łączenia się z głównymi platformami lub połączeń, które były poza normalną widocznością bezpieczeństwa, a w niektórych przypadkach nawet po tym, jak zespół IT uznał, że zostały wyłączone. Te doświadczenia pokazały mi, jak wiele ryzyka leży na styku systemów, a nie tylko wewnątrz systemów, które uważamy za zabezpieczone.

Ta rzeczywistość przechodzi od shadow IT do shadow AI, gdzie nowe narzędzia i przepływy pracy napędzane przez agenty mogą pojawić się i rozprzestrzenić się szybciej niż strategie zarządzania mogą nadążyć. Wiele podejść bezpieczeństwa odpowiada przez próby scentralizowania i ogarnięcia wszystkiego w jednej płaszczyźnie kontroli. Ale ten model psuje się w środowiskach rozproszonych, zwłaszcza gdy krytyczne dane i aktywność mają miejsce wewnątrz aplikacji innych firm, których nie posiadasz i nie możesz w pełni kontrolować.

To właśnie skłoniło mnie do zabezpieczania ekosystemów SaaS napędzanych przez AI, i to też dlatego podejście Obsidian jest tak przekonywujące. Liczba naruszeń SaaS wzrosła o 300%, a większość organizacji nadal nie ma odpowiedniego wglądu w to, jak te aplikacje są wykorzystywane. To jest luka, na której się skupiamy, aby zrozumieć, co tak naprawdę dzieje się wewnątrz przedsiębiorstwa i gdzie istnieje ekspozycja. Gdy technologie autonomicznych agentów AI, takie jak OpenClaws, dojrzewają, to podejście staje się jeszcze bardziej ważne, ponieważ ryzyko nie jest już tylko tym, czy agent ma dostęp do pewnych danych, ale tym, co może uzyskać i jak szybko może działać.

Systemy autonomicznych agentów AI, takie jak OpenClaws, zyskują znaczącą uwagę po NVIDIA (NVDA ) GTC. Z Twojego punktu widzenia, co fundamentalnie różni te systemy od wcześniejszych narzędzi AI pod względem ryzyka bezpieczeństwa?

Zrozumienie, co to są nie-ludzkie tożsamości i jak je zabezpieczać, stało się kluczowe dla zespołów bezpieczeństwa, ponieważ 68% incydentów bezpieczeństwa IT obecnie obejmuje tożsamości maszynowe, a połowa przedsiębiorstw uczestniczących w badaniu, doświadczyła naruszenia bezpieczeństwa z powodu niezarządzanych nie-ludzkich tożsamości. Przemysł bezpieczeństwa głównie skupił się na zarządzaniu stanem zabezpieczeń SaaS i zarządzaniu tożsamościami ludzkimi, podczas gdy tożsamości nie-ludzkie mnożyły się w tle. Teraz, gdy organizacje wdrażają na dużą skalę agentów AI z uprawnieniami administracyjnymi, deficyt zarządzania stał się krytyczny.

Systemy agentowe, takie jak OpenClaws, pokazują zarówno potencjał, jak i ryzyko rzeczywiście autonomicznej AI. To jeden z pierwszych razów, kiedy widzimy AI wypuszczoną do rzeczywistego środowiska z prawdziwą autonomią, działającą poza wąskim, nadzorowanym przepływem pracy.

Ryzyko bezpieczeństwa zmienia się szybko, gdy te możliwości stają się bardziej dostępne, obniżając barierę dla nieekspertów do interakcji i potencjalnego wykorzystania tych krytycznych systemów. Ludzie już łączą agenty AI ze swoimi środowiskami SaaS i rozszerzają krajobraz zagrożeń na wiele sposobów, w tym za pomocą kluczy API, natywnych integracji i aplikacji innych firm. Jednak każdy nowy przepływ pracy napędzany przez agenty mnoży liczbę ścieżek dostępu.

Niedawne naruszenie Vercel ilustruje to rosnące zagrożenie dla zespołów bezpieczeństwa. Gdy autoryzujesz aplikację innej firmy, w sposób dorozumiany ufajesz każdemu, kto dotyka infrastruktury tej aplikacji, ich dostawcy chmury, ich programistom, ich własnym połączonym usługom. Większość organizacji nie wie, na co tak naprawdę wyraziła zgodę, a ten problem jest zwiększony przez niekontrolowane upowszechnianie autonomicznych agentów AI.

Wielu agentów AI działa bez rzeczywistych ram technicznych, które utrzymywałyby ich zachowanie pod kontrolą. Gdy brakuje śladów pozwalających zidentyfikować aktywność agenta lub granice bezpieczeństwa są słabe, trudno ustalić, co agent zrobił, czego dotknął i co zmienił, zanim będzie można to sprawdzić po fakcie. To połączenie jest tym, co sprawia, że profil ryzyka jest fundamentalnie inny niż w przypadku wcześniejszych narzędzi AI.

Opisywałeś OpenClaws jako technologię, która może otwierać nowe możliwości ataku ze względu na szerokie uprawnienia i autonomię. Czy możesz przedstawić konkretny scenariusz, w którym to ryzyko staje się realne dla przedsiębiorstwa?

Ryzyko, takie jak te, jakie stwarza OpenClaws, staje się namacalne w momencie, gdy agenci ci przechodzą z zadań izolowanych do środowisk produkcyjnych, co już się dzieje.

Większość organizacji skupia się na upewnieniu, że odpowiednia osoba może uzyskać dostęp do agenta i że agent zachowuje się zgodnie z oczekiwaniami. Jednak niewiele organizacji myśli o tym, co się dzieje, gdy agent zaczyna wchodzić w interakcje z innym agentem.

To właśnie tam powierzchnia ataku się rozszerza dramatycznie. Dane wyjściowe z jednego systemu, takie jak wiadomości Slack lub zgłoszenia Jira, uruchamiają działania w innym systemie. Liderzy tracą kontrolę nad interakcjami i nie mogą utrzymać spójnej widoczności i śladów audytowych. Agenci ci łączą się również jednocześnie przez API SaaS, z których wiele nadal nie ma odpowiednich bram lub ochrony bezpieczeństwa.

Przeciętne przedsiębiorstwo już korzysta z setek agentów, a ich liczba wzrosła prawie 100-krotnie w ciągu ostatniego roku. Po rzeczywistym sprawdzeniu okazuje się, że 38% ma średni, wysoki lub krytyczny poziom ryzyka, większość z nich nie ma udokumentowanego właściciela, kilka zostało zbudowanych przez konta, które już nie istnieją, z aktywnymi połączeniami do systemów produkcyjnych i zerową historią wykonania.

Zamknięcie tej luki wymaga głębokiej widoczności wewnątrz samych aplikacji, aby lepiej zrozumieć, co te poświadczenia mogą tak naprawdę zrobić, w każdym systemie, wobec każdego zestawu danych, dla każdego potencjalnego wywołującego. Bez odpowiedniego kontekstu działasz tylko z połową obrazu. Liderzy muszą również zmienić strategie z wykrywania na egzekwowanie w czasie rzeczywistym, aby zablokować działania w momencie wykonania, zanim działanie zostanie zakończone, a nie po tym, jak szkoda już została wyrządzona.

Wiele organizacji uważa, że ma już odpowiednie zabezpieczenia SaaS. Gdzie te założenia się psują, gdy pojawiają się autonomiczni agenci AI?

Wiele organizacji uważa, że już „rozwiązały” bezpieczeństwo SaaS, ale założenie to jest podważane wraz z przyspieszeniem wdrażania autonomicznych agentów AI. Bezpieczeństwo SaaS często traktowane jest jako pole do odhaczenia: budżet jest zatwierdzony, narzędzie jest wdrożone, a problem uważa się za rozwiązany. W praktyce jednak API SaaS, które podtrzymują te środowiska, nigdy nie zostały w pełni objęte kontrolą, głównie dlatego, że istnieje bardzo ograniczony wgląd przedsiębiorstw w to, co się dzieje na poziomie API i które zasoby SaaS komunikują się ze sobą.

To tworzy strukturalną ślepotę, gdzie przedsiębiorstwa mogą zabezpieczyć tożsamości i punkty końcowe, ale często brakuje im jasnego widoku, jak uzyskuje się dostęp do danych SaaS i jakie działania się na nich wykonuje, gdy API są w grze. W rezultacie wiele organizacji nadal działa przez otwarty internet bezpośrednio do krytycznych systemów, nie rozumiejąc w pełni skali ani zachowania interakcji API, które mają miejsce pod spodem.

Autonomiczni agenci AI ujawniają tę lukę, tworząc wyzwania szybciej, niż zespoły mogą je zlikwidować, i stając się katalizatorem dla rozmowy o API.

Jak przedsiębiorstwa powinny przemyśleć zarządzanie, gdy mają do czynienia z autonomicznymi agentami AI, które mogą uzyskiwać dostęp do danych, przenosić je i wykonywać na nich działania w wielu systemach?

Żaden lider nie chce zwolnić adopcji AI teraz, zwłaszcza gdy rosną presje, aby działać szybciej lub pokazać mierzalne wyniki, przy czym w ocenach wykorzystuje się nawet zużycie tokenów. W wielu przypadkach dyrektywy AI pochodzą bezpośrednio od góry, gdy prezesi raportują postępy radom nadzorczym, a nawet publicznym interesariuszom, co tylko zwiększa presję, aby szybko wdrażać tę technologię. W tym środowisku, gdzie „AI za wszelką cenę” staje się domyślną postawą, błędy konfiguracyjne i nadmiernie szerokie uprawnienia dostępu nie mogą być naprawione wystarczająco szybko przez tradycyjne cykle zarządzania.

Problem polega na tym, że systemy agentowe nie czekają na naprawę. Mogą wykrywać systemy, łączyć działania w sekwencje i wykonywać przepływy pracy w wielu aplikacjach SaaS w ciągu kilku sekund, często kończąc dziesięć lub więcej kroków, zanim człowiek zdąży to zauważyć, nie mówiąc już o interwencji.

Dlatego zarządzanie nie jest już tylko sprawą wykrywania problemów wcześniej w cyklu rozwoju, ale coraz bardziej kontrolą w momencie, gdy agent działa. Liderzy bezpieczeństwa nie mogą skutecznie zarządzać agentami, jeśli kontrola następuje dopiero po nadużyciu.

W świecie, w którym agenci podejmują autonomiczne decyzje w systemach SaaS, jedynym wykonalnym podejściem do ochrony przed tymi zagrożeniami ze strony autonomicznych agentów AI jest zarządzanie podczas wykonywania działań. To podejście wymaga przechodzenia poza wykrywanie po wykonaniu, aby wykryć i zablokować eskalację uprawnień, nadmierny dostęp do danych i naruszenia polityki przed tym, jak mogą wpłynąć na organizację. Te zabezpieczenia muszą być zgodne ze standardami OWASP i najlepszymi praktykami branżowymi, zapewniając, że agenci działają w ramach jawnych i egzekwowalnych granic, aby zespoły mogły nadążyć za szybkością wdrażania autonomicznych agentów AI bez hamowania innowacji.

Pod względem technicznym, jakie są najbardziej pomijane słabości wprowadzane przez autonomicznych agentów AI w środowiskach SaaS?

Gdy organizacje przyjmują nowe narzędzie SaaS, coraz częściej odkrywają, że funkcjonalność AI jest dodawana lub włączana domyślnie. Problem polega na tym, że te możliwości często nie przychodzą z tym samym poziomem kontroli konfiguracyjnych lub audytowalności, na które zespoły bezpieczeństwa liczą w przypadku tradycyjnych funkcji SaaS. W rezultacie, gdy działanie jest podjęte, staje się trudne, aby odróżnić, czy zostało zainicjowane przez użytkownika ludzkiego, czy przez autonomicznego agenta. W wielu przypadkach przedsiębiorstwa nie mają możliwości wyłączenia funkcjonalności AI, ponieważ są one wbudowane w samą aplikację SaaS.

Ta niejasność tworzy istotny martwy punkt dla bezpieczeństwa i zarządzania. Jeśli wbudowana funkcja AI podejmuje decyzje w imieniu użytkownika, organizacje często nie mają jasnego sposobu, aby śledzić intencję, zrozumieć logikę decyzji lub nawet potwierdzić, co spowodowało określone działanie.

Ryzyko staje się jeszcze bardziej wyraźne, gdy się uwzględni łańcuch dostaw AI wewnątrz samego SaaS. Te wbudowane możliwości AI często zależą od modeli, usług i integracji zewnętrznych. Jeśli jakakolwiek część tego łańcucha jest skompromitowana, działa gorzej lub zostaje zmanipulowana, AI wewnątrz aplikacji SaaS może przekształcić zaufane aplikacje biznesowe w aktywne uczestniki ścieżki ataku.

Warstwa AI wewnątrz SaaS skutecznie stała się własnym łańcuchem dostaw, wprowadzając nową klasę ryzyka, którą należy monitorować i którą trzeba zarządzać oddzielnie. Bez widoczności, jak te wbudowane systemy AI się zachowują i na jakie dane się opierają, organizacje są ślepe na rosnącą część swojej powierzchni ataku SaaS.

Masz duże doświadczenie w określaniu wartości biznesowej i ryzyka. Jak organizacje powinny mierzyć ryzyko finansowe i reputacyjne związane z niezabezpieczonymi agentami AI?

Gdy agent AI jest nadużywany lub powoduje naruszenie, natychmiastowy wpływ nie jest tylko samym incydentem, ale odpowiedzią organizacyjną, która następuje. To zdarzenie spowolni tempo, w jakim firma jest skłonna przyjmować i skalować AI, gdy liderzy stają się bardziej ostrożni. Gdy zaufanie jest złamane, staje się znacznie trudniej ponownie uruchomić silnik innowacji, który napędzał wartość w pierwszej kolejności.

Ta dynamika sięga poza zespoły wewnętrzne do zewnętrznych stakeholderów. Rady, klienci i akcjonariusze oczekują odpowiedzialnego wdrożenia, a jakiekolwiek awarie związane z autonomicznymi agentami szybko stają się kwestią odpowiedzialności za powierzone interesy oraz reputacji. Gdy bezpieczeństwo nie jest wbudowane od samego początku, organizacje są zmuszone do reaktywnych rozmów o kontroli i bezpieczeństwie, co nieuchronnie spowalnia podejmowanie decyzji w całej firmie.

Istnieje również bardziej strukturalna ekspozycja finansowa, która jest często pomijana. Gdy postrzegany zasięg możliwych szkód wyrządzonych przez agentów AI rośnie, firmy mają tendencję do stawania się bardziej konserwatywnymi w alokacji kapitału. W niektórych przypadkach oznacza to zatrzymanie funduszy lub opóźnienie inwestycji, aby chronić przed potencjalnymi incydentami.

W tym sensie zabezpieczanie agentów AI staje się mniej czystym działaniem służącym ograniczaniu ryzyka, a bardziej rozmową o przychodach i wzroście. Organizacje, które mogą wdrożyć AI z zaufaniem, wiedząc, że agenci są zarządzani i utrzymywani w określonych granicach, będą mogły działać szybciej, podczas gdy te bez tej pewności będą naturalnie zwalniać. W 2026 roku ta zdolność do połączenia szybkości z zaufaniem staje się supermocą.

Widać napięcie między szybkim wdrażaniem AI a odpowiedzialnym jej wykorzystaniem. Jak wygląda zrównoważona strategia dla firm, które chcą innowować bez zwiększania swojego profilu ryzyka?

Obecnie jedną z największych luk między adopcją AI a odpowiedzialnym wdrożeniem jest komunikacja. Wiele przedsiębiorstw aktywnie używa AI w środowiskach SaaS, ale nie prowadzi konsekwentnie jasnej, zewnętrznej rozmowy o tym, jak jest używana, i jakie zabezpieczenia zostały wdrożone. Ten brak przejrzystości może rzeczywiście zwiększyć ryzyko, ponieważ pozostawia klientów i partnerów z przekonaniem, że należy zakładać najgorszy scenariusz, zamiast zrozumieć rzeczywiste środki kontroli, które wdrożono.

Bardziej zrównoważone podejście traktuje odpowiedzialne używanie AI jako część oferowanej wartości, a nie tylko jako wewnętrzne zadanie związane ze zgodnością. Istnieje okazja dla przedsiębiorstw, aby bardziej otwarcie informować o tym, jak AI jest zarządzana w ich środowiskach, w tym co może i nie może zrobić, oraz jakie zabezpieczenia istnieją, gdy wchodzi w interakcje z wrażliwymi systemami. Taka klarowność buduje zaufanie, aby bezpiecznie skalować AI.

Firmy, które mogą wyraźnie artykułować, jak AI jest używana w ich środowiskach SaaS i demonstrować, że jest kontrolowana w uporządkowany i możliwy do monitorowania sposób, będą mogły innowować szybciej bez zwiększania postrzeganego ryzyka.

Coraz więcej przedsiębiorstw eksperymentuje z autonomicznymi agentami AI. Jakie kroki zespoły bezpieczeństwa powinny podjąć już dziś, aby uniknąć kolejnego głośnego naruszenia bezpieczeństwa?

Autonomiczni agenci AI nie tylko wprowadzają nową klasę ryzyka, ale także przyspieszają te, których organizacje jeszcze nie widzą. W rzeczywistości shadow AI zwiększa średni koszt naruszenia o dodatkowe 670 tys. dolarów. Jednakże, korzenie problemu leżą w widoczności. Gdy organizacje nie wiedzą, gdzie AI jest używana lub jak wchodzi w interakcje z systemami, wykrycie incydentów i ograniczenie ich skutków zajmuje więcej czasu, bezpośrednio zwiększając zarówno finansowy, jak i regulacyjny wpływ.

Pierwszym natychmiastowym krokiem jest ustanowienie widoczności w całej firmie. Zespoły bezpieczeństwa potrzebują jasnego obrazu zarówno zatwierdzonego, jak i niezatwierdzonego użycia AI, nie tylko na poziomie aplikacji, ale także w przepływach pracy, gdzie AI aktywnie podejmuje decyzje lub na nie wpływa.

Gdy widoczność istnieje, uwaga skupia się na przekształceniu tego wglądu w egzekwowalne zasady i wbudowaniu ich w systemy, gdzie praca naprawdę się odbywa. Oznacza to uzgodnienie z biznesem w kwestii tego, jak AI powinno być używane, a następnie przechodzenie od dokumentacji do technicznych kontroli, które działają na punktach końcowych, platformach SaaS i systemach agentowych. Im wcześniej te kontrole zostaną wprowadzone do ścieżki wykonania, tym mniejsze prawdopodobieństwo, że kosztowne incydenty, których skutki trudno ograniczyć, będą wynikiem shadow AI i autonomicznych agentów.

Patrząc w przyszłość, jak widzisz ewolucję krajobrazu bezpieczeństwa, gdy systemy autonomicznych agentów AI stają się coraz bardziej wbudowane w infrastrukturę przedsiębiorstw?

Organizacje będą potrzebować bezpieczeństwa natywnego dla AI, aby rozwiązać zagrożenia napędzane przez AI. Te systemy muszą działać z prędkością maszyn, fundamentalnie zmieniając operacje bezpieczeństwa. Ludzie nadal będą uczestniczyć w procesie, ale przesuną się w kierunku strategicznego nadzoru, stosując kontekst i osąd, których AI jeszcze brakuje.

Zmienia to również strukturę zespołów bezpieczeństwa. Zespoły niekoniecznie się zmniejszą, ale ich zakres znacznie się rozszerzy, z jednym specjalistą od bezpieczeństwa odpowiedzialnym za znacznie większą powierzchnię poprzez automatyzację i narzędzia napędzane przez AI.

Ponadto, w środowiskach agentowych, monitorowanie i wykrywanie nie są wystarczające. Organizacje będą musiały wdrożyć prawdziwe mechanizmy egzekwowania. To oznacza budowanie systemów, które działają jak przełączniki: zdolność do włączania lub wyłączania funkcjonalności, ograniczania zachowania w czasie rzeczywistym i izolowania systemów, które zachowują się niewłaściwie lub mogą naruszyć szersze przedsiębiorstwo. Ryzyko łańcucha dostaw w AI jest po prostu zbyt duże, aby nie mieć wbudowanych w architekturę kontroli typu “kill-switch”.

Patrząc w przyszłość, AI będzie nadal przyspieszać, potencjalnie wykraczając poza ludzką prędkość i możliwości. Ale rozmowa nie może skupiać się tylko na ryzyku; musi również obejmować możliwości. To jak wychowywanie dzieci: AI będzie się rozwijać i popełniać błędy, ale ma również zdolność do przewyższenia nas. Zwycięzcy będą tymi, którzy przyjmą AI w skali, budując jednocześnie systemy kontroli niezbędne do jej bezpiecznego i zaufanego wdrożenia.

Dziękuję za wspaniały wywiad, czytelnicy, którzy chcą dowiedzieć się więcej, powinni odwiedzić Obsidian Security.