Craig Riddell, Globalny Dyrektor ds. Bezpieczeństwa w Wallarm – Wywiad

Craig Riddell, Globalny Dyrektor ds. Bezpieczeństwa w Wallarm, jest doświadczonym menedżerem ds. bezpieczeństwa, który pomaga przedsiębiorstwom zarządzać rosnącymi ryzykami związanymi z API i systemami opartymi na sztucznej inteligencji. W swojej obecnej roli pracuje ściśle z dyrektorami ds. bezpieczeństwa, dyrektorami ds. informacji i liderami inżynierii, aby przekładać rzeczywiste wzorce ataków i scenariusze nadużyć na działania bezpieczeństwa, z silnym naciskiem na obserwowalność – zrozumienie, jak API i systemy oparte na sztucznej inteligencji zachowują się w produkcji wśród użytkowników, aplikacji i integracji. Jego kariera obejmuje role kierownicze w dziedzinie zarządzania tożsamością i dostępem, architektury zaufania zero, oraz bezpieczeństwa przedsiębiorstw w organizacjach, w tym Netwrix, Kron i HP, gdzie kierował dużymi transformacjami zarządzania tożsamością i modernizował ramy bezpieczeństwa. Ekspertyza Riddella koncentruje się na nowych zagrożeniach, takich jak ataki na logikę biznesową, nadużycia API, dryf systemów opartych na sztucznej inteligencji i oszustwa, z ciągłym naciskiem na zamykanie luk między strategią bezpieczeństwa a wykonaniem operacyjnym.

Wallarm to firma specjalizująca się w ochronie API, aplikacji i systemów opartych na sztucznej inteligencji w nowoczesnych środowiskach chmury. Jej platforma zapewnia ciągłe odkrywanie, testowanie i ochronę w czasie rzeczywistym przed zagrożeniami, takimi jak nadużycia API, ataki na logikę biznesową i automatyczne eksploity, jednocześnie oferując głęboką widoczność w zakresie zachowania systemów w złożonych infrastrukturach. Zaprojektowana dla architektur wielochmurowych i natywnych chmury, Wallarm integruje się z istniejącymi procesami DevOps i bezpieczeństwa, umożliwiając organizacjom wykrywanie i blokowanie ataków w czasie rzeczywistym, zamiast po fakcie. Łącząc inwentaryzację API, wykrywanie zagrożeń opartych na sztucznej inteligencji i automatyczne możliwości odpowiedzi, platforma rozwiązuje rosnącą rzeczywistość, w której API i systemy oparte na sztucznej inteligencji stały się podstawową powierzchnią ataku dla nowoczesnych cyfrowych przedsiębiorstw.

Rozpocząłeś swoją karierę, pracując bezpośrednio z systemami i infrastrukturą, a następnie przeszedłeś na role kierownicze skupione na bezpieczeństwie tożsamości, dostępu, API i systemów opartych na sztucznej inteligencji. Jakie kluczowe zmiany podczas tej podróży doprowadziły Cię do wniosku, że prawdziwe ryzyko przesunęło się z peryferii do API i systemów opartych na maszynach?

Na początku mojej kariery skupialiśmy się na ochronie granic. Zapory sieciowe, segmentacja, wzmacnianie infrastruktury. Ten model działał, gdy systemy były bardziej statyczne, a granice zaufania były łatwiejsze do zdefiniowania.

To, co się zmieniło, to sposób, w jaki budowane są aplikacje i jak systemy взаимują się. API stały się łącznikiem wszystkiego, a sztuczna inteligencja przyspieszyła to jeszcze bardziej. Teraz systemy podejmują decyzje, wywołują inne systemy i wykonują akcje w skali i tempie, które nie obejmują ludzi w pętli.

W tym momencie peryferie stają się mniej istotne. Prawdziwe ryzyko przechodzi do miejsca, w którym podejmowane są decyzje i wykonują się akcje, wewnątrz API i maszynowych przepływów.

Jeśli nie masz widoczności i kontroli tam, ufasz zachowaniom, których nie możesz w pełni zobaczyć. To jest miejsce, w którym pojawia się ryzyko biznesowe, od ekspozycji finansowej po niezamierzone skutki i zakłócenia operacyjne.

Opisujesz “cyber handshake” jako złamany, odnosząc się do sposobu, w jaki systemy ustanawiają zaufanie i wymieniają akcje w coraz bardziej złożonych łańcuchach API i automatycznych procesów. Jak wygląda ten rozpad w środowisku przedsiębiorstwa?

W większości środowisk systemy ufają sobie nawzajem na podstawie tożsamości i uwierzytelnienia. Token jest ważny, żądanie jest dobrze sformatowane, a interakcja jest dozwolona.

Problem polega na tym, że to założenie, że ważne równa się bezpieczne. To już nie jest prawdą.

Uwierzytelniamy tożsamość, ale nie walidujemy intencji. Weryfikujemy dostęp, ale nie zachowanie w łańcuchu.

Usługa może być uprawniona do wywołania innej usługi, co wywołuje dalsze akcje w całym łańcuchu API. Każdy krok wygląda prawidłowo w izolacji, ale w pełnym łańcuchu zaczynasz widzieć niezamierzone zachowania lub nadużycia logiki.

W środowiskach opartych na sztucznej inteligencji jest to jeszcze bardziej nasilone. Agenci mogą łączyć akcje i wykonywać przepływy bez przeglądu ludzkiego.

Uścisk dłoni nadal występuje, ale nikt nie pyta, czy zachowanie ma sens w kontekście. Zaufanie jest ustanowione, ale nie jest ciągle walidowane.

Dlaczego ryzyko AI i API tak często pada między granicami organizacyjnymi, zamiast być wyraźnie własnością?

Ponieważ systemy nie są zgodne z tym, jak są zorganizowane.

Drużyna DevOps jest odpowiedzialna za dostarczanie. Drużyna bezpieczeństwa jest odpowiedzialna za politykę. Drużyny biznesowe są odpowiedzialne za wyniki. Drużyny danych są odpowiedzialne za modele. Każda grupa jest odpowiedzialna za część, ale nikt nie jest odpowiedzialny za system, jak się zachowuje w produkcji.

API wykonują logikę biznesową w systemach. Sztuczna inteligencja wprowadza nieodwracalne podejmowanie decyzji na górze. Razem przecinają każdą granicę.

Są budowane przez jedną drużynę, zabezpieczane przez inną, a konsumowane przez trzecią, z niekonsekwentnym monitorowaniem we wszystkich.

Luki, które to tworzy, nie są porażkami drużyn. Są porażkami modelu operacyjnego, który nie odzwierciedla, jak nowoczesne systemy naprawdę działają.

W Twoim doświadczeniu, które drużyny zwykle przyjmują, że posiadają ryzyko AI, i gdzie największe luki występują między zespołami bezpieczeństwa, DevOps i jednostkami biznesowymi?

Drużyny bezpieczeństwa mają tendencję do posiadania ryzyka AI z perspektywy zarządzania i zgodności. Drużyny DevOps są odpowiedzialne za wdrożenie i niezawodność. Jednostki biznesowe koncentrują się na wynikach.

Luki pojawiają się między tymi obszarami.

Bezpieczeństwo definiuje, co powinno się wydarzyć. DevOps zapewnia, że system działa. Biznes koncentruje się na wynikach. Ale bardzo niewiele drużyn ciągle patrzy na to, co system naprawdę robi w czasie rzeczywistym.

To jest przestrzeń, w której żyje ryzyko, zwłaszcza gdy zachowanie jest technicznie ważne, ale kontekstowo błędne.

Wiele nowoczesnych ataków pojawia się jako ważne i uwierzytelnione zachowanie, zamiast oczywistych wtargnięć. Jak organizacje powinny przemyśleć wykrywanie w tej nowej rzeczywistości?

Musimy wyjść poza identyfikowanie “złych” żądań.

W wielu przypadkach żądanie jest ważne. Poświadczenia są prawidłowe. Wywołanie API jest oczekiwane. To, co nie jest oczekiwane, to sekwencja akcji, objętość lub wynik.

Wykrywanie musi stać się behawioralne i kontekstowe. To mniej blokuje pojedyncze żądanie i bardziej rozumie, jak systemy взаимują się w czasie.

Podejścia, które naprawdę się sprawdzają w skali, przechodzą poza dopasowywanie wzorców. Rozkładają żądania strukturalnie, traktując każdą interakcję jako zestaw tokenów behawioralnych, zamiast próbować dopasować do znanych złych wzorców.

To pozwala zrozumieć, jak zachowanie ewoluuje i gdzie się odchylenia, nawet gdy wszystko wygląda ważnie na powierzchni.

Jeśli polegasz na statycznych regułach lub sygnaturach, przegapisz większość tego, co się liczy.

Podkreślałeś wagę obserwowalności w rzeczywistym zachowaniu. Co oznacza obserwowalność w API i systemach opartych na sztucznej inteligencji w produkcji?

Obserwowalność to nie tylko logi i metryki. To zrozumienie zachowania w kontekście.

Dla API oznacza to pełną widoczność żądań i odpowiedzi, jak są używane punkty końcowe i jak interakcje ewoluują w czasie.

Dla systemów opartych na sztucznej inteligencji oznacza to zrozumienie wejść, decyzji i wynikających akcji.

Najważniejsze jest połączenie ich w pełne przepływy, a nie izolowane zdarzenia.

Bez tego operujesz na założeniach o zachowaniu systemu, zamiast rzeczywistości.

Dlaczego tradycyjne przeglądy i modele zatwierdzania stają się mniej skuteczne w środowiskach napędzanych przez maszyny?

Ponieważ zmieniła się szybkość i skala.

Systemy wykonują tysiące lub miliony wywołań na minutę, a ataki lub niezamierzone zachowania mogą rozwinąć się w minutach lub sekundach. Nie możesz realistycznie umieścić człowieka w pętli dla każdej decyzji bez złamania wydajności.

Systemy oparte na sztucznej inteligencji również nie zawsze są deterministyczne, co sprawia, że modele przed zatwierdzeniem są mniej skuteczne.

Nadzór ludzki wciąż ma znaczenie, ale musi przesunąć się od zatwierdzania poszczególnych akcji do definiowania barier i monitorowania wyników.

Jakie są najczęstsze luki operacyjne, które widzisz, gdy firmy próbują zabezpieczyć systemy oparte na sztucznej inteligencji, używając ram bezpieczeństwa dziedzictwa?

Największa luka to nadmierne poleganie na kontrolach w czasie projektowania.

Organizacje koncentrują się na zabezpieczaniu modeli, przeglądaniu kodu i definiowaniu polityk przed wdrożeniem. To jest ważne, ale zakłada, że systemy będą się zachowywać tak, jak oczekiwano, gdy będą żywe.

W rzeczywistości systemy ewoluują. API się zmieniają. Modele oparte na sztucznej inteligencji взаимują się z nowymi danymi i przepływami. Zachowanie się zmienia w czasie.

Bez ciągłej walidacji zachowania w produkcji, organizacje są efektywnie ślepe po wdrożeniu.

Co wygląda praktyczny model operacyjny, gdy wielu interesariuszy dzieli odpowiedzialność za ryzyko AI i API?

Zaczyna się od uznania, że żadna pojedyncza drużyna nie może posiadać tego od początku do końca.

Praktyczny model definiuje współdzieloną odpowiedzialność, zakotwiczoną wokół wspólnego źródła prawdy: zachowanie w czasie rzeczywistym.

Bezpieczeństwo definiuje ryzyko i politykę. Inżynieria buduje i operuje systemy. Biznes definiuje akceptowalne wyniki.

Drużyny, które wyprzedzają to, działają w zamkniętej pętli. Ciągłe odkrywanie, egzekwowanie i ulepszanie, napędzane przez to, co systemy naprawdę robią w produkcji, a nie to, co było założone w czasie projektowania.

Wszystkie strony muszą mieć widoczność w zakresie tego, jak systemy działają w produkcji. Stamtąd drużyny mogą wyalignować się na to, co “dobrze” wygląda, wykryć odchylenia i zareagować.

Zmiana jest z posiadania w izolacji do współrzędnej odpowiedzialności, opartej na wglądzie w czasie rzeczywistym.

Spójrzając w przyszłość, czy oczekujesz, że odpowiedzialność za bezpieczeństwo stanie się bardziej scentralizowana, czy będzie kontynuować fragmentację, gdy systemy stają się bardziej autonomiczne?

Odpowiedzialność pozostanie rozproszona, ponieważ odzwierciedla, jak są budowane systemy.

To, co się zmieni, to sposób, w jaki ta odpowiedzialność jest koordynowana.

Zobaczymy więcej zunifikowanych modeli zarządzania, w których drużyny posiadają swoje domeny, ale działają z wspólną widocznością i kontekstem.

Organizacje, które odnoszą sukcesy, nie będą tymi, które próbują scentralizować wszystko. Będą tymi, które wyalignują interesariuszy wokół tego, jak systemy naprawdę zachowują się w świecie rzeczywistym.

Ponieważ jeśli nikt nie rozumie zachowania w czasie rzeczywistym, nikt nie posiada prawdziwego ryzyka.

Dziękuję za wspaniały wywiad, czytelnicy, którzy chcą dowiedzieć się więcej, powinni odwiedzić Wallarm.