David Kellerman, Field CTO w Cymulate – Seria wywiadów

David Kellerman jest Field CTO w Cymulate, oraz seniorem technicznym i profesjonalistą z branży bezpieczeństwa informacji i cyberbezpieczeństwa. David prowadzi klientów do sukcesu i wysokich standardów bezpieczeństwa.

Cymulate jest firmą zajmującą się cyberbezpieczeństwem, która zapewnia walidację narażenia na zagrożenia dla organizacji, które chcą zlikwidować luki w zabezpieczeniach przed tym, zanim atakujący je wykorzystają. Jej platforma umożliwia organizacjom ustalenie poziomu bezpieczeństwa i wzmocnienie odporności na ataki poprzez ciągłe odkrywanie, walidację, priorytetowanie i kierowane usuwanie słabości zabezpieczeń. Dzięki automatyzacji i sztucznej inteligencji Cymulate oferuje zaawansowane testy bezpieczeństwa, aby zwalidować kontrolę, zagrożenia i ścieżki ataków. Jako platforma otwarta, Cymulate integruje się z istniejącą infrastrukturą bezpieczeństwa i IT, aby napędzać przepływ procesu zarządzania narażeniem i poprawiać obronę w czasie rzeczywistym. Poprzez oferowanie symulacji naruszenia i ataku (BAS), zarządzania narażeniem i zarządzania poziomem bezpieczeństwa, Cymulate pomaga firmom identyfikować słabości.

Jakie są główne powody wzrostu zagrożeń związanych z bezpieczeństwem cybernetycznym, związanych z AI w 2025 roku?

Zagrożenia związane z AI rosną, ponieważ AI staje się bardziej dostępne. Atakujący mają teraz dostęp do narzędzi AI, które mogą pomóc im w iteracji nad złośliwym oprogramowaniem, tworzeniu bardziej przekonywających e-maili phishingowych i zwiększaniu zasięgu ataków. Te taktyki nie są „nowe”, ale szybkość i dokładność, z jakimi są wdrożone, znacznie zwiększyły już długi backlog zagrożeń cybernetycznych, które zespoły bezpieczeństwa muszą rozwiązać. Organizacje spieszą się, aby wdrożyć technologię AI, nie rozumiejąc w pełni, że kontrole bezpieczeństwa muszą być wdrożone wokół niej, aby upewnić się, że nie zostanie łatwo wykorzystana przez atakujących.

Czy są jakieś specjalne branże lub sektory bardziej narażone na te zagrożenia związane z AI, i dlaczego?

Branże, które stale udostępniają dane na kanałach między pracownikami, klientami lub klientami, są podatne na zagrożenia związane z AI, ponieważ AI ułatwia atakującym angażowanie się w przekonywujące schematy inżynierii społecznej. Oszustwa phishingowe są skutecznie grą liczb, a jeśli atakujący mogą teraz wysyłać więcej autentycznie wyglądających e-maili do większej liczby odbiorców, ich wskaźnik sukcesu znacznie wzrośnie. Organizacje, które narażają swoje usługi oparte na AI na publiczność, potencjalnie zapraszają atakujących do próby ich wykorzystania. Chociaż jest to odziedziczone ryzyko udostępniania usług publicznych, jest kluczowe, aby to zrobić prawidłowo.

Jakie są główne słabości, których doświadczają organizacje podczas korzystania z publicznych modeli językowych (LLM) do celów biznesowych?

Przeciek danych jest prawdopodobnie największym problemem. Podczas korzystania z publicznego modelu językowego (LLM) trudno powiedzieć, dokąd te dane trafią – i ostatnią rzeczą, którą chcesz zrobić, jest przypadkowe przesłanie poufnych informacji do publicznie dostępnego narzędzia AI. Jeśli musisz przeanalizować poufne dane, zrób to wewnętrznie. Nie korzystaj z publicznych modeli LLM, które mogą przeciekać te dane do szerszego internetu.

Jak przedsiębiorstwa mogą skutecznie zabezpieczyć wrażliwe dane podczas testowania lub wdrażania systemów AI w produkcji?

Podczas testowania systemów AI w produkcji organizacje powinny przyjąć nastawienie ofensywne (zamiast defensywnego). Innymi słowy, zespoły bezpieczeństwa powinny aktywnie testować i walidować bezpieczeństwo swoich systemów AI, zamiast reagować na nadchodzące zagrożenia. Ciągłe monitorowanie ataków i walidacja systemów bezpieczeństwa może pomóc w zapewnieniu, że wrażliwe dane są chronione, a rozwiązania bezpieczeństwa działają zgodnie z założeniami.

Jak organizacje mogą proaktywnie bronić się przed atakami napędzanymi przez AI, które ciągle ewoluują?

Ponieważ atakujący wykorzystują AI do ewolucji swoich zagrożeń, zespoły bezpieczeństwa mogą również wykorzystywać AI do aktualizacji swoich narzędzi do symulacji naruszenia i ataku (BAS), aby upewnić się, że są chronione przed nowymi zagrożeniami. Narzędzia, takie jak codzienny feed zagrożeń Cymulate, ładują najnowsze pojawiające się zagrożenia do oprogramowania do symulacji naruszenia i ataku Cymulate codziennie, aby upewnić się, że zespoły bezpieczeństwa walidują bezpieczeństwo swoich organizacji przed najnowszymi zagrożeniami. AI może pomóc zautomatyzować procesy takie jak te, pozwalając organizacjom pozostać elastycznymi i gotowymi do zmierzenia się nawet z najnowszymi zagrożeniami.

Jaką rolę odgrywają zautomatyzowane platformy walidacji bezpieczeństwa, takie jak Cymulate, w łagodzeniu ryzyka stwarzanego przez cyberzagrożenia napędzane przez AI?

Zautomatyzowane platformy walidacji bezpieczeństwa mogą pomóc organizacjom pozostać na szczycie nowych cyberzagrożeń napędzanych przez AI poprzez narzędzia ukierunkowane na identyfikację, walidację i priorytetowanie zagrożeń. Z AI jako mnożnikiem siły atakujących, ważne jest, aby nie tylko wykryć potencjalne słabości w sieci i systemach, ale również zwalidować, które z nich stanowią realne zagrożenie dla organizacji. Dopiero wtedy można skutecznie priorytetować narażenia, pozwalając organizacjom na złagodzenie najbardziej niebezpiecznych zagrożeń jako pierwszych, zanim przejdzie się do mniej pilnych punktów. Atakujący wykorzystują AI do sondowania środowisk cyfrowych w poszukiwaniu potencjalnych słabości przed rozpoczęciem wyspecjalizowanych ataków, co oznacza, że możliwość skutecznego i zautomatyzowanego rozwiązania niebezpiecznych słabości jest obecnie bardziej krytyczna niż kiedykolwiek.

Jak przedsiębiorstwa mogą wykorzystywać narzędzia do symulacji naruszenia i ataku, aby przygotować się do ataków napędzanych przez AI?

Oprogramowanie do symulacji naruszenia i ataku (BAS) jest ważnym elementem zarządzania narażeniem, pozwalając organizacjom tworzyć scenariusze ataków w świecie rzeczywistym, które mogą wykorzystać do zwalidowania kontroli bezpieczeństwa przed najbardziej palącymi zagrożeniami dzisiejszymi. Najnowsze informacje o zagrożeniach i podstawowe badania z Cymulate Threat Research Group (w połączeniu z informacjami o nowych zagrożeniach i symulacjach) są stosowane codziennie do narzędzia BAS Cymulate, powiadamiając liderów bezpieczeństwa, jeśli nowe zagrożenie nie zostało zablokowane lub wykryte przez istniejące kontrole bezpieczeństwa. Z BAS organizacje mogą również dostosować symulacje napędzane przez AI do swoich unikalnych środowisk i zasad bezpieczeństwa z otwartą ramą do tworzenia i automatyzacji niestandardowych kampanii i zaawansowanych scenariuszy ataków.

Jakie są trzy najważniejsze zalecenia, które dałbyś zespołom bezpieczeństwa, aby pozostać przed nowymi zagrożeniami?

Zagrożenia stają się coraz bardziej złożone każdego dnia. Organizacje, które nie mają skutecznego programu zarządzania narażeniem, ryzykują, że pozostaną znacznie w tyle, więc moim pierwszym zaleceniem byłoby wdrożenie rozwiązania, które pozwoli organizacji na skuteczne priorytetowanie narażenia. Następnie upewnij się, że rozwiązanie do zarządzania narażeniem zawiera funkcje BAS, które pozwalają zespołom bezpieczeństwa symulować nowe zagrożenia (w tym AI), aby ocenić, jak kontrole bezpieczeństwa organizacji radzą sobie. Wreszcie, zaleciłbym wykorzystanie automatyzacji, aby upewnić się, że walidacja i testowanie mogą odbywać się w sposób ciągły, a nie tylko podczas okresowych przeglądów. Zmieniający się krajobraz zagrożeń na minutę sprawia, że jest krytyczne, aby mieć najnowsze informacje. Dane o zagrożeniach z ostatniego kwartału są już niezwykle przestarzałe.

Jakie rozwoju technologii AI przewidujesz w ciągu najbliższych pięciu lat, które mogą albo nasilić, albo złagodzić ryzyko cyberbezpieczeństwa?

Wiele będzie zależało od tego, jak dalej będzie dostępna AI. Dziś atakujący o niskim poziomie mogą wykorzystywać możliwości AI, aby podnieść i zwiększyć swoje ataki, ale nie tworzą nowych, bezprecedensowych taktyk – po prostu robią istniejące taktyki bardziej skutecznymi. Na razie możemy (w większości) zrekompensować to. Ale jeśli AI będzie nadal rozwijać się i pozostawać łatwo dostępną, to może się to zmienić. Regulacje będą odgrywać rolę tutaj – Unia Europejska (i w mniejszym stopniu Stany Zjednoczone) podjęły kroki w celu uregulowania, w jaki sposób AI jest rozwijana i wykorzystywana, więc będzie interesujące, aby zobaczyć, czy to będzie miało wpływ na rozwój AI.

Czy spodziewasz się zmiany w sposobie, w jaki organizacje priorytetowo traktują zagrożenia związane z AI w porównaniu z tradycyjnymi wyzwaniami bezpieczeństwa?

Widzimy już, jak organizacje rozpoznają wartość rozwiązań takich jak BAS i zarządzanie narażeniem. AI pozwala atakującym na szybkie uruchamianie zaawansowanych, ukierunkowanych kampanii, a zespoły bezpieczeństwa potrzebują każdej przewagi, jaką mogą uzyskać, aby pozostać przed nimi. Organizacje, które wykorzystują narzędzia do walidacji, będą miały znacznie łatwiejszy czas, aby utrzymać głowę nad wodą, priorytetowo traktując i łagodząc najbardziej palące i niebezpieczne zagrożenia jako pierwsze. Pamiętaj, większość atakujących szuka łatwego celu. Możesz nie być w stanie powstrzymać każdego ataku, ale możesz uniknąć bycia łatwym celem.

Dziękuję za wspaniały wywiad, czytelnicy, którzy chcą dowiedzieć się więcej, powinni odwiedzić Cymulate.