Keith Stewart, Założyciel i Dyrektor Generalny Humanix – Seria Wywiadów

Keith Stewart, Założyciel i Dyrektor Generalny Humanix, to weteran bezpieczeństwa cybernetycznego z ponad 25-letnim doświadczeniem, obejmującym zarządzanie produktem, inżynierię, rozwój biznesu i kierowanie wykonawcze w niektórych z najbardziej rozpoznawalnych firm w branży, w tym Cisco, Brocade, Riverbed i vArmour. Przed założeniem Humanix w 2023 roku pełnił funkcję tymczasowego dyrektora generalnego i wiceprezesa ds. produktu i inżynierii w vArmour, gdzie pomógł firmie przetrwać przejęcie i przejście do modelu biznesowego opartego na SaaS. W trakcie swojej kariery Stewart kierował zespołami na całym świecie, prowadził główne inicjatywy dotyczące produktów bezpieczeństwa, uczestniczył w działaniach związanych z pozyskiwaniem funduszy i fuzjami i przejęciami, oraz odegrał kluczową rolę w tworzeniu następnej generacji technologii bezpieczeństwa. Jego rozległe doświadczenie w dziedzinie bezpieczeństwa przedsiębiorstw i głębokie zrozumienie, w jaki sposób atakujący wykorzystują ludzkie zachowania, skłoniły go do założenia Humanix z misją ochrony ludzi przed coraz bardziej zaawansowanymi atakami inżynierii społecznej.

Humanix to firma bezpieczeństwa cybernetycznego, która jest pionierem w dziedzinie tzw. Wykrywania i Reagowania na Zagrożenia Ludzkie (HTDR), nowej kategorii skupiającej się na ochronie “ludzkiej warstwy” bezpieczeństwa przedsiębiorstw. Zamiast koncentrować się wyłącznie na punktach końcowych, sieciach i infrastrukturze, Humanix wykorzystuje sztuczną inteligencję conversationalną, wyszkoloną w psychologii ludzkiej i wzorcach ataków językowych, do wykrywania manipulacji, oszustw, podszywania się i innych taktyk inżynierii społecznej w interakcjach głosowych, czatowych, e-mailowych, wideo i serwisowych. Platforma jest zaprojektowana do identyfikacji ataków w czasie rzeczywistym, pomagając organizacjom powstrzymać naruszenia zanim atakujący wykorzystają pracowników, kontrahentów lub klientów. Podejście Humanix odzwierciedla rosnące uznanie, że większość udanych ataków cybernetycznych jest skierowana na ludzi, a nie systemy, a firma ma na celu dostarczyć zespołom bezpieczeństwa takiego samego poziomu widoczności i możliwości reagowania na zagrożenia skierowane na ludzi, jakie mają one obecnie w przypadku tradycyjnych zagrożeń cybernetycznych.

Prowadziłeś duże transformacje w firmach takich jak vArmour, w tym przejścia na SaaS, skalowanie zespołów inżynierskich i nawigację po przejęciach. Jaki konkretny brak lub punkt zwrotny skłonił Cię do założenia Humanix, i dlaczego skupiasz się tak mocno na zabezpieczaniu ludzi, a nie systemów?

Największym wyzwaniem w każdej organizacji jest ryzyko związane z ludźmi. Ludzie są zarówno naszym najpotężniejszym aktywem obronnym, jak i największym obszarem trwałej podatności. Jest to problem, który był ciągle nierozwiązany. Odpowiedzią branży była szkolenie — skutecznie próba przekształcenia przeciętnego pracownika w eksperta ds. bezpieczeństwa cybernetycznego w ciągu jednej godziny. Wiemy, że to nie działa, ale nie mieliśmy lepszych rozwiązań.

Dwa rzeczy zmieniły się ostatnio, jedno na gorsze, a drugie na lepsze. Po pierwsze, gorsze: AI sprawia, że ataki, które bezpośrednio atakują ludzi, stają się bardziej dostępne. Możesz być nastolatkiem po drugiej stronie świata, nie mówić ani słowa po angielsku, nie wiedzieć nic o danej firmie i nagle LLM pozwala ci wiedzieć prawie wszystko i brzmieć jak prawie ktokolwiek. To stwarza realne i aktualne niebezpieczeństwo.

Po drugie, zmiana na lepsze: mamy teraz technologię, która pozwala na wykrywanie tych ataków. LLM są bardzo dobre w rozumieniu nuansów i złożoności interakcji ludzkich. Z wykorzystaniem sztucznej inteligencji conversationalnej możemy identyfikować wzorce w tych interakcjach i reagować w czasie rzeczywistym.

Przestańmy polegać wyłącznie na staromodnych, opartych na szkoleniu strategiach. Po raz pierwszy mamy sposób na rozwiązanie problemu podatności ludzi bezpośrednio. Dlatego zbudowaliśmy Humanix.

Twoja praca przez długi czas koncentrowała się na dużych zbiorach danych, analizie behawioralnej i modelach bezpieczeństwa opartych na grafach. Jak doświadczenia te ukształtowały podejście Humanix do wykrywania ataków, które nie wyglądają jak tradycyjne naruszenia?

Na powierzchni wykrywanie interaktywnych ataków inżynierii społecznej wydaje się przytłaczające. Każda osoba jest inna. Język naturalny jest niezwykle wielowymiarowy. Klasyczne modele ML nie rozumieją kontekstu i często nie działają.

Jednak gdy sięgniemy nieco głębiej, można zobaczyć, że ta klasa ataków ma wzorce jak każda inna. Zamiast przepełnień bufora lub exploitów zero-day, atakujący wykorzystują luki w procesach biznesowych i zaufanie ludzi. Atakujący mają podręczniki, które stale wykorzystują przeciwko organizacjom, co oznacza, że powinniśmy być w stanie wykryć i odpowiedzieć na te ataki tak samo, jak robimy to w przypadku punktów końcowych, sieci, chmury lub tożsamości.

To spostrzeżenie pozwala nam połączyć klasyczne wzorce wykrywania i reagowania, które wiemy, że są skuteczne — w tym analizę behawioralną i teorię grafów — z możliwościami rozumnymi semantycznie modeli językowych. Humanix wykorzystuje tę kombinację, aby zrozumieć jednostki, relacje, zachowania, ryzyko i samą interakcję. To jest sposób, w jaki tworzymy nową klasę produktów wykrywania i reagowania: Wykrywanie i Reagowanie na Zagrożenia Ludzkie.

Nowe grupy takie jak BlackFile wykorzystują phishing głosowy i inżynierię społeczną w czasie rzeczywistym zamiast taktyk opartych na oprogramowaniu szkodliwym. Co ten trend mówi nam o zmianach w krajobrazie zagrożeń?

BlackFile jest częścią szerszego trendu w kierunku ataków, które są mniej związane z wprowadzaniem oprogramowania szkodliwego do środowiska i bardziej z wykorzystaniem języka naturalnego, aby nakłonić osobę do otwarcia drzwi.

Te grupy odkryły, że przekonywujące połączenie telefoniczne, wiarygodna pretekst i odpowiednia dawka pilności mogą być równie skuteczne jak eksploity techniczne i często trudniejsze do zauważenia przez zespoły bezpieczeństwa. Powierzchnia ataku nie zmieniła się tak bardzo, jak zmienił się focus atakujących. Ludzie zawsze byli częścią powierzchni ataku. To, co się zmieniło, to skala, dojrzałość i powtarzalność podręcznika.

Inżynieria społeczna jest kopiowana, udoskonalana i uprzemysłowiona, ponieważ działa. Wykorzystuje sposób, w jaki firmy naprawdę działają, zwłaszcza w przepływach pracy, w których ludzie są oczekiwani, aby pomagać szybko, rozwiązywać wyjątki i utrzymywać wszystko w ruchu.

Widzimy, jak atakujący podszywają się pod help desk i wykorzystują pracowników bezpośrednio, aby uzyskać dostęp. Dlaczego takie techniki jak vishing i manipulacja help desk stają się tak skutecznymi punktami wejścia?

Techniki takie jak vishing i manipulacja help desk są tak skuteczne, ponieważ wykorzystują kombinację zaufania, pilności i dostępu znalezionych w wielu obsługach i administracyjnych przepływach pracy.

Jeśli chcę dostać się do Twojego środowiska, mogę spędzić tygodnie szukając eksploitu technicznego. Albo mogę zadzwonić do kogoś, kto jest wyszkolony, aby pomagać, stworzyć wiarygodną historię i nakłonić go do zrobienia tego, co potrzebne, czy to resetując hasło, rejestrując nowy czynnik uwierzytelniania, zmieniając uprawnienie czy zatwierdzając wniosek.

Osoba na drugim końcu połączenia często stara się rozwiązać realistycznie wyglądający problem pod presją czasu, z niepełną informacją. To jest właśnie to, co sprawia, że help desk jest jednym z najbardziej atrakcyjnych celów. Jest to jedno z nielicznych miejsc, gdzie rozmowa może bezpośrednio przerodzić się w dostęp. Jak tylko dostęp jest przyznany, reszta może się wydarzyć bardzo szybko.

Branża zainwestowała znacznie w szkolenia pracowników, a jednak naruszenia bezpieczeństwa skierowane na ludzi nadal rosną. Gdzie tradycyjne świadomość bezpieczeństwa zawodzi, i co musi się zmienić?

Szkolenia zwiększającej świadomości bezpieczeństwa były traktowane jako główna obrona przed inżynierią społeczną, pomimo że wyniki wyraźnie pokazują ich ograniczenia. Organizacje nadal inwestują znacznie w szkolenia, a atakujący nadal odnoszą sukcesy, ponieważ atakują ludzi w interakcjach na żywo, a nie testują, czy pracownicy pamiętają materiał z kursu.

Atak inżynierii społecznej nie jest quizem. Jest to osoba na drugim końcu połączenia telefonicznego lub wątku czatu, tworząca pilność, budująca zaufanie i próbująca nakłonić kogoś do podjęcia działania, którego nie powinien podjąć. Obecny model się załamuje, ponieważ oczekuje, że pracownik rozpozna i powstrzyma atak, podczas gdy atakujący aktywnie manipuluje interakcją.

Gdy coś pójdzie nie tak, odpowiedzią jest często obwinianie pracownika i przydzielanie mu więcej szkoleń. Ale pracownik próbował pomóc, co jest tym, o co biznes prosi go każdego dnia. Musimy przestać traktować inżynierię społeczną jako problem świadomości. Jest to klasa ataku, i powinniśmy ją wykryć i odpowiedzieć, podczas gdy interakcja ma miejsce.

Humanix koncentruje się na wykrywaniu ataków na ludzi w czasie rzeczywistym. Co oznacza obserwowalność ryzyka ludzkiego w praktyce?

Obserwowalność ryzyka ludzkiego oznacza dostarczanie zespołom bezpieczeństwa widoczności w interakcjach na żywo, w których atakujący próbują manipulować ludźmi, aby zmienić dostęp, ominąć wymagany proces lub podjąć inne niebezpieczne działanie na rzecz atakującego.

Obecnie te interakcje są skutecznie niewidoczne dla bezpieczeństwa. Ktoś dzwoni na help desk, otwiera bilet lub rozpoczyna czat. Hasło zostaje zresetowane, czynnik uwierzytelniania zostaje zarejestrowany, uprawnienie zostaje zmienione lub wyjątek zostaje zatwierdzony. Są to bardzo wrażliwe przepływy pracy, a zespoły bezpieczeństwa nie mają na nie widoczności.

Humanix to zmienia. Podłączamy się do systemów komunikacji przedsiębiorstw już w użyciu — Microsoft 365, ServiceNow, Zoom, Slack i więcej. Humanix monitoruje działania i interakcje na tych kanałach i porównuje je z taktykami ataku i procedurami korporacyjnymi.

Czy dzwoniący został właściwie zweryfikowany? Czy mówił naokoło weryfikacji? Czy była pilność, podszywanie się lub presja, aby pominąć wymagany krok? Czy agent był na punkcie podjęcia ryzykownego działania? Jak zmienił się profil ryzyka w trakcie rozmowy? Humanix zapewnia wykrywanie i reagowanie na bezpieczeństwo podczas interakcji i pozwala zespołowi bezpieczeństwa wiedzieć, czy coś wygląda podejrzanie.

Ultymatywnym celem tej analizy nie jest karanie ofiar po fakcie. Jest to ochrona ich w momencie. Jeśli rozmowa staje się atakiem, zespół bezpieczeństwa musi to wiedzieć.

Jak AI wygenerowane głosy i technologie deepfake poprawiają się, jak blisko jesteśmy punktu, w którym zaufanie ludzkie staje się najbardziej słabą powierzchnią ataku?

Zaufanie ludzkie było jedną z najbardziej słabych powierzchni ataku przez długi czas. AI sprawia, że ataki na zaufanie są łatwiejsze do stworzenia, dostosowania i skalowania.

Jednak musimy uważać, aby nie przesadzić z konkretnym przypadkiem deepfake. Deepfakes są tylko jednym medium, które atakujący mogą wykorzystać do manipulacji kimś. W rzeczywistości, jeśli spojrzymy na ogromną większość udanych ataków inżynierii społecznej w ciągu ostatnich kilku lat, większość z nich nie była deepfake — są to po prostu atakujący i oszustwa, które podnoszą słuchawkę. Grupy takie jak Scattered Spider, ShinyHunters i BlackFile pokazały, że normalne połączenie telefoniczne, wiarygodna pretekst i odpowiednia dawka pilności są więcej niż wystarczające, aby kogoś nakłonić do podjęcia działania na rzecz atakującego.

Zespoły bezpieczeństwa muszą skoncentrować się na wiadomości, a nie na medium. Ktoś, kto jest nakłaniany do naruszenia polityki lub zatwierdzenia wyjątku w podejrzanych okolicznościach — to są prawdziwe zachowania ryzykowne. Ryzyko leży w interakcji samej i działaniu, które ma zostać podjęte.

Zaufanie nie jest czymś, czego możemy pozbyć się w biznesie. Ludzie muszą odbierać połączenia, rozwiązywać problemy, zatwierdzać wnioski i pomagać sobie nawzajem. Odpowiedzią nie może być uczynienie wszystkich mniej ludzkimi. Musi to być ochrona momentów, w których zaufanie jest wykorzystywane.

Jaka rola powinna być odgrywana przez AI w obronie przed AI-napędzaną inżynierią społeczną, a co są największe wyzwania techniczne w wykrywaniu manipulacji w czasie rzeczywistym?

Sztuczna inteligencja conversationalna otwiera możliwość przekształcenia AI-napędzanej inżynierii społecznej z problemu szkoleniowego w problem wykrywania i reagowania. Modele językowe pozwalają nam zastosować wszystkie nasze doświadczenia z dziedzin takich jak punkty końcowe lub sieć i zastosować je do warstwy ludzkiej. Musimy wykryć i odpowiedzieć na te ataki, a nie kontynuować bezowocnej drogi prób szkoleniowych.

Istnieje wiele wyzwań technicznych w realizacji tego wizjonerskiego celu. Język naturalny jest niezwykle wielowymiarowy, co oznacza, że istnieje niezliczona ilość różnych sposobów przekazywania tego samego znaczenia. Mówienie „Jestem zablokowany w systemie” jest funkcjonalnie równoważne z mówieniem „Potrzebuję zresetowania hasła”, nawet jeśli słowa „hasło” i „zresetuj” nie zostały użyte.

Kolejnym wyzwaniem jest znaczenie kontekstu. Interakcje ludzkie są kontekstowe i kumulatywne, a więc i manipulacja ludzką również. Dzwoniący może brzmieć spokojnie, grzecznie i wiarygodnie, podczas gdy wciąż kieruje kogoś wokół weryfikacji lub w kierunku niebezpiecznego działania. Musimy połączyć wiele sygnałów i danych kontekstowych, aby dokładnie oddzielić zachowania niewinne od złowrogich.

W końcu każda organizacja jest inna. Ma różne procedury i normy, z których większość nie jest czytelna maszynowo. To jest kolejna dziedzina, w której AI może być ogromną pomocą — zrozumienie tych polityk i porównanie ich z obserwowanymi zachowaniami świata rzeczywistego.

Wiele narzędzi bezpieczeństwa nadal koncentruje się na punktach końcowych, sieciach i systemach tożsamości. Jak powinni CISO zmienić swoją architekturę, jeśli głównym polem bitwy staje się zachowanie ludzkie?

Po pierwsze, CISO powinien formalnie uznać to, co wszyscy intuicyjnie wiemy: ludzki kapitał jest klasą aktywów (jak punkty końcowe, sieć lub chmura), które muszą być zarządzane. Zagrożenia i ryzyka muszą być dokładnie modelowane i kontrolowane.

Ramka NIST Cybersecurity Framework już zapewnia wskazówki, jak to zrobić. „Identyfikacja” i „zarządzanie” ludźmi są częścią podzbioru identyfikacji ryzyka (ID.AM). Jednak wiele organizacji definiuje problem ryzyka ludzkiego jako problem szkoleniowy i zarządza nim tylko poprzez wymóg zgodności szkoleń zwiększających świadomość bezpieczeństwa. To musi się zmienić.

Gdy traktujemy kapitał ludzki jako własną klasę aktywów, otwiera to standardowe podręczniki, które wykonujemy dla każdej innej klasy aktywów. Jakie są kluczowe ryzyka (ID.RA)? Jak mogę systematycznie bronić się przed nimi (Protect)? Jakie są nasze systemy i procesy, aby wykryć, czy atakujący są gotowi naruszyć te obrony, czy już to zrobili (Detect)? Jak organizacja reaguje, aby zawęzić zagrożenie i ostatecznie przywrócić usługi (Respond and Recover)? Przez podejście do naszego kapitału ludzkiego w taki sam systematyczny sposób, jak do każdej innej klasy aktywów, możemy lepiej identyfikować ryzyka i skuteczniej priorytetowo traktować zasoby, aby zarządzać tymi ryzykami.

Spójrzmy w przyszłość, czy oczekujesz, że ataki warstwy ludzkiej będą dominować w cyberprzestępczości, czy zobaczymy model hybrydowy, w którym AI-napędzana automatyzacja i inżynieria społeczna zbiegają się w coś trudniejszego do obrony?

Będzie to prawdopodobnie model zagrożeń mieszanych. Mamy dwie rzeczy dziejące się jednocześnie. Po pierwsze, atakujący uczą się skalować swoje ataki z wykorzystaniem AI, zwiększając dostęp i obniżając koszt tej klasy ataków. Po drugie, same przedsiębiorstwa przechodzą przez transformację agentyczną AI, prowadzoną przez same usługi biznesowe, które są atakowane przez BlackFile i ich peerów.

Obsługa klienta, help desk, serwis desk, operacje finansowe i wewnętrzne wsparcie są wszystkie przechodzące transformację z usług świadczonych przez ludzi do usług świadczonych przez AI. Oznacza to, że doświadczymy eksplozji powierzchni ataku językowego, jednocześnie usuwając ludzką zdolność do podejmowania decyzji. Duże modele językowe są szkolone, aby reagować na polecenia i być pomocne. Ludzka podejrzliwość lub „instynkt”, które były niektórymi z naszych najlepszych obron przed atakami inżynierii społecznej, zostały celowo usunięte z odpowiedzi modelu.

Przez to przejście do usług świadczonych przez AI, narażenie przedsiębiorstw na tę klasę ataków prawdopodobnie nadal będzie rosło w ciągu najbliższych kilku lat. Ludzie i agenci są równie podatni na ataki językowe. Zespoły bezpieczeństwa muszą zacząć planować dzisiaj systematyczną obronę i plan reagowania na tę nową rzeczywistość.

Dziękujemy za wspaniały wywiad, czytelnicy, którzy chcą dowiedzieć się więcej o Humanix.