Keith Stewart, zakladatel a generální ředitel Humanix – Interview Series

Keith Stewart, zakladatel a generální ředitel Humanix, je zkušený odborník v oblasti kybernetické bezpečnosti s více než 25 lety zkušeností v oblasti produktového managementu, inženýrství, obchodního rozvoje a vedení na některých z nejuznávanějších firem v oboru, včetně Cisco, Brocade, Riverbed a vArmour. Před založením Humanix v roce 2023 působil jako interim generální ředitel a senior viceprezident pro produkty a inženýrství ve společnosti vArmour, kde pomáhal společnosti projít akvizicí a přechodem na model založený na SaaS. Během své kariéry vedl Stewart globální týmy, řídil významné iniciativy v oblasti kybernetické bezpečnosti, účastnil se aktivit souvisejících s fundraisingem a fúzemi a akvizicemi a sehrál klíčovou roli ve vývoji nových bezpečnostních technologií. Jeho rozsáhlé zkušenosti v oblasti podnikové bezpečnosti a hluboké pochopení toho, jak útočníci využívají lidské chování, vedly ho k založení Humanix s cílem chránit lidi před stále sofistikovanějšími sociálními inženýrskými útoky.

Humanix je společnost pro kybernetickou bezpečnost, která je průkopníkem v oblasti detekce a reakce na hrozby lidské vrstvy (HTDR), nové kategorie zaměřené na ochranu “lidské vrstvy” podnikové bezpečnosti. Místo toho, aby se soustředila pouze na koncové body, sítě a infrastrukturu, Humanix využívá konverzační AI školenou na lidské psychologii a vzorcích útoků založených na přirozeném jazyce k detekci manipulace, klamání, padělání a dalších sociálních inženýrských taktik napříč interakcemi hlasu, chatu, e-mailu, videa a služebních desků. Platforma je navržena tak, aby identifikovala útoky v reálném čase, a pomáhala tak organizacím zastavovat porušování bezpečnosti, než útočníci využijí zaměstnance, dodavatele nebo zákazníky. Přístup Humanix odráží rostoucí povědomí o tom, že většina úspěšných kybernetických útoků cílí na lidi, nikoli na systémy, a společnost si klade za cíl poskytnout bezpečnostním týmům stejnou úroveň viditelnosti a možností reakce na hrozby zaměřené na lidi, jako mají již na tradiční kybernetické hrozby.

Vedl jste významné transformace napříč společnostmi, jako je vArmour, včetně přechodů na SaaS, rozšiřování inženýrských týmů a navigace akvizic. Jaká konkrétní mezera nebo zlomový bod vás vedl k založení Humanix, a proč se tolik soustředíte na zabezpečení lidí místo systémů?

Největší výzvou v bezpečnostní pozici jakéhokoli podniku je lidské riziko. Lidé jsou naší nejsilnější obrannou aktivitou a zároveň naší největší trvalou zranitelností. Přesto je to problém, který nebyl dosud dostatečně řešen. Odpovědí odvětví byla školení – efektivní pokus transformovat průměrného zaměstnance na odborníka na kybernetickou bezpečnost během jedné hodiny. Víme, že to nefunguje, ale neměli jsme lepší řešení.

Dvě věci se nedávno změnily, jedna k horšímu a jedna k lepšímu. První, horší: AI činí útoky, které cílí přímo na lidi, mnohem přístupnější. Můžete být teenager na druhé straně světa, nemluvit ani slovo anglicky, nic nevědí o bestimmé firmě, a najednou vám LLM umožňuje vědět téměř cokoli a znít jako téměř kdokoli. To vytváří skutečné a aktuální nebezpečí.

Druhá, lepší: nyní máme technologii, která tyto útoky může detekovat. LLM jsou velmi dobré v porozumění nuancím a složitosti lidských interakcí. S konverzační AI můžeme identifikovat vzorce v těchto interakcích a reagovat téměř v reálném čase.

Ještě nemusíme spoléhat pouze na zastaralé, školení-orientované strategie. Poprvé máme způsob, jak přímo řešit problém lidské zranitelnosti. Proto jsme vytvořili Humanix.

Vaše práce se dlouho soustředila na velká data, behaviorální analýzu a grafické bezpečnostní modely. Jak tyto zkušenosti ovlivnily přístup Humanix k detekci útoků, které se nezdají jako tradiční porušování bezpečnosti?

Pokud se podíváme na detekci interaktivních sociálních inženýrských útoků, zdá se to být úkolem, který je obtížný. Každý člověk je jiný. Přirozený jazyk je extrémně dimenzionální. Klasické modely založené na strojovém učení ne理解ují kontext a často selhávají.

Ovšem pokud se podíváme trochu hlouběji, můžeme vidět, že tato třída útoků má vzorce, jako každá jiná. Místo buffer overflows nebo zero days útočníci využívají mezery v obchodních procesech a lidském důvěru. Útočníci mají playbooks, které proti organizacím běžně používají, což znamená, že bychom měli být schopni detekovat a reagovat na tyto útoky stejně, jako na koncové body, sítě, cloud nebo identitu.

Tato inspirace nám umožňuje kombinovat klasické vzorce detekce a reakce, které víme, že jsou efektivní – včetně behaviorální analýzy a grafické teorie – se semantickými možnostmi jazykových modelů. Humanix využívá této kombinace k pochopení entit, vztahů, chování, rizika a samotné interakce. Tímto způsobem vytváříme novou třídu produktů detekce a reakce: Human Threat Detection and Response.

Nové skupiny, jako je BlackFile, používají voice phishing a sociální inženýrství v reálném čase místo taktik založených na malwaru. Co nám tato změna říká o tom, jak se mění hrozby?

BlackFile je součástí širší změny směrem k útokům, které nejsou tolik zaměřeny na vnesení malwaru do prostředí, ale spíše na využití přirozeného jazyka k tomu, aby někdo otevřel dveře.

Tyto skupiny zjistily, že přesvědčivé telefonní hovory, uvěřitelné pretexty a správná dávka naléhavosti mohou být stejně efektivní jako technické exploity, a často jsou pro bezpečnostní týmy obtížněji viditelné. Útočný povrch se tolik nezměnil, jako se změnil zaměření útočníků. Lidé byli vždy součástí útočného povrchu. Co se změnilo, je rozsah, zralost a opakovatelnost playbooks.

Sociální inženýrství se kopíruje, zdokonaluje a industrializuje, protože funguje. Využívá toho, jak podniky skutečně fungují, zejména v pracovních postupech, kde lidé očekávají rychlou pomoc, řešení výjimek a udržení věcí v chodu.

Útočníci se vydávají za IT help desky a přímo využívají zaměstnance k získání přístupu. Proč jsou techniky, jako je vishing a manipulace s help deskem, tak efektivní jako primární vstupní body?

Techniky, jako je vishing a manipulace s help deskem, jsou tak efektivní, protože využívají kombinaci důvěry, naléhavosti a přístupu, které se nacházejí v mnoha podpůrných a administrativních pracovních postupech.

Jestli chci získat přístup do vašeho prostředí, mohu strávit týdny hledáním technického exploitu. Nebo mohu zavolat někomu, kdo je školen pomoci, vytvořit uvěřitelný příběh a získat ho, aby udělal to, co potřebuji, ať už se jedná o resetování hesla, registraci nového MFA faktoru, změnu oprávnění nebo schválení žádosti.

Osoba na druhém konci hovoru často řeší skutečný problém pod tlakem a s neúplnými informacemi. To je přesně to, co z help desku dělá tak atraktivní cíl. Je to jedno z mála míst, kde konverzace může přímo přejít v přístup. Jakmile je přístup udělen, zbytek se může odehrát velmi rychle.

Odvětví investovalo značně do školení zaměstnanců, ale útoky zaměřené na lidi pokračují v růstu. Kde tradiční bezpečnostní povědomí selhává, a co se musí změnit?

Bezpečnostní povědomí bylo považováno za primární obranu proti sociálním inženýrským útokům, přestože výsledky jasně ukazují jeho limity. Organizace pokračují ve velkých investicích do školení, ale útočníci stále úspěšně útočí, protože cílí na lidi v živých interakcích, nikoli na testování, zda si zaměstnanci pamatují materiál z kurzu.

Sociální inženýrský útok není žádným testem. Je to osoba na druhém konci telefonního hovoru nebo chatu, která vytváří naléhavost, buduje důvěru a snaží se někoho přesvědčit, aby provedl akci, kterou by neměl provést. Současný model selhává, protože očekává, že zaměstnanec rozpozná a zastaví útok, zatímco útočník aktivně manipuluje interakcí.

Když něco goes wrong, reakcí je často obviňovat zaměstnance a přidělit další školení. Ale zaměstnanec se obvykle snažil pomoci, což je přesně to, co podnik chce, aby dělal každý den. Musíme přestat považovat sociální inženýrství za problém povědomí. Je to třída útoků, a měli bychom je detekovat a reagovat na ně, zatímco interakce probíhá.

Humanix se позициuje jako detektor útoků na lidi v reálném čase. Co znamená pozorovatelnost lidského rizika v praxi?

Pozorovatelnost lidského rizika znamená poskytnout bezpečnostním týmům viditelnost do živých interakcí, kde útočníci snaží manipulovat lidi, aby změnili přístup, obešli požadovanou proceduru nebo provedli jinou nebezpečnou akci ve prospěch útočníka.

Dnes jsou tyto interakce efektivní neviditelné pro bezpečnost. Někdo zavolá na help desk, otevře tiket nebo zahájí chat. Heslo se resetuje, MFA faktor se zaregistruje, oprávnění se změní nebo výjimka se schválí. Tyto jsou vysoce citlivé pracovní postupy, ale bezpečnostní týmy nemají žádnou viditelnost a pozorovatelnost.

Humanix mění tuto situaci. Připojujeme se k podnikovým komunikačním systémům, které jsou již používány – Microsoft 365, ServiceNow , Zoom, Slack a další. Humanix monitoruje akce a interakce přes tyto kanály a porovnává je s útočnými taktikami a firemními postupy.

Byl volající řádně ověřen? Provedl se kolem ověření? Byla naléhavost, padělání nebo tlak na obejití požadovaného kroku? Bylo agentovi odepřeno provést rizikovou akci? Jak se změnil rizikový profil, jakmile hovor postupoval? Humanix poskytuje bezpečnostní detekci a reakci, zatímco interakce probíhá, a umožňuje bezpečnostnímu týmu vědět, zda něco vypadá podezřele.

Cílem této analýzy není potrestat oběti po skutečnosti. Je chránit je v okamžiku. Pokud se konverzace stane útokem, bezpečnostní tým musí vědět.

Jak blízko jsme k bodu, kdy lidská důvěra se stane nejslabším útočným povrchem?

Lidská důvěra byla jednou z nejslabších útočných povrchů po dlouhou dobu. AI činí útoky proti důvěře snazšími, přizpůsobitelnými a škálovatelnými.

Ovšem musíme být opatrní, abychom se nezaměřili pouze na konkrétní případ deepfake. Deepfakes jsou pouze jedním z prostředků, které útočníci mohou použít k manipulaci někoho. Ve skutečnosti, pokud se podíváme na většinu úspěšných sociálních inženýrských útoků za poslední roky, většina z nich nebyly deepfakes – jsou to prostě lidský útočníci a podvodníci, kteří zvedají telefon. Skupiny, jako je Scattered Spider, ShinyHunters a BlackFile, ukázaly, že normální telefonní hovor, uvěřitelný pretext a správná dávka naléhavosti jsou více než dostatečné k tomu, aby někdo provedl akci ve prospěch útočníka.

Bezpečnostní týmy musí se soustředit na zprávu, ne na médium. Někdo, kdo je pod tlakem, aby porušil politiku nebo schválil výjimku v podezřelých okolnostech – tyto jsou skutečné rizikové chování. Rizika spočívají v interakci samotné a akci, kterou má vyvolat.

Důvěra není něco, co můžeme odstranit z podniku. Lidé musí zvedat telefony, řešit problémy, schvalovat žádosti a pomáhat si navzájem. Odpověď nemůže být učinit každého méně lidským. Musí to být chránit okamžiky, kdy je důvěra využita.

Jakou roli by měla AI hrát v obraně proti AI-poháněnému sociálním inženýrství, a co jsou největší technické výzvy při detekci manipulace v reálném čase?

Conversational AI odemyká příležitost transformovat AI-poháněné sociální inženýrství z problému školení na problém detekce a reakce. Jazykové modely umožňují aplikovat naše znalosti z oblastí, jako je koncový bod nebo síť, a aplikovat je na lidskou vrstvu. Musíme detekovat a reagovat na tyto útoky, nikoli pokračovat v marném pokusu je odstranit školením.

Existuje mnoho technických výzev při realizaci tohoto vidění. Přirozený jazyk je vysoce dimenzionální, což znamená, že existuje nekonečně mnoho způsobů, jak vyjádřit stejný význam. Říci “Jsem uzamčen z mého systému” je funkčně ekvivalentní k tomu, říci “Potřebuji resetovat své heslo”, i když nebyla použita slova “heslo” a “reset”.

Další výzvou je důležitost kontextu. Lidské interakce jsou kontextové a kumulativní, a tudíž i lidská manipulace. Volající může znít klidně, slušně a uvěřitelně, zatímco stále vede někoho kolem ověření nebo k nebezpečné akci. Musíme kombinovat多signály a kontextové údaje, aby jsme přesně rozlišovali mezi benigními a maliciózními.

Nakonec je každá organizace jiná. Má různé postupy a normy, z nichž většina není strojově čitelná. To je další oblast, kde může AI být velkou pomocí – porozumět těmto politikám a porovnávat je s pozorovaným chováním v reálném světě.

Mnohé bezpečnostní nástroje se stále soustředí na koncové body, sítě a identitní systémy. Jak by měli CISOové přehodnotit svou architekturu, pokud se primární bojiště přesune na lidské chování?

Nejprve by CISOové měli formálně uznat to, co všichni intuitivně víme: lidský kapitál organizace je třídou aktiv, která potřebuje být spravována. Hrozby a rizika potřebují být přesně modelovány a kontrolovány.

Rámec kybernetické bezpečnosti NIST již poskytuje pokyny, jak to udělat. “Identifikace” a “správa” lidí jsou součástí podsouboru Asset Management (ID.AM) rizika identifikace. Přesto mnoho organizací definuje problém lidského rizika jako problém školení a spravuje ho pouze prostřednictvím požadavků na bezpečnostní povědomí. To se musí změnit.

Když budeme považovat lidský kapitál za svou vlastní třídu aktiv, otevře se standardní playbooks, které běžně používáme pro každou jinou třídu aktiv. Jaká jsou klíčová rizika (ID.RA)? Jak můžeme systematicky bránit proti nim (Protect)? Jaké jsou naše systémy a procesy pro detekci, zda útočník je na cestě k prolomení našich obran, nebo zda již prolomil (Detect)? Jak organizace reaguje na to, aby omezila hrozbu a obnovila služby (Respond a Recover)? Přijetím systematického přístupu k našemu lidskému kapitálu, jako u každé jiné třídy aktiv, můžeme lépe identifikovat rizika a efektivněji priorizovat zdroje pro jejich řízení.

Předpokládáte, že útoky na lidskou vrstvu budou dominovat kybernetickému zločinu, nebo uvidíme hybridní model, kde se AI-poháněná automatizace a sociální inženýrství spojí do něčeho, co bude obtížnější bránit?

Bude to téměř jistě hybridní model hrozeb. Máme dvě věci, které se dějí současně. První, útočníci se učí škálovat své útoky pomocí AI, zvyšují přístup a snižují náklady na tuto třídu útoků. Druhé, podniky samy procházejí agenticí transformací AI, vedenou samotnými obchodními službami, které jsou útočníky napadeny.

Zákaznické služby, help desky, service desky, finanční operace a interní podpůrné pracovní postupy jsou všechny transformovány z lidsky dodávaných na AI-dodávané. To znamená, že budeme zažívat explozi v přirozeném jazykovém útočném povrchu, zatímco se zbavíme lidského rozumu. Velké jazykové modely jsou trénovány, aby reagovaly na instrukce a byly nápomocné. Lidská podezřívavost nebo “instinkt”, který byl jednou z našich nejlepších obran proti sociálním inženýrským útokům, byl úmyslně odstraněn z modelových odpovědí. Přechod na AI-dodávané služby nakonec zvýší riziko sociálních inženýrských útoků, nikoli je sníží.

Jako výsledek, expozice podniků této třídě útoků je téměř jistě bude pokračovat v růstu v příštích letech. Lidé i agenti jsou zranitelní vůči útokům založeným na přirozeném jazyce. Bezpečnostní týmy musí začít plánovat dnes systematickou obranu a reakci na tuto novou realitu.

Děkuji za skvělý rozhovor, čtenáři, kteří chtějí se dozvědět více Humanix.