Keith Stewart, grundare och VD för Humanix – Intervjuserie

Keith Stewart, grundare och VD för Humanix, är en veteran inom cybersäkerhet med mer än 25 års erfarenhet som omfattar produktledning, ingenjörskap, affärsutveckling och ledarskap i några av branschens mest erkända företag, inklusive Cisco, Brocade, Riverbed och vArmour. Innan han grundade Humanix 2023 var han tillförordnad VD och SVP för produkt och teknik på vArmour, där han hjälpte företaget genom förvärv och övergång till en SaaS-baserad affärsmodell. Under hela sin karriär har Stewart lett globala team, drivit stora cybersäkerhetsinitiativ, deltagit i kapitalanskaffning och M&A-aktiviteter och spelat en nyckelroll i utvecklingen av nästa generations säkerhetsteknik. Hans omfattande bakgrund inom företagssäkerhet och djupa insikter i hur angripare utnyttjar mänskligt beteende ledde honom att etablera Humanix med uppdraget att skydda människor från alltmer sofistikerade sociala ingenjörer.

Humanix är ett cybersäkerhetsföretag som banar väg för vad de kallar Human Threat Detection and Response (HTDR), en ny kategori som fokuserar på att skydda “mänskliga lagret” i företagssäkerhet. Istället för att koncentrera sig enbart på slutpunkter, nätverk och infrastruktur använder Humanix konversations-AI som tränats på mänsklig psykologi och naturliga språkmönster för att upptäcka manipulation, bedrägeri, förfalskning och andra sociala ingenjörstaktiker över röst-, chatt-, e-post-, video- och servicedeskinteraktioner. Plattformen är utformad för att identifiera attacker i realtid, vilket hjälper organisationer att stoppa intrång innan angripare kan utnyttja anställda, underleverantörer eller kunder. Humanix tillvägagångssätt speglar en växande insikt om att de flesta framgångsrika cyberattacker riktar sig mot människor snarare än system, och företaget syftar till att ge säkerhetsteam samma nivå av synlighet och svarsförmåga för människoorienterade hot som de redan har för traditionella cyberrisker.

Du har lett stora omvandlingar inom företag som vArmour, inklusive SaaS-övergångar, skalning av ingenjörsteam och navigering av förvärv. Vad var den specifika luckan eller vändpunkten som ledde dig att grunda Humanix, och varför fokuserar du så mycket på att skydda människor snarare än system?

Den största utmaningen i en organisations säkerhetspostur är mänsklig risk. Människor är både vår mest kraftfulla försvarsresurs och vår största utsatta område. Ändå är det ett problem som kontinuerligt har lämnats obehandlat. Branschens svar har varit utbildning — i princip försöka förvandla den genomsnittlige anställde till en cybersäkerhetsexpert på en timmes session. Vi vet att det inte fungerar, men vi har inga bättre lösningar.

Två saker har förändrats nyligen, en för sämre och en för bättre. Först, det sämre: AI gör attacker som riktar sig mot människor direkt mer tillgängliga. Du kan nu vara en tonåring på andra sidan världen, inte tala ett ord engelska, veta ingenting om ett visst företag och plötsligt låter en LLM dig veta nästan allt och låta som nästan vem som helst. Det skapar en verklig och närvarande fara.

Andra, en förbättring: vi har nu tekniken för att upptäcka dessa attacker. LLM är mycket bra på att förstå nyanserna och komplexiteten i mänskliga interaktioner. Med konversations-AI kan vi identifiera mönster i dessa interaktioner och svara i nära realtid.

Vi behöver inte längre förlita oss enbart på föråldrade, utbildningscentrerade strategier. För första gången har vi ett sätt att lösa problemet med mänsklig sårbarhet direkt. Det är därför vi byggde Humanix.

Ditt arbete har länge fokuserat på storskalig data, beteendeanalys och grafbaserade säkerhetsmodeller. Hur har dessa erfarenheter format Humanix tillvägagångssätt för att upptäcka attacker som inte ser ut som traditionella intrång?

På ytan ser upptäckten av interaktiva sociala ingenjörer ut som en överväldigande uppgift. Varje person är annorlunda. Naturligt språk är extremt högdimensionellt. Klassiska ML-centrerade beteendemodeller förstår inte sammanhang, och så ofta misslyckas de.

Men när man dyker lite djupare kan man se att denna attacktyp har mönster som vilken annan. Istället för buffertöverskridningar eller nollpunkter utnyttjar angripare affärsprocessgap och mänskligt förtroende. Angripare har playbook som de konsekvent kör mot organisationer, vilket betyder att vi borde kunna upptäcka och svara på dessa attacker precis som vi gör på slutpunkt, nätverk, moln eller identitet.

Den insikten tillåter oss att kombinera klassiska upptäckts- och svarsmönster som vi vet är effektiva — inklusive beteendeanalys och grafteori — med språkmodellers semantiska resonemangsförmåga. Humanix använder den kombinationen för att förstå entiteter, relationer, beteende, risk och interaktionen i sig. Detta är hur vi skapar en ny klass av upptäckts- och svarprodukt: Human Threat Detection and Response.

Nya grupper som BlackFile använder röstfiske och realtidsbaserad social ingenjörskonst istället för malware-tunga taktiker. Vad berättar denna förändring för oss om hur hotlandskapet förändras?

BlackFile är en del av en bredare förändring mot attacker som är mindre fokuserade på att få in malware i en miljö och mer på att använda naturligt språk för att få en person att öppna dörren.

Dessa grupper har insett att ett övertygande telefonsamtal, en trovärdig förtext och rätt mängd brådska kan vara lika effektivt som en teknisk exploatering, och ofta svårare för säkerhetsteam att upptäcka. Angreppsytan har inte förändrats så mycket som angriparnas fokus har. Människor har alltid varit en del av angreppsytan. Vad som har förändrats är skalan, mognaden och reproducerbarheten av playbook.

Social ingenjörskonst kopieras, finslipas och industrialiseras eftersom den fungerar. Den utnyttjar hur företag faktiskt opererar, särskilt i arbetsflöden där människor förväntas hjälpa snabbt, lösa undantag och hålla saker i rörelse.

Vi ser angripare som utger sig för att vara IT-hjälpdiskar och utnyttjar anställda direkt för att få tillgång. Varför blir tekniker som vishing och hjälpdeskmanipulation så effektiva primära ingångspunkter?

Tekniker som vishing och hjälpdeskmanipulation är så effektiva eftersom de utnyttjar kombinationen av förtroende, brådska och tillgång som finns i många support- och administrativa arbetsflöden.

Om jag vill komma in i din miljö kan jag spendera veckor på att leta efter en teknisk exploatering. Eller så kan jag ringa någon som är utbildad att hjälpa, skapa en trovärdig historia och få dem att göra det jag behöver, antingen det är att återställa ett lösenord, registrera en ny MFA-faktor, ändra en behörighet eller godkänna en begäran.

Personen på andra sidan samtalet försöker ofta lösa ett verkligt problem under tidsbegränsning, med ofullständig information. Det är exakt vad som gör hjälpdelen till ett så attraktivt mål. Det är en av de få platserna där en konversation kan förvandlas direkt till tillgång. När tillgång har beviljats kan resten hända mycket snabbt.

Branschen har investerat kraftigt i anställdutbildning, men intrång som riktar sig mot människor fortsätter att öka. Var brister traditionell säkerhetsmedvetenhet, och vad behöver förändras?

Säkerhetsmedvetenhetsträning har behandlats som det primära försvaret mot social ingenjörskonst, trots att resultaten tydligt visar dess begränsningar. Organisationer fortsätter att investera kraftigt i utbildning, men angripare fortsätter att lyckas eftersom de riktar sig mot människor i liveinteraktioner, inte testar om anställda minns material från en kurs.

En social ingenjörskonstattack är inte ett prov. Det är en person på andra sidan ett telefonsamtal eller en chatttråd som skapar brådska, bygger förtroende och försöker få någon att vidta en åtgärd som de inte borde. Nuvarande modell bryter samman eftersom den förväntar sig att anställda ska känna igen och stoppa attacken medan angriparen aktivt manipulerar interaktionen.

När något går fel är svaret ofta att skylla på anställda och tilldela mer utbildning. Men anställda försökte hjälpa, vilket är exakt vad företaget ber dem att göra varje dag. Vi behöver sluta behandla social ingenjörskonst som ett medvetenhetproblem ensamt. Det är en attacktyp, och vi borde upptäcka och svara på den medan interaktionen pågår.

Humanix positionerar sig runt upptäckt av attacker på människor i realtid. Vad ser observabilitet av mänsklig risk ut i praktiken?

Observabilitet av mänsklig risk innebär att ge säkerhetsteam synlighet i de liveinteraktioner där angripare försöker manipulera människor till att ändra tillgång, kringgå en krävd procedur eller vidta någon annan osäker åtgärd på angriparens vägnar.

Idag är dessa interaktioner i princip osynliga för säkerhet. Någon ringer hjälpdelen, öppnar en biljett eller startar en chatt. Ett lösenord återställs, en MFA-faktor registreras, en behörighet ändras eller en undantag godkänns. Dessa är mycket känsliga arbetsflöden, men säkerhetsteam har ingen synlighet och observabilitet.

Humanix förändrar detta. Vi ansluter till de företagskommunikationssystem som redan används — Microsoft 365, ServiceNow (NOW ), Zoom, Slack och mer. Humanix övervakar åtgärder och interaktioner över dessa kanaler och jämför dem med attacktaktik och företagsprocedurer.

Blev samtalet korrekt verifierat? Talade de sig runt verifieringen? Fanns det brådska, förfalskning eller tryck för att hoppa över ett krävt steg? Var agenten på väg att vidta en högriskåtgärd? Hur har riskprofilen förändrats när samtalet framskred? Humanix tillhandahåller säkerhetsupptäckt och svar medan interaktionen sker, och låter säkerhetsteamet veta om något ser misstänkt ut.

Det slutliga målet med denna analys är inte att straffa offren efteråt. Det är att skydda dem i ögonblicket. Om en konversation förvandlas till en attack behöver säkerhetsteamet veta.

När AI-genererad röst och deepfake-teknik förbättras, hur nära är vi en punkt där mänskligt förtroende blir den svagaste angreppsytan?

Mänskligt förtroende har varit en av de svagaste angreppsytorna under lång tid. AI gör attacker mot förtroende lättare att skapa, anpassa och skala.

Men vi måste vara försiktiga med att inte överreagera på det specifika “deepfake”-fallet. Deepfakes är bara ett medium som angripare kan använda för att manipulera någon. I själva verket, om vi tittar på de flesta framgångsrika sociala ingenjörer under de senaste åren, var de flesta inte deepfakes — de är bara mänskliga angripare och bedragare som ringer upp. Grupper som Scattered Spider, ShinyHunters och BlackFile har visat att ett vanligt telefonsamtal, en trovärdig förtext och rätt mängd brådska är mer än tillräckligt för att få någon att vidta en åtgärd på angriparens vägnar.

Säkerhetsteam behöver fokusera på meddelandet, inte mediet. Någon som pressas att bryta mot policy eller godkänna ett undantag i misstänkta omständigheter — dessa är de verkliga riskbeteenden. Riskerna ligger i interaktionen i sig och den åtgärd den är utformad att framkalla.

Vilken roll bör AI spela i att försvara mot AI-drivna sociala ingenjörer, och vad är de största tekniska utmaningarna i att upptäcka manipulation i realtid?

konversations-AI öppnar möjligheten att förvandla AI-driven social ingenjörskonst från ett utbildningsproblem till ett upptäckts- och svarproblem. Språkmodeller tillåter oss att applicera all vår kunskap från domäner som slutpunkt eller nätverk och applicera dem på det mänskliga lagret. Vi behöver upptäcka och svara på dessa attacker, inte fortsätta på den meningslösa vägen att försöka utbilda bort dem.

Det finns många tekniska utmaningar i att göra denna vision till verklighet. Naturligt språk är högdimensionellt, vilket betyder att det finns otaliga olika sätt att uttrycka samma mening. Att säga “Jag är låst ut från mitt system” är en funktionellt ekvivalent uttalsning till att säga “Jag behöver mitt lösenord återställt”, även om orden “lösenord” och “återställt” aldrig användes.

En annan utmaning är vikten av sammanhang. Mänskliga interaktioner är kontextuella och kumulativa, och således också mänsklig manipulation. En ringsignal kan låta lugn, artig och trovärdig medan den fortfarande styr någon runt verifiering eller mot en osäker åtgärd. Vi behöver kombinera flera signaler och kontextuella data för att korrekt skilja på ofarliga och farliga.

Slutligen är varje organisation unik. Den har olika procedurer och normer, nästan alla av dem inte är maskinläsbara. Detta är ett annat område där AI kan vara till stor hjälp — att förstå dessa policys och jämföra dem med observerade verkliga beteenden.

Många säkerhetsverktyg fokuserar fortfarande på slutpunkter, nätverk och identitetssystem. Hur bör CISO:er omvärdera sin arkitektur om den primära slagfältet förändras till mänskligt beteende?

Först bör CISO:er formellt erkänna vad vi alla instinktivt vet: en organisations mänskliga kapital är en tillgångsklass (som slutpunkt, nätverk eller moln) som behöver hanteras. Hot och risker behöver modelleras och kontrolleras.

NIST Cybersecurity Framework tillhandahåller redan vägledning om hur man gör detta. “Identifiering” och “hantering” av människor är en del av tillgångshantering (ID.AM) undermängd av riskidentifiering. Men många organisationer definierar det mänskliga riskproblemet som ett utbildningsproblem och hanterar det bara via säkerhetsmedvetenhetsträningens efterlevnadskrav. Detta behöver förändras.

När vi behandlar mänskligt kapital som sin egen tillgångsklass öppnar det upp de standardiserade spelböckerna vi kör för varje annan tillgångsklass. Vilka är de viktigaste riskerna (ID.RA)? Hur kan jag systematiskt försvara mot dem (Skydda)? Vilka är våra system och processer för att upptäcka om en angripare är på väg att bryta mot dessa försvar, eller värre, redan har (Upptäcka)? Hur svarar organisationen för att innehålla hotet och slutligen återställa tjänster (Svara och Återställa)? Genom att ta samma systematiska tillvägagångssätt för vårt mänskliga kapital som vi gör för varje annan tillgångsklass kan vi mer tydligt identifiera risker och mer effektivt prioritera resurser för att hantera dessa risker.

Om vi ser framåt, förväntar du dig att mänskliga lagerattacker kommer att dominera cyberbrottslighet, eller kommer vi att se en hybridmodell där AI-driven automatisering och social ingenjörskonst konvergerar till något svårare att försvara?

Det kommer nästan säkert att vara en blandad hotmodell. Vi har två saker som händer samtidigt. Först, angripare lär sig att skala sina attacker med AI, ökar tillgången och sänker kostnaden för denna attacktyp. Andra, företag genomgår en agentic AI-omvandling som lett av de affärstjänster som attackeras av BlackFile och deras likar.

Kundtjänst, hjälpdelen, servicedesk, finansområden och interna supportarbetsflöden omvandlas alla från mänskligt levererade till AI-levererade. Det betyder att vi kommer att uppleva en explosion i naturligt språkangreppsyta medan vi blir av med mänskligt sunt förnuft. Stora språkmodeller är tränade för att svara på instruktioner och vara hjälpsamma. Den mänskliga misstänksamheten eller “magkänslan” som har varit några av våra bästa försvar mot social ingenjörskonst har medvetet tagits bort från modellsvar.

Övergången till AI-levererade tjänster kommer slutligen att öka risken för sociala ingenjörer, inte minska den. Företagens exponering för denna attacktyp kommer nästan säkert att fortsätta att växa under de kommande åren. Människor och agenter är båda sårbara för naturliga språkattacker. Säkerhetsteam behöver börja planera idag för en systematisk försvar och svarplan för denna nya verklighet.

Tack för den underbara intervjun, läsare som vill lära sig mer Humanix.