Keith Stewart, Gründer und CEO von Humanix – Interview-Serie

Keith Stewart, Gründer und CEO von Humanix, ist ein Veteran im Bereich Cybersicherheit mit mehr als 25 Jahren Erfahrung in den Bereichen Produktmanagement, Ingenieurwesen, Geschäftsentwicklung und Führung bei einigen der bekanntesten Unternehmen der Branche, darunter Cisco, Brocade, Riverbed und vArmour. Bevor er Humanix 2023 gründete, war er als Interim-CEO und SVP für Produkt und Ingenieurwesen bei vArmour tätig, wo er half, das Unternehmen durch den Erwerb und den Übergang zu einem SaaS-basierten Geschäftsmodell zu führen. Im Laufe seiner Karriere hat Stewart globale Teams geleitet, wichtige Cybersicherheits-Produktinitiativen vorangetrieben, an Finanzierungs- und M&A-Aktivitäten teilgenommen und eine Schlüsselrolle bei der Entwicklung von Next-Generation-Sicherheitstechnologien gespielt. Sein umfassendes Hintergrundwissen im Bereich Unternehmenssicherheit und sein tiefes Verständnis dafür, wie Angreifer menschliches Verhalten ausnutzen, führten dazu, dass er Humanix mit der Mission gründete, Menschen vor zunehmend komplexen sozialen Manipulationsangriffen zu schützen.

Humanix ist ein Cybersicherheitsunternehmen, das eine neue Kategorie namens Human Threat Detection and Response (HTDR) entwickelt, die sich auf den Schutz der “menschlichen Schicht” der Unternehmenssicherheit konzentriert. Anstatt sich ausschließlich auf Endgeräte, Netzwerke und Infrastruktur zu konzentrieren, verwendet Humanix künstliche Intelligenz, die auf menschlicher Psychologie und natürlichen Sprachangriffsmustern trainiert ist, um Manipulation, Täuschung, Identitätsdiebstahl und andere soziale Manipulationstaktiken über Voice-, Chat-, E-Mail-, Video- und Servicedesk-Interaktionen zu erkennen. Die Plattform ist darauf ausgelegt, Angriffe in Echtzeit zu erkennen und Organisationen dabei zu helfen, Angriffe zu stoppen, bevor Angreifer Mitarbeiter, Auftragnehmer oder Kunden ausnutzen. Der Ansatz von Humanix spiegelt die wachsende Erkenntnis wider, dass die meisten erfolgreichen Cyberangriffe Menschen und nicht Systeme ins Visier nehmen, und das Unternehmen zielt darauf ab, Sicherheitsteams mit der gleichen Sichtbarkeit und Reaktionsfähigkeit für menschliche Bedrohungen zu versorgen, wie sie bereits für traditionelle Cyber-Bedrohungen haben.

Sie haben wichtige Transformationen in Unternehmen wie vArmour geleitet, darunter SaaS-Übergänge, die Skalierung von Ingenieursteams und die Navigation durch einen Erwerb. Welche spezifische Lücke oder Wendepunkt führte Sie dazu, Humanix zu gründen, und warum konzentrieren Sie sich so stark auf die Sicherheit von Menschen und nicht von Systemen?

Das größte Problem in der Sicherheitslage eines Unternehmens ist das menschliche Risiko. Menschen sind sowohl unser mächtigstes Verteidigungsmittel als auch unsere größte Schwachstelle. Doch es ist ein Problem, das kontinuierlich ungelöst blieb. Die Antwort der Branche war die Schulung – effektiv versuchte man, den durchschnittlichen Mitarbeiter in einen Cybersicherheitsexperten in einer einstündigen Sitzung zu verwandeln. Wir wissen, dass es nicht funktioniert, aber wir hatten keine besseren Lösungen.

Zwei Dinge haben sich kürzlich geändert, eines zum Schlechteren und eines zum Besseren. Erstens, das Schlechte: KI macht Angriffe, die Menschen direkt ins Visier nehmen, viel zugänglicher. Sie können jetzt ein Teenager auf der anderen Seite der Welt sein, kein Wort Englisch sprechen, nichts über ein bestimmtes Unternehmen wissen und plötzlich lässt ein LLM Sie fast alles wissen und klingen wie fast jeder.

Zweitens, eine Veränderung zum Besseren: Wir haben jetzt die Technologie, um diese Angriffe zu erkennen. LLMs sind sehr gut darin, die Nuancen und Komplexität menschlicher Interaktionen zu verstehen. Mit konversationeller KI können wir Muster in diesen Interaktionen erkennen und in nahezu Echtzeit reagieren.

Wir müssen nicht länger auf veraltete, schulungsbasierte Strategien angewiesen sein. Zum ersten Mal haben wir eine Möglichkeit, das Problem der menschlichen Verwundbarkeit direkt zu lösen. Deshalb haben wir Humanix aufgebaut.

Ihre Arbeit hat sich lange auf große Datenmengen, Verhaltensanalyse und graphbasierte Sicherheitsmodelle konzentriert. Wie haben diese Erfahrungen Humanix’ Ansatz bei der Erkennung von Angriffen geprägt, die nicht wie traditionelle Angriffe aussehen?

Wenn man oberflächlich betrachtet, scheint die Erkennung interaktiver sozialer Manipulationsangriffe überwältigend. Jeder Mensch ist anders. Natürliche Sprache ist extrem hochdimensional. Klassische ML-zentrierte Verhaltensmodelle verstehen den Kontext nicht und feuern daher häufig falsch.

Wenn man jedoch ein bisschen tiefer eintaucht, kann man erkennen, dass diese Angriffsklasse Muster wie jede andere hat. Anstatt Buffer-Überläufe oder Zero-Days auszunutzen, nutzen Angreifer Geschäftsprozesslücken und menschliches Vertrauen. Angreifer haben Playbooks, die sie konsistent gegen Organisationen einsetzen, was bedeutet, dass wir diese Angriffe erkennen und darauf reagieren sollten, wie wir es bei Endgeräten, Netzwerken, Cloud oder Identität tun.

Diese Erkenntnis ermöglicht es uns, klassische Erkennungs- und Reaktionsmuster, die wir als effektiv kennen, mit den semantischen Argumentationsfähigkeiten von Sprachmodellen zu kombinieren. Humanix nutzt diese Kombination, um Entitäten, Beziehungen, Verhalten, Risiken und die Interaktion selbst zu verstehen. So können wir eine neue Klasse von Erkennungs- und Reaktionsprodukten schaffen: Human Threat Detection and Response.

Neue Gruppen wie BlackFile nutzen Voice-Phishing und Echtzeit-Soziale-Engineering anstelle von malware-lastigen Taktiken. Was sagt uns dieser Wandel über die Veränderung der Bedrohungslandschaft?

BlackFile ist Teil eines breiteren Wandels hin zu Angriffen, die weniger darum gehen, Malware in eine Umgebung zu bringen, und mehr darum, natürliche Sprache zu nutzen, um eine Person dazu zu bringen, die Tür zu öffnen.

Diese Gruppen haben erkannt, dass ein überzeugender Anruf, ein plausibles Vorwand und die richtige Menge an Dringlichkeit genauso effektiv sein können wie ein technischer Ausnutzen, und oft schwerer für Sicherheitsteams zu erkennen sind. Die Angriffsfläche hat sich nicht so sehr geändert, wie der Fokus der Angreifer. Menschen waren immer Teil der Angriffsfläche. Was sich geändert hat, ist die Skalierbarkeit, Reife und Wiederholbarkeit des Playbooks.

Soziale Manipulation wird kopiert, verfeinert und industrialisiert, weil sie funktioniert. Sie nutzt aus, wie Unternehmen tatsächlich operieren, insbesondere in Workflows, in denen Menschen dazu angehalten werden, schnell zu helfen, Ausnahmen zu lösen und Dinge in Bewegung zu halten.

Wir sehen, wie Angreifer IT-Helpdesks nachahmen und Mitarbeiter direkt ausnutzen, um Zugang zu erhalten. Warum werden Techniken wie Vishing und Help-Desk-Manipulation zu so effektiven primären Eintrittspunkten?

Techniken wie Vishing und Help-Desk-Manipulation sind so effektiv, weil sie die Kombination aus Vertrauen, Dringlichkeit und Zugang in vielen Support- und administrativen Workflows ausnutzen.

Wenn ich in Ihre Umgebung eindringen will, kann ich Wochen damit verbringen, nach einem technischen Ausnutzen zu suchen. Oder ich kann jemanden anrufen, der dazu ausgebildet ist, zu helfen, eine glaubwürdige Geschichte erfinden und ihn dazu bringen, das zu tun, was ich brauche, ob das nun das Zurücksetzen eines Passworts, die Registrierung eines neuen MFA-Faktors, die Änderung einer Berechtigung oder die Genehmigung einer Anfrage ist.

Die Person am anderen Ende des Anrufs ist oft dabei, ein wirkliches Problem zu lösen, unter Zeitdruck und mit unvollständiger Information. Das ist genau das, was den Help-Desk zu einem so attraktiven Ziel macht. Es ist einer der wenigen Orte, an dem eine Konversation direkt in Zugang umgewandelt werden kann. Sobald der Zugang gewährt wird, kann der Rest sehr schnell passieren.

Die Branche hat stark in Mitarbeiterschulungen investiert, doch Angriffe, die Menschen ins Visier nehmen, nehmen weiter zu. Wo liegt die traditionelle Sicherheitsbewusstseinsbildung kurz, und was muss sich ändern?

Sicherheitsbewusstseinsbildung wurde als primäre Verteidigung gegen soziale Manipulation behandelt, obwohl die Ergebnisse klar ihre Grenzen zeigen. Organisationen setzen weiterhin stark auf Schulungen, doch Angreifer haben weiterhin Erfolg, weil sie Menschen in Live-Interaktionen ins Visier nehmen und nicht testen, ob Mitarbeiter Material aus einem Kurs behalten.

Ein sozialer Manipulationsangriff ist kein Quiz. Es ist eine Person am anderen Ende eines Anrufs oder Chat-Threads, die Dringlichkeit erzeugt, Vertrauen aufbaut und versucht, jemanden dazu zu bringen, eine Handlung auszuführen, die er nicht ausführen sollte. Das aktuelle Modell bricht zusammen, weil es vom Mitarbeiter erwartet, den Angriff zu erkennen und zu stoppen, während der Angreifer die Interaktion aktiv manipuliert.

Wenn etwas schiefgeht, ist die Reaktion oft, den Mitarbeiter zu beschuldigen und weitere Schulungen zuzuweisen. Doch der Mitarbeiter versuchte nur, zu helfen, was das Unternehmen ihm jeden Tag abverlangt. Wir müssen aufhören, soziale Manipulation nur als Bewusstseinsproblem zu behandeln. Es ist eine Angriffsklasse, und wir sollten sie erkennen und darauf reagieren, während die Interaktion stattfindet.

Humanix positioniert sich um die Erkennung von Angriffen auf Menschen in Echtzeit. Wie sieht die Beobachtbarkeit von menschlichem Risiko in der Praxis aus?

Beobachtbarkeit von menschlichem Risiko bedeutet, Sicherheitsteams Einblick in die Live-Interaktionen zu geben, in denen Angreifer versuchen, Menschen zu manipulieren, um Zugang zu ändern, eine erforderliche Prozedur zu umgehen oder eine andere unsichere Aktion im Auftrag des Angreifers auszuführen.

Heute sind diese Interaktionen für die Sicherheit effektiv unsichtbar. Jemand ruft den Help-Desk an, öffnet ein Ticket oder beginnt einen Chat. Ein Passwort wird zurückgesetzt, ein MFA-Faktor wird registriert, eine Berechtigung wird geändert oder eine Ausnahme wird genehmigt. Diese sind hochsensible Workflows, doch Sicherheitsteams haben keine Sichtbarkeit und Beobachtbarkeit.

Humanix ändert dies. Wir stecken in die Kommunikationssysteme ein, die bereits im Unternehmen verwendet werden – Microsoft 365, ServiceNow , Zoom, Slack und mehr. Humanix überwacht Aktionen und Interaktionen über diese Kanäle und vergleicht sie mit Angriffstaktiken und Unternehmensprozeduren.

Wurde der Anrufer ordnungsgemäß verifiziert? Hat er sich um die Verifizierung herumgedrängelt? Gab es Dringlichkeit, Identitätsdiebstahl oder Druck, um einen erforderlichen Schritt zu umgehen? Wollte der Agent eine hochriskante Aktion ausführen? Wie hat sich das Risikoprofil geändert, als der Anruf voranschritt? Humanix bietet Sicherheitserkennung und -reaktion, während die Interaktion stattfindet, und lässt das Sicherheitsteam wissen, wenn etwas verdächtig aussieht.

Das ultimative Ziel dieser Analyse ist nicht, die Opfer nachträglich zu bestrafen. Es ist, sie im Moment zu schützen. Wenn eine Konversation zu einem Angriff wird, muss das Sicherheitsteam davon wissen.

Wenn KI-generierte Stimmen und Deepfake-Technologien verbessert werden, wie nahe sind wir an einem Punkt, an dem menschliches Vertrauen zur schwächsten Angriffsfläche wird?

Menschliches Vertrauen ist bereits seit Langem eine der schwächsten Angriffsflächen. KI macht Angriffe gegen Vertrauen einfacher zu erstellen, anzupassen und zu skalieren.

Wir müssen jedoch vorsichtig sein, nicht zu sehr auf den spezifischen “Deepfake”-Fall zu fokussieren. Deepfakes sind nur ein Medium, das Angreifer nutzen können, um jemanden zu manipulieren. Tatsächlich zeigen uns die meisten erfolgreichen sozialen Manipulationsangriffe der letzten Jahre, dass sie keine Deepfakes waren – sie sind einfach menschliche Angreifer und Betrüger, die den Hörer abnehmen. Gruppen wie Scattered Spider, ShinyHunters und BlackFile haben gezeigt, dass ein normaler Anruf, ein glaubwürdiger Vorwand und die richtige Menge an Dringlichkeit mehr als ausreichen, um jemanden dazu zu bringen, eine Handlung im Auftrag des Angreifers auszuführen.

Sicherheitsteams müssen sich auf die Botschaft und nicht auf das Medium konzentrieren. Jemand, der unter Druck gesetzt wird, eine Richtlinie zu verletzen oder eine Ausnahme in verdächtigen Umständen zu genehmigen – das sind die wirklich riskanten Verhaltensweisen. Die Risiken liegen in der Interaktion selbst und der Aktion, die sie hervorrufen soll.

Vertrauen ist etwas, das wir nicht aus dem Geschäft entfernen können. Menschen müssen Anrufe beantworten, Probleme lösen, Anfragen genehmigen und einander helfen. Die Antwort kann nicht sein, jeden weniger menschlich zu machen. Sie muss darin bestehen, die Momente zu schützen, in denen Vertrauen ausgenutzt wird.

Welche Rolle sollte KI bei der Verteidigung gegen KI-getriebene soziale Manipulation spielen, und was sind die größten technischen Herausforderungen bei der Erkennung von Manipulation in Echtzeit?

Konversationelle KI ermöglicht es uns, KI-getriebene soziale Manipulation von einem Schulungsproblem zu einem Erkennungs- und Reaktionsproblem zu wandeln. Sprachmodelle ermöglichen es uns, all unsere Erkenntnisse aus Bereichen wie Endgeräten oder Netzwerken auf die menschliche Schicht anzuwenden. Wir müssen diese Angriffe erkennen und darauf reagieren, anstatt weiterhin den erfolglosen Weg zu beschreiten, sie durch Schulungen zu verhindern.

Es gibt viele technische Herausforderungen, um diese Vision zu verwirklichen. Natürliche Sprache ist hochdimensional, was bedeutet, dass es unzählige Möglichkeiten gibt, die gleiche Bedeutung zu vermitteln. “Ich bin aus meinem System ausgesperrt” ist eine funktional äquivalente Aussage zu “Ich brauche mein Passwort zurücksetzen”, obwohl die Wörter “Passwort” und “zurücksetzen” nie verwendet wurden.

Ein weiteres Problem ist die Bedeutung von Kontext. Menschliche Interaktionen sind kontextabhängig und kumulativ, und somit auch menschliche Manipulation. Ein Anrufer kann ruhig, höflich und glaubwürdig klingen, während er gleichzeitig um die Verifizierung herumdrängelt oder zur unsicheren Aktion drängt. Wir müssen multiple Signale und Kontextdaten kombinieren, um zwischen harmlosen und schädlichen Aktionen zu unterscheiden.

Schließlich ist jedes Unternehmen anders. Es hat unterschiedliche Prozeduren und Normen, die größtenteils nicht maschinenlesbar sind. Dies ist ein weiterer Bereich, in dem KI eine große Hilfe sein kann – das Verständnis dieser Richtlinien und deren Vergleich mit beobachtetem Verhalten in der realen Welt.

Viele Sicherheitswerkzeuge konzentrieren sich noch auf Endgeräte, Netzwerke und Identitätssysteme. Wie sollten CISOs ihre Architektur überdenken, wenn der primäre Kampfplatz zur menschlichen Verhaltensweise wird?

Erstens sollten CISOs erkennen, was wir alle intuitiv wissen: Das menschliche Kapital eines Unternehmens ist eine Vermögensklasse (wie Endgeräte, Netzwerk oder Cloud), die verwaltet werden muss. Bedrohungen und Risiken müssen genau modelliert und kontrolliert werden.

Das NIST-Cybersicherheitsframework bietet bereits Richtlinien, wie dies zu tun ist. Die “Identifizierung” und “Verwaltung” von Menschen sind Teil des Asset-Managements (ID.AM) von Risikoidentifizierung. Viele Unternehmen definieren das menschliche Risikoproblem jedoch als Schulungsproblem und verwalten es nur über die Sicherheitsbewusstseins-Schulungskompatibilitätsanforderung. Dies muss sich ändern.

Wenn wir menschliches Kapital als eigene Vermögensklasse behandeln, öffnet sich die Standard-Playbook, die wir für jede andere Vermögensklasse durchführen. Welche sind die Schlüsselrisiken (ID.RA)? Wie kann ich diese systematisch verteidigen (Schutz)? Welche sind unsere Systeme und Prozesse, um zu erkennen, ob ein Angreifer unsere Verteidigungen zu durchbrechen droht oder bereits durchgebrochen hat (Erkennung)? Wie reagiert das Unternehmen, um die Bedrohung zu eindämmen und letztendlich Dienste wiederherzustellen (Reaktion und Wiederherstellung)? Indem wir den gleichen systematischen Ansatz für unser menschliches Kapital wie für jede andere Vermögensklasse verwenden, können wir Risiken besser identifizieren und Ressourcen effektiver priorisieren, um diese Risiken zu managen.

Blickt man in die Zukunft, erwarten Sie, dass menschliche Angriffe die Cyberkriminalität dominieren, oder werden wir ein hybrides Modell sehen, in dem KI-getriebene Automatisierung und soziale Manipulation zu etwas Schwierigerem zu verteidigen verschmelzen?

Es wird wahrscheinlich ein gemischtes Bedrohungsmodell sein. Wir haben zwei Dinge, die gleichzeitig passieren. Erstens lernen Angreifer, ihre Angriffe mit KI zu skalieren und den Zugang zu erhöhen, während sie die Kosten für diese Art von Angriff senken. Zweitens durchlaufen Unternehmen selbst eine agente KI-Transformation, angeführt von den Geschäftsdiensten, die von BlackFile und seinen Peers angegriffen werden.

Kundenservice, Help-Desk, Service-Desk, Finanzoperationen und interne Support-Workflows werden alle von menschlich geliefert zu KI-geliefert transformiert. Das bedeutet, dass wir eine Explosion der natürlichen Sprachangriffsfläche erleben werden, während wir gleichzeitig den menschlichen gesunden Menschenverstand beseitigen. Große Sprachmodelle sind trainiert, um Anweisungen zu befolgen und hilfreich zu sein. Die menschliche Argwohn oder “Bauchgefühl”, die einige unserer besten Verteidigungen gegen soziale Manipulationsangriffe waren, wurden bewusst aus den Modellantworten entfernt. Der Übergang zu KI-gelieferten Diensten wird letztendlich das Risiko von sozialen Manipulationsangriffen erhöhen, nicht verringern.

Als Ergebnis wird die Exposition von Unternehmen gegenüber dieser Art von Angriffen in den nächsten Jahren wahrscheinlich weiter ansteigen. Menschen und Agenten sind beide anfällig für natürliche Sprachangriffe. Sicherheitsteams müssen heute beginnen, einen systematischen Verteidigungs- und Reaktionsplan für diese neue Realität zu planen.

Vielen Dank für das großartige Interview, Leser, die mehr über Humanix erfahren möchten.