Mayank Kumar, Gründer und leitender AI-Ingenieur bei DeepTempo – Interview-Serie

Mayank Kumar ist der Gründer und leitende AI-Ingenieur bei DeepTempo, wo er die Entwicklung des firmeneigenen Log Language Models (LogLM) leitet. Mit seiner starken akademischen und Forschungsgrundlage im Bereich generativer und multimodaler KI bringt er spezialisierte Expertise ein, um domänen-spezifische Modelle zu entwickeln, die die Bedrohungsidentifizierung und -reaktion in Cyber-Sicherheitsumgebungen verbessern.

DeepTempo ist ein Cyber-Sicherheitsunternehmen, das auf LogLM basiert, einem AI-nativen Grundmodell, das auf großen Sicherheitslog-Daten trainiert wurde. Die Plattform ist darauf spezialisiert, fortgeschrittene, bisher unbekannte Bedrohungen zu identifizieren und gleichzeitig falsche Positivergebnisse zu minimieren. Sie ist für eine nahtlose Integration in bestehende Sicherheitsworkflows konzipiert und unterstützt Bereitstellungen in Datenseen, Kubernetes und Snowflake, was zu schnellerer Forensik, reduzierten Daten-Ingestionskosten und skalierbarer, automatisierter Verteidigung für moderne Unternehmen führt.

Was hat Sie dazu bewogen, DeepTempo mitzubegründen, und wie hat Ihre akademische Forschung und Ihre Erfahrung mit Open-Source-KI zum Unternehmen beigetragen?

Ich wuchs in einer engen Gemeinschaft auf, in der Beziehungen persönlich und nicht über Bildschirme aufgebaut wurden. Mein Vater, ein Lehrer, hat mir die Bedeutung des Gebens beigebracht. Obwohl wir nicht materiell reich waren, waren wir reich an Verbindungen und Zweck. In solch einer Umgebung lernt man schnell, dass das Lösen von Problemen nicht nur um individuelles Talent geht, sondern um kollektive Stärke. Diese Einstellung blieb bei mir und führte letztendlich zu meinem Interesse an sozialem Unternehmertum, während ich an der IIT Ropar studierte.

Der Wendepunkt kam, als mein Vaters Browser von einem Ransomware-Angriff betroffen war. Es war nicht nur ein technischer Fehler, sondern es brachte Angst, Verwirrung und Verletzlichkeit in unser Zuhause. Diese Erfahrung öffnete mir die Augen für die Fragilität der digitalen Welt, nicht nur für Einzelpersonen, sondern auch für Organisationen, die ständig unter Bedrohung stehen. Zu dieser Zeit traf ich Evan, dessen Vision für kollektive Verteidigung im Internet-Maßstab tief bei mir ankam. Diese geteilte Mission und mein Wunsch, Technologie zum Wohl der Menschen einzusetzen, führten mich zu DeepTempo.

An der University of Washington konzentrierte sich meine Forschung auf zwei Kernbereiche: multimodale Repräsentationslernen und datenzentrierte KI. Beides erwies sich als entscheidend, als wir unser vertikales Grundmodell, LogLM, aufbauten. Im Gegensatz zur natürlichen Sprache sind Sicherheitslogs unordentlich, strukturiert und fragmentiert. Unsere erste Herausforderung bestand darin, eine neue “Sprache” zu konstruieren, um diese Daten zu interpretieren, und es LogLM ermöglichen, bedeutungsvolle Repräsentationen aus diesen Sequenzen zu lernen. Wir haben auch viel in die Bewertung der Leistung investiert, da in der Sicherheit Genauigkeit keine Option ist und Halluzinationen nicht akzeptabel sind.

Aber jenseits der Technologie war unser Leitstern immer die kollektive Verteidigung. Deshalb wird die offene Zusammenarbeit entscheidend sein, um diese Mission im großen Maßstab zu verwirklichen.

Was bedeutet “kollektive Verteidigung” im Kontext von DeepTempo, und wie unterscheidet es sich von herkömmlichen Ansätzen zur Cybersicherheit?

In der Praxis bedeutet kollektive Verteidigung, dass wenn ein Kunden-LogLM eine neue Angriffsverhaltensweise identifiziert, sagen wir ein gestuftes C2- und Exfiltrationskampagnen-Szenario mit Beaconing-Verhalten gefolgt von ungewöhnlichem ausgehenden Datenverkehr, diese Erkenntnis in eine verallgemeinerte Verhaltenssignatur destilliert und im gesamten Ökosystem geteilt werden kann. Wichtig ist, dass dies nicht die Übermittlung von Rohlogs oder Kundendaten beinhaltet. Stattdessen abstrahieren wir hochvertrauenswürdige Verhaltensmuster und integrieren sie in Modellgewichte durch föderale Lernverfahren.

Dies ist ein deutlicher Gegensatz zu herkömmlichen Systemen, die entweder auf einheitsübergreifende Regeln oder statische Bedrohungs-Feeds angewiesen sind. Diese Systeme entwickeln sich nicht, bis multiple Opfer betroffen sind. Mit kollektiver Verteidigung entwickelt sich das Erkennungssystem mit jedem hochwertigen Signal, auch wenn die Bedrohung sehr spezifisch für eine Umgebung ist. Dies ermöglicht es uns, polymorphe Bedrohungen und LLM-verbesserte Angriffsflüsse zu erkennen, bevor sie weit verbreitet sind.

Welche spezifischen Lücken in der Unternehmenssicherheit führten zur Entwicklung von LogLM, und wie unterscheidet es sich grundlegend von älteren Erkennungssystemen?

Unternehmenssicherheitsteams stehen vor drei großen Problemen: hohes Rauschen-Signal-Verhältnis, brüchige Erkennungen, die nicht zwischen Umgebungen übertragbar sind, und langsame Anpassung an neue Bedrohungen. LogLM wurde entwickelt, um alle drei anzugehen.

Die meisten bestehenden Systeme basieren auf regelbasierten oder engen ML-Ansätzen, die Wochen oder Monate der Feinabstimmung benötigen, um eine neue Umgebung zu verstehen. Diese Ansätze scheitern, wenn Angreifer ihre Taktiken nur leicht ändern, wie wir es bei Gruppen wie Scattered Spider oder Volt Typhoon gesehen haben. LogLM wird auf großen Sicherheits-Telemetriedaten trainiert und behandelt diese als eine Art strukturierte Sprache. Dies ermöglicht es, komplexe Sequenzen wie einen Anstieg von ungewöhnlichen ausgehenden DNS-Anfragen gefolgt von ungewöhnlicher Okta-Aktivität nicht als isolierte Anomalien, sondern als Teil einer Bedrohungsnarrative zu erkennen.

Im Gegensatz zu herkömmlichen Werkzeugen, die isolierte Warnungen produzieren, produziert LogLM interpretierbare, taktische Erkennungen. Und da es von Grund auf für Sicherheit entwickelt wurde, ermöglicht es eine schnelle Anpassung mit nur wenigen Tagen von ungelabelten Logs. Dies macht die Einbindung schnell und die Erkennung viel widerstandsfähiger.

Was sind Schattenagenten, und wie stellen sie ein Risiko für Organisationen dar, die ohne zentrale Überwachung operieren?

Schattenagenten sind autonome AI-Tools, oft auf LLMs basierend, die innerhalb eines Unternehmens ohne explizite Autorisierung oder Sichtbarkeit durch das Sicherheitsteam operieren. Ein jünges Beispiel ist MITREs CVE-2025-32711 (“EchoLeak”), eine Zero-Click-Schwachstelle in Microsoft 365 Copilot, die durch die Zusammenfassung von E-Mails ausgelöst wird. Die Schwachstelle ermöglicht Angreifern, interne Daten über den RAG-Kontext des Agents zu extrahieren, ohne dass Benutzereingriff erforderlich ist. Obwohl diese Agenten die Produktivität steigern können, umgehen sie oft Sicherheitsprüfungen und exponieren sensible Daten gegenüber unkontrollierten Inferenzschichten.

Wir haben Fälle gesehen, in denen ein Schattenagent, der mit einem öffentlichen LLM gebaut wurde, auf Systemlogs zugreifen und Stack-Tracks mit hartcodierten Anmeldeinformationen leckte. Diese Agenten werden normalerweise nicht mit DLP-Kontrollen instrumentiert, folgen keinen Zugriffsrichtlinien und werden nicht auditiert. Schlimmer noch, da sie Entscheidungen treffen können, wie die Weiterleitung von Ausgaben an externe Systeme, werden sie selbst zu Angriffsflächen. Im Kontext von Prompt-Injektion oder adversarialer Kettung kann ein einzelner Agent dazu gezwungen werden, nachgelagerte Aktionen mit echtem Einfluss auszulösen.

Warum werden Prompt-Injektion und Modell-Manipulation zu ernsthaften Bedrohungen, und warum erkennen die meisten aktuellen Systeme sie nicht?

Prompt-Injektion ist gefährlich, weil sie die Kernfunktion des Modells ausnutzt: die Interpretation von natürlicher Sprache. Die meisten Unternehmenssysteme behandeln Modellausgaben als vertrauenswürdig, aber wenn das Modell versteckte Anweisungen erhält, die in einem Benutzerkommentar, API-Aufruf oder sogar einem Dateinamen eingebettet sind, kann es dazu gebracht werden, ungewollte Aktionen auszuführen. Wir haben gesehen, wie Angreifer dies nutzen, um Anmeldeinformationen aus Chat-Verläufen zu extrahieren, Benutzer zu imitieren oder Eingabevalidierung zu umgehen.

Das tiefer liegende Problem ist, dass LLMs auf Kohärenz und nicht auf Sicherheit optimiert sind. Wie wir in unserer jüngsten Antwort auf die Studie der Royal Society erforschten, priorisieren Modelle Flüssigkeit und Allgemeingültigkeit gegenüber Vorsicht und Präzision. Selbst wenn man sie auffordert, “genauer zu sein”, kann dies kontraproduktiv wirken und zu selbstsichereren, aber immer noch falschen, Antworten führen. Und die adversarische Modell-Manipulation ist ein langfristiges Anliegen. Angreifer können Datensätze vergiften oder Ausgaben durch wiederholte, strukturierte Abfragen im Laufe der Zeit subtil formen, das Modell allmählich in einen permissiveren Verhaltensraum lenkend. Die Erkennung hier erfordert vollständige Chain-Logging, kontinuierliche Bewertung und Modell-Sandboxing, Techniken, die die meisten Unternehmenssysteme noch nicht übernommen haben.

Wie nutzt Tempo MITRE ATT&CK-Mappings, um handhabbare Erkenntnisse anstelle von rohen Warnungen zu liefern?

Tempo kartiert seine Erkennungen auf ATT&CK-Taktiken und -Techniken mithilfe von überwachten Klassifizierern und unüberwachten Verhaltensketten. Wenn das System eine Sequenz wie verdächtliche PowerShell-Ausführung, Registrierungsschlüssel-Modifizierung und ungewöhnlichen ausgehenden Datenverkehr sieht, warnt es nicht nur auf jeder einzelnen Stufe, sondern markiert die Sequenz als Ausführung > Verteidigungs-Evasion > Exfiltration, entsprechend bekannten ATT&CK-IDs.

Dies ermöglicht es Verteidigern, das Ziel des Angreifers sofort zu verstehen und wo sie sich in der Kill-Chain befinden. Wir liefern auch Anreicherung: betroffene Entitäten, verwandte Logs und Vertrauenswürdigkeitsbewertungen. Dieser strukturierte Ansatz reduziert die kognitive Belastung für SOC-Analysten und beschleunigt Reaktionsworkflows; Teams wissen, welche Taktik verwendet wurde, was dazu führte, und was der nächste Schritt wahrscheinlich ist. Das ist ein großer Schritt von Warnsystemen, die auf jede Anomalie ohne narrative Kontext feuern.

Warum operiert DeepTempo vor SIEM-Systemen (Security Information and Event Management), und wie verbessert diese Positionierung die Bedrohungserkennung und strafft die Operationen für Sicherheitsteams?

SIEMs neigen dazu, Logs zu normalisieren und zu filtern, um die Kosten für die Datenübernahme zu reduzieren. Aber dabei verlieren sie oft wertvolle Kontexte, wie präzise Zeitstempel, Latenzspikes oder ephemere Sitzungsverhaltensweisen. DeepTempo operiert vorher, indem es Roh-Telemetrie vor dieser Transformation aufnimmt. Dies ermöglicht es uns, reichere Verhaltensmuster zu modellieren, wie z.B. die Wiederverwendung von Diensttoken mit leichten Zeitabweichungen oder seltene API-Aufrufssequenzen, die nie die SIEM-Schwellenwerte erreichen würden.

Die Arbeit vorher bedeutet auch, dass wir das Rauschen reduzieren können, bevor es das SIEM erreicht. Anstatt Petabytes von Log-Zeilen pro Tag zu übertragen, übergeben wir 50-100 hochkontextuelle Ereignisse mit voller ATT&CK-Anreicherung und modellbasierter Bewertung. Teams verbringen weniger Zeit mit der Filterung und mehr Zeit mit der Untersuchung von Bedrohungen, die zählen. Dies reduziert auch die SIEM-Speicher- und Rechenkosten, die in großen Umgebungen erheblich sein können.

Was ermöglicht Tempo, Modelle so schnell auf neue Umgebungen zu feinabzustimmen, und wie unterscheidet sich dies von herkömmlichen maschinellen Lern-Workflows?

Traditionelle ML-Systeme benötigen oft Wochen von gelabelten Daten und Neuschulung, um sich an eine neue Umgebung anzupassen. Tempo geht einen grundlegend anderen Weg. Anstatt von vorne zu beginnen, nutzt es ein vorgebildetes Modell, das auf großen, realen Netzwerk-Telemetriedaten wie NetFlow- und VPC-Flow-Daten trainiert wurde. Dies gibt ihm ein starkes Verständnis dafür, wie Datenverkehr und Verhaltensweisen typischerweise in verschiedenen Umgebungen aussehen.

Wenn Tempo in eine neue Umgebung eingesetzt wird, benötigt es keine gelabelten Daten oder lange Lernzyklen. Es nutzt nur wenige Tage lokaler Netzwerktätigkeit, um eine Grundlinie zu etablieren und sich selbst zu feinabzustimmen, um Muster zu erkennen, die spezifisch für diese Umgebung sind, wie ungewöhnlichen Zugriff außerhalb der Arbeitszeiten, Anomalien in der Kommunikation zwischen Diensten oder unerwartete Datenbewegungen. Dies geschieht in Stunden, nicht Wochen.

Da der Prozess selbstüberwacht ist, besteht kein Bedarf für Sicherheitsteams, Ereignisse manuell zu markieren oder zu beschriften. Und um aktuell zu bleiben, wenn sich Umgebungen ändern, haben wir Mechanismen zur Momentaufnahme entwickelt, die es dem Modell ermöglichen, “veraltete” Verhaltensweisen zu “vergessen”, wenn sich Infrastruktur oder Richtlinien ändern. Die Arbeit auf Netzwerkebene ermöglicht es uns, Bedrohungen früher und umfassender zu erkennen, was Tempo von herkömmlichen Sicherheitswerkzeugen abhebt, die sich auf Endpunkte oder Logs konzentrieren.

Wie hält DeepTempo eine hohe Genauigkeit aufrecht, während es gleichzeitig falsche Positivergebnisse minimiert, insbesondere in dynamischen Cloud-Umgebungen?

Wir kombinieren temporale Modellierung mit kontextbewusster Netzwerkverhaltensanalyse, direkt auf NetFlow- und VPC-Flow-Logs basierend. Unser edler Sequenzgenerierungsansatz in Kombination mit groß angelegtem Vor-Training von Transformer-basierten tiefen Lernalgorithmen hilft dabei, zu verstehen, wie Netzwerkevents im Laufe der Zeit ablaufen. Wir warnen nicht vor einem einzelnen fehlgeschlagenen Login, aber wir warnen vor einem fehlgeschlagenen Login, gefolgt von einem erfolgreichen Login von einem neuen Gerät, lateraler Bewegung und ungewöhnlichem Datenzugriff. Dieser geschichtete zeitliche Kontext filtert Rauschen heraus und hebt echte und neue Bedrohungen hervor.

Als zweites profilieren wir Benutzer- und Dienstverhaltensweisen im Kontext. Ein Kubernetes-Node, der 12 Mal neu startet, ist normal während Updates, aber verdächtig um 2 Uhr morgens, wenn es von einer neuen Container-Bereitstellung von einem unbekannten Repository gefolgt wird. Tempo erkennt dies, weil es Sequenz, Timing und Kontext gleichzeitig betrachtet. Außerdem überwacht unser aktives Lern-Pipeline aktiv Informationen zu bestimmten Erkennungsstilen. Wenn die Pipeline eine Leistungsverschiebung oder Datenverschiebung erkennt, nutzt sie die Momentaufnahmen und Feedback von Analysten, um eine kleine Anzahl von Modellparametern fein abzustimmen.

Wir bauen unsere Erkennung auf rohen, hochauflösenden Netzwerk-Metadaten auf, indem wir temporale Intelligenz mit Verhaltens-Grundlinien kombinieren, um hochvertrauenswürdige Warnungen zu liefern – sogar in Cloud-Umgebungen, die im Handumdrehen wechseln können.

Welche Rolle spielt Erklärbarkeit in Ihrem System, und wie stellen Sie sicher, dass Warnungen mit nutzbarem, interpretierbarem Kontext kommen?

Jede Erkennung in Tempo enthält eine Zusammenfassung, die zugrunde liegenden Log-Beweise und die abgeleitete Taktik (z.B. Anmeldeinformationen über Brute-Force). Wir liefern auch einen Graphen verwandter Entitäten, Benutzer, Endpunkte, Cloud-Ressourcen, damit SOC-Teams Vorfälle visualisieren können. Das Ziel ist es, den “Black-Box”-Effekt zu eliminieren, der viele KI-Systeme plagt.

Wir haben uns von akademischen Erklärbarkeitstools wie LIME und SHAP in frühen Prototypen inspirieren lassen, fanden aber, dass sie für Analysten nicht intuitiv sind. Stattdessen generieren wir eine klare, sprachliche Erzählung: was passiert ist, wann, warum es verdächtig ist und wie sicher wir sind. Dies geht nicht nur um Klarheit, sondern um die Ermöglichung, dass Tier-1-Analysten handeln können, ohne jede Warnung zu eskalieren.

Welche langfristigen Risiken bestehen durch Angreifer, die AI und Grundmodelle selbst einsetzen, und wie plant DeepTempo, dies zu überwinden?

Die Bedrohungslandschaft betritt eine Phase, in der Angreifer AI-Agenten einsetzen können, die selbst lernen, Payloads im Flug mutieren und legitimes Benutzerverhalten simulieren. Diese Agenten können 24/7 laufen, nach Schwachstellen suchen und sich mit jedem fehlgeschlagenen Versuch anpassen. Das ist ein grundlegender Wandel; es geht nicht mehr um Zero-Days, sondern um Geschwindigkeit, Iteration und Verwischung.

Wir bereiten uns darauf vor, indem wir in adversarialen Trainings, Upstream-Erkennung und Verhaltensmodellierung investieren, die nicht auf bekannten Indikatoren angewiesen sind. Unser Ziel ist es, die Struktur des schädlichen Verhaltens zu erkennen, bevor es eskaliert. Wir erforschen auch Wege, AI-generierten Angreifer-Verkehr zu identifizieren, genauso wie wir einst Botnetze identifizierten, damit Verteidiger Aktivitäten erkennen können, auch wenn Payloads ständig wechseln.

 Vielen Dank für das großartige Interview. Leser, die mehr erfahren möchten, sollten DeepTempo besuchen.