Natasha Mohanty, SVP of Engineering at Doppel – Interview-Serie

Natasha Mohanty, Senior Vice President of Engineering bei Doppel, ist eine erfahrene Technologieführerin mit tiefgreifender Erfahrung in den Bereichen KI, Zahlungen, Medien und Consumer-Plattformen. Bevor sie zu Doppel kam, leitete sie die Entwicklung für Stripe’s Optimized Checkout Suite und Link, wobei sie die Organisation von 30 auf 200 Ingenieure skalieren konnte, während sie half, eine große Akzeptanz von Stripe’s Checkout-Produkten und Consumer-Wallets zu fördern. Zuvor war sie als VP of Engineering bei Nielsen tätig, nachdem Prizma.ai, das KI-gestützte Video-Engagement- und Medienanalyse-Unternehmen, das sie mitgegründet und als CTO geleitet hatte, übernommen worden war. Früher in ihrer Karriere verbrachte sie über sieben Jahre bei Google (GOOGL ), wo sie an Search Quality, Google News und Google+ arbeitete.

Doppel ist ein KI-natives Social-Engineering-Verteidigungsunternehmen, das sich auf den Schutz von Organisationen, Führungskräften, Marken und Kunden vor KI-gestützter Nachahmung, Phishing, Betrug und weiteren digitalen Risiken konzentriert. Seine Plattform kombiniert digitales Risikoschutz, Exekutiv- und Markenschutz, E-Mail-Sicherheit, Human-Risikomanagement, Simulationen und Sicherheitsbewusstseinsbildung, indem sie KI und Echtzeit-Bedrohungsintelligenz nutzt, um Angreifer-Infrastrukturen über Kanäle wie Domains, soziale Medien, Messaging-Apps, Anzeigen und das Dark Web zu erkennen, zu korrelieren und zu stören. Das Unternehmen hat sich um die wachsende Bedrohung durch KI-gestütztes Social Engineering positioniert und hilft Sicherheitsteams, auf immer komplexere Angriffe im modernen digitalen Bedrohungslandschaft zu reagieren.

Sie haben die Leitung von Entwicklungsorganisationen bei Unternehmen wie Stripe, Google, Nielsen und jetzt Doppel innegehabt. Wie hat sich Ihre Sicht auf die Rolle des Software-Ingenieurs von der direkten Systementwicklung hin zur Orchestrierung zunehmend autonomer KI-gestützter Workflows entwickelt?

Der Software-Ingenieur-Workflow hat sich dramatisch verändert, aber die Verantwortung, die von Ingenieuren verlangt wird, hat sich nicht geändert. Als ich meine Karriere bei Google vor zwei Jahrzehnten begann, verbrachten Ingenieure den größten Teil ihrer Zeit damit, Code selbst zu schreiben und zu überprüfen. Heute kann KI den größten Teil der Code-Generierung übernehmen, aber Ingenieure sind immer noch dafür verantwortlich, Ziele zu definieren, Ausgaben zu validieren, Sicherheitsvorkehrungen zu etablieren, Code zu überprüfen und sicherzustellen, dass Systeme langfristig zuverlässig bleiben. In vielen Bereichen hat KI den Umfang der ingenieurtechnischen Verantwortung eher erweitert als reduziert.

Was sich entwickelt hat, ist, wo Ingenieure Wert schaffen. Wenn KI die Mechanik des Codierens übernimmt, wird die Rolle des Ingenieurs immer mehr auf Geschmack und Urteilsvermögen, Verständnis des Problems, Architekturentscheidungen, Bewertung von Kompromissen und Sicherstellung der Ausrichtung auf Benutzer- und Geschäftsanforderungen konzentriert. Die besten Ingenieure tun mehr als nur Software schreiben. Sie werden kohärente Systeme aus Menschen und KI orchestrieren und Kontext und Verantwortung anwenden, die Maschinen noch immer fehlen. Es ist ähnlich wie der Wechsel von einem Einzelbeitragenden zu einem Manager.

Sie haben argumentiert, dass KI die ingenieurtechnische Verantwortung nicht reduziert, sondern erweitert. Welche sind die größten Missverständnisse, die Führungskräfte immer noch über das haben, was KI-Coding-Agenten realistisch ohne menschliche Aufsicht bewältigen können?

Das größte Missverständnis ist, dass KI den Bedarf an starken Ingenieuren eliminieren wird. Die Realität ist, dass KI die Obergrenze dessen, was ein kleines, geschicktes Team bauen kann, erhöht, was ingenieurtechnisches Urteilsvermögen wertvoller macht, nicht weniger.

Was sich ändert, ist die Oberfläche, für die Ingenieure verantwortlich sind. Sie schreiben nicht mehr nur Code. Sie definieren, was gebaut wird, validieren, dass Agenten das tun, was sie beabsichtigt haben, und besitzen das Ergebnis, wenn sie es nicht tun.

Wenn überhaupt, ist das Problemspektrum ansprechender geworden. Angreifer haben Zugang zu denselben KI-Tools, die wir haben, was bedeutet, dass die Herausforderung, ihnen voraus zu sein, wirklich schwieriger und interessanter ist, als es jemals zuvor der Fall war. Es gibt keinen Mangel an harten Problemen, die gelöst werden müssen, und Doppel stellt derzeit Ingenieure ein, die von dieser Art von Arbeit begeistert sind.

Wenn Entwicklerteams beginnen, mehrere KI-Agenten über Codierung, Testen, Debuggen und Dokumentation zu koordinieren, wie sieht ein effektiver “Agenten-Management”-Workflow in der Praxis aus?

Ingenieure agieren immer mehr als Manager autonomer Systeme und nicht nur als Beitragende. Die besten Ingenieure können einen erheblichen Kontext über mehrere parallele Workflows hinweg halten und genau wissen, welchen Kontext sie mit jedem Agenten teilen. In der Praxis bedeutet das, gut definierte Akzeptanzkriterien zu schreiben, klare Sicherheits- und Datenschutzvorkehrungen zu setzen und Agenten zu bitten, ihre Argumentation und Annahmen als Validierungsschritt zu erklären. Wenn ein Agent nicht erklären kann, was er tut und warum, kann man dem Ausgang nicht vollständig vertrauen.

Bei Doppel bauen wir agentische Systeme, die Bedrohungen untersuchen, kontinuierlich Erkennungspolitiken anpassen und ihre Entscheidungen in einfacher Sprache erklären. Effektives Agenten-Management erfordert auch systemweite Infrastruktur, einschließlich Staging-Umgebungen, automatisierter Testpipelines, Sicherheits-Tooling mit definierten Berechtigungen und Aufsicht, sowie Bewertungsrahmen, die kontinuierlich beurteilen, ob Agenten und das umfassendere System wie erwartet funktionieren.

Welche sind die größten operativen oder Sicherheitsrisiken, die entstehen, wenn KI-Agenten Zugang zu internen Tools, Produktions-Systemen oder sensiblen Workflows ohne starke Sicherheitsvorkehrungen erhalten?

Das Risiko ist nicht nur, dass KI-Agenten Fehler machen. Es ist, dass sie Fehler in einem Maßstab machen können, der schwer zu fangen ist. Die spezifischere Gefahr ist, dass Agenten außerhalb ihres beabsichtigten Umfangs handeln, entweder indem sie Systeme zugreifen, die sie nicht berühren sollten, oder Daten verarbeiten, die sie nicht behalten sollten.

In unserem E-Mail-Sicherheitsprodukt beispielsweise verarbeiten Agenten Daten, die von Natur aus sensibel sind. Wir haben erhebliche Anstrengungen unternommen, um sicherzustellen, dass diese Agenten streng eingeschränkten Zugang haben, nicht versehentlich sensible persönliche Informationen im Downstream-Bereich offenlegen und keine vertraulichen Informationen speichern, während sie gleichzeitig den Kontext benötigen, um die richtige Entscheidung zu treffen.

Ab welchem Punkt beginnt die starke Abhängigkeit von KI-generiertem Code langfristige technische Schulden zu verursachen, und wie sollten Entwicklungsleiter die Balance zwischen Geschwindigkeit und Wartbarkeit finden?

Das Risiko besteht darin, die kurzfristige Geschwindigkeit über die Grundlagen zu priorisieren, die es Systemen ermöglichen, zu skalieren und zu evolvieren. Eine der größten Lektionen, die ich während meiner Zeit bei Stripe gelernt habe, ist, dass nicht alle Entscheidungen gleich sind. Einige sind Falltüren: schwer rückgängig zu machen und wahrscheinlich langfristige Konsequenzen zu haben, während andere leichter geändert werden können.

Mit KI besteht die Disziplin darin, zu wissen, welche Entscheidungen immer noch langfristige Konsequenzen haben, stärkere Sicherheitsvorkehrungen um diese zu legen und schnell auf dem Rest voranzukommen. Bei Doppel bedeutet das, Bewertungssysteme und aktuelle Dokumentation zu verwenden, um sicherzustellen, dass Agenten weiterhin wie beabsichtigt funktionieren, während Systeme evolvieren. Das Ziel ist nicht, langsamer zu werden, sondern sicherzustellen, dass Geschwindigkeit nicht stillschweigend die Grundlagen untergräbt, auf denen Sie aufbauen.

Während Ihrer Zeit bei Stripe, wo Sie Entwicklungsorganisationen skalierten, welche Lektionen über Zuverlässigkeit, Vertrauen und Systemdesign fühlen sich jetzt besonders relevant in der Ära autonomer KI-Agenten?

Bei Stripe war Zuverlässigkeit alles, insbesondere weil die Finanzbranche so reguliert ist und es katastrophal für Unternehmen wäre, wenn ihre Zahlungsportale ausfielen. Wenn ein System nicht wie beabsichtigt funktionierte, gab es eine direkte Auswirkung auf Kunden, was eine starke Kultur der Verantwortung und Rechenschaftspflicht bei dem Unternehmen schuf.

Eine der Dinge, die mich zu Doppel gezogen haben, war ein ähnliches Maß an Kundenorientierung. Die Teams hier sind tief in das Verständnis der Herausforderungen, mit denen Kunden konfrontiert sind, und in die Übernahme der Verantwortung für die Lösung dieser Herausforderungen eingebunden.

Jetzt, da ich bei Doppel bin, fühlen sich diese Lektionen besonders relevant. Wir bauen KI-native Systeme, um Organisationen bei der Abwehr zunehmend komplexer sozialer Engineering-Angriffe zu helfen. Und ähnlich wie bei Stripe, wo Zahlungsverarbeitungssysteme nicht ausfallen dürfen, ist es für Unternehmen katastrophal, wenn sie nicht über eine starke Cybersicherheits-Postion verfügen. Beides sind sehr hohe Einsätze, aber aus unterschiedlichen Gründen.

Wie erwarten Sie, dass sich die Einstellung von Entwicklern in den nächsten Jahren ändern wird, wenn Unternehmen zunehmend KI-Kompetenz, Systemdenken und Anpassungsfähigkeit über eine engere technische Spezialisierung priorisieren?

Ich denke, wir werden einen wachsenden Schwerpunkt auf die Einstellung von Ingenieuren sehen, die mit Autonomie, starkem Urteilsvermögen und der Fähigkeit, schnell zu lernen, arbeiten können. Das sind Eigenschaften, nach denen ich immer gesucht habe, aber sie sind jetzt wichtiger, nicht weniger. Im Laufe meiner Karriere hatten die Ingenieure, die den größten Einfluss hatten, nicht unbedingt die engste Spezialisierung. Sie waren diejenigen, die sich anpassen, Unsicherheit navigieren und kontinuierlich lernen konnten, während sich die Technologie entwickelte.

Aber die Latte ist höher gelegt worden. Bei Doppel sind die Probleme, die wir lösen, nicht klar definiert. Wir arbeiten ständig daran, Angreifern, die auch KI nutzen, voraus zu sein, was bedeutet, Systeme wie Bedrohungs-Intelligenz-Agenten zu bauen, die proaktiv im Web nach Bedrohungen suchen. Es gibt kein etabliertes Handbuch für diese Art von Arbeit, also erfordert es Hartnäckigkeit und die Bereitschaft, die Grenzen dessen zu erweitern, was möglich ist.

KI wird die Art und Weise, wie Arbeit erledigt wird, weiter verändern, aber Unternehmen werden immer noch Menschen benötigen, die über Systeme hinweg arbeiten und die volle Verantwortung für das übernehmen, was sie bauen. Die Ingenieure, die erfolgreich sind, werden diejenigen sein, die ständig neu erfinden, wozu sie fähig sind, während sich die KI-Landschaft um sie herum entwickelt.

Sie haben umfassend an Personalisierung, Empfehlungssystemen und maschinenlernbasierten Plattformen gearbeitet. Wie prägt diese Erfahrung Ihre Sicht auf die Zusammenarbeit zwischen Mensch und KI innerhalb von Entwicklungsorganisationen heute?

Eine Sache, die ich von der Arbeit an Personalisierung und maschinenlernbasierten Systemen gelernt habe, ist, dass die Qualität der Ausgabe nur so gut ist wie die Qualität der Eingaben, einschließlich Trainingsdaten, Bewertungsrahmen und einer klaren Definition dessen, was “gut” eigentlich bedeutet. Modelle sind großartig darin, Informationen im großen Maßstab zu verarbeiten, aber Menschen bringen Urteilsvermögen, Kontext und ein Verständnis dessen, was am wichtigsten ist.

Ich denke, dasselbe Prinzip gilt für Entwicklungsorganisationen, die heute operieren. KI kann Teams helfen, schneller zu arbeiten, aber die besten Teams werden bewusst sein, welchen Kontext und welche Grundwahrheit sie KI geben, sowie wie KI-gestützte Systeme in das umfassendere Entwicklungsökosystem integriert werden. Ingenieure müssen immer noch Entscheidungen treffen, Kompromisse bewerten und letztendlich das Ergebnis besitzen.

Viele Unternehmen sind bemüht, die Produktivität von Entwicklern mit KI-Tools zu maximieren. Glauben Sie, dass der Wettbewerbsvorteil letztendlich von schnellerem Codieren oder von der Fähigkeit, KI-Systeme effektiv zu regieren und zu koordinieren, kommen wird?

Geschwindigkeit ist wichtig, insbesondere im Bereich der Cybersicherheit, wo es nicht akzeptabel ist, hinter Angreifern zurückzubleiben. Aber Geschwindigkeit ohne Sicherheitsvorkehrungen ist nur ein schnellerer Weg, ausnutzbare Lücken zu schaffen. Die Regulierung von KI-Systemen sollte die Grundlage für jedes Unternehmen sein, das mit KI aufbaut, nicht eine nachträgliche Überlegung. Es ist unerlässlich, um Qualität, Zuverlässigkeit und Rechenschaftspflicht in Software-Entwicklungsworkflows sicherzustellen. Insbesondere in der Cybersicherheitsbranche ist Regulierung unerlässlich, da Angreifer jede Lücke finden und ausnutzen werden, die Sie lassen. Deshalb haben wir bei Doppel unsere Agenten-Plattform aufgebaut, mit Datenschutz-Sicherheitsvorkehrungen und einem klaren Prüfpfad, der von Anfang an integriert wurde.

Blicken Sie in den nächsten fünf Jahren, wie wird das moderne Software-Entwicklungsteam aussehen, wenn KI-Agenten tief in den alltäglichen Entwicklungsworkflows integriert sind?

Fünf Jahre sind schwierig vorherzusagen, weil die Welt so schnell bewegt. Was ich mit mehr Zuversicht sagen kann, ist, dass KI-Agenten in den nächsten 18 Monaten bis drei Jahren wahrscheinlich den Großteil der Code-Generierung, des Testens und der ersten Fehlerbehebung übernehmen werden.

Was Ingenieure besitzen werden, ist Produkturteilsvermögen: die Spezifikation, der Geschmack, die Architektur und die Verantwortung, wenn etwas fehlschlägt. Teams können kleiner werden, aber die Rolle wird schwieriger. Die Ingenieure, die erfolgreich sind, werden nicht unbedingt diejenigen sein, die den meisten Code produzieren, sondern diejenigen, die autonome Systeme effektiv leiten, bewerten und korrigieren können.

Nachdem ich durch vorherige technologische Veränderungen gegangen bin, habe ich gelernt, dass Innovation selten einer geraden Linie folgt. Die Teams, die erfolgreich sind, werden diejenigen sein, die neugierig bleiben, sich schnell anpassen und ihre Workflows weiterentwickeln, während sich die Technologie ändert.

Vielen Dank für das großartige Interview, Leser, die mehr erfahren möchten, sollten Doppel besuchen.