Natasha Mohanty, SVP van Engineering bij Doppel – Interview Serie

Natasha Mohanty, Senior Vice President van Engineering bij Doppel, is een ervaren technologie-leider met diepgaande ervaring in AI, betalingen, media en consumentenplatforms. Voordat ze bij Doppel kwam, leidde ze de engineering voor Stripe’s Optimized Checkout Suite en Link, waarbij ze de organisatie van 30 naar 200 ingenieurs schaalde en hielp bij het stimuleren van een grote adoptie van Stripe’s checkout-producten en consumentenwallet. Eerder was ze VP van Engineering bij Nielsen na de overname van Prizma.ai, het AI-gebaseerde videobezoek- en media-analytische bedrijf dat ze mede had opgericht en had geleid als CTO. In een eerder stadium van haar carrière werkte ze meer dan zeven jaar bij Google, waar ze werkte aan Search Quality, Google News en Google+-personalisatie.

Doppel is een AI-natief sociaal ingenieursverdedigingsbedrijf dat zich richt op het beschermen van organisaties, executives, merken en klanten tegen AI-gebaseerde impersonatie, phishing, fraude en bredere digitale risico’s. Het platform combineert digitale risicobescherming, executive- en merkbescherming, e-mailbeveiliging, menselijk risicobeheer, simulaties en beveiligingsbewustzijnstraining, met behulp van AI en real-time dreigingsinformatie om aanvaller-infrastructuur over kanalen zoals domeinen, sociale media, berichtenapps, advertenties en het dark web te detecteren, correleren en verstoren. Het bedrijf heeft zich gepositioneerd rond de opkomende dreiging van generatieve AI-gebaseerde sociale ingenieurskunst, waardoor beveiligingsteams kunnen reageren op steeds geavanceerdere aanvallen in de moderne digitale dreigingslandschap.

U heeft leiding gegeven aan engineering-organisaties bij bedrijven zoals Stripe, Google, Nielsen en nu Doppel. Hoe is uw visie op de rol van de software-engineer geëvolueerd van het schrijven van systemen naar het orkestreren van steeds autonomere AI-gebaseerde workflows?

De software-engineer-workflow is dramatisch veranderd, maar de verantwoordelijkheid die van engineers wordt verwacht, is niet veranderd. Toen ik mijn carrière bij Google begon, twee decennia geleden, brachten engineers de meeste tijd door met het schrijven en controleren van code. Vandaag kan AI de meeste codegeneratie afhandelen, maar engineers zijn nog steeds verantwoordelijk voor het definiëren van doelen, het valideren van uitvoer, het vaststellen van richtlijnen, het controleren van code en het ervoor zorgen dat systemen op lange termijn betrouwbaar blijven. Op veel manieren heeft AI de reikwijdte van de engineering-verantwoordelijkheid uitgebreid in plaats van verkleind.

Wat is geëvolueerd, is waar engineers waarde creëren. Nu AI meer van de mechanica van codering overneemt, wordt de rol steeds meer gericht op smaak en oordeel, het begrijpen van het probleem, het nemen van architectonische beslissingen, het evalueren van compromissen en het ervoor zorgen dat resultaten overeenkomen met de behoeften van gebruikers en bedrijven. De beste engineers doen meer dan alleen software schrijven. Ze zullen coherente systemen van mensen en AI orkestreren, waarbij ze de context en verantwoordelijkheid toepassen die machines nog steeds missen. Het is vergelijkbaar met de overgang van individuele bijdrager naar manager.

U heeft betoogd dat AI de engineering-verantwoordelijkheid niet vermindert, maar uitbreidt. Wat zijn de grootste misvattingen die executives nog steeds hebben over wat AI-coderingsagenten realistisch kunnen afhandelen zonder menselijke toezicht?

De grootste misvatting is dat AI de behoefte aan sterke engineers zal elimineren. De realiteit is dat AI het plafond verhoogt van wat een klein, vaardig team kan bouwen, waardoor engineering-oordeel waardevoller wordt, niet minder.

Wat verandert, is het oppervlak waar engineers verantwoordelijk voor zijn. Ze schrijven niet langer alleen code. Ze definiëren wat wordt gebouwd, valideren dat agenten doen wat ze bedoelen, en zijn eigenaar van het resultaat wanneer ze dat niet doen.

Als iets, is het probleemruimte interessanter geworden. Aanvallers hebben toegang tot dezelfde AI-hulpmiddelen als wij, waardoor de uitdaging om hen voor te blijven, echt moeilijker en interessanter is dan ooit tevoren. Er is geen gebrek aan moeilijke problemen om op te lossen, en Doppel is aan het werven van engineers die door dit soort werk worden aangetrokken.

Terwijl engineering-teams beginnen met het coördineren van meerdere AI-agenten over codering, testen, debuggen en documentatie, wat ziet een effectieve “agentbeheer”-workflow er in de praktijk uit?

Engineers handelen steeds meer als managers van autonome systemen, niet alleen als bijdragers daaraan. De beste engineers kunnen een aanzienlijke context over meerdere parallelle workflows behouden, terwijl ze weten welke context ze met elke agent moeten delen. In de praktijk betekent dit het schrijven van duidelijk gedefinieerde acceptatiecriteria, het vaststellen van duidelijke richtlijnen voor privacy en beveiliging, en het vragen aan agenten om hun redenering en aannamen uit te leggen als validatiestap. Als een agent niet kan uitleggen wat hij doet en waarom, kun je het resultaat niet volledig vertrouwen.

Bij Doppel bouwen we agentische systemen die bedreigingen onderzoeken, continue detectiebeleid aanpassen en hun beslissingen in gewoon taalgebruik uitleggen. Effectief agentbeheer vereist ook systeemniveau-infrastructuur, waaronder staging-omgevingen, geautomatiseerde testpijplijnen, beveiligingstooling met gedefinieerde machtigingen en toezicht, en evaluatiekaders die continu beoordelen of agenten en het bredere systeem zoals verwacht functioneren.

Wat zijn de grootste operationele of beveiligingsrisico’s die ontstaan wanneer AI-agenten toegang krijgen tot interne tools, productiesystemen of gevoelige workflows zonder sterke richtlijnen?

Het risico is niet alleen dat AI-agenten fouten maken. Het is dat ze die op een schaal kunnen maken die moeilijk is om in real-time te detecteren. Het specifiekere gevaar is agenten die buiten hun beoogde reikwijdte handelen, ofwel door systemen te benaderen waarvoor ze niet zijn ontworpen, ofwel door gegevens te verwerken die ze niet zouden moeten bewaren.

In ons e-mailbeveiligingsproduct, bijvoorbeeld, verwerken agenten gegevens die inherent gevoelig zijn. We hebben grote moeite gedaan om ervoor te zorgen dat deze agenten strikt beperkte toegang hebben, geen gevoelige persoonlijke informatie per ongeluk kunnen blootgeven en geen vertrouwelijke informatie kunnen bewaren, terwijl ze nog steeds de context nodig hebben om de juiste beslissing te nemen.

Op welk punt begint het zwaar leunen op AI-gegenereerde code met lange-termijn technische schuld te introduceren, en hoe moeten engineering-leiders nadenken over het balanceren van snelheid versus onderhoudbaarheid?

Het risico is het prioriteren van korte-termijn snelheid boven de fundamenten die systemen in staat stellen om te schalen en te evolueren. Een van de belangrijkste lessen uit mijn tijd bij Stripe was dat niet alle beslissingen gelijk zijn. Sommige zijn valstrikken: moeilijk om om te keren en waarschijnlijk om lange-termijngevolgen te hebben, terwijl andere gemakkelijker kunnen worden veranderd.

Met AI is de discipline kennen welke beslissingen nog steeds lange-termijngevolgen hebben, sterke richtlijnen daaromheen stellen en snel bewegen op de rest. Bij Doppel betekent dit het gebruik van evaluatiesystemen en huidige documentatie om ervoor te zorgen dat agenten blijven functioneren zoals bedoeld wanneer systemen evolueren. Het doel is niet om te vertragen, maar om ervoor te zorgen dat snelheid niet stilzwijgend de fundamenten ondermijnt waarop u bouwt.

Tijdens uw tijd bij het schalen van engineering-organisaties bij Stripe, welke lessen over betrouwbaarheid, vertrouwen en systeemontwerp voelen nu het meest relevant in de era van autonome AI-agenten?

Bij Stripe was betrouwbaarheid alles, vooral omdat de financiële industrie zo gereguleerd is en het catastrofaal zou zijn voor bedrijven als hun betalingspoorten uitvielen. Als een systeem niet werkte zoals bedoeld, was er een directe impact op klanten, en dat creëerde een sterke cultuur van eigenaarschap en verantwoordelijkheid binnen het bedrijf.

Een van de dingen die me naar Doppel trok, was een soortgelijk niveau van klantobsessie. De teams hier zijn diep gefocust op het begrijpen van de uitdagingen waarmee klanten worden geconfronteerd en het nemen van eigenaarschap van het oplossen ervan.

Nu ik bij Doppel ben, voelen die lessen nog relevanter. We bouwen AI-natieve systemen om organisaties te helpen verdedigen tegen steeds geavanceerdere sociale ingenieursaanvallen. En net als bij Stripe, waar u niet kunt hebben dat betalingsverwerkingssystemen uitvallen, is het catastrofaal voor bedrijven om geen sterke beveiligingspostuur te hebben. Ze zijn allebei zeer hoge inzet, maar om verschillende redenen.

Hoe verwacht u dat engineering-werving de komende jaren zal veranderen, nu bedrijven steeds meer prioriteit geven aan AI-vaardigheid, systeemdenken en aanpasbaarheid boven smallere technische specialisatie?

Ik denk dat we een groeiende nadruk zullen zien op het aannemen van engineers die kunnen opereren met autonomie, sterk oordeel en de capaciteit om snel te leren. Dat zijn eigenschappen waar ik altijd naar heb gezocht, maar die nu meer dan ooit belangrijk zijn. Gedurende mijn carrière waren de engineers die de grootste impact hadden, niet noodzakelijkerwijs degene met de smallere specialisatie. Ze waren degene die konden aanpassen, ambiguïteit konden navigeren en continu konden leren terwijl de technologie evolueerde.

Maar de lat is verhoogd. Bij Doppel zijn de problemen die we oplossen, niet netjes gedefinieerd. We werken constant om voorop te blijven lopen van aanvallers die ook AI gebruiken, wat betekent dat we systemen zoals dreigingsinformatie-agenten moeten bouwen die proactief het web verkennen om dreigingen te ontdekken. Er is geen gevestigd playbook voor dat soort werk, dus het vereist doorzettingsvermogen en een bereidheid om de grens van wat mogelijk is te verleggen.

AI zal alleen maar verder veranderen hoe werk gedaan wordt, maar bedrijven zullen nog steeds mensen nodig hebben die over systemen heen kunnen werken en verantwoordelijkheid kunnen nemen voor de volledige levenscyclus van wat ze bouwen. De engineers die succesvol zullen zijn, zullen degene zijn die constant hun capaciteiten herscheppen terwijl de AI-landschap om hen heen evolueert.

U heeft uitgebreid gewerkt aan personalisatie, aanbevelingssystemen en machine learning-gebaseerde platforms gedurende uw carrière. Hoe beïnvloedt die ervaring de manier waarop u over mens-AI-samenwerking in engineering-organisaties denkt?

Een ding dat ik heb geleerd van het werken aan personalisatie en machine learning-systemen, is dat de kwaliteit van de uitvoer alleen zo goed is als de kwaliteit van de invoer, inclusief trainingsgegevens, evaluatiekaders en een duidelijke definitie van wat “goed” eigenlijk betekent. Modellen zijn goed in het verwerken van informatie op grote schaal, maar mensen brengen oordeel, context en een begrip van wat het meest belangrijk is.

Ik denk dat hetzelfde principe van toepassing is op engineering-organisaties die vandaag opereren. AI kan teams helpen sneller te werken, maar de beste teams zullen doelgericht zijn over de context en grondwaarheid die ze AI geven, evenals hoe AI-gebaseerde systemen integreren in het bredere engineering-ecosysteem. Engineers moeten nog steeds beslissingen nemen, compromissen evalueren en uiteindelijk eigenaar zijn van het resultaat.

Veel bedrijven racen om ontwikkelaarsproductiviteit te maximaliseren met AI-hulpmiddelen. Denkt u dat het concurrentievoordeel uiteindelijk zal komen van snellere codering, of van het opbouwen van organisaties die weten hoe ze AI-systemen effectief moeten besturen?

Snelheid is belangrijk, vooral in cybersecurity, waar achterblijven bij aanvallers geen optie is. Maar snelheid zonder richtlijnen is alleen een snellere manier om exploiteerbare gaten te creëren. Bestuur van AI-systemen moet de basis zijn voor elk bedrijf dat met AI bouwt, niet een nasleep. Het is essentieel om kwaliteit, betrouwbaarheid en verantwoordelijkheid in software-engineering-workflows te garanderen. In de cybersecurity-industrie in het bijzonder is bestuur essentieel omdat aanvallers elke gap die u laat vinden en exploiteren.

Kijkend naar de toekomst, wat denkt u dat het moderne software-engineering-team er over vijf jaar uit zal zien, nu AI-agenten diep in de dagelijkse ontwikkelingsworkflows worden geïntegreerd?

Vijf jaar is moeilijk om met vertrouwen te voorspellen omdat de wereld zo snel beweegt. Wat ik met meer vertrouwen kan zeggen, is dat binnen de komende 18 maanden tot drie jaar, AI-agenten waarschijnlijk de meeste codegeneratie, testen en eerste-pass-debugging zullen afhandelen.

Wat engineers zullen bezitten, is productoordeel: de specificatie, de smaak, de architectuur en de verantwoordelijkheid wanneer iets kapot gaat. Teams kunnen kleiner worden, maar de rol wordt moeilijker. De engineers die succesvol zullen zijn, zijn niet noodzakelijkerwijs degene die de meeste code produceren, maar degene die autonome systemen effectief kunnen sturen, evalueren en bijsturen.

Na het doorwerken van eerdere technologische verschuivingen, is er een ding dat ik heb geleerd: innovatie volgt zelden een rechte lijn. De teams die succesvol zullen zijn, zijn degene die nieuwsgierig blijven, snel aanpassen en hun workflows evolueren terwijl de technologie verandert.

Bedankt voor het geweldige interview, lezers die meer willen leren, moeten Doppel bezoeken.