Natasha Mohanty, Vicepræsident for Ingeniørarbejde hos Doppel – Intervieuserie

Natasha Mohanty, Vicepræsident for Ingeniørarbejde hos Doppel, er en erfaren teknologileder med dyb erfaring på tværs af AI, betalingsformidling, medier og forbrugerplatforme. Før hun kom til Doppel, ledede hun ingeniørarbejdet for Stripe’s Optimeret Checkout Suite og Link, hvor hun skalaerede organisationen fra 30 til 200 ingeniører, samtidig med at hun hjalp med at drive stor adoption af Stripe’s checkout-produkter og forbrugerlomme. Tidligere fungerede hun som Vicepræsident for Ingeniørarbejde hos Nielsen efter opkøbet af Prizma.ai, det AI-drevne videoengagement- og medieanalysefirma, som hun havde medstiftet og ledede som teknisk direktør. Tidligere i sin karriere tilbragte hun mere end syv år hos Google (GOOGL ), hvor hun arbejdede på tværs af Søgekvalitet, Google News og Google+-personliggørelse.

Doppel er et AI-nativt socialt ingeniør-forsvarsselskab, der fokuserer på at beskytte organisationer, direktører, mærker og kunder mod AI-drevet efterligning, phishing, svindel og bredere digitalt risiko. Dets platform kombinerer digitalt risikobeskyttelse, direktør- og mærkebeskyttelse, e-mail-sikkerhed, menneskeligt risikostyring, simulationer og sikkerhedsbevidsthedstræning, ved hjælp af AI og realtids-trusselsintelligens til at opdage, korrelerer og afbryde angriber-infrastruktur på tværs af kanaler som domæner, sociale medier, meddelelsesapps, annoncer og det sorte net. Selskabet har positioneret sig omkring den stigende trussel fra generativ AI-drevet socialt ingeniørarbejde, og hjælper med at sikre, at sikkerhedshold kan reagere på stadig mere avancerede angreb på tværs af det moderne digitale trusselslandskab.

Du har ledet ingeniørorganisationer i selskaber som Stripe, Google, Nielsen og nu Doppel. Hvordan har din opfattelse af softwareingeniørens rolle udviklet sig fra at skrive systemer direkte til at koordinere stadig mere autonome AI-drevne arbejdsprocesser?

Softwareingeniør-arbejdsprocessen er ændret dramatisk, men ansvarskraven for ingeniører er ikke ændret. Da jeg startede min karriere hos Google for to årtier siden, tilbragte ingeniører det meste af deres tid på at skrive og gennemgå kode selv. I dag kan AI håndtere det meste af kodegenerering, men ingeniører er stadig ansvarlige for at definere mål, validere udgang, etablere sikkerhedsforanstaltninger, gennemgå kode og sikre, at systemer forbliver pålidelige på lang sigt. På mange måder har AI udvidet omfanget af ingeniøransvar i stedet for at reducere det.

Hvad der er ændret, er, hvor ingeniører skaber værdi. Da AI overtager mere og mere af kodens mekanik, bliver rollen stadig mere centreret omkring smag og dømmekraft, forståelse af problemet, arkitekturafgørelser, evaluering af kompromiser og sikring af, at resultaterne er i overensstemmelse med bruger- og forretningsbehov. De bedste ingeniører gør mere end bare at skrive software. De vil koordinere sammenhængende systemer af mennesker og AI, anvende kontekst og ansvar, som maskiner stadig mangler. Det ligner skiftet fra enkeltbidragsyder til leder.

Du har argumenteret for, at AI ikke reducerer ingeniøransvar, men udvider det. Hvad er de største misforståelser, chefer stadig har om, hvad AI-kodeagenter realistisk kan håndtere uden menneskelig tilsyn?

Den største misforståelse er, at AI vil eliminere behovet for stærke ingeniører. Virkeligheden er, at AI hæver loftet for, hvad et lille, dygtigt hold kan bygge, hvilket gør ingeniørdømmekraft mere værdifuld, ikke mindre.

Hvad der ændrer sig, er overfladen, ingeniører er ansvarlige for. De skriver ikke bare kode mere. De definerer, hvad der bliver bygget, validerer, at agenter gør, hvad de havde til hensigt, og ejer resultatet, når de ikke gør.

Hvis noget, er problemrummet blevet mere interessant. Angribere har adgang til de samme AI-værktøjer, vi har, hvilket betyder, at udfordringen ved at holde sig foran dem er virkelig sværere og mere interessant, end det nogensinde har været. Der er ingen mangel på svære problemer at løse, og Doppel rekrutterer på tværs af ingeniørarbejde for mennesker, der er begejstrede for denne type arbejde.

Da ingeniørhold begynder at koordinere multiple AI-agenter på tværs af kodning, test, fejlfinding og dokumentation, hvad ser en effektiv “agentstyrings”-arbejdsproces ud i praksis?

Ingeniører fungerer stadig mere som ledere af autonome systemer, ikke bare bidragsydere til dem. De bedste ingeniører kan holde betydelig kontekst på tværs af multiple parallele arbejdsprocesser, samtidig med at de ved præcis, hvilken kontekst de skal dele med hver agent. I praksis betyder det at skrive veldefinerede acceptkriterier, fastlægge klare sikkerhedsforanstaltninger og bede agenterne forklare deres begrundelse og antagelser som en valideringsproces. Hvis en agent ikke kan forklare, hvad den gør, og hvorfor, kan du ikke fuldt ud stole på outputtet.

Hos Doppel bygger vi agenter, der undersøger trusler, kontinuerligt tilpasser detectionspolitikker og forklarer deres beslutninger på klarsprog. Effektiv agentstyring kræver også systemniveau-infrastruktur, herunder stagingsmiljøer, automatiserede testpipeliner, sikkerhedsværktøjer med definerede tilladelser og tilsyn, og evalueringssystemer, der kontinuerligt vurderer, om agenter og det bredere system fungerer, som forventet.

Hvad er de største operative eller sikkerhedsrisici, der opstår, når AI-agenter får adgang til interne værktøjer, produktionsystemer eller følsomme arbejdsprocesser uden stærke sikkerhedsforanstaltninger?

Risikoen er ikke bare, at AI-agenter begår fejl. Det er, at de kan begå fejl i en skala, der er svær at fange i realtid. Den mere specifikke fare er agenter, der handler uden for deres intentionerede område, enten det indebærer adgang til systemer, de ikke var designet til at røre, eller håndtering af data, de ikke bør beholde.

I vores e-mail-sikkerhedsprodukt, for eksempel, behandler agenter data, der er instruktivt følsomme. Vi har gået til stor længde for at sikre, at disse agenter har strengt begrænset adgang, ikke kan ufrivilligt eksponere følsom personlig information nedstrøms og ikke beholder fortrolig information, samtidig med at de har den kontekst, der er nødvendig for at træffe den rigtige beslutning.

På hvilket tidspunkt begynder afhængighed af AI-genereret kode at introducere langsigtede tekniske gæld, og hvordan bør ingeniørledere tænke om balancen mellem hastighed og vedligeholdelighed?

Risikoen er at prioritere kortsigtede hastighed over fundamentet, der tillader systemer at skala og udvikle sig. En af de største lektioner fra min tid hos Stripe var, at ikke alle beslutninger er lige. Nogle er fælder: svære at omgøre og sandsynligvis med langsigtede konsekvenser, mens andre kan ændres mere let.

Med AI er disciplinen at vide, hvilke beslutninger stadig har langsigtede konsekvenser, og at fastlægge stærkere sikkerhedsforanstaltninger omkring dem, og at gå hurtigt på resten. Hos Doppel betyder det at bruge evalueringssystemer og aktuel dokumentation til at sikre, at agenter fortsætter med at fungere, som intentioneret, når systemer udvikler sig. Målet er ikke at gå langsommere, men at sikre, at hastighed ikke tavsænkende undergraver fundamentet, du bygger på.

Under din tid med at skala ingeniørorganisationer hos Stripe, hvilke lektioner om pålidelighed, tillid og systemdesign føles særligt relevante i æraen med autonome AI-agenter?

Hos Stripe var pålidelighed alt, især fordi den finansielle industri er så reguleret, og det kunne være katastrofalt for forretninger, hvis deres betalingsportaler gik ned. Hvis et system ikke fungerede, som det skulle, var der en direkte indvirkning på kunder, og det skabte en stærk ejer-kultur og ansvarskultur i virksomheden.

En af de ting, der tiltrak mig til Doppel, var en lignende niveau af kunde-obsession. Holdene her er dybt fokuserede på at forstå de udfordringer, kunderne står over for, og på at tage ejerskab af at løse dem.

Nu, hvor jeg er hos Doppel, føles disse lektioner særligt relevante. Vi bygger AI-native systemer til at hjælpe organisationer med at forsvare sig mod stadig mere avancerede sociale ingeniørangreb. Og ligesom hos Stripe, hvor man ikke kan have, at betalingsprocesseringssystemer går ned, er det katastrofalt for forretninger ikke at have en stærk cybersikkerhedsstilling. De er begge meget høje stakes, men af forskellige årsager.

Hvordan forventer du, at ingeniørrekruttering vil ændre sig de næste par år, når selskaber stadig mere prioriterer AI-fluency, systemtænkning og tilpasning over snævrere teknisk specialisering?

Jeg tror, vi vil se en stigende fokus på at rekruttere ingeniører, der kan fungere med autonomi, stærk dømmekraft og evnen til at lære hurtigt. Disse egenskaber har jeg altid rekrutteret efter, men de betyder mere nu, ikke mindre. Gennem min karriere har de ingeniører, der har haft den største indvirkning, ikke nødvendigvis været dem med den snævrere specialisering. De var dem, der kunne tilpasse sig hurtigt, navigere i usikkerhed og kontinuerligt lære, når teknologien udviklede sig.

Men standarden er skiftet. Hos Doppel er de problemer, vi løser, ikke nøje definerede. Vi arbejder konstant på at holde os foran angribere, der også udnytter AI, hvilket indebærer at bygge systemer som trusselsintelligens-agenter, der proaktivt udforsker internettet for at opdage trusler. Der er ingen etableret playbook for den type arbejde, så det kræver mod og en villighed til at skubbe grænserne for, hvad der er muligt.

AI vil kun fortsætte med at ændre, hvordan arbejdet bliver gjort, men selskaberne vil stadig have brug for mennesker, der kan arbejde på tværs af systemer og tage ansvar for det fulde livscyklus af, hvad de bygger. De ingeniører, der klarer sig bedst, vil være dem, der konstant genopfinder, hvad de er i stand til, når AI-landskabet udvikler sig omkring dem.

Du har arbejdet omfattende med personliggørelse, anbefalingsystemer og maskinlæringsdrevne platforme på tværs af din karriere. Hvordan påvirker denne erfaring din måde at tænke om menneske-AI-samarbejde inden for ingeniørorganisationer i dag?

En ting, jeg lærte af at arbejde med personliggørelse og maskinlærings-systemer, er, at kvaliteten af outputtet kun er så god, som kvaliteten af inputtet, herunder træningsdata, evalueringssystemer og en klar definition af, hvad “god” faktisk betyder. Modeller er gode til at behandle information i stor skala, men mennesker bringer dømmekraft, kontekst og en forståelse af, hvad der betyder mest.

Jeg tror, det samme princip gælder for ingeniørorganisationer, der fungerer i dag. AI kan hjælpe hold med at gå hurtigere, men de bedste hold vil være bevidste om konteksten og sandheden, de giver AI, samt hvordan AI-drevne systemer integreres i det bredere ingeniør-økosystem. Ingiører skal stadig træffe beslutninger, evaluere kompromiser og ejer resultatet i sidste ende.

Mange selskaber kapløber for at maksimere udviklerproduktivitet med AI-værktøjer. Tror du, at dencompetitive fordel i sidste ende kommer fra hurtigere kodning eller fra at bygge organisationer, der ved, hvordan man styrer og koordinerer AI-systemer effektivt?

Hastighed betyder noget, især i cybersikkerhed, hvor at falde bagud over for angribere ikke er en mulighed. Men hastighed uden sikkerhedsforanstaltninger er bare en hurtigere måde at skabe udnyttelige huller. Styring af AI-systemer bør være grundlaget for hvert selskab, der bygger med AI, ikke en eftertanke. Det er afgørende for at sikre kvalitet, pålidelighed og ansvar i software-ingeniørarbejdsprocesser. I cybersikkerhedsbranchen i særdeleshed er styring afgørende, fordi angribere vil finde og udnytte enhver åbning, du efterlader. Det er derfor, vi har bygget vores agentplatform hos Doppel, hvor vi har ledt med privatlivssikkerhedsforanstaltninger og en klar revisionsstier bygget ind fra starten.

Om fem år, hvordan tror du, det moderne software-ingeniørhold vil se ud, når AI-agenter er dybt integreret i hverdagsudviklingsarbejdsprocesser?

Fem år er svært at forudsige med sikkerhed, fordi verden bevæger sig så hurtigt. Det, jeg kan sige med mere sikkerhed, er, at inden for de næste 18 måneder til tre år, vil AI-agenter sandsynligvis håndtere det meste af kodegenerering, test og første-gangs fejlfinding.

Hvad ingeniører vil eje, er produkt-dømmekraft: specifikationen, smagen, arkitekturen og ansvar, når noget går galt. Hold kan blive mindre, men rollen bliver sværere. De ingeniører, der klarer sig bedst, er ikke nødvendigvis dem, der producerer mest kode, men dem, der kan lede, evaluere og korrigere autonome systemer effektivt.

Efter at have arbejdet igennem tidligere teknologiske skift, er en ting, jeg har lært, at innovation sjældent følger en lige linje. De hold, der lykkes, vil være dem, der forbliver nysgerrige, tilpasser sig hurtigt og udvikler deres arbejdsprocesser, når teknologien skifter.

Tak for det gode interview, læsere, der ønsker at lære mere, skal besøge Doppel.