Natasha Mohanty, SVP di Ingegneria presso Doppel – Serie di Interviste

Natasha Mohanty, Senior Vice President di Ingegneria presso Doppel, è un leader tecnologico esperto con una profonda esperienza in AI, pagamenti, media e piattaforme consumer. Prima di unirsi a Doppel, ha guidato l’ingegneria per Stripe’s Optimized Checkout Suite e Link, scalando l’organizzazione da 30 a 200 ingegneri mentre aiutava a guidare l’adozione maggiore attraverso i prodotti di checkout di Stripe e il portafoglio consumer. In precedenza, ha ricoperto il ruolo di VP di Ingegneria presso Nielsen dopo l’acquisizione di Prizma.ai, la società di analisi dei media e video engagement alimentata da AI che ha co-fondata e guidata come CTO. All’inizio della sua carriera, ha trascorso più di sette anni a Google (GOOGL ), lavorando su Search Quality, Google News e personalizzazione di Google+.

Doppel è una società di difesa dell’ingegneria sociale nativa AI che si concentra sulla protezione di organizzazioni, dirigenti, marchi e clienti da impersonificazione AI, phishing, frodi e rischi digitali più ampi. La sua piattaforma combina protezione dei rischi digitali, protezione esecutiva e del marchio, sicurezza e-mail, gestione del rischio umano, simulazioni e formazione sulla consapevolezza della sicurezza, utilizzando AI e intelligence sulle minacce in tempo reale per rilevare, correlare e interrompere l’infrastruttura degli attaccanti attraverso canali come domini, social media, app di messaggistica, annunci e dark web. La società si è posizionata intorno alla minaccia crescente dell’ingegneria sociale abilitata da AI generativa, aiutando i team di sicurezza a rispondere ad attacchi sempre più sofisticati nel moderno panorama delle minacce digitali.

Avete guidato organizzazioni di ingegneria in aziende come Stripe, Google, Nielsen e ora Doppel. Come è cambiata la vostra visione del ruolo dell’ingegnere del software da scrivere sistemi direttamente a orchestrare workflow autonomi guidati da AI?

Il flusso di lavoro dell’ingegnere del software è cambiato drasticamente, ma la responsabilità richiesta agli ingegneri non è cambiata. Quando ho iniziato la mia carriera a Google due decenni fa, gli ingegneri trascorrevano la maggior parte del loro tempo scrivendo e revisionando il codice di persona. Oggi, l’AI può gestire la maggior parte della generazione del codice, ma gli ingegneri sono ancora responsabili della definizione degli obiettivi, della convalida degli output, dell’istituzione di garanzie, della revisione del codice e dell’assicurazione che i sistemi rimangano affidabili nel lungo termine. In molti modi, l’AI ha ampliato l’ambito della responsabilità dell’ingegnere piuttosto che ridurla.

Ciò che è cambiato è dove gli ingegneri creano valore. Mentre l’AI assume più della meccanica della codifica, il ruolo diventa sempre più centrato sul gusto e sul giudizio, sulla comprensione del problema, sulla presa di decisioni architettoniche, sulla valutazione dei compromessi e sull’assicurazione che i risultati si allineino con le esigenze degli utenti e aziendali. I migliori ingegneri fanno più che scrivere software. Orchestreranno sistemi coesi di esseri umani e AI, applicando il contesto e la responsabilità che le macchine ancora mancano. È simile al passaggio da contributore individuale a manager.

Avete sostenuto che l’AI non riduce la responsabilità dell’ingegnere, ma la amplia. Quali sono i più grandi malintesi che gli esecutivi ancora hanno su ciò che gli agenti di codifica AI possono realisticamente gestire senza supervisione umana?

Il più grande malinteso è che l’AI eliminerà la necessità di ingegneri esperti. La realtà è che l’AI innalza il soffitto di ciò che una piccola squadra di ingegneri esperti può costruire, il che rende il giudizio dell’ingegnere più prezioso, non meno.

Ciò che sta cambiando è la superficie che gli ingegneri sono responsabili di. Non stanno più solo scrivendo codice. Stanno definendo cosa viene costruito, convalidando che gli agenti stanno facendo ciò che è stato loro assegnato e possiedono l’esito quando non lo fanno.

Se mai, lo spazio del problema è diventato più attraente. Gli attaccanti hanno accesso agli stessi strumenti AI che abbiamo noi, il che significa che la sfida di stare al passo con loro è genuinamente più dura e più interessante di quanto non sia mai stata. Non c’è carenza di problemi difficili da risolvere e Doppel sta assumendo ingegneri in tutta l’ingegneria per le persone che sono entusiaste di questo tipo di lavoro.

Man mano che i team di ingegneria iniziano a coordinare più agenti AI attraverso la codifica, il test, il debug e la documentazione, cosa assomiglia effettivamente a un flusso di lavoro di “gestione degli agenti” efficace nella pratica?

Gli ingegneri agiscono sempre più come gestori di sistemi autonomi, non solo come contributori. I migliori ingegneri possono tenere un contesto significativo attraverso più flussi di lavoro paralleli mentre sanno esattamente quale contesto condividere con ogni agente. Nella pratica, significa scrivere criteri di accettazione ben definiti, stabilire garanzie chiare per la privacy e la sicurezza e chiedere agli agenti di spiegare la loro ragione e le loro ipotesi come passaggio di convalida. Se un agente non può articolare cosa sta facendo e perché, non puoi fidarti completamente dell’output.

A Doppel, stiamo costruendo sistemi agente che indagano sulle minacce, adattano continuamente le politiche di rilevamento e spiegano le loro decisioni in linguaggio chiaro. La gestione efficace degli agenti richiede anche un’infrastruttura a livello di sistema, inclusi ambienti di staging, pipeline di test automatizzate, strumenti di sicurezza con autorizzazioni e supervisione definite e framework di valutazione che valutano continuamente se gli agenti e il sistema più ampio stanno funzionando come previsto.

Quali sono i più grandi rischi operativi o di sicurezza che emergono quando gli agenti AI vengono dati accesso a strumenti interni, sistemi di produzione o flussi di lavoro sensibili senza forti garanzie?

Il rischio non è solo che gli agenti AI facciano errori. È che possono farli a una scala che è difficile da rilevare in tempo reale. Il pericolo più specifico è che gli agenti agiscano al di fuori del loro scopo previsto, che significhi accedere a sistemi che non erano stati progettati per toccare o gestire dati che non dovrebbero conservare.

Nel nostro prodotti di sicurezza e-mail, ad esempio, gli agenti elaborano dati che sono intrinsecamente sensibili. Siamo andati a grandi lunghezze per assicurarci che quegli agenti abbiano un accesso strettamente limitato, non possano accidentalmente esporre informazioni personali sensibili a valle e non conservino informazioni riservate, mentre hanno ancora il contesto necessario per prendere la decisione giusta.

A che punto inizia l’affidarsi pesantemente al codice generato da AI ad introdurre debito tecnico a lungo termine e come dovrebbero pensare i leader dell’ingegneria all’equilibrio tra velocità e manutenibilità?

Il rischio è dare priorità alla velocità a breve termine rispetto alle fondamenta che consentono ai sistemi di scalare ed evolversi. Una delle più grandi lezioni che ho appreso durante il mio tempo a Stripe è che non tutte le decisioni sono uguali. Alcune sono porte girevoli: difficili da invertire e probabili di avere conseguenze a lungo termine, mentre altre possono essere cambiate più facilmente.

Con l’AI, la disciplina è sapere quali decisioni hanno ancora conseguenze a lungo termine, mettendo garanzie più forti intorno a quelle e muovendosi rapidamente sul resto. A Doppel, significa utilizzare sistemi di valutazione e documentazione attuale per assicurarsi che gli agenti continuino a funzionare come previsto mentre i sistemi evolvono. L’obiettivo non è rallentare, ma assicurarsi che la velocità non eroda silenziosamente le fondamenta su cui si sta costruendo.

Durante il vostro tempo alla scalata di organizzazioni di ingegneria a Stripe, quali lezioni su affidabilità, fiducia e progettazione dei sistemi sentite ora particolarmente rilevanti nell’era degli agenti AI autonomi?

A Stripe, l’affidabilità era tutto, soprattutto perché l’industria finanziaria è così regolamentata e potrebbe essere catastrofico per le aziende se i loro portali di pagamento andassero giù. Se un sistema non funzionava come previsto, c’era un impatto diretto sui clienti e ciò creava una forte cultura di proprietà e responsabilità all’interno dell’azienda.

Una delle cose che mi ha attirato a Doppel è stato un livello simile di ossessione per il cliente. I team qui sono profondamente concentrati sull’esperienza dei clienti e sul prendersi la responsabilità di risolvere i loro problemi.

Ora che sono a Doppel, quelle lezioni sentono particolarmente rilevanti. Stiamo costruendo sistemi nativi AI per aiutare le organizzazioni a difendersi da attacchi di ingegneria sociale sempre più sofisticati. E simile a Stripe, dove non puoi permettere che i sistemi di elaborazione dei pagamenti vadano giù, è catastrofico per le aziende non avere una forte postura di sicurezza. Sono entrambi molto alti, ma per ragioni diverse.

Come pensate che l’assunzione di ingegneria cambierà nei prossimi anni mentre le aziende danno sempre più priorità alla fluency AI, al pensiero sistemico e all’adattabilità rispetto a una specializzazione tecnica più stretta?

Penso che vedremo un crescente enfasi sull’assunzione di ingegneri che possano operare con autonomia, giudizio forte e capacità di apprendere in fretta. Queste sono caratteristiche che ho sempre assunto, ma che ora contano di più, non meno. Durante tutta la mia carriera, gli ingegneri che hanno avuto il maggior impatto non erano necessariamente quelli con la specializzazione più stretta. Erano quelli che potevano adattarsi rapidamente, navigare l’ambiguità e continuare a imparare mentre la tecnologia evolveva.

Ma la barra è stata spostata. A Doppel, i problemi che stiamo risolvendo non sono definiti in modo netto. Stiamo costantemente lavorando per stare al passo con gli attaccanti che stanno anche sfruttando l’AI, il che significa costruire sistemi come agenti di intelligence sulle minacce che esplorano proattivamente il web per scoprire minacce. Non c’è un libro di istruzioni stabilito per quel tipo di lavoro, quindi richiede determinazione e la volontà di spingere i confini di ciò che è possibile.

L’AI cambierà solo il modo in cui il lavoro viene svolto, ma le aziende avranno ancora bisogno di persone che possano lavorare attraverso i sistemi e assumersi la responsabilità del ciclo di vita completo di ciò che costruiscono. Gli ingegneri che prospereranno saranno quelli che stanno costantemente reinventando ciò di cui sono capaci mentre il panorama AI evolve intorno a loro.

Avete lavorato estensivamente su personalizzazione, sistemi di raccomandazione e piattaforme alimentate da apprendimento automatico in tutta la vostra carriera. Come questa esperienza influenza il modo in cui pensate alla collaborazione uomo-AI all’interno delle organizzazioni di ingegneria oggi?

Una cosa che ho imparato lavorando su sistemi di personalizzazione e apprendimento automatico è che la qualità dell’output è solo buona come la qualità degli input, inclusi dati di formazione, framework di valutazione e una chiara definizione di cosa “buono” significhi effettivamente. I modelli sono bravi a elaborare informazioni su larga scala, ma le persone portano giudizio, contesto e comprensione di cosa è più importante.

Penso che lo stesso principio si applichi alle organizzazioni di ingegneria che operano oggi. L’AI può aiutare i team a muoversi più velocemente, ma i migliori team saranno deliberati sul contesto e sulla verità che danno all’AI, nonché su come i sistemi guidati da AI si integrano nel più ampio ecosistema di ingegneria. Gli ingegneri devono ancora prendere decisioni, valutare compromessi ed essere responsabili dell’esito.

Molte aziende stanno correndo per massimizzare la produttività degli sviluppatori con gli strumenti AI. Pensate che il vantaggio competitivo provenga alla fine da una codifica più veloce o dal costruire organizzazioni che sappiano governare e coordinare i sistemi AI in modo efficace?

La velocità conta, soprattutto nella sicurezza informatica, dove rimanere indietro rispetto agli attaccanti non è un’opzione. Ma la velocità senza garanzie è solo un modo più veloce per creare lacune sfruttabili. La governance dei sistemi AI dovrebbe essere la base per ogni azienda che costruisce con l’AI, non un ripensamento. È essenziale assicurare la qualità, l’affidabilità e la responsabilità nei flussi di lavoro di ingegneria del software. Nell’industria della sicurezza informatica in particolare, la governance è essenziale perché gli attaccanti troveranno e sfrutteranno qualsiasi lacuna che si lasci. È per questo che abbiamo costruito la nostra piattaforma di agenti a Doppel, abbiamo guidato con garanzie di privacy e un registro di controllo chiaro costruito fin dall’inizio.

Guardando avanti di cinque anni, cosa pensate che assomiglierà il team di ingegneria del software moderno una volta che gli agenti AI saranno profondamente integrati nei flussi di lavoro di sviluppo quotidiano?

Cinque anni sono difficili da prevedere con fiducia perché il mondo si sta muovendo così rapidamente. Ciò che posso dire con più fiducia è che entro i prossimi 18 mesi o tre anni, gli agenti AI gestiranno probabilmente la maggior parte della generazione del codice, del test e del debug di prima passata.

Ciò che gli ingegneri possiederanno è il giudizio del prodotto: la specifica, il gusto, l’architettura e la responsabilità quando qualcosa si rompe. I team potrebbero diventare più piccoli, ma il ruolo diventerà più difficile. Gli ingegneri che prospereranno non saranno necessariamente quelli che producono più codice, ma quelli che possono dirigere, valutare e correggere i sistemi autonomi in modo efficace.

Avendo lavorato attraverso precedenti spostamenti tecnologici, una cosa che ho imparato è che l’innovazione raramente segue una linea retta. I team che avranno successo saranno quelli che rimangono curiosi, si adattano rapidamente e evolvono i loro flussi di lavoro mentre la tecnologia cambia.

Grazie per la grande intervista, i lettori che desiderano saperne di più possono visitare Doppel.