Natasha Mohanty, SVP de Inginerie la Doppel – Seria de Interviuri

Natasha Mohanty, Vicepreședintele Senior de Inginerie la Doppel, este un lider tehnologic experimentat cu o experiență profundă în domeniile AI, plăți, media și platforme de consum. Înainte de a se alătura Doppel, a condus ingineria pentru Stripe’s Optimized Checkout Suite și Link, scalând organizația de la 30 la 200 de ingineri, în timp ce a ajutat la adoptarea majoră a produselor de checkout și a portofelului de consum al Stripe. Anterior, a ocupat funcția de VP de Inginerie la Nielsen, după achiziționarea Prizma.ai, compania de analize media și video bazate pe inteligență artificială pe care a co-fondat și condus ca CTO. Mai devreme în cariera sa, a petrecut peste șapte ani la Google (GOOGL ), lucrând în domeniile Calitatea Căutării, Google News și personalizarea Google+.

Doppel este o companie de apărare împotriva ingineriei sociale native AI, axată pe protejarea organizațiilor, executivilor, brandurilor și clienților împotriva impersonării, phishing-ului, fraudei și riscurilor digitale mai ample. Platforma sa combină protecția riscurilor digitale, protecția executivilor și a brandurilor, securitatea e-mailului, gestionarea riscurilor umane, simulări și training de conștientizare a securității, utilizând inteligența artificială și informații despre amenințări în timp real pentru a detecta, corela și perturba infrastructura atacatorilor prin canale precum domenii, rețele sociale, aplicații de mesagerie, reclame și web-ul întunecat. Compania și-a poziționat în jurul amenințării în creștere a ingineriei sociale bazate pe inteligență artificială generativă, ajutând echipele de securitate să răspundă atacurilor din ce în ce mai sofisticate din peisajul modern al amenințărilor digitale.

Ați condus organizații de ingineri la companii precum Stripe, Google, Nielsen și acum Doppel. Cum s-a schimbat perspectiva dvs. asupra rolului inginerului de software de la scrierea sistemelor direct la orchestrarea fluxurilor de lucru conduse de AI?

Fluxul de lucru al inginerului de software s-a schimbat dramatic, dar responsabilitatea cerută inginerilor nu a dispărut. Când am început cariera mea la Google, acum două decenii, inginerii petreceau cea mai mare parte a timpului scriind și revizuind codul însuși. Astăzi, inteligența artificială poate gestiona majoritatea generării codului, dar inginerii sunt încă responsabili pentru definirea obiectivelor, validarea ieșirilor, stabilirea limitelor, revizuirea codului și asigurarea faptului că sistemele rămân fiabile pe termen lung. În multe feluri, inteligența artificială a extins sfera responsabilității inginerului, mai degrabă decât a redus-o.

Ce s-a schimbat este locul unde inginerii creează valoare. Pe măsură ce inteligența artificială preia mai multă mecanică a codării, rolul devine din ce în ce mai centrat pe gust și judecată, înțelegerea problemelor, luarea deciziilor arhitecturale, evaluarea compromisurilor și asigurarea faptului că rezultatele se aliniază cu nevoile utilizatorilor și afacerilor. Cei mai buni ingineri fac mai mult decât să scrie software. Ei vor orchestra sisteme coerente de oameni și inteligență artificială, aplicând contextul și responsabilitatea pe care mașinile încă le lipsesc. Este similar cu schimbarea de la contributor individual la manager.

Ați susținut că inteligența artificială nu reduce responsabilitatea inginerului, ci o extinde. Care sunt cele mai mari concepții greșite pe care executivii le mai au despre ceea ce pot face agenții de codare AI fără supraveghere umană?

Concepția greșită cea mai mare este că inteligența artificială va elimina nevoia de ingineri puternici. Realitatea este că inteligența artificială ridică plafonul a ceea ce poate construi o echipă mică și calificată, ceea ce face judecata inginerului mai valoroasă, nu mai puțin.

Ce se schimbă este suprafața pe care inginerii sunt responsabili. Ei nu mai scriu doar cod. Ei definesc ce se construiește, validează faptul că agenții fac ceea ce au intenționat și dețin rezultatul atunci când nu o fac.

Dacă ar fi ceva, spațiul problemelor a devenit mai interesant. Atacatorii au acces la aceleași unelte de inteligență artificială pe care le avem și noi, ceea ce înseamnă că provocarea de a rămâne înaintea lor este cu adevărat mai grea și mai interesantă decât a fost vreodată. Nu există o lipsă de probleme grele de rezolvat, iar Doppel angajează ingineri pentru oamenii care sunt entuziasmați de acest tip de muncă.

Pe măsură ce echipele de ingineri încep să coordoneze mai mulți agenți AI pentru codare, testare, depanare și documentație, ce arată un flux de lucru eficient de „gestiune a agenților” în practică?

Inginerii acționează din ce în ce mai mult ca manageri ai sistemelor autonome, nu doar contributori la ele. Cei mai buni ingineri pot ține un context semnificativ de-a lungul mai multor fluxuri de lucru paralele, știind exact ce context să împărtășească cu fiecare agent. În practică, aceasta înseamnă scrierea unor criterii de acceptare bine definite, stabilirea unor limite clare pentru confidențialitate și securitate și solicitarea agenților să explice raționamentul și ipotezele lor ca o etapă de validare. Dacă un agent nu poate articula ceea ce face și de ce, nu puteți avea încredere deplină în ieșire.

La Doppel, construim sisteme agențice care investighează amenințări, adaptează continuu politici de detectare și explică deciziile lor în limbaj clar. Gestiunea eficientă a agenților necesită și infrastructură la nivel de sistem, inclusiv medii de testare, conducte de testare automate, unelte de securitate cu permisiuni și supraveghere definite și cadre de evaluare care evaluează continuu dacă agenții și sistemul mai larg funcționează așa cum se așteaptă.

Care sunt cele mai mari riscuri operaționale sau de securitate care apar atunci când agenții AI au acces la unelte interne, sisteme de producție sau fluxuri de lucru sensibile fără limite clare?

Riscul nu este doar că agenții AI fac greșeli. Este că pot face greșeli la o scară care este greu de detectat în timp real. Pericolul specific este că agenții acționează în afara scopului lor intenționat, fie că accesează sisteme la care nu au fost proiectați să atingă sau gestionează date pe care nu ar trebui să le rețină.

În produsul nostru de securitate a e-mailului, de exemplu, agenții procesează date care sunt în mod inerent sensibile. Am luat măsuri semnificative pentru a asigura că acești agenți au acces strict limitat, nu pot expune accidental informații personale sensibile în aval și nu rețin informații confidențiale, în timp ce încă au contextul necesar pentru a lua decizia corectă.

La ce punct începe utilizarea intensivă a codului generat de AI să introducă datorie tehnică pe termen lung, și cum ar trebui liderii de inginerie să gândească despre echilibrul între viteză și menținabilitate?

Riscul este prioritizarea vitezei pe termen scurt în detrimentul fundațiilor care permit sistemelor să scaleze și să evolueze. Una dintre cele mai mari lecții din timpul meu la Stripe a fost că nu toate deciziile sunt egale. Unele sunt capcane: greu de inversat și probabil să aibă consecințe pe termen lung, în timp ce altele pot fi schimbate mai ușor.

Cu inteligența artificială, disciplina constă în a ști care decizii încă au consecințe pe termen lung, a pune limite mai puternice în jurul acestora și a se deplasa rapid pe restul. La Doppel, acest lucru înseamnă utilizarea sistemelor de evaluare și a documentației actuale pentru a asigura faptul că agenții continuă să funcționeze așa cum sunt intenționați, pe măsură ce sistemele evoluează. Scopul nu este să încetineze, ci să se asigure că viteza nu subminează în mod tacit fundațiile pe care le construiește.

În timpul perioadei dvs. de scalare a organizațiilor de ingineri la Stripe, care dintre lecțiile despre fiabilitate, încredere și proiectare a sistemelor vi se par acum deosebit de relevante în era agenților AI autonomi?

La Stripe, fiabilitatea era totul, mai ales pentru că industria financiară este atât de reglementată și ar fi fost catastrofal pentru afaceri dacă portalurile de plată ar fi fost închise. Dacă un sistem nu a funcționat așa cum era intenționat, a existat un impact direct asupra clienților, ceea ce a creat o cultură puternică de proprietate și responsabilitate în cadrul companiei.

Una dintre lucrurile care m-au atras la Doppel a fost un nivel similar de obsesie pentru client. Echipele de aici sunt profund concentrate pe înțelegerea provocărilor cu care se confruntă clienții și pe asumarea responsabilității de a le rezolva.

Acum, când sunt la Doppel, aceste lecții par deosebit de relevante. Construim sisteme native AI pentru a ajuta organizațiile să se apere împotriva atacurilor de inginerie socială din ce în ce mai sofisticate. Și, similar cu Stripe, unde nu vă puteți permite ca sistemele de procesare a plăților să nu funcționeze, este catastrofal pentru afaceri să nu aibă o poziție puternică de securitate cibernetică. Ambele sunt foarte importante, dar din motive diferite.

Cum credeți că va schimba angajarea în inginerie în următorii ani, pe măsură ce companiile prioritizează din ce în ce mai mult fluența în AI, gândirea sistemică și adaptabilitatea în detrimentul specializării tehnice înguste?

Cred că vom vedea o accentuare crescândă asupra angajării inginerilor care pot opera cu autonomie, judecată puternică și capacitatea de a învăța rapid. Acestea sunt trăsături pe care le-am angajat întotdeauna, dar acum sunt și mai importante. Pe parcursul carierei mele, inginerii care au avut cel mai mare impact nu au fost neapărat cei cu specializarea cea mai îngustă. Ei au fost cei care au putut adapta rapid, naviga prin ambiguitate și continua să învețe pe măsură ce tehnologia evolua.

Dar bara a fost mutată. La Doppel, problemele pe care le rezolvăm nu sunt clar definite. Lucrăm constant pentru a rămâne înaintea atacatorilor care folosesc și ei inteligența artificială, ceea ce înseamnă construirea unor sisteme precum agenți de informații despre amenințări care explorează proactiv web-ul pentru a descoperi amenințări. Nu există un plan de joc stabilit pentru acest tip de muncă, așa că necesită voință și dorința de a împinge limitele a ceea ce este posibil.

Inteligența artificială va continua să schimbe modul în care se realizează munca, dar companiile vor avea nevoie în continuare de oameni care pot lucra peste sisteme și să ia responsabilitatea pentru întregul ciclu de viață al a ceea ce construiesc. Inginerii care vor prospera vor fi cei care se reinventează constant ceea ce sunt capabili să facă, pe măsură ce peisajul inteligenței artificiale evoluează în jurul lor.

Ați lucrat pe scară largă la personalizare, sisteme de recomandare și platforme bazate pe inteligență artificială pe parcursul carierei dvs. Cum vă influențează această experiență modul în care gândiți despre colaborarea om-AI în cadrul organizațiilor de ingineri astăzi?

Una dintre lucrurile pe care le-am învățat din experiența de lucru cu sisteme de personalizare și inteligență artificială este că calitatea ieșirii este la fel de bună ca calitatea intrărilor, inclusiv datele de antrenament, cadrele de evaluare și o definiție clară a ceea ce înseamnă „bun”. Modelele sunt excelente la prelucrarea informațiilor la scară, dar oamenii aduc judecată, context și o înțelegere a ceea ce contează mai mult.

Cred că același principiu se aplică organizațiilor de ingineri care funcționează astăzi. Inteligența artificială poate ajuta echipele să se deplaseze mai rapid, dar cele mai bune echipe vor fi deliberate cu privire la contextul și adevărul pe care li-l oferă inteligenței artificiale, precum și la modul în care sistemele conduse de inteligență artificială se integrează în ecosistemul de inginerie mai larg. Inginerii încă trebuie să ia decizii, să evalueze compromisurile și să dețină în final rezultatul.

Multi companii se grăbesc să maximizeze productivitatea dezvoltatorilor cu unelte AI. Credeți că avantajul competitiv va veni în final din codarea mai rapidă sau din construirea unor organizații care știu cum să gestioneze și să coordoneze sisteme AI eficient?

Viteza contează, mai ales în securitatea cibernetică, unde a rămâne în urmă atacatorilor nu este o opțiune. Dar viteza fără limite este doar o cale mai rapidă de a crea lacune exploatabile. Guvernarea sistemelor AI ar trebui să fie baza pentru fiecare companie care construiește cu inteligență artificială, nu o gândire de după. Este esențial să se asigure calitatea, fiabilitatea și responsabilitatea în fluxurile de lucru de inginerie software. În special în industria securității cibernetice, guvernarea este esențială, deoarece atacatorii vor găsi și vor exploata orice lacună pe care o lăsați. De aceea am construit platforma noastră de agenți la Doppel, am condus cu limite de confidențialitate și un registru de audit clar de la început.

Privind în următorii cinci ani, cum credeți că va arăta echipa modernă de inginerie software odată ce agenții AI devin profund integrați în fluxurile de lucru zilnice de dezvoltare?

Cinci ani sunt greu de prezis cu încredere, deoarece lumea se mișcă atât de repede. Ce pot spune cu mai multă încredere este că, în următorii 18 luni până la trei ani, agenții AI vor gestiona probabil majoritatea generării codului, testării și depanării inițiale.

Ce vor deține inginerii este judecata de produs: specificația, gustul, arhitectura și responsabilitatea atunci când ceva se strică. Echipele pot deveni mai mici, dar rolul va deveni mai greu. Inginerii care vor prospera nu vor fi neapărat cei care produc cel mai mult cod, ci cei care pot dirija, evalua și corecta sisteme autonome eficient.

După ce am lucrat prin schimbări tehnologice anterioare, una dintre lucrurile pe care le-am învățat este că inovația rareori urmează o linie dreaptă. Echipele care vor reuși vor fi cele care rămân curioase, se adaptează rapid și evoluează fluxurile lor de lucru pe măsură ce tehnologia se schimbă.

Vă mulțumim pentru acest interviu minunat, cititorilor care doresc să afle mai multe despre Doppel.