Natasha Mohanty, Doppelin teknisen johtaja – Haastattelusarja

Natasha Mohanty, Doppelin tekninen johtaja, on kokenut teknologiajohtaja, jolla on syvä kokemus AI:sta, maksamisesta, mediasta ja kuluttajalaitteista. Ennen Doppelissa työskentelyä hän johti Stripe:n Optimized Checkout Suite – ja Link-kehitystä, jossa hän skaalasi organisaation 30:stä 200:aan insinööriin ja auttoi ajamaan merkittävää omaksumista Stripe:n kassatuotteissa ja kuluttajien lompakossa. Aikaisemmin hän toimi Nielsenin teknisen johtajana Prizma.ai:n, AI-pohjaisen videoiden osallistumisen ja media-analytiikkaa tarjoavan yhtiön, jota hän perusti ja johti CTO:na. Uransa alussa hän työskenteli yli seitsemän vuotta Googlella, työskennellen hakulaadun, Google (GOOGL ) Newsin ja Google+:n henkilökohtaisen sovittamisen parissa.

Doppel on AI-pohjainen sosiaalisen insinöörityön puolustusyhtiö, joka keskittyy suojelemaan organisaatioita, johtajia, brändejä ja asiakkaita AI-pohjaisilta henkilöllisyyden varastamisilta, huijauksilta, petoksilta ja laajemmilta digitaalisilta riskeiltä. Sen alusta yhdistää digitaalisen riskin suojelun, johtajan ja brändin suojelun, sähköpostin turvallisuuden, ihmisen riskien hallinnan, simulaatiot ja tietoturvatietoisuuden koulutuksen, käyttäen AI:ta ja reaaliaikaisia uhka-analytiikkaa havaitsemaan, yhdistämään ja häiritsemään hyökkääjien infrastruktuuria kanavissa, kuten verkkotunneleissa, sosiaalisessa mediassa, viestisovelluksissa, mainoksissa ja pimeässä verkossa. Yhtiö on asettanut itsensä kasvavan generaattorien AI-pohjaisen sosiaalisen insinöörityön uhan ympärille, auttaen tietoturva ryhmiä vastaamaan yhä monimutkaisempiin hyökkäyksiin modernin digitaalisen uhka-aihepiirin ympärillä.

Olet johtanut teknisiä organisaatioita yhtiöissä kuten Stripe, Google, Nielsen ja nyt Doppel. Miten näkökulmasi ohjelmistosuunnittelijan rooliin on kehittynyt siirryttäessäsi kirjoittamisesta suoraan järjestelmiin johtamiseen yhä autonomisempien AI-ohjattujen työnkulkujen orkestraatiosta?

Ohjelmistosuunnittelijan työnkulku on muuttunut dramaattisesti, mutta insinöörien vaatimukset eivät ole muuttuneet. Kun aloitin urani Googlella kaksi vuosikymmentä sitten, insinöörit viettivät suurimman osan ajastaan kirjoittamalla ja tarkastamalla itse koodia. Nykyään AI voi hoitaa suurimman osan koodin generoimisesta, mutta insinöörit ovat edelleen vastuussa tavoitteiden määrittelystä, tulosten validoinnista, esteiden asettamisesta, koodin tarkastamisesta ja järjestelmien pitämisestä luotettavina pitkällä aikavälillä. Monella tavalla AI on laajentanut insinöörien vastuun sijasta vähentänyt sitä.

Mikä on kehittynyt, on se, missä insinöörit luovat arvoa. Kun AI ottaa haltuun koodauksen mekaniikkaa, rooli keskittyy yhä enemmän makuihin ja arvosteluihin, ymmärtämiseen, arkkitehtuurin päätöksiin, vaihtoehtojen arviointiin ja varmistamiseen, että tulokset ovat linjassa käyttäjien ja liiketoiminnan tarpeiden kanssa. Parhaat insinöörit eivät tee vain ohjelmistoa. He orkestraavat yhtenäisiä järjestelmiä, joissa on sekä ihmisiä että AI:ta, soveltamalla kontekstia ja vastuuta, joita koneet vielä puuttuvat. Se on samanlainen kuin siirtymä yksittäisestä osallistujasta johtajaksi.

Olet väittänyt, että AI ei vähennä insinöörien vastuuta, vaan laajentaa sitä. Mitkä ovat suurimmat väärinkäsitykset, joita johtajat edelleen pitävät siitä, mitä AI-koodausagentit voivat realistisesti hoitaa ilman ihmisten valvontaa?

Suurin väärinkäsitys on, että AI poistaa tarpeen vahvoille insinööreille. Todellisuus on, että AI nostaa katossa siitä, mitä pieni, taitava tiimi voi rakentaa, mikä tekee insinöörien arvostelukyvyn arvokkaammaksi, ei vähemmän arvokkaaksi.

Mikä muuttuu, on se, mille alueelle insinöörit ovat vastuussa. He eivät enää kirjoita vain koodia. He määrittelevät, mitä rakennetaan, validoi, että agentit tekevät sen, minkä he aikoivat, ja omistavat lopputuloksen, kun he eivät tee.

Jos mikä tahansa, ongelma-alue on muuttunut. Hyökkääjillä on pääsy samaan AI-työkaluihin, mitä meillä on, mikä tarkoittaa, että haaste pysyä heidän edellään on aidosti vaikeampi ja mielenkiintoisempi kuin koskaan aiemmin. Ei ole pulaa haasteista, ja Doppel palkkaa insinöörejä ympäri insinööritöitä niille, jotka ovat innoissaan tämänkaltaisesta työstä.

Kun insinööritiimit alkavat koordinoida useita AI-agenteja koodauksen, testaamisen, vian etsimisen ja asiakirjojen osalta, miltä näyttää tehokas “agenttien hallintatyönkulku” käytännössä?

Insinöörit toimivat yhä enemmän autonomisten järjestelmien johtajina, eivät vain osallistujina. Parhaat insinöörit voivat pitää merkittävää kontekstia useiden rinnakkaisen työnkulkujen yli ja tietävät tarkalleen, minkä kontekstin jakaa kullekin agentille. Käytännössä se tarkoittaa kirjoittamista hyvin määriteltyjä hyväksymiskriteerejä, asettamista selkeitä esteitä yksityisyyden ja turvallisuuden osalta ja pyytämistä agenteilta selittämään heidän päättelynsä ja oletuksensa validointivaiheena. Jos agentti ei voi selittää, mitä se tekee ja miksi, et voi täysin luottaa tulokseen.

Doppelissa rakennamme agenteja, jotka tutkivat uhkia, sopeuttavat jatkuvasti havaitsemispolitiikkaa ja selittävät päätöksensä selkeäksi kieleksi. Tehokas agenttien hallinta vaatii myös järjestelmätasolla infrastruktuuria, kuten esisovelluksia, automaattisia testausputkia, turvallisuustyökaluja määritellyillä lupauksilla ja valvonnalla sekä arviointikehyksiä, jotka arvioivat jatkuvasti, toimivatko agentit ja laajempi järjestelmä odotetusti.

Mitkä ovat suurimmat operatiiviset tai turvallisuusriskit, jotka syntyvät, kun AI-agenteille annetaan pääsy sisäisiin työkaluihin, tuotantojärjestelmiin tai arkaluonteisiin työnkulkuihin ilman vahvoja esteitä?

Riskejä ei ole vain se, että AI-agentit tekevät virheitä. Se on, että he voivat tehdä niitä mittakaavassa, joka on vaikea havaita reaaliajassa. Tarkempi vaara on, että agentit toimivat odotetun alueen ulottumattomissa, joko pääsemällä järjestelmiin, joita ne eivät ole suunniteltu koskettamaan, tai käsittelemällä tietoa, jota ne eivät pitäisi säilyttää.

Meidän sähköpostiturvallisuustuotteessa esimerkiksi agenteilla käsitellään luonnostaan arkaluontoista tietoa. Olemme menneet pitkälle varmistamaan, että näillä agenteilla on tiukasti rajoitettu pääsy, eivätkä ne voi vahingossa paljastaa arkaluontoista henkilökohtaista tietoa eteenpäin eivätkä säilytä luottamuksellista tietoa, samalla kun niillä on konteksti tehdä oikea päätös.

Milloin AI-koodauksen voimakas riippuvuus alkaa tuottaa pitkäaikaista teknistä velkaa, ja miten teknisen johtajan tulisi ajatella tasapainoa nopeuden ja ylläpidettävyyden välillä?

Riskejä on, että nopeutta priorisoidaan lyhytaikaisesti perusteiden kustannuksella, joilla järjestelmät voivat kasvaa ja kehittyä. Yksi suurimmista opetuksista, jonka opin ajallani Stripeilla, oli, etteivät kaikki päätökset ole yhtä arvokkaita. Jotkut ovat ansalukkoja: vaikeita peruuttaa ja todennäköisesti pitkäaikaisia seurauksia, kun taas toiset voidaan muuttaa helpommin.

AI:n kanssa kurinpitoinen on tietäminen, mitkä päätökset edelleen kantavat pitkäaikaisia seurauksia, asettaminen vahvoja esteitä niihin ja nopea liikkuminen muissa. Doppelissa se tarkoittaa arviointijärjestelmien ja nykyisten asiakirjojen käyttämistä varmistamaan, että agentit jatkavat toimimista odotetusti, kun järjestelmät kehittyvät. Tavoitteena ei ole hidastaa, vaan varmistaa, että nopeus ei hiljalleen kuluta perusteita, joille olet rakentamassa.

Aikana, jolloin skalerasit teknisiä organisaatioita Stripeilla, mitkä luotettavuuden, luottamuksen ja järjestelmien suunnittelun opit tuntuvat erityisen tärkeiltä autonomisten AI-agenteiden aikakaudella?

Stripeilla luotettavuus oli kaikki, erityisesti koska rahoitusala on niin säännelty ja se olisi katastrofaalista liiketoiminnalle, jos heidän maksamisportaalinsa menisivät pois päältä. Jos järjestelmä ei toiminut odotetusti, siinä oli suora vaikutus asiakkaisiin, ja se loi vahvan omistajuuden ja vastuun kulttuurin yhtiössä.

Yksi asia, joka veti minut Doppeliin, oli samanlainen asiakaslähtöinen fokus. Tiimit täällä ovat syvästi omistautuneita ymmärtämään asiakkaiden haasteita ja ottamaan omistajuutta niiden ratkaisemisesta.

Nyt, kun olen Doppelissa, nuo opit tuntuvat erityisen tärkeiltä. Rakennamme AI-pohjaisia järjestelmiä auttamaan organisaatioita puolustamaan itsensä yhä monimutkaisemmilta sosiaalisilta insinöörityöltä. Ja samoin kuin Stripeilla, jossa et voi maksaa, että maksamisjärjestelmät menevät pois päältä, on katastrofaalista liiketoiminnalle, jolla ei ole vahvaa tietoturva-asennetta. Ne ovat molemmat erittäin korkeat panokset, mutta eri syistä.

Miten odotat teknisen palkkaamisen muuttuvan seuraavien muutaman vuoden aikana, kun yhtiöt priorisoivat yhä enemmän AI-virkuutta, järjestelmien ajattelua ja sopeutumista kapeamman teknisen erikoistumisen sijaan?

Luulen, että näemme kasvavan painopisteen insinöörien palkkaamisessa, jotka voivat toimia itsenäisesti, vahvalla arvostelukyvyllä ja kyvyllä oppia nopeasti. Nämä ovat piirteitä, joita olen aina palkannut, mutta ne ovat tärkeämpiä nyt, ei vähemmän tärkeitä. Urani aikana insinöörit, jotka ovat tehneet suurimman vaikutuksen, eivät välttämättä olleet niitä, joilla on ollut kapein erikoistuminen. He olivat niitä, jotka voivat sopeutua nopeasti, navigoida epävarmuuden ympärillä ja jatkuvasti oppia, kun teknologia kehittyy.

Mutta baari on siirtynyt. Doppelissa ongelmat, joita ratkaistaan, eivät ole selkeästi määriteltyjä. Työskentelemme jatkuvasti pysymään hyökkääjien edellä, jotka hyödyntävät myös AI:ta, mikä tarkoittaa järjestelmien, kuten uhka-analytiikka-agenttien, rakentamista, jotka tutkivat proaktiivisesti webiä löytääkseen uhkia. Ei ole vakiintunutta pelikirjaa tällaiselle työlle, joten se vaatii sitoutumista ja valmiutta työntää mahdollisuuksien rajoja.

AI muuttaa vain, miten työ tehdään, mutta yhtiöille edelleen tarvitaan ihmisiä, jotka voivat työskennellä järjestelmien ympärillä ja ottaa vastuun siitä, mitä he rakentavat. Insinöörit, jotka menestyvät, eivät välttämättä ole niitä, jotka tuottavat eniten koodia, vaan ne, jotka voivat ohjata, arvioida ja korjata autonomisia järjestelmiä tehokkaasti.

AI jatkaa muuttamista, miten työ tehdään, mutta yhtiöille edelleen tarvitaan ihmisiä, jotka voivat työskennellä järjestelmien ympärillä ja ottaa vastuun siitä, mitä he rakentavat. Insinöörit, jotka menestyvät, eivät välttämättä ole niitä, jotka tuottavat eniten koodia, vaan ne, jotka voivat ohjata, arvioida ja korjata autonomisia järjestelmiä tehokkaasti.

Olet työskennellyt laajasti henkilökohtaisilla sovittimilla, suositussysteemeillä ja koneoppimismenetelmillä koko urasi ajan. Miten tämä kokemus muotoilee sitä, miten ajattelet ihmisten ja AI:n yhteistyöstä teknisissä organisaatioissa tänään?

Yksi asia, jonka opin työskennellessäni henkilökohtaisilla sovittimilla ja koneoppimismenetelmillä, on, että tuloksen laatu on vain yhtä hyvä kuin syötteen laatu, mukaan lukien koulutusdata, arviointikehykset ja selkeä määritelmä siitä, mitä “hyvä” todella tarkoittaa. Mallit ovat hyviä prosessoida tietoa suuressa mittakaavassa, mutta ihmiset tuovat arvostelukyvyn, kontekstin ja ymmärryksen siitä, mitä on tärkeintä.

Luulen, että sama periaate pätee teknisiin organisaatioihin, jotka toimivat tänään. AI voi auttaa tiimejä liikkumaan nopeammin, mutta parhaat tiimit ovat tarkkoja kontekstista ja perustodellisuudesta, jonka he antavat AI:lle, sekä siitä, miten AI-järjestelmät integroidaan laajempaan insinöörien ekosysteemiin. Insinöörien on edelleen tehtävä päätöksiä, arvioitava vaihtoehtoja ja lopulta omistettava lopputulos.

Monet yhtiöt kilpailevat maksimoidakseen kehittäjien tuottavuutta AI-työkaluilla. Luuletko, että kilpailuetu tulee lopulta nopeammasta koodauksesta vai rakentamisesta organisaatioista, jotka tietävät, miten hallita ja koordinoida AI-järjestelmiä tehokkaasti?

Nopeus on tärkeää, erityisesti tietoturvassa, jossa jääminen hyökkääjien jäljessä ei ole vaihtoehto. Mutta nopeus ilman esteitä on vain nopeampi tapa luoda hyökkäysten alttiita aukkoja. AI-järjestelmien hallinta tulisi olla jokaisen AI:ta rakentavan yhtiön perusvaatimus, ei jälkikäteen tullut ajatus. On tärkeää varmistaa laatu, luotettavuus ja vastuullisuus ohjelmistokehitystyönkulkujen yhteydessä. Tietoturva-alalla erityisesti hallinta on olennainen, koska hyökkääjät löytävät ja hyödyntävät jokaisen aukon, jonka jätät. Siksi olemme rakentaneet agenttialustamme Doppelissa, olemme johtaneet yksityisyyden esteillä ja selkeällä auditinjäljellä alusta alkaen.

Miten odotat, että moderni ohjelmistosuunnittelutiimi näyttää viiden vuoden kuluttua, kun AI-agentit tulevat syvemmäksi osaksi päivittäistä kehitystyönkulkua?

Viisi vuotta on vaikea ennustaa luottavaisesti, koska maailma liikkuu niin nopeasti. Se, mitä voin sanoa enemmän luottavaisuudella, on, että seuraavien 18 kuukauden tai kolmen vuoden aikana AI-agentit käsittelevät todennäköisesti suurimman osan koodin generoimisesta, testaamisesta ja ensimmäisestä virheenkorjauksesta.

Mikä insinöörit omistavat, on tuotteen arvostelukyky: spesifikaatio, maku, arkkitehtuuri ja vastuu, kun jotain menee pieleen. Tiimit saattavat pienentyä, mutta rooli tulee vaikeammaksi. Insinöörit, jotka menestyvät, eivät välttämättä ole niitä, jotka tuottavat eniten koodia, vaan ne, jotka voivat ohjata, arvioida ja korjata autonomisia järjestelmiä tehokkaasti.

Olen työskennellyt useiden teknologisten muutosten kautta, ja yksi asia, jonka olen oppinut, on, että innovaatio harvoin seuraa suoraa linjaa. Onnistuvat tiimit ovat niitä, jotka pysyvät uteliaina, sopeutuvat nopeasti ja kehittävät työnkulkuaan, kun teknologia muuttuu. Kiitos haastattelusta, lukijoille, jotka haluavat oppia lisää, suosittelemme vierailemaan Doppelin sivuilla.