Natasha Mohanty, SVP inženýrství ve společnosti Doppel – série rozhovorů

Natasha Mohanty, Senior Vice President of Engineering at Doppel, je zkušený technologický lídr s hlubokými zkušenostmi v oblasti AI, plateb, médií a spotřebitelských platforem. Předtím, než se připojila k Doppel, vedla inženýrství pro Stripe’s Optimized Checkout Suite a Link, přičemž organizace vyrostla z 30 na 200 inženýrů a pomáhala pohánět majoritní adopci napříč produkty Stripe’s checkout a spotřebitelské peněženky. Předtím působila jako VP of Engineering v Nielsen po akvizici Prizma.ai, společnosti pro AI-powered video engagement a media analytics, kterou spoluzakládala a vedla jako CTO. Na počátku své kariéry strávila více než sedm let v Google (GOOGL ), pracovala napříč Search Quality, Google News a Google+ personalization.

Doppel je AI-native sociální inženýrství obranná společnost zaměřená na ochranu organizací, manažerů, značek a zákazníků před AI-powdered impersonation, phishing, podvody a širšími digitálními riziky. Jejich platforma kombinuje digitální rizika, ochranu manažerů a značek, e-mailovou bezpečnost, lidské riziko, simulace a bezpečnostní povědomí, pomocí AI a aktuálních hrozeb inteligence k detekci, korelaci a narušení útočníků infrastruktury napříč kanály, jako jsou domény, sociální média, messaging aplikace, reklamy a dark web. Společnost se umístila kolem vzrůstající hrozby generativní AI-powdered sociálního inženýrství, pomáhá bezpečnostním týmům reagovat na stále sofistikovanější útoky napříč moderním digitálním ohrožením.

Máte zkušenosti s vedením inženýrských organizací ve společnostech, jako jsou Stripe, Google, Nielsen a nyní Doppel. Jak se vaše pohled na roli softwarového inženýra vyvinul od psaní systémů přímo k orchestraci stále autonomnějších AI-powdered workflow?

Práce softwarového inženýra se dramaticky změnila, ale odpovědnost požadovaná od inženýrů zůstala stejná. Když jsem začala svou kariéru v Google před dvěma desetiletími, inženýři trávili většinu času psaním a kontrolou kódu sami. Dnes může AI zpracovat většinu generování kódu, ale inženýři jsou stále odpovědní za definování cílů, ověřování výstupů, stanovení bezpečnostních zábran, kontrolu kódu a zajišťování, že systémy zůstávají spolehlivé na dlouhou dobu. V mnoha ohledech AI rozšířila rozsah inženýrské odpovědnosti spíše než ji snížila.

Co se vyvinulo, je místo, kde inženýři vytvářejí hodnotu. Jak AI přebírá více mechaniky kódování, role se stává stále více zaměřenou na chuť a úsudek, pochopení problému, architektonická rozhodnutí, hodnocení kompromisů a zajišťování, že výsledky jsou v souladu s uživatelskými a obchodními potřebami. Nejlepší inženýři nedělají pouze softwarové produkty. Budou orchestrovat koherentní systémy lidí a AI, aplikující kontext a odpovědnost, kterou stroje stále postrádají. Je to podobné jako přechod od individuálního přispěvatele k manažerovi.

Argumentovala jste, že AI nesnižuje inženýrskou odpovědnost, ale rozšiřuje ji. Jaké jsou největší mýty, které manažeři stále mají o tom, co AI kódovací agenti mohou realisticky zvládnout bez lidského dohledu?

Největší mýtus je, že AI eliminuje potřebu silných inženýrů. Realita je, že AI zvyšuje strop toho, co může malý, zkušený tým postavit, což dělá inženýrský úsudek více cenným, ne méně.

Co se mění, je povrch, za který inženýři odpovídají. Nedělají již pouze kód. Definují, co se staví, ověřují, zda agenti dělají to, co měli v úmyslu, a vlastní výsledek, když tak neučiní.

Pokud něco, problémový prostor se stal více zajímavým. Útočníci mají přístup ke stejným AI nástrojům, jako my, což znamená, že výzva zůstat před nimi je skutečně tvrdší a zajímavější, než kdykoli předtím. Není nedostatek tvrdých problémů, které je třeba vyřešit, a Doppel najímá napříč inženýrstvím lidi, kteří jsou nadšení touto prací.

Jak vypadá efektivní „agent management“ workflow v praxi, když inženýrské týmy začínají koordinovat více AI agentů napříč kódováním, testováním, laděním a dokumentací?

Inženýři stále více jednají jako manažeři autonomních systémů, ne pouze přispěvatele do nich. Nejlepší inženýři mohou držet významný kontext napříč několika paralelními workflow, zatímco znají přesně, jaký kontext sdílet s každým agentem. V praxi to znamená psaní dobře definovaných akceptačních kritérií, stanovení jasných bezpečnostních zábran pro soukromí a bezpečnost a žádání agentů, aby vysvětlili své důvody a předpoklady jako ověřovací krok. Pokud agent nemůže artikulovat, co dělá a proč, nelze plně důvěřovat výstupu.

V Doppel stavíme agentic systémy, které vyšetřují hrozby, neustále přizpůsobují detekční zásady a vysvětlují svá rozhodnutí v běžném jazyce. Efektivní agent management také vyžaduje systémovou infrastrukturu, včetně staging prostředí, automatizovaných testovacích kanálů, bezpečnostních nástrojů s definovanými oprávněními a dohledem a evaluačních rámců, které neustále hodnotí, zda agenti a širší systém fungují podle očekávání.

Jaké jsou největší provozní nebo bezpečnostní rizika, která vznikají, když AI agenti dostávají přístup k interním nástrojům, produkčním systémům nebo citlivým workflow bez silných bezpečnostních zábran?

Riziko není pouze to, že AI agenti dělají chyby. Je to, že mohou dělat chyby v měřítku, které je těžké zachytit v reálném čase. Konkrétnější nebezpečí je, že agenti jednají mimo svůj zamýšlený rozsah, ať už to znamená přístup k systémům, ke kterým neměli být navrženi, nebo zpracování dat, která by neměli uchovávat.

V našem e-mailovém bezpečnostním produktu, například, agenti zpracovávají data, která jsou inherentně citlivá. Šli jsme do značných délky, abychom zajistili, že tito agenti mají přísně omezený přístup, nemohou náhodou vystavit citlivé osobní informace a neuchovávají důvěrné informace, zatímco stále mají kontext potřebný pro správné rozhodnutí.

V jaké fázi začíná silná závislost na AI-generovaném kódu zavádět dlouhodobý technický dluh, a jak by měli inženýrští lídři uvažovat o vyvážení rychlosti a udržovatelnosti?

Riziko spočívá v priorizaci krátkodobé rychlosti nad základy, které umožňují systémům škálovat a evolucovat. Jedna z největších lekcí z mého času ve Stripe byla, že ne všechny rozhodnutí jsou stejné. Některá jsou pasti: těžko se vrátit a pravděpodobně mít dlouhodobé důsledky, zatímco jiná lze změnit snadněji.

S AI je disciplína znát, která rozhodnutí stále nese dlouhodobé důsledky, umístit silnější bezpečnostní zábrany kolem nich a pohybovat se rychleji na zbytku. V Doppel to znamená použití evaluačních systémů a aktuální dokumentace k zajištění, že agenti pokračují v provozu podle očekávání, jak systémy evolucují. Cílem není zpomalit, ale zajistit, aby rychlost neutichla tiše základy, na kterých stavíte.

Během svého času ve Stripe, jaké lekce o spolehlivosti, důvěře a systémovém designu se nyní cítí zvláště relevantní v éře autonomních AI agentů?

Ve Stripe byla spolehlivost vším, zejména proto, že finanční průmysl je tak regulován a mohlo by to být katastrofické pro podniky, pokud by jejich platební portály šly dolů. Pokud systém nefungoval podle očekávání, byl přímý dopad na zákazníky, a to vytvořilo silnou kulturu vlastnictví a odpovědnosti ve společnosti.

Jedna z věcí, která mě přitáhla k Doppel, byla podobná úroveň zákaznické posedlosti. Týmy zde jsou hluboce zaměřeny na pochopení výzev, kterým zákazníci čelí, a přebírají odpovědnost za jejich řešení.

Nyní, když jsem v Doppel, tyto lekce se cítí zvláště relevantní. Stavíme AI-powdered systémy, aby pomohly organizacím bránit se proti stále sofistikovanějším sociálním inženýrským útokům. A podobně jako ve Stripe, kde nelze dovolit, aby platební systémy šly dolů, je to katastrofické pro podniky, aby neměly silnou kybernetickou bezpečnostní pozici. Oba jsou velmi vysoké sázky, ale z různých důvodů.

Jak očekáváte, že se inženýrské náborování změní v příštích několika letech, když společnosti stále více priorizují AI gramotnost, systémové myšlení a adaptabilitu nad užší technickou specializací?

Myslím, že uvidíme rostoucí důraz na najímání inženýrů, kteří mohou fungovat s autonomií, silným úsudkem a schopností se rychle učit. Tyto vlastnosti jsem vždy hledala, ale nyní jsou ještě důležitější. Během své kariéry měli největší dopad inženýři, kteří nebyli nutně ti s nejúžší specializací. Byli to ti, kteří mohli přizpůsobit se rychle, navigovat nejistotu a neustále se učit, jak technologie evoluciona.

Ale laťka se posunula. V Doppel problémy, které řešíme, nejsou jasně definovány. Stále pracujeme na tom, abychom zůstali před útočníky, kteří také využívají AI, což znamená stavět systémy, jako jsou agenti pro hrozbou inteligenci, kteří proaktivně procházejí web, aby objevili hrozby. Neexistuje žádný etablovaný playbook pro tuto práci, takže vyžaduje odhodlanost a ochotu tlačit hranice toho, co je možné.

AI bude pouze měnit, jak se práce provádí, ale společnosti budou stále potřebovat lidi, kteří mohou pracovat napříč systémy a přebírat odpovědnost za plný životní cyklus toho, co staví. Inženýři, kteří prosperují, budou ti, kteří neustále reinventují, co jsou schopni, jak se AI krajina kolem nich vyvíjí.

Jak vaše zkušenosti s personalizací, doporučovacími systémy a strojovým učením-powdered platformami ovlivňují váš pohled na spolupráci mezi lidmi a AI uvnitř inženýrských organizací?

Jedna věc, kterou jsem se naučila z práce na personalizaci a strojovém učení systémech, je, že kvalita výstupu je pouze tak dobrá, jako kvalita vstupů, včetně tréninkových dat, evaluačních rámců a jasných definic toho, co „dobré“ vlastně znamená. Modely jsou skvělé pro zpracování informací v měřítku, ale lidé přinášejí úsudek, kontext a pochopení toho, co je nejdůležitější.

Myslím, že stejný princip platí pro inženýrské organizace, které fungují dnes. AI může pomoci týmům pohybovat se rychleji, ale nejlepší týmy budou úmyslně zvažovat kontext a skutečnost, kterou dávají AI, stejně jako to, jak AI-powdered systémy se integrují do širšího inženýrského ekosystému. Inženýři stále potřebují dělat rozhodnutí, hodnotit kompromisy a nakonec vlastnit výsledek.

Mnohé společnosti závodí, aby maximalizovaly produktivitu vývojářů pomocí AI nástrojů. Myslíte, že konkurenční výhoda nakonec přijde z rychlejšího kódování, nebo ze stavby organizací, které znají, jak řídit a koordinovat AI systémy efektivně?

Rychlost má význam, zejména v kybernetické bezpečnosti, kde zůstat za útočníky není možnost. Ale rychlost bez bezpečnostních zábran je pouze rychlejší způsob, jak vytvořit využitelné mezery. Řízení AI systémů by mělo být základním kamenem pro každou společnost, která staví s AI, ne následkem. Je to nezbytné pro zajištění kvality, spolehlivosti a odpovědnosti v softwarových inženýrských workflow. V kybernetické bezpečnostní průmyslu je řízení zvláště důležité, protože útočníci najdou a využijí každou mezeru, kterou zanecháte. Proto jsme postavili naši agentní platformu v Doppel, jsme vedli s bezpečnostními zábranami a jasnou auditní stopou postavenou od začátku.

Jak vypadá moderní softwarový inženýrský tým za pět let, když AI agenti se stanou hluboce integrovanými do každodenních vývojových workflow?

Pět let je těžké předpovědět s jistotou, protože svět se pohybuje tak rychle. Co mohu říci s větší jistotou, je, že do 18 měsíců až tří let budou AI agenti pravděpodobně zpracovávat většinu generování kódu, testování a prvního ladění.

Co inženýři budou vlastnit, je produktový úsudek: specifikace, chuť, architektura a odpovědnost, když něco selže. Týmy mohou být menší, ale role se stane tvrdší. Inženýři, kteří prosperují, nebudou nutně ti, kteří produkují nejvíce kódu, ale ti, kteří mohou směrovat, hodnotit a korigovat autonomní systémy efektivně.

Měla jsem zkušenosti s předchozími technologickými posuny, jedna věc, kterou jsem se naučila, je, že inovace zřídka následují přímou linii. Týmy, které uspějí, budou ty, které zůstanou zvědavé, přizpůsobí se rychle a evoluční workflow, jak se technologie mění.

Děkuji za skvělý rozhovor, čtenáři, kteří chtějí se dozvědět více, by měli navštívit Doppel.