Natasha Mohanty, wiceprezes ds. inżynierii w Doppel – seria wywiadów

Natasha Mohanty, wiceprezes ds. inżynierii w Doppel, to doświadczony lider technologiczny z głębokim doświadczeniem w dziedzinach takich jak sztuczna inteligencja, płatności, media i platformy konsumenckie. Przed dołączeniem do Doppel kierowała zespołem inżynierów w Stripe’s Optimized Checkout Suite i Link, skalując organizację z 30 do 200 inżynierów, jednocześnie pomagając w napędzaniu dużego przyjęcia produktów checkout i portfela konsumenckiego Stripe. Wcześniej pełniła funkcję wiceprezesa ds. inżynierii w Nielsen po przejęciu Prizma.ai, firmy zajmującej się sztuczną inteligencją i analityką mediów, której była współzałożycielem i kierownikiem jako CTO. Wcześniej w swojej karierze spędziła ponad siedem lat w Google (GOOGL ), pracując nad jakością wyszukiwania, Google News i personalizacją Google+.

Doppel to firma specjalizująca się w ochronie przed oszustwami i sztuczną inteligencją, chroniąca organizacje, menedżerów, marki i klientów przed oszustwami i sztuczną inteligencją. Ich platforma łączy ochronę przed ryzykiem cyfrowym, ochronę menedżerów i marek, bezpieczeństwo e-mail, zarządzanie ryzykiem ludzkim, symulacje i szkolenia związane z bezpieczeństwem, wykorzystując sztuczną inteligencję i bieżące informacje o zagrożeniach, aby wykryć, skorelować i przerwać infrastrukturę atakujących w kanałach takich jak domeny, media społecznościowe, aplikacje do wiadomości, reklamy i dark web. Firma ustawiła się wokół rosnącego zagrożenia oszustw z użyciem sztucznej inteligencji, pomagając zespołom bezpieczeństwa w reagowaniu na coraz bardziej zaawansowane ataki w nowoczesnym pejzażu zagrożeń cyfrowych.

Prowadziłaś zespoły inżynierskie w firmach takich jak Stripe, Google, Nielsen i teraz Doppel. Jak twoje spojrzenie na rolę inżyniera oprogramowania ewoluowało od pisania systemów bezpośrednio do koordynowania coraz bardziej autonomicznych przepływów pracy z użyciem sztucznej inteligencji?

Przepływ pracy inżyniera oprogramowania zmienił się dramatycznie, ale odpowiedzialność wymagana od inżynierów nie zmieniła się. Kiedy zaczynałam swoją karierę w Google dwie dekady temu, inżynierowie spędzali większość czasu na pisaniu i przeglądaniu kodu samodzielnie. Dziś sztuczna inteligencja może obsłużyć większość generowania kodu, ale inżynierowie nadal są odpowiedzialni za definiowanie celów, walidację danych wyjściowych, ustanawianie barier ochronnych, przeglądanie kodu i zapewnianie, że systemy pozostają niezawodne na dłuższą metę. W wielu ways sztuczna inteligencja rozszerzyła zakres odpowiedzialności inżynierskiej, zamiast ją zmniejszyć.

To, co ewoluowało, to miejsce, w którym inżynierowie tworzą wartość. Podczas gdy sztuczna inteligencja przejmuje więcej mechaniki kodowania, rola staje się coraz bardziej skoncentrowana na gustach i osądzie, zrozumieniu problemu, podejmowaniu decyzji architektonicznych, ocenianiu kompromisów i zapewnianiu, że wyniki są zgodne z potrzebami użytkowników i biznesu. Najlepsi inżynierowie robią coś więcej niż tylko piszą oprogramowanie. Będą oni koordynować spójne systemy ludzi i sztucznej inteligencji, stosując kontekst i odpowiedzialność, których maszyny wciąż brakuje. Jest to podobne do zmiany z indywidualnego współpracownika na menedżera.

Argumentowałaś, że sztuczna inteligencja nie zmniejsza odpowiedzialności inżynierskiej, ale ją rozszerza. Jakie są największe nieporozumienia, jakie nadal mają menedżerowie wyższego szczebla co do tego, co agenci kodowania sztucznej inteligencji mogą realistycznie obsłużyć bez nadzoru ludzkiego?

Największe nieporozumienie polega na tym, że sztuczna inteligencja wyeliminuje potrzebę silnych inżynierów. Rzeczywistość jest taka, że sztuczna inteligencja podnosi sufit tego, co mały, wykwalifikowany zespół może zbudować, co sprawia, że osąd inżynierski staje się bardziej cenny, a nie mniej.

To, co się zmienia, to powierzchnia, za którą inżynierowie są odpowiedzialni. Nie piszą już tylko kodu. Definiują, co ma być zbudowane, walidują, że agenci robią to, co zamierzali, i posiadają wynik, gdy nie robią.

Jeśli cokolwiek, przestrzeń problemowa stała się bardziej interesująca. Atakujący mają dostęp do tych samych narzędzi sztucznej inteligencji, których my używamy, co oznacza, że wyzwanie polegające na pozostawaniu przed nimi jest naprawdę trudniejsze i bardziej interesujące niż kiedykolwiek wcześniej. Nie ma braku trudnych problemów do rozwiązania, a Doppel rekrutuje inżynierów na wszystkich stanowiskach dla osób, które są podekscytowane tym rodzajem pracy.

Gdy zespoły inżynierskie zaczynają koordynować wiele agentów sztucznej inteligencji w kodowaniu, testowaniu, debugowaniu i dokumentacji, jaki jest skuteczny „zarządzanie agentami” przepływ pracy w praktyce?

Inżynierowie coraz częściej działają jako menedżerowie autonomicznych systemów, a nie tylko jako współpracownicy. Najlepsi inżynierowie mogą utrzymać znaczną ilość kontekstu w wielu równoległych przepływach pracy, wiedząc dokładnie, jaki kontekst udostępnić każdemu agentowi. W praktyce oznacza to pisanie dobrze zdefiniowanych kryteriów akceptacji, ustawianie wyraźnych barier ochronnych dla prywatności i bezpieczeństwa oraz proszenie agentów o wyjaśnienie ich powodzeń i założeń jako kroku walidacji. Jeśli agent nie może wyjaśnić, co robi i dlaczego, nie można mu całkowicie ufać.

W Doppel budujemy systemy agencji, które badają zagrożenia, ciągle dostosowują polityki wykrywania i wyjaśniają swoje decyzje w zwykłym języku. Skuteczne zarządzanie agentami wymaga również infrastruktury systemowej, w tym środowisk testowych, zautomatyzowanych potoków testowych, narzędzi bezpieczeństwa z określonymi uprawnieniami i nadzorem oraz ram evaluacyjnych, które ciągle oceniają, czy agenci i szerszy system działają zgodnie z oczekiwaniami.

Jakie są największe operacyjne lub bezpieczne ryzyka, które pojawiają się, gdy agenci sztucznej inteligencji mają dostęp do wewnętrznych narzędzi, systemów produkcyjnych lub wrażliwych przepływów pracy bez silnych barier ochronnych?

Ryzyko nie polega tylko na tym, że agenci sztucznej inteligencji popełniają błędy. Ryzyko polega na tym, że mogą one popełniać błędy w skali, której trudno złapać w czasie rzeczywistym. Bardziej szczegółowe niebezpieczeństwo polega na tym, że agenci działają poza ich zamierzonym zakresem, czy to poprzez dostęp do systemów, których nie powinny dotykać, czy poprzez obsługę danych, których nie powinny przechowywać.

W naszym produktach zabezpieczeń e-mail, na przykład, agenci przetwarzają dane, które są z natury wrażliwe. Zrobiliśmy znaczne starania, aby upewnić się, że ci agenci mają ściśle ograniczony dostęp, nie mogą przypadkowo ujawnić wrażliwych informacji osobowych i nie przechowują poufnych informacji, jednocześnie mając kontekst niezbędny do podjęcia słusznej decyzji.

W którym momencie zaczyna się pojawiać długoterminowy techniczny dług, gdy się bardzo polega na kodzie generowanym przez sztuczną inteligencję, i jak menedżerowie inżynierii powinni myśleć o balansowaniu prędkości wobec utrzymania?

Ryzyko polega na tym, że priorytetem jest krótkoterminowa prędkość nad fundamentami, które pozwalają systemom skalować i ewoluować. Jedna z największych lekcji, które nauczyłam się w czasie mojej pracy w Stripe, polega na tym, że nie wszystkie decyzje są równe. Niektóre są pułapkami: trudne do odwrócenia i prawdopodobnie mające długoterminowe konsekwencje, podczas gdy inne mogą być zmienione łatwiej.

Z sztuczną inteligencją dyscyplina polega na tym, aby wiedzieć, które decyzje nadal mają długoterminowe konsekwencje, ustawianiu silniejszych barier ochronnych wokół nich i poruszaniu się szybko w pozostałych. W Doppel oznacza to korzystanie z systemów oceny i bieżącej dokumentacji, aby upewnić się, że agenci nadal działają zgodnie z zamierzeniem, gdy systemy ewoluują. Celem nie jest spowolnienie, ale upewnienie się, że prędkość nie niszczy cicho fundamentów, na których się buduje.

Podczas twojego czasu skalowania zespołów inżynierskich w Stripe, jakie lekcje o niezawodności, zaufaniu i projektowaniu systemów teraz wydają się szczególnie istotne w erze autonomicznych agentów sztucznej inteligencji?

W Stripe niezawodność była wszystkim, zwłaszcza dlatego, że przemysł finansowy jest tak uregulowany i mogłoby to być katastrofalne dla firm, gdyby ich portale płatnicze przestały działać. Jeśli system nie działał zgodnie z zamierzeniem, miało to bezpośredni wpływ na klientów, co stworzyło silną kulturę posiadania i odpowiedzialności w firmie.

Jedna z rzeczy, która przyciągnęła mnie do Doppel, była podobny poziom obsesji na punkcie klienta. Zespoły tutaj są głęboko zaangażowane w zrozumienie wyzwań, z którymi borykają się klienci, i branie odpowiedzialności za ich rozwiązanie.

Teraz, gdy jestem w Doppel, te lekcje wydają się szczególnie istotne. Budujemy systemy natywne dla sztucznej inteligencji, aby pomóc organizacjom bronić się przed coraz bardziej zaawansowanymi atakami inżynierii społecznej. I podobnie jak w Stripe, gdzie nie można pozwolić, aby systemy przetwarzania płatności przestały działać, jest to katastrofalne dla firm, które nie mają silnej postawy w zakresie cyberbezpieczeństwa. Są to bardzo wysokie stawki, ale z różnych powodów.

Jak oczekujesz, że rekrutacja inżynierska zmieni się w ciągu najbliższych kilku lat, gdy firmy coraz bardziej priorytetowo traktują umiejętności sztucznej inteligencji, myślenie systemowe i adaptacyjność ponad węższą specjalizacją techniczną?

Myślę, że zobaczymy rosnący nacisk na rekrutację inżynierów, którzy mogą działać z autonomią, silnym osądem i możliwością szybkiego uczenia się. Są to cechy, które zawsze brałam pod uwagę przy rekrutacji, ale teraz są one jeszcze bardziej istotne. Na przestrzeni mojej kariery inżynierowie, którzy mieli największy wpływ, niekoniecznie mieli najwęższą specjalizację. Byli to ci, którzy mogli się adaptować szybko, nawigować w niepewności i ciągle uczyć się, gdy technologia ewoluowała.

Ale poprzeczka została podniesiona. W Doppel problemy, które rozwiązujemy, nie są ładnie zdefiniowane. Ciągle pracujemy, aby pozostać przed atakującymi, którzy również wykorzystują sztuczną inteligencję, co oznacza budowanie systemów takich jak agenci wywiadu, którzy proaktywnie badają sieć w celu wykrycia zagrożeń. Nie ma ustalonego podręcznika dla tego rodzaju pracy, więc wymaga to determinacji i gotowości do przekraczania granic tego, co jest możliwe.

Sztuczna inteligencja zmieni tylko, jak praca jest wykonywana, ale firmy nadal będą potrzebować ludzi, którzy mogą pracować w systemach i brać odpowiedzialność za pełny cykl życia tego, co budują. Inżynierowie, którzy prosperują, będą tymi, którzy ciągle reinwentują, na co są zdolni, gdy krajobraz sztucznej inteligencji ewoluuje wokół nich.

Pracowałaś rozlegle nad personalizacją, systemami rekomendacji i platformami napędzanymi przez sztuczną inteligencję w całej swojej karierze. Jak ten doświadczenie kształtuje twoje myślenie o współpracy człowieka i sztucznej inteligencji w organizacjach inżynierskich dzisiaj?

Jedna rzecz, którą nauczyłam się, pracując nad personalizacją i systemami sztucznej inteligencji, polega na tym, że jakość danych wyjściowych jest tylko tak dobra, jak jakość danych wejściowych, w tym danych szkoleniowych, ram oceny i jasnej definicji tego, co „dobrze” naprawdę oznacza. Modele są wspaniałe w przetwarzaniu informacji na dużą skalę, ale ludzie przynoszą osąd, kontekst i zrozumienie tego, co jest najważniejsze.

Myślę, że ten sam principio stosuje się do organizacji inżynierskich działających dzisiaj. Sztuczna inteligencja może pomóc zespołom poruszać się szybciej, ale najlepsze zespoły będą świadome kontekstu i podstawowych prawd, które dają sztucznej inteligencji, a także jak systemy sztucznej inteligencji integrują się z szerszym ekosystemem inżynierskim. Inżynierowie nadal muszą podejmować decyzje, oceniać kompromisy i ostatecznie posiadać wynik.

Wiele firm wyściguje, aby maksymalizować produktywność deweloperów z narzędziami sztucznej inteligencji. Czy uważasz, że przewaga konkurencyjna ostatecznie przyjdzie z szybszego kodowania, czy z budowaniem organizacji, które wiedzą, jak rządzić i koordynować systemy sztucznej inteligencji skutecznie?

Prędkość ma znaczenie, zwłaszcza w cyberbezpieczeństwie, gdzie pozostawanie za atakującymi nie jest opcją. Ale prędkość bez barier ochronnych jest tylko szybszym sposobem na stworzenie luk, które można wykorzystać. Zarządzanie systemami sztucznej inteligencji powinno być podstawą dla każdej firmy budującej z użyciem sztucznej inteligencji, a nie pomyślunkiem. Jest to niezbędne do zapewnienia jakości, niezawodności i odpowiedzialności w przepływach pracy inżynierskich. W branży cyberbezpieczeństwa w szczególności zarządzanie jest niezbędne, ponieważ atakujący znajdą i wykorzystają każdą lukę, którą pozostawisz. Dlatego zbudowaliśmy naszą platformę agentów w Doppel, zaczynając od barier ochronnych prywatności i jasnego śladu audytowego od samego początku.

Spójrzając w przyszłość przez pięć lat, co myślisz, jaki będzie wyglądał nowoczesny zespół inżynierski, gdy agenci sztucznej inteligencji staną się głęboko wbudowane w codzienne przepływy pracy rozwoju?

Pięć lat jest trudne do przewidzenia z pewnością, ponieważ świat porusza się bardzo szybko. Co mogę powiedzieć z większą pewnością, to że w ciągu najbliższych 18 miesięcy do trzech lat agenci sztucznej inteligencji prawdopodobnie będą obsługiwać większość generowania kodu, testowania i pierwszego debugowania.

To, co inżynierowie będą posiadać, to osąd produktu: specyfikacja, gust, architektura i odpowiedzialność, gdy coś się psuje. Zespoły mogą się zmniejszyć, ale rola stanie się trudniejsza. Inżynierowie, którzy prosperują, niekoniecznie będą tymi, którzy produkują najwięcej kodu, ale tymi, którzy mogą kierować, oceniać i korygować autonomiczne systemy skutecznie.

Pracując przez poprzednie zmiany technologiczne, jedną rzecz, którą nauczyłam się, jest to, że innowacja rzadko podąża za prostą linią. Zespoły, które prosperują, będą tymi, które pozostają ciekawe, adaptują się szybko i ewoluują swoje przepływy pracy, gdy technologia się zmienia.

Dziękuję za wspaniały wywiad, czytelnicy, którzy chcą dowiedzieć się więcej, powinni odwiedzić Doppel.