Natasha Mohanty, SVP de l’ingénierie chez Doppel – Série d’entretiens

Natasha Mohanty, Vice-présidente senior de l’ingénierie chez Doppel, est une dirigeante expérimentée dans le domaine de la technologie, avec une expérience approfondie dans les domaines de l’IA, des paiements, des médias et des plateformes de consommation. Avant de rejoindre Doppel, elle a dirigé l’ingénierie de la suite de paiement optimisée de Stripe et de Link, en faisant passer l’organisation de 30 à 200 ingénieurs, tout en contribuant à la croissance majeure de l’adoption des produits de paiement de Stripe et de la wallet de consommation. Auparavant, elle a occupé le poste de vice-présidente de l’ingénierie chez Nielsen après l’acquisition de Prizma.ai, la société d’analyse de médias et d’engagement vidéo alimentée par l’IA qu’elle a co-fondée et dirigée en tant que directrice technique. Plus tôt dans sa carrière, elle a passé plus de sept ans chez Google (GOOGL ), travaillant sur la qualité de la recherche, Google News et la personnalisation de Google+.

Doppel est une société de défense de l’ingénierie sociale native de l’IA, axée sur la protection des organisations, des dirigeants, des marques et des clients contre l’usurpation d’identité, la fraude, les risques numériques et les menaces plus larges. Sa plate-forme combine la protection des risques numériques, la protection des dirigeants et des marques, la sécurité des e-mails, la gestion des risques humains, les simulations et la formation à la sensibilisation à la sécurité, en utilisant l’IA et les renseignements sur les menaces en temps réel pour détecter, corrélater et perturber les infrastructures des attaquants à travers des canaux tels que les domaines, les médias sociaux, les applications de messagerie, les publicités et le dark web. La société s’est positionnée autour de la menace croissante de l’ingénierie sociale alimentée par l’IA générative, en aidant les équipes de sécurité à répondre à des attaques de plus en plus sophistiquées à travers le paysage des menaces numériques modernes.

Vous avez dirigé des organisations d’ingénierie dans des entreprises telles que Stripe, Google, Nielsen et maintenant Doppel. Comment votre vision du rôle de l’ingénieur logiciel a-t-elle évolué pour passer de la rédaction de systèmes à l’orchestration de flux de travail autonomes alimentés par l’IA ?

Le flux de travail de l’ingénieur logiciel a changé de manière spectaculaire, mais la responsabilité requise des ingénieurs n’a pas changé. Lorsque j’ai commencé ma carrière chez Google il y a deux décennies, les ingénieurs passaient la majeure partie de leur temps à rédiger et à examiner le code eux-mêmes. Aujourd’hui, l’IA peut gérer la majorité de la génération de code, mais les ingénieurs sont toujours responsables de la définition des objectifs, de la validation des sorties, de l’établissement de garde-fous, de l’examen du code et de la garantie que les systèmes restent fiables à long terme. À bien des égards, l’IA a élargi la portée de la responsabilité de l’ingénieur plutôt que de la réduire.

Ce qui a évolué, c’est l’endroit où les ingénieurs créent de la valeur. À mesure que l’IA prend en charge la mécanique de la programmation, le rôle devient de plus en plus centré sur le goût et le jugement, la compréhension du problème, la prise de décision architecturale, l’évaluation des compromis et la garantie que les résultats correspondent aux besoins des utilisateurs et de l’entreprise. Les meilleurs ingénieurs font plus que simplement rédiger du logiciel. Ils orchestreront des systèmes cohérents d’humains et d’IA, en appliquant le contexte et la responsabilité que les machines manquent encore. C’est similaire au passage d’un contributeur individuel à un manager.

Vous avez soutenu que l’IA n’a pas réduit la responsabilité de l’ingénieur, mais l’a élargie. Quels sont les plus grands malentendus que les dirigeants ont encore sur ce que les agents de codage de l’IA peuvent gérer de manière réaliste sans surveillance humaine ?

Le plus grand malentendu est que l’IA va éliminer le besoin d’ingénieurs solides. La réalité est que l’IA élève le plafond de ce qu’une petite équipe qualifiée peut construire, ce qui rend le jugement de l’ingénieur plus précieux, et non moins.

Ce qui change, c’est la surface que les ingénieurs sont responsables. Ils ne rédigent plus simplement du code. Ils définissent ce qui est construit, valident que les agents font ce qu’ils ont l’intention de faire, et possèdent le résultat lorsqu’ils ne le font pas.

Si quelque chose change, c’est que l’espace de problème est devenu plus intéressant. Les attaquants ont accès aux mêmes outils d’IA que nous, ce qui signifie que le défi de rester en tête d’eux est vraiment plus difficile, et plus intéressant, qu’il ne l’a jamais été. Il n’y a pas de pénurie de problèmes difficiles à résoudre, et Doppel embauche dans tout le département d’ingénierie pour les personnes qui sont enthousiastes à l’idée de ce type de travail.

À mesure que les équipes d’ingénierie commencent à coordonner plusieurs agents d’IA dans la programmation, les tests, le débogage et la documentation, à quoi ressemble un flux de travail de « gestion d’agent » efficace en pratique ?

Les ingénieurs agissent de plus en plus comme des gestionnaires de systèmes autonomes, et non simplement comme des contributeurs à ceux-ci. Les meilleurs ingénieurs peuvent tenir un contexte important à travers plusieurs flux de travail parallèles tout en sachant exactement quel contexte partager avec chaque agent. En pratique, cela signifie rédiger des critères d’acceptation bien définis, établir des garde-fous clairs pour la confidentialité et la sécurité, et demander aux agents d’expliquer leur raisonnement et leurs hypothèses comme une étape de validation. Si un agent ne peut pas expliquer ce qu’il fait et pourquoi, vous ne pouvez pas lui faire entièrement confiance.

Chez Doppel, nous construisons des systèmes agents qui enquêtent sur les menaces, adaptent continuellement les politiques de détection et expliquent leurs décisions en langage clair. La gestion efficace des agents nécessite également une infrastructure de système, y compris des environnements de préparation, des pipelines de tests automatisés, des outils de sécurité avec des autorisations et une surveillance définies, et des cadres d’évaluation qui évaluent continuellement si les agents et le système plus large fonctionnent comme prévu.

Quels sont les plus grands risques opérationnels ou de sécurité qui émergent lorsque les agents d’IA sont autorisés à accéder à des outils internes, à des systèmes de production ou à des flux de travail sensibles sans solides garde-fous ?

Le risque n’est pas simplement que les agents d’IA fassent des erreurs. C’est qu’ils peuvent les faire à une échelle qui est difficile à détecter en temps réel. Le danger plus spécifique est que les agents agissent en dehors de leur portée prévue, que ce soit en accédant à des systèmes qu’ils n’ont pas été conçus pour toucher ou en manipulant des données qu’ils ne devraient pas conserver.

Dans notre produit de sécurité des e-mails, par exemple, les agents traitent des données qui sont inhérentement sensibles. Nous avons pris des mesures importantes pour nous assurer que ces agents ont un accès strictement limité, ne peuvent pas exposer accidentellement des informations personnelles sensibles en aval et ne conservent pas d’informations confidentielles, tout en ayant le contexte nécessaire pour prendre la bonne décision.

À quel moment le recours à des codes générés par l’IA commence-t-il à introduire une dette technique à long terme, et comment les dirigeants d’ingénierie devraient-ils réfléchir à l’équilibre entre la vitesse et la maintenabilité ?

Le risque est de donner la priorité à la vitesse à court terme plutôt qu’aux fondations qui permettent aux systèmes de croître et d’évoluer. L’une des plus grandes leçons que j’ai tirées de mon temps chez Stripe est que toutes les décisions ne sont pas égales. Certaines sont des pièges : difficiles à inverser et susceptibles d’avoir des conséquences à long terme, tandis que d’autres peuvent être modifiées plus facilement.

Avec l’IA, la discipline consiste à savoir quelles décisions portent encore des conséquences à long terme, à mettre des garde-fous plus solides autour de celles-ci et à avancer rapidement sur le reste. Chez Doppel, cela signifie utiliser des systèmes d’évaluation et une documentation actuelle pour nous assurer que les agents continuent de fonctionner comme prévu à mesure que les systèmes évoluent. L’objectif n’est pas de ralentir, mais de nous assurer que la vitesse ne sape pas silencieusement les fondations sur lesquelles nous construisons.

Pendant votre temps chez Stripe, en faisant évoluer les organisations d’ingénierie, quels sont les enseignements sur la fiabilité, la confiance et la conception de systèmes qui vous semblent maintenant particulièrement pertinents à l’ère des agents d’IA autonomes ?

Chez Stripe, la fiabilité était tout, surtout parce que l’industrie financière est si réglementée et qu’il pourrait être catastrophique pour les entreprises si leurs portails de paiement étaient fermés. Si un système ne fonctionnait pas comme prévu, il y avait un impact direct sur les clients, et cela a créé une forte culture de responsabilité et de responsabilité au sein de l’entreprise.

L’une des choses qui m’ont attiré chez Doppel était un niveau similaire d’obsession client. Les équipes ici sont profondément axées sur la compréhension des défis que les clients rencontrent et sur la prise en charge de la résolution de ces défis.

Maintenant que je suis chez Doppel, ces enseignements me semblent particulièrement pertinents. Nous construisons des systèmes d’IA natifs pour aider les organisations à se défendre contre des attaques d’ingénierie sociale de plus en plus sophistiquées. Et de la même manière que chez Stripe, où vous ne pouvez pas vous permettre d’avoir des systèmes de traitement de paiement qui ne fonctionnent pas, il est catastrophique pour les entreprises de ne pas avoir une solide posture de cybersécurité. Ils sont tous deux très risqués, mais pour différentes raisons.

Comment pensez-vous que le recrutement d’ingénieurs va changer au cours des prochaines années, à mesure que les entreprises donnent la priorité à la maîtrise de l’IA, à la pensée systémique et à l’adaptabilité par rapport à une spécialisation technique plus étroite ?

Je pense que nous allons voir une emphase croissante sur le recrutement d’ingénieurs qui peuvent opérer avec autonomie, un jugement solide et la capacité d’apprendre rapidement. Ce sont des traits que j’ai toujours recherchés, mais ils comptent plus maintenant, et non moins. Tout au long de ma carrière, les ingénieurs qui ont eu le plus d’impact n’étaient pas nécessairement ceux qui avaient la spécialisation la plus étroite. Ils étaient ceux qui pouvaient s’adapter rapidement, naviguer dans l’ambiguïté et apprendre continuellement à mesure que la technologie évoluait.

Mais la barre a changé. Chez Doppel, les problèmes que nous résolvons ne sont pas clairement définis. Nous travaillons constamment pour rester en tête des attaquants qui utilisent également l’IA, ce qui signifie construire des systèmes comme des agents de renseignement sur les menaces qui explorent proactivement le web pour découvrir les menaces. Il n’y a pas de livre de jeu établi pour ce type de travail, il faut donc de la détermination et une volonté de repousser les limites de ce qui est possible.

L’IA ne fera que continuer à changer la façon dont le travail est effectué, mais les entreprises auront toujours besoin de personnes qui peuvent travailler à travers des systèmes et prendre la responsabilité du cycle de vie complet de ce qu’elles construisent. Les ingénieurs qui réussiront seront ceux qui sont constamment en train de réinventer ce dont ils sont capables à mesure que le paysage de l’IA évolue autour d’eux.

Vous avez travaillé de manière approfondie sur la personnalisation, les systèmes de recommandation et les plateformes alimentées par le machine learning tout au long de votre carrière. Comment cette expérience façonne-t-elle votre façon de penser à la collaboration humaine-IA au sein des organisations d’ingénierie aujourd’hui ?

Une chose que j’ai apprise en travaillant sur la personnalisation et les systèmes de machine learning est que la qualité de la sortie n’est que aussi bonne que la qualité des entrées, y compris les données de formation, les cadres d’évaluation et une définition claire de ce que « bien » signifie réellement. Les modèles sont excellents pour traiter les informations à grande échelle, mais les humains apportent un jugement, un contexte et une compréhension de ce qui compte le plus.

Je pense que le même principe s’applique aux organisations d’ingénierie qui fonctionnent aujourd’hui. L’IA peut aider les équipes à aller plus vite, mais les meilleures équipes seront délibérément attentives au contexte et à la vérité qu’elles donnent à l’IA, ainsi qu’à la façon dont les systèmes alimentés par l’IA s’intègrent dans l’écosystème d’ingénierie plus large. Les ingénieurs ont toujours besoin de prendre des décisions, d’évaluer les compromis et, en fin de compte, de posséder le résultat.

De nombreuses entreprises sont en train de courir pour maximiser la productivité des développeurs avec des outils d’IA. Pensez-vous que l’avantage concurrentiel viendra finalement de la programmation plus rapide, ou de la construction d’organisations qui savent comment gérer et coordonner efficacement les systèmes d’IA ?

La vitesse compte, surtout dans la cybersécurité, où tomber en arrière par rapport aux attaquants n’est pas une option. Mais la vitesse sans garde-fous n’est qu’un moyen plus rapide de créer des lacunes exploitables. La gouvernance des systèmes d’IA devrait être la base de chaque entreprise qui construit avec l’IA, et non une afterthought. Il est essentiel de garantir la qualité, la fiabilité et la responsabilité dans les flux de travail d’ingénierie logicielle. Dans l’industrie de la cybersécurité en particulier, la gouvernance est essentielle car les attaquants trouveront et exploiteront toute faille que vous laissez. C’est pourquoi nous avons construit notre plate-forme d’agents chez Doppel, nous avons mené avec des garde-fous de confidentialité et une traçabilité claire intégrés dès le départ.

En regardant cinq ans en avant, à quoi ressemblera l’équipe d’ingénierie logicielle moderne une fois que les agents d’IA seront profondément intégrés dans les flux de travail de développement quotidiens ?

Cinq ans est difficile à prédire avec confiance car le monde bouge si rapidement. Ce que je peux dire avec plus de confiance est qu’au cours des 18 prochains mois à trois ans, les agents d’IA géreront probablement la majorité de la génération de code, des tests et du débogage de premier passage.

Ce que les ingénieurs posséderont, c’est le jugement de produit : la spécification, le goût, l’architecture et la responsabilité lorsque quelque chose se brise. Les équipes peuvent être plus petites, mais le rôle deviendra plus difficile. Les ingénieurs qui réussiront ne seront pas nécessairement ceux qui produisent le plus de code, mais ceux qui peuvent diriger, évaluer et corriger les systèmes autonomes de manière efficace.

Ayant travaillé à travers les précédents changements technologiques, une chose que j’ai apprise est que l’innovation ne suit rarement une ligne droite. Les équipes qui réussiront seront celles qui restent curieuses, s’adaptent rapidement et évoluent leurs flux de travail à mesure que la technologie change.

Je vous remercie pour cette grande interview, les lecteurs qui souhaitent en savoir plus peuvent visiter Doppel.