ドッペル社エンジニアリング担当上級副社長ナターシャ・モハンティー – インタビュー・シリーズ

ナターシャ・モハンティー、ドッペル社エンジニアリング担当上級副社長は、AI、決済、メディア、消費者プラットフォームを横断する深い経験を持つ、経験豊富なテクノロジー・リーダーです。ドッペル社に参加する前は、ストライプ社の最適化されたチェックアウト・スイートとリンクのエンジニアリングを率いており、エンジニアの数を30人から200人に増やしながら、ストライプ社のチェックアウト製品と消費者ウォレットの採用を大幅に推進しました。 以前は、Prizma.aiの共同創設者でありCTOを務めていたナターシャは、ナイジェル社のエンジニアリング担当VPを務めていました。 その前のキャリアでは、7年以上にわたってGoogleで、検索品質、Googleニュース、Google+のパーソナライゼーションにわたって働きました。

ドッペルは、AIネイティブのソーシャルエンジニアリング防御会社であり、組織、エグゼクティブ、ブランド、および顧客を、AIパワードのなりすまし、フィッシング、詐欺、およびより広範なデジタルリスクから保護することに重点を置いています。 そのプラットフォームは、デジタルリスク保護、エグゼクティブおよびブランド保護、電子メールセキュリティ、ヒューマンリスク管理、シミュレーション、およびセキュリティ認識トレーニングを組み合わせ、AIおよびリアルタイムの脅威インテリジェンスを使用して、ドメイン、ソーシャルメディア、メッセージングアプリ、広告、およびダークウェブなどのチャネルを横断して攻撃者のインフラストラクチャを検出、関連付け、および妨害します。 この会社は、ジェネレーティブAIによって有効化されたソーシャルエンジニアリングの脅威の増大を中心に据えており、セキュリティチームが現代のデジタル脅威のランドスケープを横断する複雑な攻撃に反応するのを支援しています。

ストライプ、グーグル、ナイジェル、そして現在ドッペルでのエンジニアリング組織のスケーリングを通して、ソフトウェアエンジニアの役割についてのあなたの見解はどのように進化してきましたか。AIドリブンのオーケストレーションに重点を置くことから、システムを直接書くことに重点を置くことに変化しましたか。

ソフトウェアエンジニアのワークフローは劇的に変化しましたが、エンジニアに求められる責任は変わりません。 私がキャリアを始めたとき、エンジニアはほとんどの時間をコードの書き込みとレビューに費やしていました。 今日、AIはコード生成のほとんどを処理できますが、エンジニアは依然として目標の定義、出力の検証、ガードレールの確立、コードのレビュー、およびシステムが長期にわたって信頼性を維持することを保証する責任があります。 多くの点で、AIはエンジニアリングの責任の範囲を減らすのではなく、むしろ拡大させています。

何が進化したかというと、エンジニアが価値を生み出す場所です。 AIがコーディングのメカニズムをより多く処理するにつれて、役割はよりタスクと判断に重点が置かれるようになります。 問題を理解し、設計上の決定を下し、トレードオフを評価し、結果がユーザーとビジネスのニーズと一致することを保証します。 最も優れたエンジニアは単にソフトウェアを書くだけでなく、人間とAIの調和のとれたシステムをオーケストレートし、機械が依然として欠如しているコンテキストと責任を適用します。 これは、個々の貢献者からマネージャーへの移行と似ています。

あなたは、AIがエンジニアリングの責任を減らすのではなく、むしろ拡大させると主張しています。 執行役員が、AIコーディングエージェントが人間の監督なしで現実的に処理できることについて、依然として抱いている最大の誤解は何ですか。

最大の誤解は、AIがエンジニアの必要性を排除することです。 現実は、AIが小規模で熟練したチームが構築できるものの上限を引き上げるため、エンジニアリングの判断がより貴重になるのではなく、むしろそれを維持することです。

何が変わっているかというと、エンジニアが責任を負う表面です。 彼らはもはやコードを書くだけではありません。 彼らは何が構築されるかを定義し、エージェントが意図したとおりに動作していることを検証し、動作しない場合は結果を所有します。

もし何かが変わるならば、問題空間はより魅力的になります。 攻撃者は私たちと同じAIツールにアクセスできるため、攻撃者を先んじることは以前よりも難しく、そしてより面白い課題になります。 解決すべき難しい問題は不足しておらず、ドッペルではこの種の仕事に情熱を傾けるエンジニアを募集しています。

エンジニアリングチームが、コーディング、テスト、デバッグ、ドキュメンテーションを横断して複数のAIエージェントを調整し始めるとき、実践では「エージェント管理」の効果的なワークフローはどのように見えますか。

エンジニアは、貢献者としてではなく、自律システムのマネージャーとして行動することが増えています。 最も優れたエンジニアは、複数の並行ワークフローを横断して大量のコンテキストを保持しながら、各エージェントと共有するコンテキストを正確に知ることができます。 実践では、明確に定義された受け入れ基準を書き、プライバシーとセキュリティのための明確なガイドラインを設定し、検証ステップとしてエージェントに推論と仮定を説明することを意味します。 エージェントが何をしているか、そしてなぜそうしているかを説明できない場合、完全に出力を信頼することはできません。

ドッペルでは、脅威を調査し、検出ポリシーを継続的に適応させ、決定を平易な言語で説明するエージェントシステムを構築しています。 有効なエージェント管理には、ステージング環境、自動テストパイプライン、セキュリティツールと定義された権限と監視、およびエージェントとより広範なシステムが予想どおりに動作しているかどうかを継続的に評価する評価フレームワークを含むシステムレベルのインフラストラクチャが必要です。

AIエージェントが強力なガイドラインなしに内部ツール、生産システム、または機密ワークフローにアクセスされた場合に、発生する可能性のある最大の運用上のリスクまたはセキュリティ上のリスクは何ですか。

リスクは、AIエージェントがミスを犯す可能性があるということだけではありません。 それは、ミスを実行するスケールが実時間で検出するのが難しいということです。 より具体的な危険性は、エージェントが意図したスコープの外側で動作したり、触れるべきでないシステムにアクセスしたり、保持すべきでないデータを処理したりすることです。

私たちの電子メールセキュリティ製品では、たとえば、エージェントは本質的に機密性の高いデータを処理します。 私たちは、エージェントが厳しく制限されたアクセス権を持っていること、機密性の高い個人情報を意図せず公開できないこと、および機密情報を保持しないことを保証するために、重大な措置を講じてきましたが、正しい決定を下すために必要なコンテキストもあります。

AI生成コードに大きく依存することが、長期的な技術的負債を引き起こす時点はいつですか。また、エンジニアリングリーダーは、速度と保守性のバランスをとるためにどのように考えるべきですか。

リスクは、短期的な速度をシステムが拡大し、進化することを可能にする基盤よりも優先することです。 私がストライプで学んだ最も大きな教訓の1つは、すべての決定が等しくないということです。 一部の決定はトラップドアです。 反対するのが難しく、長期的な結果をもたらす可能性が高くなりますが、他の決定はより簡単に変更できます。

AIの場合、規律は、依然として長期的な結果をもたらす決定を識別し、それらの周りに強力なガイドラインを設定し、他の点では迅速に進むことです。 ドッペルでは、評価システムと現在のドキュメンテーションを使用して、システムが進化するにつれてエージェントが依然として意図したとおりに動作していることを保証することを意味します。 目標は遅くすることではなく、速度が基盤を秘密裏に侵食しないことを保証することです。

ストライプでのエンジニアリング組織のスケーリング中に、信頼性、信頼、およびシステム設計についての教訓は、自律AIエージェントの時代に特に重要なものとなりました。

ストライプでは、信頼性がすべてでした。 特に金融業界は規制されているため、支払いポータルがダウンした場合、企業にとって壊滅的になる可能性があります。 システムが意図したとおりに動作しない場合、顧客に直接影響し、会社には強力な所有権と責任の文化が生まれました。

私をドッペルに引き付けたことは、顧客に対する同様のレベルの執念です。 このチームは、顧客が直面する課題を理解し、それらを解決する責任を負うことに深く焦点を当てています。

今、私がドッペルにいるので、ストライプでの教訓は特に重要です。 私たちは、組織が高度なソーシャルエンジニアリング攻撃から防御するのを支援するために、AIネイティブシステムを構築しています。 ストライプと同様に、支払い処理システムがダウンすることは企業にとって壊滅的ですが、企業が強力なサイバーセキュリティ態勢を持たない場合も同様です。 どちらも非常に高い賭けですが、理由は異なります。

次の数年で、AIフルエンシ、システム思考、および適応性を優先する会社が増えるにつれて、エンジニアリングの採用はどのように変化するでしょうか。

私は、自律性、強力な判断力、および迅速な学習能力を持つエンジニアの採用に重点が置かれることを予想しています。 これらは、私が常に採用するために探している特性ですが、現在より重要性が増しています。 私のキャリアを通して、最大の影響を与えたエンジニアは、必ずしも最も狭い専門分野を持っていたわけではありませんでした。 彼らは、適応性が高く、曖昧さを切り抜け、テクノロジーが進化するにつれて継続的に学ぶことができました。

しかし、基準は変化しています。 ドッペルでは、私たちが解決しようとしている問題は、すでに定義されているものではありません。 私たちは、攻撃者がAIも利用しているため、攻撃者を先んじるために、脅威インテリジェンスエージェントなどのシステムを構築する必要があります。 そのような作業には、粘り強さと、可能な限界を押し進める意欲が必要です。

AIは、作業のやり方を変え続けるでしょう。 ただし、会社は、システム全体のライフサイクルを担当し、システムやツールを横断して作業できる人を必要とします。 成功するエンジニアは、AIの風景が変化するにつれて、自分ができることを不断に再発明する人々です。

パーソナライゼーション、レコメンデーションシステム、およびマシンラーニングを活用したプラットフォームに関するあなたの経験は、エンジニアリング組織内の人間とAIのコラボレーションについてのあなたの考え方をどのように形作っていますか。

パーソナライゼーションとマシンラーニングシステムで働いたことから学んだことは、出力の品質は入力の品質、トレーニングデータ、評価フレームワーク、および何が「良い」ものであるかという明確な定義によってのみ決定されるということです。 モデルは情報を大規模に処理することができ、人々は判断、コンテキスト、および何が最も重要であるかを理解することができます。

私は、エンジニアリング組織が今日運営されているように、同じ原則が適用されることを考えています。 AIはチームを迅速に動かすのを支援できますが、最も優れたチームは、AIに与えるコンテキストと根底にある真実を慎重に検討し、AI駆動システムがより広範なエンジニアリングエコシステムにどのように統合されるかを検討する必要があります。 エンジニアは依然として決定を下し、トレードオフを評価し、最終的には結果を所有する必要があります。

開発者の生産性をAIツールで最大化しようとしている会社が多くあります。 競争上の優位性は、最終的により迅速なコーディングから来るのでしょうか。 それとも、AIシステムを効果的に統治および調整することを知る組織を構築することから来るのでしょうか。

速度は重要です。 特にサイバーセキュリティでは、攻撃者から遅れることは選択肢ではありません。 ただし、ガイドラインなしで速度は、単に脆弱性のあるギャップを迅速に作成するだけです。 AIシステムのガバナンスは、AIを構築するすべての会社にとっての基準であるべきです。 それが、ソフトウェアエンジニアリングのワークフローで品質、信頼性、および説明責任を確保するためです。 特にサイバーセキュリティ業界では、攻撃者があらゆるギャップを見つけ、悪用するため、ガバナンスは不可欠です。 これが、私たちがドッペルでエージェントプラットフォームを構築した理由です。 私たちは、最初からプライバシーのガイドラインと明確な監査証跡を導入しました。

5年先を見て、AIエージェントが日常の開発ワークフローに深く組み込まれたとき、現代のソフトウェアエンジニアリングチームはどのように見えますか。

5年先は自信を持って予測することは難しいです。 世界は非常に速く変化しています。 18か月から3年以内に、AIエージェントはコード生成、テスト、および最初のパスでのデバッグのほとんどを処理する可能性が高いと言えるでしょう。

エンジニアが所有するのは、製品の判断です。 仕様、味、設計、およびユーザーとビジネスのニーズと一致する結果。 チームは小さくなるかもしれませんが、役割はより困難になるでしょう。 成功するエンジニアは、必ずしも最も多くのコードを生成する人ではなく、自律システムを効果的に指示、評価、およびコース修正できる人です。

過去のテクノロジーシフトを通して、私が学んだことは、革新はほとんどの場合、直線的な進化を辿らないということです。 成功するチームは、好奇心を持ち続け、迅速に適応し、テクノロジーが変化するにつれてワークフローを進化させるチームです。 ありがとうございました、読者がもっと学びたい場合は、ドッペルを訪けてください。