도펠의 Natasha Mohanty, 엔지니어링 부사장 – 인터뷰 시리즈

나타샤 모한티, 도펠의 엔지니어링 부사장은 AI, 결제, 미디어, 소비자 플랫폼을 아우르는 깊은 경험을 가진 기술 리더입니다. 도펠에 합류하기 전에, 그는 스트라이프의 최적화된 체크아웃 스위트와 링크의 엔지니어링을 이끌었으며, 30명에서 200명으로 조직을 확장하고 스트라이프의 체크아웃 제품과 소비자 지갑의 주요 채택을 주도했습니다. 이전에는, 그는 프리즈마.ai의 공동 창립자이자 CTO였으며, 후에 닐슨이 인수한 AI 기반 비디오 엔게이지먼트와 미디어 애널리틱스 회사에서 엔지니어링 부사장을 역임했습니다. 그의 경력 초기에는, 그는 7년 이상 구글에서 검색 품질, 구글 뉴스, 구글+ 개인화 등 다양한 분야에서 일했습니다. (GOOGL )

도펠은 조직, 경영진, 브랜드, 고객을 AI 기반의 사칭, 피싱, 사기, 디지털 위험으로부터 보호하는 AI 네이티브 소셜 엔지니어링 방어 회사입니다. 도펠의 플랫폼은 디지털 위험 보호, 경영진 및 브랜드 보호, 이메일 보안, 인간 위험 관리, 시뮬레이션, 보안 인식 훈련을 결합하여, AI와 실시간 위협 인텔리전스를 사용하여 도메인, 소셜 미디어, 메시징 앱, 광고, 다크 웹 등 다양한 채널에서 공격자 인프라를 탐지, 상관, 중단합니다. 이 회사는 발전된 AI 기반의 사회 공학 공격 위협에 대응하여, 보안 팀이 현대적인 디지털 위협 환경에서 점점 더 복잡한 공격에 대응하도록 도와주는 것을 목표로 합니다.

스트라이프, 구글, 닐슨, 그리고 현재 도펠에서 엔지니어링 조직을 이끌어 왔습니다. 그 과정에서, 소프트웨어 엔지니어의 역할은 어떻게 변화해 왔나요? 특히, 시스템을 직접 작성하는 것에서 점점 더 자율적인 AI 기반 워크플로우를 조율하는 역할로 어떻게 바뀌어 왔나요?

소프트웨어 엔지니어의 워크플로우는劇적으로 변했습니다. 그러나 엔지니어의 책임은 변하지 않았습니다. 제가 구글에서 경력을 시작한 20년 전에는, 엔지니어들은 대부분의 시간을 코드를 작성하고 검토하는 데 보냈습니다. 오늘날, AI는 코드 생성의 대부분을 처리할 수 있지만, 엔지니어들은 여전히 목표를 정의하고, 출력을 검증하고, 가드레일을 설정하고, 코드를 검토하고, 시스템이 장기적으로 안정적으로 유지되도록 하는 책임을 지고 있습니다. 많은 방면에서, AI는 엔지니어링의 책임을 줄이기보다 확대했습니다.

변화한 것은 엔지니어가 가치를 창출하는 방식입니다. AI가 코딩의 역학을 맡음에 따라, 역할은 점점 더 취향과 판단, 문제를 이해하고, 아키텍처 결정과, 트레이드오프를 평가하고, 결과가 사용자와 비즈니스 요구에 부합하는지 확인하는 것으로 중심이 됩니다. 최고의 엔지니어들은 단순히 소프트웨어를 작성하는 것 이상을 합니다. 그들은 인간과 AI의 조화된 시스템을 구성하고, 기계가 여전히欠如하는 맥락과 책임을 적용할 것입니다. 이는 개인 기여자에서 매니저로의 전환과 유사합니다.

AI가 엔지니어링 책임을 줄이지 않는다는您的 주장을 생각해 볼 때, 최고 경영진들이 여전히 AI 코딩 에이전트가 인간 감시 없이 처리할 수 있는 것을 실질적으로 다룰 수 있는 것에 대해 어떤 오해를 가지고 있는지 생각하세요?

가장 큰 오해는 AI가 강력한 엔지니어의 필요성을 없앨 것이라는 것입니다. 현실은 AI가 작은, 숙련된 팀이 구축할 수 있는 것을 더욱 확대하는 것입니다. 이는 엔지니어링 판단을 더 귀중하게 만듭니다.

변화하는 것은 엔지니어가 책임지는 표면 영역입니다. 그들은 더 이상 코드만 작성하지 않습니다. 그들은 무엇을 구축할지 정의하고, 에이전트가 의도한 대로 작동하는지 검증하고, 그렇지 않을 때 결과를 소유합니다.

무엇이 변하는지에 대한 문제 공간은 더욱 매력적으로 바뀌었습니다. 공격자들은 우리와 동일한 AI 도구에 접근할 수 있으므로, 그들을 앞서 나가는 것은真正로 더 어렵고, 더 흥미롭게 바뀌었습니다. 해결해야 할 어려운 문제는 부족하지 않으며, 도펠은 이러한 작업에 흥미를 가진 엔지니어들을 채용하고 있습니다.

엔지니어링 팀이 코딩, 테스트, 디버깅, 문서화에서 다중 AI 에이전트를 조율하기 시작할 때, 효과적인 “에이전트 관리” 워크플로우는 실제로 무엇처럼 보입니까?

엔지니어들은 더 이상 기여자만이 아닌 자율 시스템의 관리자로 행동하고 있습니다. 최고의 엔지니어들은 여러 평행 워크플로우에 걸쳐 중요한 맥락을 유지할 수 있으며, 각 에이전트와 공유할 맥락을 정확히 알고 있습니다. 실제로 이는 잘 정의된 수용 기준을 작성하고, 개인 정보 및 보안을 위한 명확한 가드레일을 설정하고, 유효성 검사 단계로서 에이전트가 그들의 추론과 가정에 대해 설명하도록 하는 것을 의미합니다. 에이전트가 자신이 무엇을 하고 왜 하는지 설명할 수 없다면, 출력을 완전히 신뢰할 수 없습니다.

도펠에서는 위협을 조사하고, 탐지 정책을 지속적으로 적응시키고, 의사 결정을 평이한 언어로 설명하는 에이전트 시스템을 구축하고 있습니다. 효과적인 에이전트 관리는 또한 스테이징 환경, 자동화된 테스트 파이프라인, 보안 툴링과 정의된 권한 및 감시, 에이전트와 더广い 시스템이 예상대로 작동하는지 지속적으로 평가하는 프레임워크를 포함하는 시스템 수준 인프라를 필요로 합니다.

AI 에이전트가 강력한 가드레일 없이 내부 도구, 생산 시스템 또는 민감한 워크플로우에 접근할 수 있을 때 발생하는 가장 큰 운영 또는 보안 위험은 무엇입니까?

위험은 단순히 AI 에이전트가 실수를犯す 가능성이 아닙니다. 그것은 그들이 실수를 대규모로犯す 가능성이 있으며, 실시간으로 捕获하기 어렵다는 것입니다. 더 구체적인 위험은 에이전트가 의도하지 않은 범위에서 작동하거나, 접근해서는 안 되는 시스템에 접근하거나, 처리해서는 안 되는 데이터를 처리하는 것입니다.

우리의 이메일 보안 제품에서, 예를 들어, 에이전트는 본질적으로 민감한 데이터를 처리합니다. 우리는 에이전트가 엄격하게 제한된 접근 권한을 가지도록 하였으며, 의도하지 않게 민감한 개인 정보를 다운스트림에 노출하지 않도록 하였으며, 올바른 결정을 내리기 위해 필요한 맥락을 가지고 있지만 기밀 정보를 유지하지 않도록 하였습니다.

AI 생성 코드에 크게 의존하기 시작할 때, 장기적인 기술 부채를 도입하는 시점은 언제입니까? 엔지니어링 리더는 속도와 유지 보수성 사이의 균형을 어떻게 생각해야 합니까?

위험은 단기적인 속도를 시스템이 확장되고 진화할 수 있는 기초보다 우선시하는 것입니다. 스트라이프에서 일한 동안 배운 가장 큰 교훈 중 하나는 모든 결정이 동일하지 않다는 것입니다. 일부 결정은 역방향으로 하기 어렵고 장기적인 결과를 가져올 가능성이 있습니다.

AI의 경우, 규율은 여전히 장기적인 결과를 가진 결정에 대해 강력한 가드레일을 설정하는 것입니다. 도펠에서는 에이전트가 의도된 대로 작동하는지 확인하기 위해 평가 시스템과 현재 문서를 사용하여 시스템이 진화함에 따라 에이전트가 계속 작동하는지 확인하는 것을 의미합니다. 목표는 속도를 늦추는 것이 아니라, 속도가 건설하는 기초를 은밀하게 약화시키지 않는 것입니다.

스트라이프에서 엔지니어링 조직을 확장하는 동안, 안정성, 신뢰, 시스템 설계에 대한 어떤 교훈이 현재 자율적인 AI 에이전트의 시대에 특히 관련이 있습니까?

스트라이프에서는 안정성이 모든 것이었습니다. 특히 금융 산업은 इतन나 규제되어 있으며, 결제 포털이 다운되면 비즈니스에 직접적인 영향을 미칠 수 있으므로, 시스템이 의도된 대로 작동하지 않으면 고객에게 직접적인 영향을 미칠 수 있으므로, 회사는 강력한 소유권과 책임감의 문화를 가지고 있었습니다.

도펠에서 일하는 것에 대해 끌렸던 것 중 하나는 고객에 대한 유사한 수준의 집착이었습니다. 여기서의 팀은 고객이 직면하는挑戰을 이해하고, 그것을 해결하는 것을 책임지는 것에 깊이 집중하고 있습니다.

이제 도펠에서 일하고 있습니다. 스트라이프에서 배운 교훈이 특히 관련이 있습니다. 우리는 사회 공학 공격에 대항하여 조직을 방어하기 위한 AI 네이티브 시스템을 구축하고 있습니다. 스트라이프와 마찬가지로, 여기서도 결제 처리 시스템이 다운되면 비즈니스에 직접적인 영향을 미칠 수 있으므로, 사이버 보안 포스트에 강력한 보안 姿勢를 갖추지 못하면 비즈니스에 직접적인 영향을 미칠 수 있습니다. 두 경우 모두, 매우 높은 위험을 가지고 있지만, 다른 이유로 말입니다.

다음 몇 년 동안, AI 유연성, 시스템 사고, 적응성을 좁은 기술 전문 지식보다 우선시하는 회사가 더 많아질 것으로 예상됩니다. 엔지니어링 채용은 어떻게 바뀌게 될까요?

私は, 자율성, 강한 판단, 빠른 학습 능력을 가진 엔지니어를 채용하는 것에 대한 강조가 증가할 것으로 생각합니다. 이러한 특성은 제가 항상 채용에 중점을 둔 것입니다. 그러나 지금보다 더 중요해졌습니다. 제 경력 전체를 통해, 가장 큰 영향을 미친 엔지니어들은 반드시 가장 좁은 전문성을 가진 사람들이 아니었습니다. 그들은 적응성이 빠르고, 모호성을 탐색할 수 있고, 기술이 진화함에 따라 지속적으로 학습할 수 있는 사람들이었습니다.

그러나 기준은 변했습니다. 도펠에서 해결하는 문제는 정의된 것이 아닙니다. 우리는 공격자들이 또한 AI를 활용하고 있으므로, 위협을 발견하기 위해 웹을 탐색하는 위협 인텔리전스 에이전트와 같은 시스템을 구축하여 공격자를 앞서 나가는 것을 지속적으로 노력해야 합니다. 이러한 작업에는 아직 확립된 플레이북이 없습니다. 그래서 이것은 한계를 밀어붙이고, 가능성이 무엇인지에 대한 경계를 밀어붙이는 것을 의미합니다.

AI는 작업을 수행하는 방식을 계속해서 바꿀 것입니다. 그러나 회사는 여전히 시스템 전체의 수명주기를 책임지는 사람들을 필요로 할 것입니다. 엔지니어링이 번성하는 사람은 AI 풍경이圍繞하면서 그들이 할 수 있는 것을 지속적으로 재창조하는 사람들이 될 것입니다.

개인화, 추천 시스템, 기계 학습 기반 플랫폼에 대한您的 경험은 현재 엔지니어링 조직 내에서 인간-AI 협력을 어떻게 생각하도록 도와줍니까?

개인화와 기계 학습 시스템에서 배운 한 가지는 출력의 품질이 입력의 품질, 평가 프레임워크, 그리고 “좋은” 것이 무엇인지에 대한 명확한 정의와 같은 것만큼 좋은 것이라는 것입니다. 모델은 정보를 대규모로 처리하는 데优秀하지만, 사람들은 판단, 맥락, 그리고 무엇이 가장 중요한지에 대한 이해를 제공합니다.

私は, 엔지니어링 조직이 오늘날 운영되는 방식에 동일한 원리가 적용된다고 생각합니다. AI는 팀이 더 빠르게 움직일 수 있도록 도와줄 수 있지만, 최고의 팀은 AI에게 제공하는 맥락과 지상 真実에 대해 의도적으로 생각할 것입니다. 엔지니어들은 여전히 결정해야 하며, 트레이드오프를 평가해야 하며, 궁극적으로 결과를 소유해야 합니다.

개발자 생산성을 AI 도구로 최대화하는 회사들이 있습니다. 궁극적으로 경쟁 우위는 더 빠른 코딩에서 나올까요, 아니면 AI 시스템을 효과적으로 관리하고 조율하는 조직을 구축하는 데서 나올까요?

속도는 중요합니다. 특히 사이버 보안에서, 공격자들이 뒤처지는 것은 선택이 아닙니다. 그러나 가드레일 없이 속도는 단순히 취약한 간격을 더 빠르게 생성하는 것입니다. AI 시스템의 거버넌스는 모든 회사가 AI를 구축하는 데 위한 기준선이어야 합니다. 그것은 소프트웨어 엔지니어링 워크플로우에서 품질, 신뢰성, 책임을 보장하는 데 필수적입니다. 특히 사이버 보안 산업에서, 거버넌스는 필수적입니다. 공격자들은 남긴 모든 간격을 발견하고 악용할 것입니다. 그것이 왜 우리는 도펠에서 에이전트 플랫폼을 구축했으며, 처음부터 개인 정보 보호 가드레일과 명확한 감시 추적을 이끌었는지입니다.

5년 후, AI 에이전트가 일상적인 개발 워크플로우에 깊이 통합된 현대적인 소프트웨어 엔지니어링 팀은 어떤 모습일까요?

5년은 자신감 있게 예측하기 어렵습니다. 세계는 너무 빠르게 움직이고 있습니다. 그러나 18개월에서 3년 내에, AI 에이전트가 코드 생성, 테스트, 첫 번째 패스 디버깅의 대부분을 처리할 가능성이 있습니다.

엔지니어들이 소유할 것은 제품 판단입니다. 즉, 사양, 취향, 아키텍처, 그리고 시스템이 깨질 때 책임입니다. 팀은 더 작아질 수 있지만, 역할은 더 어려워질 것입니다. 번영하는 엔지니어들은 코드를 가장 많이 생산하는 사람이 아닙니다. 자율 시스템을 효과적으로 지시하고, 평가하고, 코스 수정할 수 있는 사람입니다.

이전 기술 변화를 통해 일해 본 경험에서 배운 한 가지는, 혁신은 거의 직선적으로 진행되지 않는다는 것입니다. 성공하는 팀은 호기심을 유지하고, 빠르게 적응하며, 기술이 변경됨에 따라 워크플로우를 진화시키는 팀이 될 것입니다.

감사합니다. 더 많은 정보를 원하는 독자는 도펠을 방문하십시오.