Natasha Mohanty, Phó Chủ tịch Kỹ thuật tại Doppel – Loạt Phỏng vấn

Natasha Mohanty, Phó Chủ tịch Kỹ thuật tại Doppel, là một nhà lãnh đạo công nghệ giàu kinh nghiệm với kiến thức sâu rộng về AI, thanh toán, truyền thông và nền tảng người tiêu dùng. Trước khi gia nhập Doppel, cô đã lãnh đạo bộ phận kỹ thuật của Stripe’s Optimized Checkout Suite và Link, mở rộng tổ chức từ 30 đến 200 kỹ sư trong khi giúp thúc đẩy việc áp dụng rộng rãi các sản phẩm thanh toán và ví điện tử của Stripe. Trước đó, cô từng là Phó Chủ tịch Kỹ thuật tại Nielsen sau khi công ty này mua lại Prizma.ai, công ty phân tích truyền thông và phân tích dữ liệu video được cô đồng sáng lập và lãnh đạo với tư cách là CTO. Sớm trong sự nghiệp của mình, cô đã dành hơn 7 năm tại Google (GOOGL ), làm việc trên các dự án như Chất lượng Tìm kiếm, Tin tức Google và Tính cá nhân hóa Google+.

Doppel là một công ty phòng thủ kỹ thuật xã hội bản địa AI, tập trung vào việc bảo vệ các tổ chức, giám đốc điều hành, thương hiệu và khách hàng khỏi việc giả mạo AI, lừa đảo, gian lận và rủi ro kỹ thuật số rộng lớn hơn. Nền tảng của công ty kết hợp bảo vệ rủi ro kỹ thuật số, bảo vệ giám đốc điều hành và thương hiệu, bảo mật email, quản lý rủi ro con người, mô phỏng và đào tạo nhận thức bảo mật, sử dụng AI và thông tin tình báo mối đe dọa theo thời gian thực để phát hiện, liên kết và phá vỡ cơ sở hạ tầng của kẻ tấn công trên các kênh như tên miền, truyền thông xã hội, ứng dụng nhắn tin, quảng cáo và web tối. Công ty đã định vị mình xung quanh mối đe dọa ngày càng tăng của kỹ thuật xã hội được kích hoạt bởi AI, giúp các đội bảo mật phản ứng với các cuộc tấn công ngày càng tinh vi trên toàn bộ cảnh quan mối đe dọa kỹ thuật số hiện đại.

Bạn đã lãnh đạo các tổ chức kỹ thuật tại các công ty bao gồm Stripe, Google, Nielsen và hiện tại là Doppel. Trong suốt hành trình đó, quan điểm của bạn về vai trò của kỹ sư phần mềm đã thay đổi như thế nào từ việc viết hệ thống trực tiếp đến việc điều khiển các quy trình công việc AI tự động ngày càng tăng?

Quy trình công việc của kỹ sư phần mềm đã thay đổi đáng kể, nhưng trách nhiệm mà các kỹ sư phải chịu vẫn không thay đổi. Khi tôi bắt đầu sự nghiệp của mình tại Google hai thập kỷ trước, các kỹ sư dành hầu hết thời gian để viết và xem xét mã của họ. Ngày nay, AI có thể xử lý phần lớn việc tạo mã, nhưng các kỹ sư vẫn phải chịu trách nhiệm về việc xác định mục tiêu, xác thực đầu ra, thiết lập rào cản, xem xét mã và đảm bảo rằng các hệ thống vẫn đáng tin cậy trong thời gian dài. Về nhiều cách, AI đã mở rộng phạm vi trách nhiệm của kỹ sư hơn là giảm nó.

Điều đã thay đổi là nơi các kỹ sư tạo ra giá trị. Khi AI đảm nhận nhiều hơn về mặt cơ học của việc mã hóa, vai trò trở nên tập trung nhiều hơn vào vấn đề về khẩu vị và phán đoán, hiểu vấn đề, đưa ra quyết định kiến trúc, đánh giá sự đánh đổi và đảm bảo rằng kết quả phù hợp với nhu cầu của người dùng và doanh nghiệp. Các kỹ sư giỏi nhất không chỉ viết phần mềm. Họ sẽ điều khiển các hệ thống gắn kết của con người và AI, áp dụng ngữ cảnh và trách nhiệm mà máy móc vẫn còn thiếu. Điều này tương tự như sự chuyển đổi từ người đóng góp cá nhân sang người quản lý.

Bạn đã lập luận rằng AI không giảm trách nhiệm kỹ thuật, mà mở rộng nó. Những quan niệm sai lầm lớn nhất mà các giám đốc điều hành vẫn còn về khả năng của các tác nhân mã hóa AI là gì?

Quan niệm sai lầm lớn nhất là AI sẽ loại bỏ nhu cầu về các kỹ sư mạnh. Thực tế là AI nâng cao khả năng của một đội kỹ sư nhỏ, điều này làm cho phán đoán kỹ thuật trở nên có giá trị hơn, không kém.

Điều đang thay đổi là diện tích bề mặt mà các kỹ sư phải chịu trách nhiệm. Họ không chỉ viết mã nữa. Họ xác định những gì cần được xây dựng, xác thực rằng các tác nhân đang thực hiện những gì họ dự định và sở hữu kết quả khi họ không làm như vậy.

Nếu có điều gì thay đổi, thì đó là không gian vấn đề đã trở nên hấp dẫn hơn. Các kẻ tấn công có quyền truy cập vào cùng một công cụ AI mà chúng tôi có, điều này có nghĩa là thách thức để vượt qua họ là khó khăn hơn và thú vị hơn bao giờ hết. Không có sự thiếu hụt các vấn đề khó để giải quyết và Doppel đang tuyển dụng trên toàn bộ bộ phận kỹ thuật cho những người hào hứng với loại công việc này.

Khi các đội kỹ thuật bắt đầu phối hợp nhiều tác nhân AI trên mã hóa, kiểm tra, gỡ lỗi và tài liệu, thì một quy trình công việc “quản lý tác nhân” hiệu quả thực sự trông như thế nào trong thực tế?

Các kỹ sư ngày càng đóng vai trò là người quản lý các hệ thống tự động, không chỉ là người đóng góp cho chúng. Các kỹ sư giỏi nhất có thể nắm giữ ngữ cảnh đáng kể trên nhiều quy trình song song trong khi biết chính xác ngữ cảnh nào để chia sẻ với từng tác nhân. Trong thực tế, điều đó có nghĩa là viết các tiêu chí chấp nhận được xác định rõ, thiết lập rào cản rõ ràng cho quyền riêng tư và bảo mật, và yêu cầu các tác nhân giải thích lý do và giả định của họ như một bước xác thực. Nếu một tác nhân không thể giải thích những gì nó đang làm và tại sao, bạn không thể hoàn toàn tin tưởng vào đầu ra.

Tại Doppel, chúng tôi đang xây dựng các hệ thống tác nhân điều tra các mối đe dọa, liên tục thích nghi với các chính sách phát hiện và giải thích quyết định của họ bằng ngôn ngữ đơn giản. Quản lý tác nhân hiệu quả cũng đòi hỏi phải có cơ sở hạ tầng cấp hệ thống, bao gồm môi trường giai đoạn, đường ống kiểm tra tự động, công cụ bảo mật với các quyền và giám sát được xác định, và các khuôn khổ đánh giá liên tục đánh giá liệu các tác nhân và hệ thống rộng lớn hơn có hoạt động như mong đợi hay không.

Những rủi ro hoạt động hoặc bảo mật lớn nhất nào xuất hiện khi các tác nhân AI được cấp quyền truy cập vào các công cụ nội bộ, hệ thống sản xuất hoặc quy trình công việc nhạy cảm mà không có rào cản mạnh?

Rủi ro không chỉ là các tác nhân AI mắc lỗi. Đó là họ có thể mắc lỗi với quy mô khó bắt kịp trong thời gian thực. Mối nguy hiểm cụ thể hơn là các tác nhân hoạt động ngoài phạm vi dự định, cho dù đó là truy cập vào các hệ thống mà chúng không được thiết kế để chạm vào hoặc xử lý dữ liệu mà chúng không nên giữ lại.

Trong sản phẩm bảo mật email của chúng tôi, ví dụ, các tác nhân xử lý dữ liệu vốn đã nhạy cảm. Chúng tôi đã đi đến mức độ dài để đảm bảo rằng các tác nhân đó có quyền truy cập bị hạn chế nghiêm ngặt, không thể vô tình phơi bày thông tin cá nhân nhạy cảm sau này và không giữ lại thông tin bí mật, trong khi vẫn có ngữ cảnh cần thiết để đưa ra quyết định đúng.

Ở điểm nào thì việc dựa quá nhiều vào mã được tạo bởi AI bắt đầu giới thiệu nợ kỹ thuật dài hạn và làm thế nào các nhà lãnh đạo kỹ thuật nên suy nghĩ về việc cân bằng giữa tốc độ và khả năng bảo trì?

Rủi ro là việc ưu tiên tốc độ ngắn hạn hơn các nền tảng cho phép hệ thống mở rộng và phát triển. Một trong những bài học lớn nhất từ thời gian của tôi tại Stripe là không tất cả các quyết định đều như nhau. Một số là cửa sổ bẫy: khó đảo ngược và có khả năng có hậu quả lâu dài, trong khi những quyết định khác có thể thay đổi dễ dàng hơn.

Với AI, kỷ luật là biết những quyết định nào vẫn mang lại hậu quả lâu dài, đặt rào cản mạnh mẽ xung quanh những quyết định đó và di chuyển nhanh trên phần còn lại. Tại Doppel, điều đó có nghĩa là sử dụng các hệ thống đánh giá và tài liệu hiện tại để đảm bảo rằng các tác nhân tiếp tục hoạt động như dự định khi các hệ thống phát triển. Mục tiêu không phải là làm chậm lại, mà là đảm bảo rằng tốc độ không làm xói mòn âm thầm các nền tảng mà bạn đang xây dựng.

Trong thời gian bạn mở rộng các tổ chức kỹ thuật tại Stripe, những bài học nào về độ tin cậy, niềm tin và thiết kế hệ thống bây giờ cảm thấy đặc biệt phù hợp trong kỷ nguyên của các tác nhân AI tự động?

Tại Stripe, độ tin cậy là mọi thứ, đặc biệt là vì ngành công nghiệp tài chính rất được quản lý và nó có thể là thảm họa cho các doanh nghiệp nếu cổng thanh toán của họ bị sập. Nếu một hệ thống không hoạt động như dự định, sẽ có tác động trực tiếp đến khách hàng và điều đó đã tạo ra một văn hóa sở hữu và trách nhiệm mạnh mẽ tại công ty.

Một trong những điều thu hút tôi đến Doppel là mức độ say mê khách hàng tương tự. Các đội ở đây tập trung sâu vào việc hiểu các thách thức mà khách hàng phải đối mặt và chịu trách nhiệm giải quyết chúng.

Bây giờ tôi ở Doppel, những bài học đó cảm thấy đặc biệt phù hợp. Chúng tôi đang xây dựng các hệ thống bản địa AI để giúp các tổ chức bảo vệ chống lại các cuộc tấn công kỹ thuật xã hội ngày càng tinh vi. Và tương tự như Stripe, nơi bạn không thể đủ khả năng để có hệ thống xử lý thanh toán sập, điều đó là thảm họa cho các doanh nghiệp nếu họ không có tư thế bảo mật mạng mạnh mẽ. Cả hai đều là những ставки rất cao, nhưng vì những lý do khác nhau.

Làm thế nào bạn dự đoán việc tuyển dụng kỹ thuật sẽ thay đổi trong vài năm tới khi các công ty ngày càng ưu tiên sự thành thạo AI, tư duy hệ thống và khả năng thích ứng hơn là chuyên môn kỹ thuật hẹp?

Tôi nghĩ chúng ta sẽ thấy sự nhấn mạnh ngày càng tăng vào việc tuyển dụng các kỹ sư có thể hoạt động với sự tự chủ, phán đoán mạnh mẽ và khả năng học nhanh. Những đặc điểm đó tôi đã thuê trong suốt sự nghiệp của mình, nhưng chúng quan trọng hơn bây giờ, không kém. Trong suốt sự nghiệp của mình, các kỹ sư có tác động lớn nhất không nhất thiết là những người có chuyên môn hẹp nhất. Họ là những người có thể thích nghi nhanh chóng, điều hướng sự模糊 và liên tục học hỏi khi công nghệ phát triển.

Nhưng tiêu chuẩn đã thay đổi. Tại Doppel, các vấn đề chúng tôi đang giải quyết không được định nghĩa rõ ràng. Chúng tôi liên tục làm việc để vượt qua các kẻ tấn công cũng đang tận dụng AI, điều này có nghĩa là xây dựng các hệ thống như các tác nhân tình báo mối đe dọa khám phá web một cách chủ động để phát hiện mối đe dọa. Không có cuốn sách hướng dẫn thành lập cho loại công việc này, vì vậy nó đòi hỏi sự kiên trì và sẵn sàng đẩy ranh giới của những gì có thể.

AI sẽ chỉ tiếp tục thay đổi cách công việc được thực hiện, nhưng các công ty vẫn sẽ cần những người có thể làm việc trên các hệ thống và chịu trách nhiệm về toàn bộ vòng đời của những gì họ xây dựng. Các kỹ sư sẽ phát triển sẽ là những người liên tục tái phát minh những gì họ có thể làm khi cảnh quan AI xung quanh họ phát triển.

Bạn đã làm việc rộng rãi về cá nhân hóa, hệ thống khuyến nghị và các nền tảng được kích hoạt bởi máy học trong suốt sự nghiệp của mình. Kinh nghiệm đó định hình cách bạn nghĩ về sự hợp tác giữa con người và AI trong các tổ chức kỹ thuật ngày nay như thế nào?

Một điều tôi đã học được từ việc làm việc trên các hệ thống cá nhân hóa và máy học là chất lượng đầu ra chỉ tốt như chất lượng đầu vào, bao gồm dữ liệu đào tạo, khuôn khổ đánh giá và định nghĩa rõ ràng về những gì “tốt” thực sự trông như thế nào. Các mô hình rất giỏi trong việc xử lý thông tin với quy mô, nhưng con người mang lại phán đoán, ngữ cảnh và hiểu biết về những gì quan trọng nhất.

Tôi nghĩ nguyên tắc tương tự áp dụng cho các tổ chức kỹ thuật hoạt động ngày nay. AI có thể giúp các đội di chuyển nhanh hơn, nhưng các đội tốt nhất sẽ có chủ đích về ngữ cảnh và sự thật mà họ đưa cho AI, cũng như cách các hệ thống được kích hoạt bởi AI tích hợp vào hệ sinh thái kỹ thuật rộng lớn hơn. Các kỹ sư vẫn cần đưa ra quyết định, đánh giá sự đánh đổi và cuối cùng sở hữu kết quả.

Nhiều công ty đang chạy đua để tối đa hóa năng suất của nhà phát triển với các công cụ AI. Bạn có nghĩ rằng lợi thế cạnh tranh cuối cùng sẽ đến từ việc mã hóa nhanh hơn, hay từ việc xây dựng các tổ chức biết cách quản lý và phối hợp các hệ thống AI hiệu quả?

Tốc độ quan trọng, đặc biệt là trong lĩnh vực an ninh mạng, nơi việc tụt lại phía sau các kẻ tấn công không phải là một lựa chọn. Nhưng tốc độ mà không có rào cản chỉ là một cách nhanh hơn để tạo ra các khoảng trống có thể khai thác. Quản lý các hệ thống AI nên là tiêu chuẩn cơ bản cho mọi công ty xây dựng với AI, không phải là một suy nghĩ sau. Điều đó là cần thiết để đảm bảo chất lượng, độ tin cậy và trách nhiệm trong các quy trình công việc kỹ thuật phần mềm. Trong ngành an ninh mạng đặc biệt, quản lý là cần thiết vì các kẻ tấn công sẽ tìm và khai thác bất kỳ khoảng trống nào bạn để lại. Đó là lý do tại sao chúng tôi đã xây dựng nền tảng tác nhân của mình tại Doppel, chúng tôi đã dẫn đầu với các rào cản quyền riêng tư và một đường dẫn kiểm toán rõ ràng được xây dựng từ đầu.

Nhìn về tương lai 5 năm, bạn nghĩ đội kỹ thuật phần mềm hiện đại sẽ trông như thế nào một khi các tác nhân AI trở nên sâu sắc trong các quy trình công việc phát triển hàng ngày?

5 năm là khó dự đoán với sự tự tin vì thế giới đang di chuyển rất nhanh. Điều mà tôi có thể nói với sự tự tin hơn là trong vòng 18 tháng đến 3 năm, các tác nhân AI có khả năng sẽ xử lý phần lớn việc tạo mã, kiểm tra và gỡ lỗi lần đầu.

Điều mà các kỹ sư sẽ sở hữu là phán đoán sản phẩm: spec, khẩu vị, kiến trúc và trách nhiệm khi điều gì đó bị hỏng. Các đội có thể sẽ nhỏ hơn, nhưng vai trò sẽ khó khăn hơn. Các kỹ sư sẽ phát triển sẽ không nhất thiết là những người tạo ra nhiều mã nhất, mà là những người có thể chỉ đạo, đánh giá và điều chỉnh các hệ thống tự động một cách hiệu quả.

Sau khi làm việc qua các thay đổi công nghệ trước đó, một điều tôi đã học được là rằng sự đổi mới hiếm khi đi theo một đường thẳng. Các đội sẽ thành công sẽ là những đội ở lại tò mò, thích nghi nhanh chóng và phát triển các quy trình công việc của họ khi công nghệ thay đổi.

Cảm ơn bạn vì cuộc phỏng vấn tuyệt vời, những người đọc muốn tìm hiểu thêm nên truy cập Doppel.