Mayank Kumar, Kỹ sư Trí tuệ Nhân tạo Sáng lập tại DeepTempo – Loạt Phỏng vấn

Mayank Kumar là Kỹ sư Trí tuệ Nhân tạo Sáng lập tại DeepTempo, nơi anh lãnh đạo thiết kế và phát triển mô hình ngôn ngữ log (LogLM) cơ bản của công ty. Với nền tảng học thuật và nghiên cứu mạnh mẽ trong lĩnh vực trí tuệ nhân tạo tạo sinh và đa phương tiện, anh mang đến chuyên môn đặc biệt trong việc xây dựng các mô hình chuyên ngành để tăng cường phát hiện và phản ứng với các mối đe dọa trong môi trường an ninh mạng.

DeepTempo là một công ty an ninh mạng được xây dựng xung quanh LogLM, một mô hình nền tảng AI bản địa được đào tạo trên dữ liệu nhật ký an ninh quy mô lớn. Nền tảng này excels trong việc xác định các mối đe dọa tiên tiến, chưa từng được nhìn thấy trước đây, đồng thời giảm thiểu các cảnh báo sai. Được thiết kế để tích hợp liền mạch vào các quy trình an ninh hiện có, DeepTempo hỗ trợ triển khai trên các datalakes, Kubernetes và Snowflake, cho phép phân tích pháp y nhanh hơn, giảm chi phí nhập dữ liệu và tự động hóa phòng thủ có thể mở rộng cho các doanh nghiệp hiện đại.

Điều gì đã dẫn bạn đến việc đồng sáng lập DeepTempo, và làm thế nào nền tảng học thuật và nghiên cứu mở của bạn đã đóng góp vào định hướng của công ty?

Tôi lớn lên trong một cộng đồng gắn kết, nơi các mối quan hệ được xây dựng trực tiếp, không qua màn hình. Cha tôi, một giáo viên, đã dạy tôi tầm quan trọng của việc đóng góp lại cho cộng đồng. Mặc dù chúng tôi không giàu có về mặt vật chất, nhưng chúng tôi giàu có về kết nối và mục đích. Trong môi trường như vậy, bạn nhanh chóng học được rằng việc giải quyết vấn đề không chỉ là về tài năng cá nhân – mà còn là về sức mạnh tập thể. Tư duy đó đã ở lại với tôi và cuối cùng dẫn đến sự quan tâm của tôi đến doanh nghiệp xã hội trong khi học kỹ thuật tại IIT Ropar.

Điểm chuyển đổi đến khi cha tôi bị tấn công bởi một cuộc tấn công ransomware. Đó không chỉ là một sự cố kỹ thuật, mà còn giới thiệu nỗi sợ hãi, sự nhầm lẫn và dễ bị tổn thương vào nhà chúng tôi. Trải nghiệm đó đã mở mắt tôi về sự mong manh của thế giới kỹ thuật số, không chỉ đối với cá nhân, mà còn đối với các tổ chức luôn bị đe dọa. Vào thời điểm đó, tôi đã gặp Evan, người có tầm nhìn xây dựng phòng thủ tập thể ở quy mô internet sâu sắc. Sứ mệnh chung đó – và động lực của tôi để áp dụng công nghệ phục vụ con người – là những gì đã thu hút tôi đến DeepTempo.

Tại Đại học Washington, nghiên cứu của tôi tập trung vào hai lĩnh vực cốt lõi: học tập đại diện đa phương tiện và trí tuệ nhân tạo dựa trên dữ liệu. Cả hai đều chứng minh là quan trọng khi chúng tôi xây dựng mô hình nền tảng dọc của mình, LogLM. Không giống như ngôn ngữ tự nhiên, các nhật ký an ninh mạng là hỗn độn, có cấu trúc và bị phân mảnh. Thử thách đầu tiên của chúng tôi là xây dựng một “ngôn ngữ” mới để diễn giải dữ liệu này, cho phép LogLM học các biểu diễn có ý nghĩa từ các chuỗi này. Chúng tôi cũng đầu tư nhiều vào cách chúng tôi đánh giá hiệu suất, vì trong an ninh mạng, độ chính xác không phải là tùy chọn, và ảo giác không được chấp nhận.

Nhưng ngoài công nghệ, ngôi sao Bắc đẩu của chúng tôi luôn là phòng thủ tập thể. Đó là lý do tại sao hợp tác mã nguồn mở sẽ là điều cần thiết để使 cho sứ mệnh này thành công ở quy mô.

Khái niệm “phòng thủ tập thể” là trung tâm của DeepTempo. Điều đó có nghĩa là gì trong thực tế, và nó khác với các phương pháp truyền thống về an ninh mạng như thế nào?

Trong thực tế, phòng thủ tập thể có nghĩa là khi một phiên bản của LogLM của khách hàng xác định một hành vi tấn công mới, chẳng hạn như một chiến dịch C2 và xuất dữ liệu liên quan đến beaconing và chuyển giao dữ liệu bất thường, thông tin chi tiết đó có thể được cô đọng thành một chữ ký hành vi tổng quát và chia sẻ trên toàn hệ sinh thái. Điều quan trọng là điều này không liên quan đến việc gửi nhật ký thô hoặc dữ liệu khách hàng. Thay vào đó, chúng tôi trừu tượng hóa các mẫu hành vi có độ tin cậy cao và kết hợp chúng vào trọng số mô hình thông qua các kỹ thuật học liên kết.

Điều này là một sự tương phản rõ ràng với các hệ thống cũ, những hệ thống dựa trên các quy tắc một kích cỡ hoặc nguồn thông tin mối đe dọa tĩnh. Những hệ thống đó không tiến hóa cho đến khi nhiều nạn nhân bị ảnh hưởng. Với phòng thủ tập thể, hệ thống phát hiện tiến hóa với mỗi tín hiệu chất lượng cao, ngay cả khi mối đe dọa rất cụ thể đối với một môi trường. Điều này cho phép chúng tôi bắt được các mối đe dọa đa hình và các luồng tấn công được tăng cường bởi LLM trước khi chúng trở nên phổ biến.

Các khoảng trống cụ thể nào trong an ninh mạng doanh nghiệp đã thúc đẩy sự phát triển của LogLM, và nó khác với các hệ thống phát hiện cũ như thế nào?

Các đội an ninh mạng doanh nghiệp phải đối mặt với ba vấn đề chính: tỷ lệ nhiễu tín hiệu cao, phát hiện giòn không chuyển giao giữa các môi trường và thích nghi chậm với các mối đe dọa mới. LogLM được tạo ra để giải quyết cả ba vấn đề này.

Hầu hết các hệ thống hiện có dựa trên các phương pháp dựa trên quy tắc hoặc học máy hẹp, đòi hỏi phải điều chỉnh trong vài tuần hoặc vài tháng để hiểu một môi trường mới. Những phương pháp này thất bại khi kẻ tấn công thay đổi chiến thuật, như chúng ta đã thấy với các nhóm như Scattered Spider hoặc Volt Typhoon. LogLM được đào tạo trên các lượng lớn dữ liệu telemetry an ninh, xử lý nó như một loại ngôn ngữ có cấu trúc. Điều đó cho phép nó nhận ra các chuỗi phức tạp, chẳng hạn như một sự gia tăng trong các yêu cầu DNS xuất cảnh, theo sau là hoạt động Okta bất thường, không phải là các bất thường riêng lẻ mà là một phần của một câu chuyện mối đe dọa.

Khác với các công cụ cũ hơn, những công cụ tạo ra các cảnh báo không liên kết, LogLM tạo ra các phát hiện ở cấp độ chiến thuật, có thể giải thích được. Và vì nó được xây dựng từ đầu, thay vì được sửa đổi hoặc thích nghi, nó được thiết kế cho an ninh mạng từ đầu, cho phép thích nghi nhanh chóng chỉ với vài ngày nhật ký không được gắn nhãn. Điều đó làm cho việc tích hợp nhanh và phát hiện trở nên mạnh mẽ hơn.

Agent bóng tối là gì, và chúng gây ra rủi ro như thế nào cho các tổ chức hoạt động mà không có giám sát tập trung?

Agent bóng tối là các công cụ tự động hóa AI, thường được xây dựng trên các LLM, hoạt động trong một doanh nghiệp mà không có sự cho phép hoặc tầm nhìn rõ ràng từ đội an ninh mạng. Một ví dụ gần đây là MITRE’s CVE-2025-32711 (“EchoLeak”), một lỗ hổng zero-click trong Microsoft 365 Copilot được kích hoạt chỉ bằng cách yêu cầu nó tóm tắt email. Lỗ hổng này cho phép kẻ tấn công xuất dữ liệu nội bộ thông qua bối cảnh RAG của agent, mà không cần tương tác của người dùng. Mặc dù các agent này có thể tăng cường năng suất, nhưng chúng thường vượt qua xem xét an ninh mạng và暴露 dữ liệu nhạy cảm cho các lớp suy luận không được kiểm soát.

Chúng tôi đã thấy các trường hợp mà một agent bóng tối được xây dựng với một LLM công khai đã được tiếp xúc với nhật ký hệ thống và bắt đầu rò rỉ các bản ghi ngăn xếp chứa thông tin đăng nhập được mã hóa cứng. Các agent này thường không được trang bị các biện pháp kiểm soát DLP, không tuân theo các chính sách truy cập và không được kiểm toán. Điều tồi tệ hơn, vì chúng có thể đưa ra quyết định, như chuyển tiếp đầu ra đến các hệ thống bên ngoài, chúng trở thành bề mặt tấn công chính.

Tại sao tiêm lệnh và thao túng mô hình trở thành mối đe dọa nghiêm trọng, và tại sao hầu hết các hệ thống hiện tại không bắt được chúng?

Tiêm lệnh là nguy hiểm vì nó khai thác chức năng cốt lõi của mô hình: diễn giải ngôn ngữ tự nhiên. Hầu hết các hệ thống doanh nghiệp đều coi đầu ra của mô hình là đáng tin cậy, nhưng nếu mô hình nhận được các lệnh ẩn, nhúng trong một bình luận của người dùng, cuộc gọi API hoặc thậm chí là một tên tệp, nó có thể bị lừa để thực hiện các hành động không mong muốn. Chúng tôi đã thấy các đối thủ sử dụng điều này để kéo thông tin đăng nhập từ lịch sử trò chuyện, giả mạo người dùng hoặc vượt qua xác thực đầu vào.

Vấn đề sâu hơn là các LLM được tối ưu hóa cho sự mạch lạc, không phải an ninh mạng. Khi chúng tôi khám phá trong phản hồi gần đây của chúng tôi đối với nghiên cứu của Hiệp hội Hoàng gia, các mô hình có xu hướng ưu tiên tính lưu loát và tính tổng quát hơn là sự thận trọng và chính xác. Thậm chí việc yêu cầu chúng “trở nên chính xác hơn” có thể phản tác dụng, dẫn đến các phản hồi tự tin hơn nhưng vẫn không chính xác. Và thao túng mô hình đối thủ là một mối quan tâm lâu dài. Các đối thủ có thể đầu độc dữ liệu hoặc hình thành dần dần đầu ra bằng cách lặp lại các truy vấn có cấu trúc theo thời gian, dần dần đẩy mô hình vào một không gian hành vi cho phép hơn. Phát hiện ở đây đòi hỏi phải có nhật ký toàn bộ, đánh giá liên tục và cát hộp mô hình, các kỹ thuật mà hầu hết các hệ thống doanh nghiệp chưa áp dụng.

Làm thế nào Tempo sử dụng ánh xạ MITRE ATT&CK để cung cấp thông tin có thể hành động thay vì chỉ cảnh báo thô?

Tempo ánh xạ các phát hiện của nó đến các chiến thuật và kỹ thuật ATT&CK bằng cách sử dụng cả phân loại có giám sát và chuỗi hành vi không có giám sát. Khi hệ thống nhìn thấy một chuỗi như thực thi PowerShell đáng ngờ, sửa đổi khóa đăng ký và lưu lượng truy cập xuất cảnh bất thường, nó không chỉ cảnh báo trên mỗi bước, mà còn gắn thẻ chuỗi là Thực thi > Tránh phòng thủ > Xuất dữ liệu, phù hợp với các ID ATT&CK được biết.

Điều này cho phép các đội phòng thủ ngay lập tức hiểu được mục tiêu của đối thủ và nơi họ đang ở trong chuỗi giết. Chúng tôi cũng cung cấp làm giàu: các thực thể bị ảnh hưởng, nhật ký liên quan và điểm số tin cậy. Cách tiếp cận có cấu trúc này giảm tải nhận thức cho các nhà phân tích SOC và tăng tốc các quy trình phản hồi, các đội biết chiến thuật nào được sử dụng, điều gì dẫn đến nó và bước tiếp theo có khả năng là gì. Đó là một bước nhảy lớn so với các hệ thống cảnh báo mệt mỏi, những hệ thống này phát trên mỗi bất thường mà không có ngữ cảnh câu chuyện.

Tại sao DeepTempo hoạt động ở thượng nguồn của SIEM (Quản lý và Sự kiện Thông tin An ninh), và làm thế nào vị trí này tăng cường phát hiện mối đe dọa và tối ưu hóa hoạt động cho các đội an ninh mạng?

SIEMs có xu hướng chuẩn hóa và lọc nhật ký để giảm chi phí nhập. Nhưng khi làm như vậy, chúng thường mất đi ngữ cảnh có giá trị, chẳng hạn như thời gian chính xác, độ trễ, hoặc hành vi phiên họp tạm thời. DeepTempo hoạt động ở thượng nguồn, nhập nhật ký thô trước khi biến đổi này. Điều này cho phép chúng tôi xây dựng các mẫu hành vi phong phú hơn, như tái sử dụng token dịch vụ với sự thay đổi thời gian nhỏ hoặc các chuỗi cuộc gọi API hiếm, những thứ sẽ không bao giờ đi qua ngưỡng SIEM.

Hoạt động ở thượng nguồn cũng có nghĩa là chúng tôi có thể giảm nhiễu trước khi nó thậm chí còn đạt đến SIEM. Thay vì đẩy hàng petabyte dòng nhật ký mỗi ngày, chúng tôi chuyển 50-100 sự kiện có ngữ cảnh cao với toàn bộ làm giàu ATT&CK và điểm số mô hình. Các đội dành ít thời gian hơn để phân loại và nhiều thời gian hơn để điều tra các mối đe dọa quan trọng. Điều này cũng giảm chi phí lưu trữ và tính toán SIEM, điều này có thể đáng kể trong các môi trường lớn.

Điều gì cho phép Tempo tinh chỉnh mô hình cho các môi trường mới một cách nhanh chóng, và làm thế nào điều này so sánh với các quy trình học máy truyền thống?

Các hệ thống học máy truyền thống thường đòi hỏi vài tuần dữ liệu được gắn nhãn và đào tạo lại để thích nghi với một môi trường mới. Tempo tiếp cận theo một cách cơ bản khác. Thay vì bắt đầu từ đầu, nó tận dụng một mô hình được đào tạo trước, được xây dựng trên telemetry mạng thực tế quy mô lớn, như dữ liệu luồng NetFlow và VPC. Điều này mang lại cho nó một sự hiểu biết mạnh mẽ về cách lưu lượng truy cập và hành vi thường trông như thế nào trên các môi trường đa dạng.

Khi Tempo được triển khai vào một môi trường mới, nó không cần dữ liệu được gắn nhãn hoặc chu kỳ học tập dài. Nó sử dụng chỉ vài ngày hoạt động mạng địa phương để thiết lập một đường cơ sở và tinh chỉnh chính nó để phát hiện các mẫu cụ thể cho môi trường đó, chẳng hạn như truy cập ngoài giờ bất thường, giao tiếp dịch vụ-dịch vụ bất thường hoặc chuyển động dữ liệu không mong muốn. Điều này xảy ra trong vài giờ, không phải vài tuần.

Vì quá trình này là tự giám sát, không cần thiết cho các đội an ninh mạng phải tự gắn cờ hoặc gắn nhãn các sự kiện. Và để duy trì tính cập nhật khi các môi trường phát triển, chúng tôi đã xây dựng các cơ chế chụp nhanh cho phép mô hình “quên” các hành vi cũ khi cơ sở hạ tầng hoặc chính sách thay đổi. Hoạt động ở lớp mạng cho phép chúng tôi phát hiện mối đe dọa sớm hơn và rộng hơn, điều gì đó giúp Tempo khác biệt so với các công cụ an ninh truyền thống tập trung vào điểm cuối hoặc nhật ký.

Làm thế nào DeepTempo duy trì độ chính xác cao trong khi cũng giảm thiểu các cảnh báo sai, đặc biệt là trong các môi trường đám mây động?

Chúng tôi kết hợp mô hình hóa thời gian với phân tích hành vi mạng nhận thức ngữ cảnh, được xây dựng trực tiếp trên nhật ký luồng NetFlow và VPC. Cách tiếp cận tạo ra chuỗi cao quý của chúng tôi kết hợp với đào tạo trước quy mô lớn các thuật toán học sâu dựa trên biến đổi, giúp hiểu cách các sự kiện mạng diễn ra theo thời gian. Chúng tôi không gắn cờ một đăng nhập thất bại đơn lẻ, nhưng chúng tôi gắn cờ một đăng nhập thất bại theo sau là một đăng nhập thành công từ một thiết bị mới, di chuyển ngang và truy cập dữ liệu bất thường. Điều này lọc bỏ nhiễu và làm nổi bật các mối đe dọa thực sự và mới.

Thứ hai, chúng tôi tạo hồ sơ hành vi người dùng và dịch vụ trong ngữ cảnh. Một nút Kubernetes khởi động lại 12 lần là bình thường trong quá trình cập nhật, nhưng đáng ngờ vào lúc 2 giờ sáng nếu nó được theo sau bởi một triển khai container mới từ một kho lưu trữ không xác định. Tempo nhận ra điều này vì nó xem xét chuỗi, thời gian và ngữ cảnh đồng thời. Ngoài ra, đường ống học tập chủ động của chúng tôi giám sát và thu thập thông tin về các phong cách phát hiện cụ thể. Nếu đường ống phát hiện sự thay đổi trong hiệu suất hoặc dữ liệu, nó sẽ sử dụng các bản chụp và phản hồi từ các nhà phân tích để tinh chỉnh một số tham số của mô hình.

Chúng tôi xây dựng phát hiện của mình trên siêu dữ liệu mạng thô, cao độ trung thực, kết hợp trí tuệ thời gian với tạo lập hành vi cơ bản để cung cấp cảnh báo có độ tin cậy cao – ngay cả trong các môi trường đám mây thay đổi trong chớp mắt.

Vai trò của khả năng giải thích trong hệ thống của bạn là gì, và làm thế nào bạn đảm bảo rằng các cảnh báo đi kèm với ngữ cảnh có thể sử dụng và giải thích được?

Mỗi phát hiện trong Tempo bao gồm một tóm tắt, bằng chứng nhật ký cơ bản và chiến thuật suy diễn (ví dụ: Truy cập thông tin đăng nhập qua Lực lượng). Chúng tôi cũng cung cấp một đồ thị của các thực thể liên quan, người dùng, điểm cuối, tài nguyên đám mây, vì vậy các đội SOC có thể trực quan hóa sự cố. Mục tiêu là loại bỏ hiệu ứng “hộp đen” mà nhiều hệ thống AI mắc phải.

Chúng tôi mượn từ các công cụ giải thích học thuật như LIME và SHAP trong các nguyên mẫu đầu tiên, nhưng phát hiện ra rằng chúng không trực quan cho các nhà phân tích. Thay vào đó, chúng tôi tạo ra một câu chuyện ngôn ngữ tự nhiên: điều gì đã xảy ra, khi nào, tại sao nó đáng ngờ và chúng tôi tự tin như thế nào. Điều này không chỉ là về sự rõ ràng, mà còn về việc cho phép các nhà phân tích cấp một hành động mà không cần nâng cấp mọi cảnh báo.

Các rủi ro lâu dài của việc các đối thủ sử dụng AI và các mô hình nền tảng là gì, và DeepTempo dự định sẽ ở trước chúng như thế nào?

Phương diện mối đe dọa đang bước vào một giai đoạn mà các đối thủ có thể triển khai các đại lý AI tự học, tự biến đổi, mô phỏng hành vi người dùng hợp pháp. Những đại lý này có thể chạy 24/7, kiểm tra các điểm yếu, thích nghi với mỗi nỗ lực thất bại. Đó là một sự thay đổi cơ bản, không còn là về các ngày zero, mà về tốc độ, lặp lại và che giấu.

Chúng tôi đang chuẩn bị bằng cách đầu tư vào đào tạo đối thủ, phát hiện ở thượng nguồn và tạo lập hành vi không dựa trên các chỉ số đã biết. Mục tiêu của chúng tôi là xác định cấu trúc của hành vi恶意 trước khi nó leo thang. Chúng tôi cũng đang khám phá các cách để vân tay lưu lượng truy cập tấn công được tạo bởi AI, giống như chúng tôi đã từng vân tay botnet, để các đội phòng thủ có thể gắn cờ hoạt động ngay cả khi các payload thay đổi liên tục.

 Cảm ơn vì cuộc phỏng vấn tuyệt vời, độc giả muốn tìm hiểu thêm nên truy cập DeepTempo.