Rohan Sathe, Đồng sáng lập & CEO của Nightfall – Chuỗi phỏng vấn

Vào những ngày đầu, chúng tôi muốn sử dụng học máy để khám phá và bảo vệ dữ liệu nhạy cảm ở mọi nơi trên các ứng dụng đám mây và các quy trình làm việc hiện đại. Khi chúng tôi ra mắt công khai vào năm 2019, chúng tôi tự định vị mình là một giải pháp DLP SaaS bản địa đám mây, được hỗ trợ bởi học máy, với tầm nhìn xây dựng ‘mặt điều khiển cho dữ liệu đám mây.’ Khi chúng tôi mở rộng ra ngoài SaaS để bao gồm cả việc ngăn chặn mất mát dữ liệu trên điểm cuối và Trí tuệ nhân tạo sinh ra, ‘DLP bản địa Trí tuệ nhân tạo’ trở thành thuật ngữ chung của chúng tôi.

Trước khi thành lập Nightfall, bạn là một trong những kỹ sư sáng lập tại Uber Eats, nơi bạn đã chứng kiến trực tiếp cách dữ liệu lan truyền trên các ứng dụng SaaS và công cụ đám mây. Làm thế nào những kinh nghiệm đó đã định hình quan điểm của bạn về bảo mật dữ liệu, và những khoảnh khắc hoặc thách thức cụ thể nào đã kích thích ý tưởng cho Nightfall?

Tại Uber Eats, tôi đã lãnh đạo các nhóm backend và xây dựng các dịch vụ học máy ứng dụng – những thứ như dự đoán ETA và dự báo cung cầu. Chúng tôi đã xử lý dữ liệu với quy mô petabyte lan truyền trên nhiều hệ thống khác nhau, điều này tạo ra một môi trường mà thông tin nhạy cảm có thể di chuyển rất nhanh và thường không nhìn thấy. Kinh nghiệm đó, kết hợp với những gì toàn ngành đã học được từ các sự kiện như vụ vi phạm bảo mật của Uber vào năm 2016 – nơi các kẻ tấn công đã khai thác thông tin đăng nhập được暴 lộ trong mã trên GitHub để tiếp cận dữ liệu AWS – thực sự đã nhấn mạnh cách sự kết hợp giữa sự lan truyền dữ liệu, thông tin đăng nhập và cơ sở hạ tầng đám mây tạo ra rủi ro không tương xứng nếu không có biện pháp phát hiện và bảo vệ tốt hơn. Những thực tế đó đã định hình sự tập trung của Nightfall vào việc khám phá và ngăn chặn dựa trên ngữ cảnh ngay từ đầu.

Nightfall đã ra mắt công khai vào năm 2019 với vòng tài trợ Series A. Bạn có thể chia sẻ hành trình sơ bộ từ chế độ ẩn danh đến ra mắt, bao gồm cả những điểm chuyển đổi quan trọng?

Chúng tôi đã hoạt động trong chế độ ẩn danh trong khoảng một năm, sau đó ra mắt chính thức vào ngày 7 tháng 11 năm 2019 với 20,3 triệu đô la tài trợ do Bain Capital Ventures và Venrock dẫn đầu. Những điểm chuyển đổi quan trọng thực sự xoay quanh việc xây dựng các tích hợp SaaS rộng rãi và phát triển phân loại nội dung dựa trên học máy có độ chính xác cao hơn, có thể giảm thiểu các cảnh báo sai mà các giải pháp DLP truyền thống thường gặp phải.

Shadow AI đề cập đến việc sử dụng các công cụ như ChatGPT, Gemini và Copilot trong nơi làm việc mà không được giám sát, thường dẫn đến rò rỉ dữ liệu không nhìn thấy. Bạn định nghĩa Shadow AI như thế nào và tại sao nó lại trở thành một mối quan tâm ngày càng tăng đối với các tổ chức hiện đại?

Chúng tôi định nghĩa Shadow AI là việc sử dụng các công cụ Trí tuệ nhân tạo bởi nhân viên mà không được phê duyệt hoặc giám sát – nghĩ về việc dán mã nguồn hoặc dữ liệu khách hàng vào các chatbot – điều này tạo ra rủi ro về lộ lọt dữ liệu ngoài tầm kiểm soát của bộ phận CNTT. Định nghĩa này phù hợp với những gì chúng tôi đang thấy từ các bên tham gia khác trong ngành như IBM và Splunk. Shadow AI cơ bản là Trí tuệ nhân tạo được sử dụng mà không có sự chấp thuận hoặc giám sát, điều này giới thiệu những điểm mù và rủi ro về mất mát dữ liệu tiềm ẩn. Sự kết hợp giữa các ứng dụng Trí tuệ nhân tạo dễ sử dụng và thiếu các biện pháp kiểm soát phù hợp là lý do tại sao vấn đề này đang phát triển nhanh chóng như vậy.

Bạn đã mô tả nhiều cách tiếp cận của Nightfall đối với Shadow AI khác với DLP truyền thống. Trong số những tính năng này – liệu đó là giám sát dựa trên ngữ cảnh, dòng dữ liệu, hoặc chặn thời gian thực – tính năng nào đã chứng minh là có tác động nhất đối với khách hàng của bạn?

Từ những gì chúng tôi liên tục nghe từ khách hàng, có hai công tắc chính tạo ra sự khác biệt lớn nhất. Đầu tiên là các biện pháp kiểm soát trước khi gửi – thực sự bắt được nội dung nhạy cảm trước khi nó được gửi đến các công cụ Trí tuệ nhân tạo hoặc đăng trên web. Thứ hai là khả năng phát hiện bản địa Trí tuệ nhân tạo của chúng tôi, vượt qua việc kết hợp mẫu truyền thống để hiểu dòng dữ liệu và ngữ cảnh.

Điều thực sự mạnh mẽ là giảm tiếng ồn của chúng tôi thông qua việc học liên tục. Hệ thống của chúng tôi hiểu nội dung và dòng tệp, học hỏi từ chú thích và hành động của người dùng, và xác định các quy trình làm việc an toàn để giảm thiểu hoạt động rủi ro thấp. Điều này giảm thiểu đáng kể các cảnh báo sai so với các giải pháp DLP truyền thống. Chúng tôi cũng đang thực hiện phát hiện mối đe dọa thời gian thực và ưu tiên rủi ro bằng cách sử dụng LLM, transformer và thị giác máy tính, với các phân loại tệp và độ nhạy cảm tùy chỉnh có thể tiết lộ chuyển động của tài sản trí tuệ và tài liệu có giá trị cao vượt xa việc phát hiện thực thể dựa trên quy tắc đơn giản. Khách hàng của chúng tôi cho biết họ đang thấy sự chuyển đổi từ mệt mỏi cảnh báo sang hành động bảo mật tập trung, có tác động cao.

Làm thế nào hệ thống phát hiện dựa trên trình duyệt và điểm cuối của Nightfall ngăn chặn rò rỉ trước khi chúng xảy ra, và điều đó so sánh như thế nào với các hệ thống DLP truyền thống chỉ phát hiện vi phạm sau khi gửi?

Phần mở rộng trình duyệt và tác nhân điểm cuối của chúng tôi thực sự quét các yêu cầu và tệp trước khi chúng được gửi. Chúng tôi có thể xóa hoặc chặn nội dung rủi ro trong thời gian thực – vì vậy trước khi một yêu cầu ChatGPT được gửi, ví dụ. Chúng tôi cũng theo dõi dòng để các nhóm bảo mật biết liệu tệp có nguồn gốc từ hệ thống doanh nghiệp hay không. Chúng tôi triển khai trên macOS và Windows với các tiện ích mở rộng Chrome và Firefox cung cấp chức năng xóa và chặn tải lên trước khi gửi. Điều này là một sự tương phản khá rõ ràng so với DLP truyền thống, chủ yếu là về việc phát hiện sau sự kiện.

Nightfall đã mở rộng đáng kể kể từ khi thành lập. Làm thế nào nhu cầu bảo mật doanh nghiệp đã thay đổi trong thời gian đó, và sản phẩm của bạn đã thích nghi như thế nào để đáp ứng?

Cảnh quan đã thay đổi thực sự dramat. Chúng tôi bắt đầu với quét SaaS – nghĩ về Slack và Google Drive – vào khoảng năm 2020-2021. Sau đó, các rào cản Trí tuệ nhân tạo sinh ra trở nên quan trọng bắt đầu từ năm 2023, và bây giờ chúng tôi đang thấy nhu cầu cấp thiết về ngăn chặn mối đe dọa tự động, thông minh có thể mở rộng với sự phát triển của tổ chức.

Các nhóm vận hành bảo mật đang vật lộn với các công cụ ngày càng phức tạp, DLP dựa trên kết hợp mẫu truyền thống, điều chỉnh chính sách thủ công liên tục và mệt mỏi cảnh báo không ngừng. Những vấn đề này làm chậm quá trình điều tra, tăng chi phí và giảm hiệu quả bảo mật. Sự tiến hóa của sản phẩm chúng tôi đã theo sát sự thay đổi này từ các hoạt động thủ công, phản ứng sang tự động hóa thông minh, chủ động. Chúng tôi đã công bố phạm vi bảo vệ Trí tuệ nhân tạo sinh ra vào năm 2023, mở rộng đến ngăn chặn mất mát, mã hóa và bảo vệ email vào năm 2024, và bây giờ với Nyx, chúng tôi đang giới thiệu những gì chúng tôi coi là kỷ nguyên tiếp theo của Trí tuệ nhân tạo trong bảo vệ dữ liệu – biến mệt mỏi cảnh báo thành hành động bảo mật tập trung, có tác động cao trên SaaS, điểm cuối và công cụ Trí tuệ nhân tạo.

Bạn gần đây đã giới thiệu Nightfall Nyx, mà bạn mô tả là nền tảng DLP bản địa Trí tuệ nhân tạo tự động đầu tiên trong ngành. Điều gì làm cho nó tự động, và những vấn đề nào mà điều đó giải quyết cho các nhóm bảo mật?

Nền tảng phát hiện Trí tuệ nhân tạo của Nightfall đã cung cấp kết quả chính xác, thấp tiếng ồn – 95% độ chính xác so với 5-30% điển hình của DLP truyền thống dựa trên kết hợp mẫu hoặc quy tắc. Đặt trên nền tảng đó, Nyx là lớp thông minh Trí tuệ nhân tạo giúp các nhóm bảo mật điều tra, liên kết và hiểu rủi ro.

Ngay cả sau khi tiếng ồn đã biến mất, công việc thực sự bắt đầu. Trong các tổ chức lớn, các nhóm SecOps vẫn có thể phải đối mặt với hàng trăm cảnh báo hợp lệ mỗi ngày. Việc sàng lọc chúng để tách các quy trình làm việc được phê duyệt kinh doanh khỏi các vấn đề về vệ sinh dữ liệu rủi ro hoặc các mối đe dọa từ bên trong có thể tiêu tốn hàng giờ. Nyx đảm nhận công việc điều tra nặng nhọc này – tăng tốc phân tích để các nhóm có thể tập trung vào hành động, không phải tìm kiếm và sắp xếp qua các trang cảnh báo.

Nyx kết nối các điểm trên các sự kiện mất mát – người dùng, miền, thiết bị, loại dữ liệu, tên tệp và nhiều hơn nữa – hiển thị các mẫu ngay lập tức. Thông qua giao diện ngôn ngữ tự nhiên, các nhà phân tích có thể hành động trên các mẫu, điều tra kết quả, tạo báo cáo và nhận được hành động được đề xuất trong vài giây. Các nhiệm vụ từng mất hai giờ có thể được thực hiện trong dưới hai phút – một sự tiết kiệm thời gian 20 lần, một yếu tố thay đổi trò chơi.

Với việc sử dụng Trí tuệ nhân tạo sinh ra đang bùng nổ tại các nơi làm việc và các nhóm bảo mật đang vật lộn để theo kịp, bạn có tin rằng các công cụ như Nightfall sẽ trở thành một lớp kiểm soát mặc định cho môi trường doanh nghiệp?

Tôi nghĩ quỹ đạo cho thấy có. Chúng tôi đang thấy việc áp dụng Trí tuệ nhân tạo sinh ra rộng rãi trên các doanh nghiệp, và các nền tảng lớn như Microsoft (MSFT ) Entra Internet Access đang triển khai các biện pháp kiểm soát trước gửi cho lưu lượng Trí tuệ nhân tạo. Khi bạn kết hợp điều đó với sự đồng thuận của ngành về rủi ro Shadow AI, thì hợp lý khi mong đợi DLP nhận thức Trí tuệ nhân tạo trước gửi sẽ trở thành một lớp kiểm soát mặc định bên cạnh những thứ như quản lý danh tính và truy cập, cũng như phát hiện và phản ứng điểm cuối.

Cuối cùng, với tư cách là một người sáng lập xây dựng trong một không gian phát triển nhanh như vậy, tầm nhìn dài hạn của bạn cho Nightfall và vai trò của Trí tuệ nhân tạo trong bảo vệ dữ liệu doanh nghiệp là gì?

Tầm nhìn dài hạn của chúng tôi xây dựng trên những gì chúng tôi đã nêu ra khi ra mắt – trở thành mặt điều khiển cho dữ liệu đám mây – nhưng bây giờ chúng tôi đang mở rộng điều đó với các hoạt động tự động và khả năng Trí tuệ nhân tạo. Chúng tôi hình dung một tương lai nơi tư thế bảo mật được cải thiện liên tục mà không đặt thêm công việc lên các nhà phân tích, nơi Trí tuệ nhân tạo loại bỏ nhu cầu về chuyên môn lĩnh vực và nơi các tổ chức có thể chuyển từ hoạt động bảo mật thủ công, phản ứng sang ngăn chặn mối đe dọa thông minh, chủ động.

Trong thực tế, điều đó có nghĩa là Trí tuệ nhân tạo không chỉ hiểu dữ liệu trong ngữ cảnh mà còn thực hiện các hành động an toàn, thông minh – điều tra, hướng dẫn, xóa, chặn – trên SaaS, điểm cuối, email và Shadow AI. Chúng tôi muốn đóng vòng lặp từ phát hiện đến ngăn chặn, cung cấp cho các nhóm bảo mật một đối tác thông minh luôn bật, trở nên thông minh hơn với mỗi cuộc điều tra và biến những tuần điều tra thủ công thành vài phút phản hồi tập trung.

Cảm ơn vì cuộc phỏng vấn tuyệt vời, những người đọc muốn tìm hiểu thêm nên truy cập Nightfall.