Rohan Sathe, Đồng sáng lập & Giám đốc điều hành của Nightfall – Chuỗi phỏng vấn

Ban đầu, chúng tôi muốn sử dụng công nghệ học máy để phát hiện và bảo vệ dữ liệu nhạy cảm ở bất kỳ nơi nào dữ liệu được lưu trữ trên các ứng dụng đám mây và quy trình làm việc hiện đại. Khi chúng tôi chính thức ra mắt vào năm 2019, chúng tôi định vị mình là một giải pháp SaaS DLP gốc đám mây, hỗ trợ ML, với tầm nhìn xây dựng "mặt phẳng điều khiển cho dữ liệu đám mây". Khi chúng tôi mở rộng ra ngoài SaaS để bao gồm việc trích xuất dữ liệu trên các điểm cuối và AI tạo sinh, "DLP gốc AI" đã trở thành thuật ngữ chung của chúng tôi.

Trước khi bắt đầu Nightfall, anh là kỹ sư sáng lập tại Uber Eats, nơi anh tận mắt chứng kiến ​​cách dữ liệu lan truyền trên các công cụ SaaS và đám mây. Những trải nghiệm ở đó đã định hình quan điểm của anh về bảo mật dữ liệu như thế nào, và những khoảnh khắc hoặc thách thức cụ thể nào đã khơi dậy ý tưởng cho Nightfall?

Tại Uber Eats, tôi phụ trách các nhóm back-end và xây dựng các dịch vụ ML ứng dụng—chẳng hạn như ETA (dự báo thời gian đến) và dự báo cung cầu. Chúng tôi xử lý dữ liệu quy mô petabyte trải rộng trên nhiều hệ thống khác nhau, một môi trường mà thông tin nhạy cảm có thể di chuyển rất nhanh và thường là vô hình. Kinh nghiệm đó, kết hợp với những gì toàn ngành đã học được từ các sự cố như vụ vi phạm của Uber năm 2016—khi kẻ tấn công về cơ bản đã lợi dụng thông tin đăng nhập bị lộ trong mã trên GitHub để tiếp cận dữ liệu AWS—thực sự đã làm nổi bật cách thức sự kết hợp giữa dữ liệu lan tràn, thông tin đăng nhập và cơ sở hạ tầng đám mây tạo ra rủi ro quá lớn mà không có biện pháp phát hiện và bảo vệ tốt hơn. Những thực tế đó đã định hình trọng tâm của Nightfall vào việc phát hiện và phòng ngừa dựa trên ngữ cảnh ngay từ đầu.

Nightfall ra mắt công chúng vào năm 2019 với vòng gọi vốn Series A. Anh có thể chia sẻ với chúng tôi về hành trình ban đầu từ giai đoạn "ẩn dật" đến khi ra mắt, bao gồm cả những điểm then chốt nào không?

Chúng tôi hoạt động bí mật trong khoảng một năm, sau đó chính thức ra mắt vào ngày 7 tháng 2019 năm 20.3 với XNUMX triệu đô la tài trợ do Bain Capital Ventures và Venrock dẫn đầu. Những bước ngoặt ban đầu thực sự xoay quanh việc xây dựng các tích hợp SaaS rộng rãi và phát triển khả năng phân loại nội dung dựa trên ML với độ chính xác cao hơn, có thể giảm thiểu các lỗi báo động giả vốn gây khó khăn cho các giải pháp DLP cũ.

Shadow AI đề cập đến việc sử dụng không được giám sát các công cụ như ChatGPT, Gemini và Copilot tại nơi làm việc, thường dẫn đến rò rỉ dữ liệu vô hình. Ông định nghĩa Shadow AI như thế nào, và tại sao nó lại là mối quan tâm ngày càng tăng đối với các tổ chức hiện đại?

Chúng tôi định nghĩa Shadow AI là việc nhân viên sử dụng trái phép hoặc không được giám sát các công cụ AI - ví dụ như việc sao chép mã nguồn hoặc dữ liệu khách hàng vào chatbot - gây ra rủi ro tiếp xúc nằm ngoài phạm vi quản trị CNTT. Định nghĩa này phù hợp với những gì chúng tôi đang thấy từ các công ty khác trong ngành như IBM và Splunk. Shadow AI về cơ bản là việc AI được sử dụng mà không được phê duyệt hoặc giám sát, dẫn đến những điểm mù này và nguy cơ rò rỉ dữ liệu tiềm ẩn. Sự kết hợp giữa các ứng dụng AI Tạo sinh dễ sử dụng và việc thiếu các biện pháp kiểm soát phù hợp là lý do tại sao vấn đề này đang gia tăng nhanh chóng.

Bạn đã mô tả nhiều điểm khác biệt trong cách tiếp cận Shadow AI của Nightfall so với DLP truyền thống. Tính năng nào trong số này - dù là giám sát theo ngữ cảnh, dòng dõi dữ liệu hay chặn theo thời gian thực - đã chứng minh được tác động lớn nhất đến khách hàng của bạn?

Theo những gì chúng tôi thường xuyên nghe từ khách hàng, thực sự có hai đòn bẩy chính tạo nên sự khác biệt lớn nhất. Thứ nhất là các biện pháp kiểm soát trước khi gửi - thực sự phát hiện nội dung nhạy cảm trước khi nó được gửi đến các công cụ AI hoặc đăng lên web. Thứ hai là khả năng phát hiện nội dung gốc bằng AI của chúng tôi, vượt ra ngoài việc so khớp mẫu truyền thống để hiểu nguồn gốc và ngữ cảnh dữ liệu.

Điểm mạnh thực sự của chúng tôi là khả năng giảm nhiễu thông qua học tập liên tục. Hệ thống của chúng tôi hiểu rõ nguồn gốc nội dung và tệp, học hỏi từ các chú thích và hành động của người dùng, đồng thời xác định các quy trình làm việc an toàn để ngăn chặn hoạt động rủi ro thấp. Điều này giúp giảm đáng kể các báo động giả so với các giải pháp DLP cũ. Chúng tôi cũng đang phát hiện mối đe dọa theo thời gian thực và ưu tiên rủi ro bằng cách sử dụng LLM, bộ chuyển đổi và thị giác máy tính, với các bộ phân loại tệp và độ nhạy tùy chỉnh có thể phát hiện chuyển động của sở hữu trí tuệ và các tài liệu có giá trị cao, vượt xa khả năng phát hiện thực thể dựa trên quy tắc đơn giản. Khách hàng của chúng tôi cho biết họ đang chứng kiến ​​sự chuyển đổi này từ tình trạng cảnh báo mệt mỏi sang các hành động bảo mật tập trung, tác động cao.

Hệ thống phát hiện dựa trên trình duyệt và điểm cuối của Nightfall ngăn chặn rò rỉ trước khi chúng xảy ra như thế nào và điều đó khác biệt ra sao so với các hệ thống DLP cũ chỉ phát hiện vi phạm sau khi gửi?

Tiện ích mở rộng trình duyệt và các tác nhân điểm cuối của chúng tôi thực sự quét các lời nhắc và tệp trước khi chúng được gửi. Chúng tôi có thể biên tập hoặc chặn nội dung rủi ro theo thời gian thực—ví dụ như trước khi lời nhắc ChatGPT được gửi đi. Chúng tôi cũng đang theo dõi nguồn gốc để các nhóm bảo mật biết liệu tệp có bắt nguồn từ hệ thống doanh nghiệp hay không. Chúng tôi triển khai trên macOS và Windows với các tiện ích mở rộng Chrome và Firefox cung cấp chức năng biên tập trước khi gửi và chặn tải lên. Điều này khá tương phản với DLP truyền thống, vốn chủ yếu tập trung vào việc phát hiện sau sự việc.

Nightfall đã mở rộng đáng kể kể từ khi thành lập. Nhu cầu bảo mật doanh nghiệp đã phát triển như thế nào trong thời gian qua, và sản phẩm của bạn đã thích ứng ra sao để đáp ứng?

Bối cảnh đã thực sự thay đổi đáng kể. Chúng tôi bắt đầu với việc quét SaaS—ví dụ như Slack và Google Drive—vào khoảng năm 2020-2021. Sau đó, các rào cản AI tạo sinh trở nên quan trọng bắt đầu từ năm 2023, và giờ đây chúng tôi nhận thấy nhu cầu cấp thiết về việc phòng ngừa mối đe dọa tự động, thông minh, có thể mở rộng theo sự phát triển của tổ chức.

Các nhóm vận hành bảo mật đang phải vật lộn với các công cụ ngày càng phức tạp, DLP (phân tích dữ liệu tự động) khớp mẫu cũ, việc điều chỉnh chính sách thủ công liên tục và tình trạng quá tải cảnh báo nghiêm trọng. Những vấn đề này làm chậm quá trình điều tra, tăng chi phí và giảm hiệu quả bảo mật. Quá trình phát triển sản phẩm của chúng tôi đã theo dõi sự chuyển dịch này từ các hoạt động phản ứng và thủ công sang tự động hóa chủ động và thông minh. Chúng tôi đã công bố phạm vi bảo vệ AI Tạo sinh vào năm 2023, mở rộng sang ngăn chặn rò rỉ, mã hóa và bảo vệ email vào năm 2024, và giờ đây với Nyx, chúng tôi đang mở ra kỷ nguyên tiếp theo của AI tác nhân trong bảo vệ dữ liệu — chuyển đổi tình trạng quá tải cảnh báo thành các hành động bảo mật tập trung, tác động cao trên các nền tảng SaaS, điểm cuối và công cụ AI.

Gần đây, ông đã giới thiệu Nightfall Nyx, được ông mô tả là nền tảng DLP AI tự động đầu tiên trong ngành. Điều gì làm nên tính tự động của nó, và nó giải quyết những vấn đề gì cho các nhóm bảo mật?

Nền tảng phát hiện AI của Nightfall hiện đã mang lại kết quả có độ chính xác cao, ít nhiễu — độ chính xác 95% so với mức 5–30% thông thường của regex truyền thống hoặc DLP dựa trên quy tắc. Trên nền tảng đó, Nyx là lớp trí tuệ nhân tạo (AI) giúp các nhóm bảo mật điều tra, đối chiếu và hiểu rõ các rủi ro.

Ngay cả khi tiếng ồn đã lắng xuống, công việc thực sự mới bắt đầu. Trong các tổ chức lớn, các nhóm SecOps vẫn có thể phải đối mặt với hàng trăm cảnh báo hợp lệ mỗi ngày. Việc sàng lọc chúng để phân biệt các quy trình công việc đã được doanh nghiệp phê duyệt với các vấn đề vệ sinh dữ liệu rủi ro hoặc các mối đe dọa nội bộ có thể tốn hàng giờ. Nyx đảm nhiệm công việc điều tra nặng nề này — tăng tốc phân tích để các nhóm có thể tập trung vào hành động, thay vì phải tìm kiếm và sắp xếp qua hàng loạt cảnh báo.

Nyx kết nối các điểm trên khắp các sự kiện rò rỉ — người dùng, tên miền, thiết bị, loại dữ liệu, tên tệp, v.v. — ngay lập tức phát hiện các mẫu hình. Thông qua giao diện ngôn ngữ tự nhiên, các nhà phân tích có thể hành động dựa trên các mẫu hình, điều tra phát hiện, tạo báo cáo và nhận các hành động được đề xuất chỉ trong vài giây. Các tác vụ trước đây mất hai giờ giờ đây có thể được hoàn thành trong vòng chưa đầy hai phút — một bước đột phá thực sự giúp tiết kiệm thời gian gấp 20 lần.

Với việc sử dụng AI tạo sinh đang bùng nổ tại nơi làm việc và các nhóm an ninh đang phải vật lộn để theo kịp, bạn có tin rằng các công cụ như Nightfall sẽ trở thành lớp kiểm soát mặc định cho môi trường doanh nghiệp không?

Tôi nghĩ xu hướng hiện tại cho thấy là có. Chúng ta đang chứng kiến ​​các kế hoạch áp dụng AI Tạo sinh rộng rãi trong các doanh nghiệp, và các nền tảng lớn như Microsoft Entra Internet Access đang triển khai các biện pháp kiểm soát nội tuyến, trước khi gửi cho lưu lượng AI Tạo sinh. Khi kết hợp điều đó với sự đồng thuận của ngành về rủi ro AI Bóng tối, việc kỳ vọng DLP nhận biết AI trước khi gửi sẽ trở thành một lớp kiểm soát mặc định bên cạnh các giải pháp như quản lý danh tính và truy cập, phát hiện và phản hồi điểm cuối là hoàn toàn hợp lý.

Cuối cùng, với tư cách là người sáng lập hoạt động trong một không gian phát triển nhanh như vậy, tầm nhìn dài hạn của bạn đối với Nightfall và vai trò của AI trong bảo vệ dữ liệu doanh nghiệp là gì?

Tầm nhìn dài hạn của chúng tôi được xây dựng dựa trên những gì chúng tôi đã nêu rõ khi ra mắt—trở thành mặt phẳng điều khiển cho dữ liệu đám mây—nhưng giờ đây chúng tôi đang mở rộng tầm nhìn đó với các hoạt động tự động và khả năng AI đại diện. Chúng tôi hình dung một tương lai nơi tình hình bảo mật được cải thiện liên tục mà không cần thêm khối lượng công việc cho các nhà phân tích, nơi AI loại bỏ nhu cầu về chuyên môn trong lĩnh vực chuyên biệt, và nơi các tổ chức có thể chuyển đổi từ các hoạt động bảo mật thủ công, phản ứng sang phòng ngừa mối đe dọa chủ động, thông minh.

Trên thực tế, điều đó có nghĩa là AI vừa hiểu dữ liệu trong ngữ cảnh vừa thực hiện các hành động an toàn, thông minh — điều tra, hướng dẫn, biên tập, chặn — trên SaaS, điểm cuối, email và Shadow AI. Chúng tôi muốn khép kín vòng lặp từ phát hiện đến phòng ngừa, mang đến cho các nhóm bảo mật một đối tác thông minh luôn sẵn sàng, ngày càng thông minh hơn sau mỗi cuộc điều tra và biến hàng tuần điều tra thủ công thành vài phút phản ứng tập trung.

Cảm ơn bạn về cuộc phỏng vấn tuyệt vời, độc giả muốn tìm hiểu thêm hãy truy cập Nightfall.