Nati Hazut, CEO kiêm đồng sáng lập Bold Security – Loạt bài phỏng vấn

Nati Hazut là CEO kiêm đồng sáng lập Bold Security. Trước đó, ông đồng sáng lập SAM Seamless Network và Polyrize, tích lũy kinh nghiệm trong các lĩnh vực bảo mật thiết bị kết nối, quản lý danh tính, quyền truy cập đám mây và bảo vệ dữ liệu. Tại Bold, ông vận dụng những bài học đó để bảo vệ các tương tác giữa nhân viên, tác nhân AI và dữ liệu nhạy cảm của doanh nghiệp.

Bold Security phát triển công nghệ bảo vệ dữ liệu trên thiết bị đầu cuối, sử dụng các mô hình ngôn ngữ nhỏ chạy trực tiếp trên thiết bị để phân loại thông tin nhạy cảm và hiểu cách thông tin đó được sử dụng. Nền tảng của công ty cung cấp cho các nhóm bảo mật công cụ để hướng dẫn người dùng, chuyển hướng hoạt động hoặc chặn các hành động rủi ro trên trình duyệt, ứng dụng máy tính và tác nhân AI. Trong cuộc phỏng vấn này, Hazut trao đổi về AI bóng tối, trí tuệ nhân tạo trên thiết bị, các tác nhân tự chủ và ranh giới bảo mật đang thay đổi quanh dữ liệu doanh nghiệp.

Trước đây, ông đồng sáng lập SAM Seamless Network và Polyrize, sau đó bắt đầu Bold Security cùng Hadar Krasner và Omri Mallis. Ông nhận thấy những thay đổi nào trong lĩnh vực bảo mật doanh nghiệp và AI khiến ông tin rằng cần xây dựng một công ty bảo mật khác từ đầu?

Điều quan trọng nhất AI đã làm là thay đổi nơi công việc diễn ra. Trong nhiều thập kỷ, những việc nhạy cảm nhất mà mọi người thực hiện với dữ liệu công ty đều diễn ra trên trình duyệt và các ứng dụng SaaS; đó cũng chính là nơi các giải pháp bảo mật tập trung vào. Giờ đây, ngày càng nhiều công việc diễn ra ngay trên thiết bị: mọi người soạn thảo bằng trợ lý AI trên máy tính, dán mã nguồn vào ứng dụng gốc, hoặc chạy các tác nhân trực tiếp truy cập tệp, ứng dụng và hệ thống công ty trên máy tính xách tay.

Sự chuyển dịch đó đã phá vỡ những giả định làm nền tảng cho hầu hết các sản phẩm bảo mật. Công cụ giám sát mạng chỉ nhìn thấy lưu lượng đi qua nó, còn các ứng dụng máy tính mã hóa lưu lượng của mình và bỏ qua proxy. CASB giám sát các ứng dụng đám mây được phê duyệt. DSPM giám sát dữ liệu lưu trữ trên đám mây. Không giải pháp nào trong số đó nhìn thấy tệp cục bộ được đưa vào ứng dụng AI trên máy tính, hoặc tác nhân chuyển dữ liệu mà không có người ngồi trước bàn phím.

Chúng tôi thành lập Bold vì thiết bị đầu cuối là nơi duy nhất hội tụ tất cả những yếu tố đó. Bạn có thể nhìn thấy dữ liệu, nhân viên hoặc tác nhân đang tương tác với dữ liệu, mục đích của họ và nơi thông tin được chuyển đến. Và bạn có thể hành động trước khi dữ liệu nhạy cảm vượt khỏi tầm kiểm soát của công ty.

AI bóng tối có thể bao gồm từ việc nhân viên sử dụng tài khoản ChatGPT cá nhân đến các ứng dụng máy tính, tiện ích mở rộng trình duyệt, API, kết nối Model Context Protocol và ngày càng nhiều tác nhân tự chủ. Hiện nay, những hình thức AI bóng tối nào đang gây khó khăn nhất cho các nhóm bảo mật doanh nghiệp trong việc phát hiện và kiểm soát?

Một năm trước, ai cũng lo ngại về “AI bóng tối”, nhưng cuộc thảo luận đang dần đi sâu hơn. Các nhóm bảo mật doanh nghiệp đang nhận ra rằng nhân viên tiếp nhận công cụ AI mới nhanh hơn bao giờ hết. Vì vậy, câu hỏi không còn chủ yếu là kiểm kê các công cụ, mà là kiểm soát dữ liệu được đưa qua chúng.

Dĩ nhiên, bạn không thể kiểm soát những gì mình không nhìn thấy. Những kênh khó quan sát nhất là các kênh không bao giờ đi qua đường truyền mạng mà bất kỳ ai giám sát. Ứng dụng máy tính đọc tệp trực tiếp từ thiết bị và mã hóa lưu lượng, nên dữ liệu không đi qua các công cụ được thiết kế để kiểm tra. Các tác nhân có quyền truy cập thông tin của công ty và tiếp tục sử dụng thông tin đó mà không cần nhân viên cung cấp dữ liệu cho chúng mỗi lần.

Tất cả những kênh này đều là những phương thức mới để đưa dữ liệu ra ngoài, và câu hỏi cốt yếu là dữ liệu nào được chuyển qua đó. Việc đưa một tài liệu công khai vào tài khoản doanh nghiệp được phê duyệt không giống với việc đưa cơ sở dữ liệu khách hàng hoặc mã nguồn độc quyền vào tài khoản cá nhân; sự khác biệt đó chỉ có thể nhận biết tại nơi dữ liệu tồn tại và hành động diễn ra. Vì vậy, những hoạt động AI bóng tối mà bạn không nhìn thấy cũng là nơi vấn đề dữ liệu trở nên quan trọng nhất.

Bold ưu tiên cách tiếp cận dựa trên thiết bị đầu cuối, chạy AI cục bộ trên thiết bị thay vì chủ yếu dựa vào việc giám sát mạng hoặc đám mây. Mô hình chạy trên thiết bị có thể hiểu được điều gì về một tương tác AI mà các giải pháp ngăn ngừa mất dữ liệu truyền thống không thể?

Bold tạo khác biệt theo hai cách. Thứ nhất, chúng tôi sử dụng AI để bảo vệ dữ liệu nhạy cảm mà không phải gửi dữ liệu đó đến một dịch vụ AI khác để phân tích. Các mô hình ngôn ngữ nhỏ của chúng tôi chạy trực tiếp trên thiết bị, nơi chúng có thể nhận biết dữ liệu nào nhạy cảm, ai đang truy cập dữ liệu và dữ liệu sẽ được chuyển đến đâu. Nhờ vậy, chúng tôi có thể nhận diện và ngăn chặn các hành động rủi ro theo thời gian thực, mà không phải chịu độ trễ và chi phí phát sinh khi gửi mọi thứ lên đám mây.

Thứ hai, chúng tôi bảo vệ cả những kênh nằm ngoài phạm vi giám sát của các công cụ bảo mật truyền thống. Phần lớn thị trường vẫn tập trung vào trình duyệt và lưu lượng mạng, nhưng ngày càng nhiều dữ liệu nhạy cảm được chuyển qua các ứng dụng AI trên máy tính, công cụ lập trình, thiết bị đầu cuối dòng lệnh và tác nhân tự chủ. Các giải pháp ngăn ngừa mất dữ liệu và bảo mật đám mây thông thường khó có thể nhìn thấy những hoạt động này hơn nhiều.

Bằng cách hoạt động trên thiết bị đầu cuối, chúng tôi có thể bảo vệ dữ liệu trong tất cả những môi trường này và can thiệp trước khi thông tin nhạy cảm vượt khỏi tầm kiểm soát của công ty.

Công nghệ của ông được thiết kế để hiểu không chỉ dữ liệu nào đang được truy cập mà còn cả bối cảnh và ý định đằng sau một hành động. Ông phân biệt việc sử dụng thông tin nhạy cảm hợp pháp với hành vi thực sự gây rủi ro bảo mật như thế nào mà không tạo ra quá nhiều cảnh báo sai?

Ở đây, bối cảnh là tất cả. Không thể coi mọi lần tải tệp lên hay mọi trường hợp tác nhân truy cập dữ liệu đều là sự cố an ninh, nếu không thì chẳng ai làm được việc gì.

Cùng một tệp có thể là chuyện bình thường ở nơi này nhưng lại nghiêm trọng ở nơi khác. Danh sách khách hàng là thứ cần có trong công cụ hỗ trợ, nhưng lại trở thành vấn đề thực sự nếu được tải lên tài khoản cá nhân. Mã nguồn thuộc về kho lưu trữ, chứ không phải trong lời nhắc gửi cho một công cụ AI dành cho người tiêu dùng.

Một công cụ chỉ biết nội dung có khớp với quy tắc hay không thì buộc phải gắn cờ cả hai trường hợp, hoặc không gắn cờ trường hợp nào. Đó là nguyên nhân dẫn đến cảnh báo sai. Muốn phân biệt việc sử dụng AI bình thường với rủi ro thực sự, cần biết dữ liệu là gì, ai đang chuyển dữ liệu và dữ liệu sẽ được đưa đến đâu.

Các tác nhân AI tạo ra một mô hình bảo mật khác, bởi phần mềm ngày càng có thể truy cập tệp, gọi công cụ, kết nối thông qua máy chủ MCP và thực hiện hành động mà con người chỉ tham gia ở mức hạn chế. Bảo mật thiết bị đầu cuối cần thay đổi thế nào khi chủ thể tương tác với dữ liệu nhạy cảm của doanh nghiệp có thể là một tác nhân tự hành thay vì nhân viên?

Bảo mật phần lớn được xây dựng xoay quanh con người, nhưng giờ đây các tác nhân có thể hành động với tốc độ máy móc, mở tệp, gọi công cụ và di chuyển dữ liệu mà không cần ai phê duyệt từng bước. Bảo mật cũng cần vận hành với tốc độ tương đương. Nhiều sản phẩm sử dụng AI để phân tích sự cố sau khi chúng xảy ra. Chúng tôi dùng AI để nhận diện và ngăn chặn các hành động rủi ro theo thời gian thực, kể cả những hành động diễn ra bên ngoài trình duyệt.

Một tác nhân có thể thao tác thông qua ứng dụng máy tính để bàn, thiết bị đầu cuối hoặc một công cụ khác mà nó tìm ra trong quá trình hoàn thành nhiệm vụ. Bảo mật cần theo sát dữ liệu và hành động trên các môi trường đó, bất kể người hay tác nhân là bên chịu trách nhiệm.

Điều này cũng đặt ra một câu hỏi mà trước đây các nhóm bảo mật chưa từng phải tự hỏi. Khi xảy ra sự việc rủi ro, đó là hành động có chủ ý của người dùng, hay tác nhân đã làm sai? Hai trường hợp này cần những cách ứng phó khác nhau. Nếu nhân viên đưa ra quyết định sai lầm, bạn hướng dẫn họ. Nếu tác nhân làm điều không ai yêu cầu, bạn phải chặn nó.

Thiết bị đầu cuối là nơi có thể phân biệt được hai trường hợp, bởi tại đó dữ liệu, quy trình và hành động cùng xuất hiện.

Nhiều doanh nghiệp đã ứng phó với rủi ro từ AI tạo sinh bằng cách hạn chế hoặc cấm một số công cụ. Ông có cho rằng các tổ chức đang hướng tới mô hình cho phép sử dụng hầu như mọi công cụ AI, miễn là có biện pháp kiểm soát dữ liệu mà công cụ có thể truy cập và nơi dữ liệu đó có thể được chuyển đến?

Cấm đoán tràn lan sẽ không giải quyết được vấn đề. Nhân viên có thể tìm thấy một công cụ AI mới và bắt đầu sử dụng chỉ trong vài giây; phần lớn họ không cố tình vượt qua các biện pháp bảo mật. Họ chỉ muốn hoàn thành công việc nhanh hơn.

Câu hỏi phù hợp hơn là điều gì xảy ra với dữ liệu của công ty khi họ sử dụng những công cụ đó.

Nếu ai đó dùng tài khoản AI cá nhân cho công việc vô hại, có lẽ bạn chỉ cần hướng họ sang tài khoản công ty. Nhưng nếu họ sắp gửi mã nguồn, thông tin khách hàng hoặc thông tin xác thực đến nơi công ty không cho phép, bộ phận bảo mật cần can thiệp.

Tôi nghĩ mọi việc sẽ đi theo hướng đó. Hãy để mọi người thoải mái sử dụng AI, nhưng đặt ra biện pháp kiểm soát dữ liệu. Hãy biết dữ liệu nào đang được truy cập, dữ liệu sẽ đi đâu và khi nào cần can thiệp.

Chạy AI cục bộ có thể mang lại lợi ích về độ trễ và quyền riêng tư, nhưng thiết bị đầu cuối cũng có năng lực tính toán và bộ nhớ hữu hạn. Ông đã gặp phải những đánh đổi kỹ thuật nào khi xây dựng các mô hình có khả năng phân loại dữ liệu theo ngữ nghĩa và thực thi chính sách theo thời gian thực ngay trên thiết bị của nhân viên?

Bạn không thể cài một mô hình khổng lồ lên máy tính xách tay của ai đó, ngốn sạch CPU và bộ nhớ của họ rồi gọi đó là bảo mật. Nếu sản phẩm bảo mật khiến máy tính khó sử dụng, nhân viên sẽ ghét nó và bộ phận CNTT sẽ tắt nó đi.

Vì vậy, có những đánh đổi rất thực tế. Mô hình phải hiểu dữ liệu đủ tốt để phân biệt nội dung vô hại với thông tin nhạy cảm, đồng thời phải đủ nhanh, gọn nhẹ và đáng tin cậy để chạy liên tục trong nền.

Ban đầu, chúng tôi tập trung xây dựng các mô hình có thể phân loại hữu ích trên nhiều loại máy tính khác nhau mà không làm chậm máy. Chúng tôi đã hoàn tất công việc kỹ thuật đó, để khách hàng không phải tự mình lựa chọn giữa các phương án đánh đổi.

Trải nghiệm người dùng luôn là ưu tiên hàng đầu của chúng tôi trong suốt quá trình phát triển. Sản phẩm của chúng tôi sử dụng khoảng 20% tài nguyên tính toán mà các tác nhân không dùng AI của đối thủ lâu năm tiêu thụ, đồng thời đưa ra quyết định ngay trên thiết bị khi hành động diễn ra. Không cần đưa dữ liệu nhạy cảm ra khỏi thiết bị chỉ để xác định xem dữ liệu đó có nhạy cảm hay không.

Bold có thể nhận diện các công cụ AI, tài khoản và hoạt động của tác nhân, đồng thời hướng dẫn, chuyển hướng hoặc chặn những hành động rủi ro. Làm thế nào ông xác định khi nào hệ thống chỉ nên cảnh báo người dùng và khi nào cần tự động ngăn hành động?

Hãy hình dung cách một đồng nghiệp tốt sẽ xử lý tình huống. Nếu bạn sắp dán bản nháp vào ChatGPT cá nhân, họ sẽ ghé lại và nói: “Này, việc đó có tài khoản công ty rồi.” Còn nếu bạn sắp tải cơ sở dữ liệu khách hàng lên Drive cá nhân, họ sẽ giữ lấy tay bạn.

Chúng tôi cố gắng làm việc theo cách tương tự và nhận thấy việc hướng dẫn có hiệu quả ít nhất 90% trong việc chuyển người dùng sang lựa chọn an toàn. Trong hầu hết trường hợp, người dùng vô tình đăng nhập nhầm tài khoản hoặc không biết chính sách của công ty về việc có thể đưa dữ liệu đến đâu.

Cuối cùng, quyết định nên chặn ở đâu là của khách hàng, và mỗi công ty xác định ranh giới đó theo một cách khác nhau. Công việc của chúng tôi là cung cấp cho họ bối cảnh và sự tự tin để đưa ra quyết định đúng đắn. Với những luồng rủi ro phức tạp hơn, điều đó có nghĩa là cung cấp bối cảnh mà chúng ta đã đề cập trước đó, đối chiếu với lịch sử hoạt động của chính người dùng và thậm chí cả nhóm đồng cấp của họ.

Sự nghiệp của ông trải dài từ bảo vệ các thiết bị kết nối tại SAM, đến quản lý danh tính và quyền truy cập đám mây tại Polyrize, và giờ là bảo vệ các tương tác giữa con người, tác nhân AI và dữ liệu doanh nghiệp tại Bold. Quan niệm của ông về ranh giới bảo mật cốt lõi đã thay đổi như thế nào qua ba thế hệ an ninh mạng đó?

Quan niệm của tôi về những nguyên tắc nền tảng đã trở nên rõ ràng hơn. Điểm chung là đưa bảo mật đến gần nơi các hoạt động diễn ra và bảo đảm giải pháp có thể vận hành ở quy mô lớn.

Tại SAM, chúng tôi đã mang khả năng bảo mật cấp doanh nghiệp đến các bộ định tuyến có tài nguyên rất hạn chế. Qua đó, chúng tôi học được cách triển khai hiệu quả công nghệ tiên tiến ở vùng biên. Tại Polyrize, chúng tôi tập trung bảo vệ dữ liệu trên các môi trường đám mây và SaaS thông qua khả năng giám sát và quản lý tình trạng bảo mật. Việc hiểu rõ mức độ phơi lộ là thiết yếu, nhưng điều đó không nhất thiết giúp bạn ngăn chặn được một hành động rủi ro.

Bold kết hợp những bài học đó. Chúng tôi đưa năng lực phân tích thông minh lên thiết bị đầu cuối, nơi con người và tác nhân AI tương tác với dữ liệu, đồng thời cung cấp cho các nhóm bảo mật bối cảnh cần thiết để hiểu rủi ro và can thiệp theo thời gian thực.

Bảo mật mạng và đám mây vẫn rất quan trọng, nhưng thiết bị đầu cuối có thể nhìn thấy hoạt động thông qua các ứng dụng máy tính để bàn, tệp cục bộ, tài khoản cá nhân và các tác nhân chạy trên thiết bị. Tôi nhận ra rằng vị trí và thời điểm triển khai bảo mật cũng quan trọng không kém mức độ thông minh của giải pháp.

Nhìn về phía trước từ ba đến năm năm, khi nhân viên làm việc cùng các tác nhân AI ngày càng tự chủ, ông dự đoán thiết bị đầu cuối doanh nghiệp sẽ trở thành như thế nào? Liệu chúng ta có thể đạt đến thời điểm mỗi thiết bị về cơ bản đều vận hành một lớp bảo mật thông minh riêng, liên tục quyết định con người và tác nhân nào có thể tương tác với những dữ liệu cụ thể hay không?

Tôi nghĩ chính xác là chúng ta đang hướng tới điều đó.

Thiết bị đầu cuối sẽ trở thành một lớp bảo mật thông minh, có khả năng hiểu dữ liệu trên thiết bị, nhận biết người hay tác nhân nào đang tương tác với dữ liệu đó, đồng thời đưa ra quyết định ngay trên thiết bị về những gì nên và không nên diễn ra.

Điều đó càng quan trọng hơn khi các tác nhân ngày càng tự chủ. Một người có thể có nhiều tác nhân cùng lúc làm việc thay mình trên các tệp, ứng dụng và hệ thống của công ty. Không thể phụ thuộc vào việc người đó phê duyệt từng bước, vì họ sẽ ngày càng không theo dõi những hoạt động này.

Dữ liệu vẫn cần được bảo vệ, nhưng số lượng chủ thể truy cập dữ liệu sẽ tăng lên vượt xa một người ngồi trước bàn phím. Các hệ thống bảo mật sẽ cần giao tiếp với các tác nhân, đưa ra quyết định và tự động phản hồi khi các hành động diễn ra. Những người vận hành các hệ thống đó sẽ ngày càng giám sát các biện pháp kiểm soát và quyết định, thay vì xem xét từng sự kiện riêng lẻ. Thiết bị đầu cuối là nơi có thể đưa ra những quyết định đó khi dữ liệu vẫn nằm dưới quyền kiểm soát của công ty.

Xin cảm ơn ông về cuộc phỏng vấn tuyệt vời. Độc giả muốn tìm hiểu về bảo vệ dữ liệu trên thiết bị đầu cuối và áp dụng AI an toàn trong doanh nghiệp có thể truy cập Bold Security.