Rick Caccia, Giám đốc điều hành và Đồng sáng lập của WitnessAI – Loạt phỏng vấn

Rick Caccia, Giám đốc điều hành và Đồng sáng lập của WitnessAI, có kinh nghiệm sâu rộng trong việc ra mắt các sản phẩm an ninh và tuân thủ. Ông đã từng giữ các vị trí lãnh đạo về sản phẩm và tiếp thị tại Palo Alto Networks (PANW ), Google (GOOGL ) và Symantec. Trước đây, Caccia đã lãnh đạo tiếp thị sản phẩm tại ArcSight thông qua IPO và các hoạt động sau đó như một công ty đại chúng và từng là Chief Marketing Officer đầu tiên tại Exabeam. Ông sở hữu nhiều bằng cấp từ Đại học California, Berkeley.

WitnessAI đang phát triển một nền tảng an ninh tập trung vào việc đảm bảo sử dụng an toàn và bảo mật AI trong các doanh nghiệp. Với mỗi bước chuyển đổi công nghệ lớn – như web, di động và điện toán đám mây – những thách thức an ninh mới xuất hiện, tạo ra cơ hội cho các nhà lãnh đạo ngành xuất hiện. AI đại diện cho biên giới tiếp theo trong sự tiến hóa này.

Công ty nhằm mục đích thiết lập mình như một nhà lãnh đạo trong an ninh AI bằng cách kết hợp chuyên môn về học máy, an ninh mạng và hoạt động đám mây lớn. Đội ngũ của họ mang lại kinh nghiệm sâu rộng về phát triển AI, kỹ thuật đảo ngược và triển khai Kubernetes đa đám mây, giải quyết các thách thức quan trọng về bảo mật công nghệ AI.

Điều gì đã truyền cảm hứng cho bạn để đồng sáng lập WitnessAI, và những thách thức chính về quản trị và an ninh AI mà bạn đang cố gắng giải quyết?

Khi chúng tôi bắt đầu công ty, chúng tôi nghĩ rằng các đội an ninh sẽ lo lắng về các cuộc tấn công vào mô hình AI nội bộ của họ. Thay vào đó, 15 CISO đầu tiên chúng tôi nói chuyện cho biết điều ngược lại, rằng việc triển khai LLM doanh nghiệp rộng rãi vẫn còn lâu, nhưng vấn đề cấp bách là bảo vệ việc sử dụng AI của nhân viên. Chúng tôi đã lùi lại và thấy rằng vấn đề không phải là chống lại các cuộc tấn công mạng đáng sợ, mà là cho phép các công ty sử dụng AI một cách sản xuất. Trong khi quản trị có thể ít hấp dẫn hơn so với các cuộc tấn công mạng, đó là những gì các đội an ninh và bảo mật thực sự cần. Họ cần có cái nhìn tổng quan về những gì nhân viên của họ đang làm với AI của bên thứ ba, một cách để thực hiện các chính sách sử dụng chấp nhận được và một cách để bảo vệ dữ liệu mà không chặn sử dụng dữ liệu đó. Vì vậy, đó là những gì chúng tôi đã xây dựng.

Với kinh nghiệm sâu rộng của bạn tại Google Cloud, Palo Alto Networks và các công ty an ninh mạng khác, làm thế nào những vai trò đó ảnh hưởng đến cách tiếp cận của bạn trong việc xây dựng WitnessAI?

Tôi đã nói chuyện với nhiều CISO trong những năm qua. Một trong những điều phổ biến nhất tôi nghe từ CISO ngày nay là, “Tôi không muốn trở thành ‘Bác sĩ Không’ khi nói đến AI; tôi muốn giúp nhân viên của chúng tôi sử dụng nó để trở nên tốt hơn.” Là người đã làm việc với các nhà cung cấp an ninh mạng trong một thời gian dài, đây là một tuyên bố rất khác biệt. Nó gợi nhớ đến thời kỳ dotcom, khi Web là một công nghệ mới và chuyển đổi. Khi chúng tôi xây dựng WitnessAI, chúng tôi bắt đầu với các khả năng sản phẩm giúp khách hàng áp dụng AI một cách an toàn; thông điệp của chúng tôi là công nghệ này giống như ma thuật và tất nhiên mọi người đều muốn trải nghiệm ma thuật. Tôi nghĩ rằng các công ty an ninh quá nhanh chóng chơi thẻ sợ hãi, và chúng tôi muốn khác biệt.

Điều gì làm cho WitnessAI khác biệt so với các nền tảng quản trị và an ninh AI khác trên thị trường hiện nay?

Chúng tôi tập trung vào cả quản trị và an ninh, trong khi hầu hết các nhà cung cấp khác chỉ tập trung vào an ninh. Quản trị giống như phanh trên một chiếc xe. Nếu bạn thực sự muốn đi nhanh, bạn cần phanh hiệu quả ngoài động cơ mạnh. Không ai sẽ lái một chiếc Ferrari rất nhanh nếu nó không có phanh. Trong trường hợp này, công ty của bạn sử dụng AI là chiếc Ferrari, và WitnessAI là phanh và vô lăng.

Làm thế nào WitnessAI cân bằng nhu cầu đổi mới AI với an ninh và tuân thủ doanh nghiệp?

Chúng tôi tin rằng AI nên giống như ma thuật – nó có thể giúp bạn làm những điều tuyệt vời. Với suy nghĩ đó, chúng tôi nghĩ rằng đổi mới AI và an ninh liên kết. Nếu nhân viên của bạn có thể sử dụng AI một cách an toàn, họ sẽ sử dụng nó thường xuyên và bạn sẽ dẫn đầu. Nếu bạn áp dụng tâm lý an ninh điển hình và khóa nó lại, đối thủ của bạn sẽ không làm như vậy, và họ sẽ dẫn đầu. Mọi thứ chúng tôi làm đều旨在 cho phép áp dụng AI an toàn.

Bạn có thể nói về triết lý cốt lõi của công ty về quản trị AI – bạn có xem an ninh AI là một công cụ kích hoạt thay vì một hạn chế không?

Chúng tôi thường xuyên có CISO đến với chúng tôi tại các sự kiện nơi chúng tôi đã trình bày, và họ nói với chúng tôi, “Các đối thủ cạnh tranh của bạn đều nói về việc AI đáng sợ, và bạn là nhà cung cấp duy nhất nói về cách sử dụng nó một cách hiệu quả.” Sundar Pichai tại Google đã nói rằng “AI có thể sâu sắc hơn lửa,” và đó là một ẩn dụ thú vị. Lửa có thể gây thiệt hại đáng kể, như chúng ta đã thấy gần đây. Nhưng lửa được kiểm soát có thể tạo ra thép, điều này tăng tốc đổi mới. Đôi khi tại WitnessAI, chúng tôi nói về việc tạo ra đổi mới cho phép khách hàng của chúng tôi an toàn chỉ đạo “lửa” AI để tạo ra thép tương đương. Hoặc, nếu bạn nghĩ AI giống như ma thuật, thì có lẽ mục tiêu của chúng tôi là đưa cho bạn một cây đũa ma thuật, để chỉ đạo và kiểm soát nó.

Thách thức lớn nhất mà các doanh nghiệp phải đối mặt khi triển khai AI tạo sinh là gì, và làm thế nào WitnessAI giảm thiểu chúng?

Thứ nhất là khả năng hiển thị. Nhiều người ngạc nhiên khi biết rằng vũ trụ ứng dụng AI không chỉ là ChatGPT và DeepSeek; có hàng nghìn ứng dụng AI trên internet và doanh nghiệp hấp thụ rủi ro từ việc nhân viên sử dụng các ứng dụng này, vì vậy bước đầu tiên là có được khả năng hiển thị: ứng dụng AI nào mà nhân viên của tôi đang sử dụng, họ đang làm gì với những ứng dụng đó, và liệu đó có rủi ro không?

Thứ hai là kiểm soát. Bộ phận pháp lý của bạn đã xây dựng một chính sách sử dụng chấp nhận được toàn diện cho AI, một chính sách đảm bảo an toàn dữ liệu khách hàng, dữ liệu công dân, tài sản trí tuệ, cũng như an toàn cho nhân viên. Làm thế nào bạn sẽ thực hiện chính sách này? Có phải trong sản phẩm bảo mật điểm cuối của bạn không? Trong tường lửa của bạn? Trong VPN của bạn? Trong đám mây của bạn? Nếu tất cả đều đến từ các nhà cung cấp khác nhau? Vì vậy, bạn cần một cách để định nghĩa và thực thi chính sách sử dụng chấp nhận được nhất quán trên các mô hình AI, ứng dụng, đám mây và sản phẩm bảo mật.

Làm thế nào WitnessAI giải quyết các lo ngại xung quanh việc jailbreak LLM và tấn công tiêm lệnh?

Chúng tôi có một đội nghiên cứu AI chuyên sâu – thực sự sắc sảo. Sớm, họ đã xây dựng một hệ thống để tạo dữ liệu tấn công tổng hợp, ngoài việc thu thập các tập dữ liệu đào tạo có sẵn rộng rãi. Kết quả là, chúng tôi đã đánh giá khả năng tiêm lệnh của mình so với mọi thứ có sẵn và chúng tôi đạt hiệu quả hơn 99% và thường xuyên bắt được các cuộc tấn công mà chính các mô hình bỏ lỡ.

Mục tiêu dài hạn của bạn cho WitnessAI là gì, và bạn nhìn thấy quản trị AI sẽ phát triển như thế nào trong năm năm tới?

Cho đến nay, chúng tôi chỉ nói về mô hình ứng dụng trò chuyện với người dùng. Giai đoạn tiếp theo của chúng tôi sẽ là xử lý ứng dụng với ứng dụng, tức là AI đại lý. Chúng tôi đã thiết kế các API trong nền tảng của mình để hoạt động tốt như nhau với cả đại lý và con người. Ngoài ra, chúng tôi tin rằng chúng tôi đã xây dựng một cách mới để có được khả năng hiển thị và kiểm soát chính sách cấp mạng trong thời đại AI, và chúng tôi sẽ phát triển công ty với tầm nhìn đó.

Cảm ơn bạn vì cuộc phỏng vấn tuyệt vời, độc giả muốn tìm hiểu thêm có thể truy cập WitnessAI.