WitnessAI의 CEO 및 공동 창립자 Rick Caccia – 인터뷰 시리즈

Rick Caccia, WitnessAI의 CEO 및 공동 창립자는 보안 및 컴플라이언스 제품을 출시하는 분야에서 광범위한 경험을 가지고 있습니다. 그는 Palo Alto Networks (PANW ), Google (GOOGL ), Symantec에서 제품 및 마케팅 분야의 리더십 역할을 수행했습니다. Caccia는 ArcSight에서 제품 마케팅을 이끌었으며 이후 공공 회사로서의 운영과 Exabeam의 첫 번째 마케팅 책임자로 활동했습니다. 그는 캘리포니아 대학교 버클리에서 여러 학위를 가지고 있습니다.

WitnessAI는 기업에서 AI를 안전하게 사용할 수 있도록 보안 플랫폼을 개발 중입니다. 주요 기술적 변화를 거치면서 새로운 보안 문제가 발생하고, 산업을 이끌어갈 리더가 나타나는 기회가 생깁니다. AI는 이러한 진화의 다음 전선입니다.

이 회사는 기계 학습, 사이버 보안, 대규모 클라우드 운영 분야의 전문 지식을 결합하여 AI 보안 분야의 리더가 되고자 합니다. 팀은 AI 개발, 역공학, 멀티 클라우드 쿠버네티스 배포 분야에서 깊은 경험을 가지고 있으며, AI 주도 기술의 보안을 위한 중요한 문제를 해결하고 있습니다.

WitnessAI를 공동 창립하게 된 영감과 AI 거버넌스 및 보안의 핵심 도전 과제는 무엇입니까? 

우리가 회사를 처음 시작했을 때, 우리는 보안 팀이 내부 AI 모델에 대한 공격에 대해 우려할 것으로 생각했습니다. 그러나 처음 15명의 CISO와의 대화에서, 그들은 우리가 예상한 것과 반대로, 기업 내부의 광범위한 LLM 론칭은 아직 멀었으며, 급한 문제는 직원이 다른 사람의 AI 앱을 사용할 때 안전을 지키는 것이었다고 했습니다. 우리는 한 걸음 물러나서, 문제가 사이버 공격을 방어하는 것이 아니라, 기업이 생산적으로 AI를 사용할 수 있도록 안전하게 사용할 수 있도록 하는 것이었다는 것을 보았습니다. 거버넌스는 사이버 공격만큼 매력적이지 않을 수 있지만, 실제로 보안 및 개인 정보 보호 팀이 필요한 것입니다. 그들은 직원이 第三자 AI 앱을 사용하는 것을 볼 수 있는 방법, 수용 가능한 사용 정책을 구현하는 방법, 데이터를 보호하면서도 데이터 사용을 차단하지 않는 방법이 필요했습니다. 그래서 우리는 그것을 구축했습니다.

구글 클라우드, Palo Alto Networks, 기타 사이버 보안 회사에서您的 광범위한 경험은 WitnessAI를 구축하는 데 어떻게 영향을 주었나요? 

저는 많은 CISO와의 대화를 나눴습니다. 오늘날 저에게 가장 자주 들리는 말 중 하나는, “저는 AI에 대해 ‘아니오’라고 말하고 싶지 않습니다. 저희 직원이 더 잘할 수 있도록 도와주고 싶습니다.”라고 합니다. 저는 오랫동안 사이버 보안 벤더와 일해왔으며, 이것은 매우 다른 발언입니다. 이것은 더 도트컴 시대, 웹이 새로운 변革적 기술이었을 때와 비슷합니다. WitnessAI를 구축할 때, 우리는 고객이 안전하게 AI를 채택할 수 있도록 도와주는 제품 기능으로 시작했습니다. 우리의 메시지는, 이것이 마법과 같은 것이며, 물론 모두가 이 마법을 경험하고 싶어한다는 것입니다. 저는 사이버 보안 회사들이 두려움의 카드를 너무 빠르게 사용한다고 생각합니다. 우리는 다르게 하고 싶었습니다.

WitnessAI는 현재 시장에서 다른 AI 거버넌스 및 보안 플랫폼과 어떻게 다른가요? 

첫째, 대부분의 다른 벤더는 보안 부분에만 집중하고 있으며, 거버넌스 부분에는 집중하지 않고 있습니다. 저에게 거버넌스는 자동차의 브레이크와 같습니다. 만약真的 빠르게 가고 싶다면, 강력한 엔진과 함께 효과적인 브레이크가 필요합니다. 아무도 브레이크가 없는 페라리를 빠르게 운전하지 않습니다. 이 경우, 회사가 AI를 사용하는 것은 페라리이며, WitnessAI는 브레이크와 스티어링 휠입니다.

반면에, 대부분의 경쟁자는 기업의 AI 모델에 대한 이론적인 공격에만 집중하고 있으며, 직원이 이미 인터넷에 있는 5,000개 이상의 AI 앱을 사용하는 것을 볼 수 있는 방법, 직원이 이러한 앱을 사용하는 것을 제어하는 방법에 대해서는 고려하지 않고 있습니다. 이것은 실제 문제이지만, 거버넌스와 리스크 관리를 효과적으로 추가하는 것은 AI 방화벽 벤더보다 쉽습니다.

WitnessAI는 어떻게 AI 혁신과 기업 보안 및 컴플라이언스를 균형 있게 유지합니까? 

저는 이전에 썼던 것처럼, 우리는 AI가 마법과 같은 것이어야 한다고 생각합니다. 이것은 당신이 놀라운 일을 할 수 있도록 도와줄 수 있습니다. 이 생각을 염두에 두고, 우리는 AI 혁신과 보안이 연결되어 있다고 생각합니다. 만약 직원이 AI를 안전하게 사용할 수 있다면, 그들은 자주 사용할 것이며,你们 회사는 앞서갈 것입니다. 만약你们가 일반적인 보안 마인드로 이것을 잠그면, 경쟁자는 그렇게 하지 않을 것이며, 그들은 앞서갈 것입니다. 우리는 모두 AI를 안전하게 채택하는 것을 도와주는 것에 대해 집중하고 있습니다. 한 고객이 저에게 말했습니다. “이것은 마법과 같은 것입니다. 그러나 대부분의 벤더는 이것을 두려운 것으로 취급합니다.” WitnessAI에서는 마법을 가능하게 하는 것을 도와주고 있습니다.

WitnessAI의 AI 거버넌스 철학은 무엇입니까? AI 보안을 제한이 아닌 가능성으로 보는가요? 

우리는 정기적으로 이벤트에서 CISO와의 대화를 나눕니다. 그들은 우리의 경쟁자가 모두 AI가 얼마나 두려운지에 대해 말하고 있는 반면, 우리는 실제로 어떻게 사용할 수 있는지에 대해 말하고 있다고 합니다. 구글의 Sundar Pichai는 “AI는 불과 같은 것입니다”라고 했습니다. 불은 매우 파괴적일 수 있지만, 통제된 불은 강철을 만들 수 있으며, 이는 혁신을 가속화합니다. 때때로 우리는 WitnessAI에서 고객이 안전하게 AI “불”을 사용하여 강철과 같은 것을 만들 수 있도록 도와주는 것을 말합니다.

기업에서 AI를 배포할 때 직면하는 가장 큰 위험은 무엇이며, WitnessAI는 어떻게 이러한 위험을 완화합니까? 

첫째, 가시성입니다. 많은 사람이 놀라는 것은, AI 애플리케이션 유니버스가 ChatGPT와 DeepSeek만이 아니라는 것입니다. 인터넷에는 실제로 수천 개의 AI 앱이 있으며, 기업은 직원이 이러한 앱을 사용함으로써 위험을 감당합니다. 첫 번째 단계는 가시성을 얻는 것입니다. 즉, 직원이 어떤 AI 앱을 사용하고 있는지, 무엇을 하고 있는지, 그리고 그것이 위험한지 여부를 알 수 있습니다.

둘째, 제어입니다. 법률 팀은 고객 데이터, 시민 데이터, 지적 재산권, 그리고 직원 안전을 보장하는 AI에 대한 포괄적인 사용 정책을 수립했습니다. 어떻게 이 정책을 시행할 수 있습니까? 엔드포인트 보안 제품, 방화벽, VPN, 클라우드에서 어떻게 정책을 시행할 수 있습니까? 다른 벤더의 제품일 경우 어떻게 정책을 시행할 수 있습니까? 따라서, AI 모델, 앱, 클라우드, 보안 제품에 걸쳐 일관된 정책을 정의하고 시행할 수 있는 방법이 필요합니다.

셋째, 자체 앱의 보호입니다. 2025년에는 기업 내부에서 LLM을 더 빠르게 채택할 것입니다. 그리고 이후에 LLM을 기반으로 하는 채팅 앱을 더 빠르게 론칭할 것입니다. 따라서, 기업은 앱이 보호되고, 또한 앱이 “愚かな”ことを 말하지 않도록 해야 합니다.

우리는 모두를 해결합니다. 우리는 직원이 액세스하는 앱을 식별하고, 어떻게 사용하는지, 그리고 그것이 위험한지 여부를 알려줍니다. 또한, 정책을 정의하고 시행하는 효과적인 도구를 제공합니다.

WitnessAI의 AI 관찰 가능성 기능은 어떻게 회사에서 직원의 AI 사용을 추적하고 “숨은 AI” 위험을 방지하는 데 도움이 됩니까? 

WitnessAI는 네트워크에 쉽게 연결되고, 직원이 액세스하는 모든 AI 앱(인터넷에는 실제로 수천 개의 앱이 있음)의 카탈로그를默認적으로 구축합니다. 우리는 이러한 앱이 어디에 위치하고, 데이터를 어디에 호스팅하는지 등을 알려줍니다. 따라서, 이러한 앱이 얼마나 위험한지 이해할 수 있습니다. 우리는 대화 가시성을 켤 수 있습니다. 즉, 우리는 패킷 검사로 프롬프트와 응답을 관찰합니다. 우리는 프롬프트를 위험과 의도에 따라 분류할 수 있습니다. 의도는 “코드 작성” 또는 “기업 계약 작성”과 같은 것입니다. 이것은 중요한 것입니다. 우리는 이후에 의도 기반 정책 제어를 작성할 수 있도록 합니다.

AI 정책 시행은 기업의 AI 컴플라이언스를 보장하는 데 어떤 역할을 합니까? 그리고 WitnessAI는 이 과정을 어떻게 간소화합니까? 

컴플라이언스는 규정 또는 정책을 준수하는 것을 의미하며, 두 가지 부분이 있습니다. 첫째, 문제가 있는 활동을 식별해야 합니다. 예를 들어, 고객 데이터를 사용하는 방법이 데이터 보호 법에 위배될 수 있는지 여부를 알아야 합니다. 우리는 우리의 관찰 가능성 플랫폼을 통해 이를 수행합니다. 둘째, 이러한 활동에 대한 정책을 정의하고 시행해야 합니다. 고객 데이터가泄露되는 것을 방지하고 싶습니다. 따라서, 우리는 데이터를 보호하고, 유해하거나 불법적인 응답을 방지하는 등 AI 전용 정책 엔진인 Witness/CONTROL을 구축했습니다. 예를 들어, “법률 부서만 ChatGPT를 사용하여 기업 계약을 작성할 수 있으며, 그렇게 할 경우 자동으로 개인 정보를 삭제”하는 정책을 작성할 수 있습니다. 쉽게 말해서, 쉽게 구현할 수 있습니다.

WitnessAI는 LLM 탈옥과 프롬프트 주입 공격에 대한 우려를 어떻게 해결합니까? 

우리는 매우 유능한 AI 연구 팀을 가지고 있습니다. 초기에, 우리는 합성 공격 데이터를 생성하는 시스템을 구축했습니다. 또한, 우리는 공개적으로 사용 가능한 훈련 데이터 세트를 가져왔습니다. 따라서, 우리는 우리의 프롬프트 주입 공격을 벤치마크하고, 99% 이상의 효과를 보이고 있으며, 모델 자체가 놓치는 공격을 정기적으로 잡을 수 있습니다.

실제로, 대부분의 회사에서 시작하기를 원하는 것은 직원 앱 거버넌스이며, 이후에 내부 데이터를 기반으로 하는 AI 고객 앱을 론칭합니다. 따라서, WitnessAI를 사용하여 사람들을 보호하고, 이후에 프롬프트 주입 방화벽을 켤 수 있습니다. 하나의 시스템, 일관된 정책 구축 방법, 쉽게 확장할 수 있습니다.

WitnessAI의 장기적인 목표는 무엇이며, 향후 5년 동안 AI 거버넌스가 어떻게 진화할 것으로 보십니까? 

지금까지 우리는 사람과 채팅 앱 모델에 대해서만 이야기했습니다. 우리의 다음 단계는 앱과 앱을 다루는 것입니다. 즉, 에이전트 AI입니다. 우리는 우리의 플랫폼의 API를 에이전트와 인간이 모두 잘 작동하도록 설계했습니다. 그 이상으로, 우리는 AI 시대에 네트워크 수준의 가시성과 정책 제어를 얻는 새로운 방법을 구축했다고 믿으며, 이를 염두에 두고 회사를 성장시킬 것입니다.

이번 인터뷰에 감사드립니다. 더 많은 정보를 원하는 독자는 WitnessAI를 방문하십시오.