Nati Hazut, Bold Security의 CEO 겸 공동 창립자 – 인터뷰 시리즈

Nati Hazut는 Bold Security의 CEO 겸 공동 창립자입니다. 그는 이전에 SAM Seamless Network와 Polyrize를 공동 창립했으며, 커넥티드 기기 보안, 신원 확인, 클라우드 권한 관리, 데이터 보호 분야에서 경험을 쌓았습니다. Bold에서의 그의 업무는 이러한 경험을 바탕으로 직원, AI 에이전트, 민감한 기업 데이터 간의 상호작용을 보호하는 데 초점을 맞춥니다.

Bold Security는 기기에서 직접 실행되는 소형 언어 모델을 활용해 민감한 정보를 분류하고 그 정보가 어떻게 사용되는지 파악하는 엔드포인트 데이터 보호 기술을 개발합니다. 이 플랫폼은 보안팀이 브라우저, 데스크톱 애플리케이션, AI 에이전트 전반에서 사용자에게 안전한 사용법을 안내하고, 활동을 다른 곳으로 유도하거나, 위험한 행동을 차단할 수 있도록 합니다. 이 인터뷰에서 Hazut는 섀도 AI, 온디바이스 인텔리전스, 자율 에이전트, 그리고 기업 데이터의 보안 경계가 어떻게 변화하고 있는지 이야기합니다.

이전에 SAM Seamless Network와 Polyrize를 공동 창립하셨고, 이후 Hadar Krasner 및 Omri Mallis와 함께 Bold Security를 시작하셨습니다. 기업 보안과 AI 분야에서 어떤 변화가 일어나고 있다고 보셨기에, 보안 회사를 처음부터 새로 만들어야 한다고 확신하셨나요?

AI가 가져온 가장 큰 변화는 업무가 이루어지는 장소를 바꿔 놓았다는 점입니다. 수십 년 동안 사람들이 회사 데이터를 다루며 수행한 가장 민감한 업무는 브라우저와 SaaS 애플리케이션에서 이루어졌고, 보안 체계도 바로 그곳에 초점을 맞췄습니다. 이제는 더 많은 업무가 기기 자체에서 이루어집니다. 데스크톱 AI 어시스턴트에서 문서를 작성하고, 네이티브 앱에 소스 코드를 붙여 넣으며, 노트북에서 파일과 애플리케이션, 회사 시스템에 직접 접근하는 에이전트를 실행합니다.

이러한 변화는 대부분의 보안 제품이 기반으로 삼았던 전제를 무너뜨렸습니다. 네트워크 검사는 해당 경로를 거치는 트래픽만 볼 수 있으며, 데스크톱 애플리케이션은 트래픽을 암호화해 프록시를 우회합니다. CASB는 승인된 클라우드 앱을 봅니다. DSPM은 클라우드 저장소에 있는 데이터를 봅니다. 이들 가운데 어느 것도 로컬 파일이 데스크톱 AI 앱으로 들어가는 상황이나, 키보드 앞에 사람이 없어도 에이전트가 데이터를 옮기는 상황을 볼 수 없습니다.

모든 요소가 한데 모이는 곳은 엔드포인트이기 때문에 Bold를 시작했습니다. 데이터와 그 데이터에 접근하는 직원 또는 에이전트, 이들이 하려는 일, 정보가 향하는 곳을 모두 확인할 수 있습니다. 또한 민감한 데이터가 회사의 통제를 벗어나기 전에 조치를 취할 수 있습니다.

섀도 AI에는 직원이 개인 ChatGPT 계정을 사용하는 경우부터 데스크톱 애플리케이션, 브라우저 확장 프로그램, API, 모델 컨텍스트 프로토콜 연결, 그리고 점점 더 자율화되는 에이전트까지 다양한 형태가 있습니다. 오늘날 기업 보안팀이 탐지하고 통제하기 가장 어려워하는 섀도 AI는 어떤 유형인가요?

1년 전만 해도 모두가 ‘섀도 AI’를 우려했지만, 논의는 점점 더 깊어지고 있습니다. 기업 보안팀은 직원들이 어느 때보다 빠르게 새로운 AI 도구를 도입하고 있다는 사실을 받아들이고 있습니다. 따라서 이제 중요한 질문은 도구 목록을 파악하는 것보다 그 도구를 통해 오가는 데이터를 통제하는 일에 가깝습니다.

물론 볼 수 없는 것은 통제할 수 없습니다. 특히 감시 대상인 네트워크 경로를 전혀 거치지 않는 채널은 파악하기가 가장 어렵습니다. 데스크톱 애플리케이션은 기기에서 직접 파일을 읽고 트래픽을 암호화하므로, 이를 검사하도록 설계된 도구를 거치는 데이터가 없습니다. 에이전트는 회사 정보에 접근할 수 있으며, 직원이 매번 정보를 건네지 않아도 계속해서 이를 사용합니다.

이 모든 것이 새로운 데이터 유출 경로이며, 그 경로를 통해 무엇이 이동하는지가 핵심입니다. 공개 문서를 승인된 회사 계정에 넣는 일은 고객 데이터베이스나 독점 소스 코드를 개인 계정에 넣는 일과 같지 않습니다. 이러한 차이는 데이터가 있는 곳과 행동이 이루어지는 곳에서만 확인할 수 있습니다. 따라서 보이지 않는 섀도 AI는 데이터와 관련된 문제가 가장 중요한 영역이기도 합니다.

Bold는 네트워크나 클라우드 모니터링에 주로 의존하는 대신 기기에서 AI를 실행하는 엔드포인트 우선 접근 방식을 취합니다. 온디바이스 모델은 기존 데이터 손실 방지 기술로는 파악할 수 없는 AI 상호작용의 어떤 측면을 이해할 수 있나요?

Bold는 두 가지 면에서 다릅니다. 첫째, 민감한 데이터를 다른 AI 서비스로 보내 분석하지 않고도 AI를 활용해 해당 데이터를 보호합니다. 소형 언어 모델은 기기에서 직접 실행되므로 어떤 데이터가 민감한지, 누가 데이터에 접근하는지, 데이터가 어디로 향하는지 파악할 수 있습니다. 따라서 모든 데이터를 클라우드로 보내는 데 따른 지연과 비용 없이 위험한 행동을 실시간으로 식별하고 차단할 수 있습니다.

둘째, 기존 보안 도구가 모니터링하는 채널을 넘어섭니다. 시장의 대부분은 여전히 브라우저와 네트워크 트래픽에 초점을 맞추고 있지만, 민감한 데이터는 점점 더 데스크톱 AI 애플리케이션, 코딩 도구, 터미널, 자율 에이전트를 통해 이동하고 있습니다. 이러한 경로는 기존 DLP와 클라우드 보안 제품으로 감시하기가 훨씬 어렵습니다.

엔드포인트에서 작동함으로써 이러한 모든 환경에서 데이터를 보호하고, 민감한 정보가 회사의 통제를 벗어나기 전에 개입할 수 있습니다.

귀사의 기술은 어떤 데이터에 접근하는지뿐 아니라 행동의 맥락과 의도까지 파악하도록 설계되었습니다. 과도한 오탐을 일으키지 않으면서 민감한 정보를 정당하게 사용하는 경우와 실제 보안 위험에 해당하는 행동을 어떻게 구분하시나요?

여기서는 맥락이 전부입니다. 파일을 업로드하거나 에이전트가 데이터에 접근할 때마다 보안 사고로 취급해서는 안 됩니다. 그러면 아무도 일을 제대로 할 수 없게 됩니다.

같은 파일이라도 어떤 곳에서는 일상적인 자료지만, 다른 곳에서는 심각한 문제가 될 수 있습니다. 고객 목록은 지원 도구 안에 있는 것이 당연하지만, 개인 계정에 업로드하면 실제 문제가 됩니다. 소스 코드는 저장소에 있어야지, 일반 소비자용 AI 도구에 입력해서는 안 됩니다.

콘텐츠가 규칙에 해당하는지만 아는 도구는 두 경우를 모두 경고하거나 어느 쪽도 경고하지 않을 수밖에 없습니다. 여기서 오탐이 발생합니다. 데이터가 무엇인지, 누가 데이터를 옮기는지, 어디로 보내는지 파악해야 정상적인 AI 사용과 실제 위험을 구분할 수 있습니다.

소프트웨어가 파일에 접근하고, 도구를 호출하고, MCP 서버를 통해 연결하고, 사람의 개입을 최소화한 채 작업을 수행하는 일이 점점 늘면서 AI 에이전트는 기존과 다른 보안 모델을 요구합니다. 민감한 기업 데이터와 상호작용하는 주체가 직원이 아니라 자율 에이전트일 수 있는 상황에서 엔드포인트 보안은 어떻게 발전해야 할까요?

보안은 대체로 사람을 중심으로 구축되어 왔지만, 이제 에이전트는 모든 단계를 승인받지 않고도 기계의 속도로 파일을 열고, 도구를 호출하고, 데이터를 옮길 수 있습니다. 보안도 그와 같은 속도로 작동해야 합니다. 많은 제품은 AI를 사용해 사고가 발생한 뒤 이를 분석합니다. 우리는 AI를 활용해 브라우저 밖에서 발생하는 행위를 포함해 위험한 행동을 실시간으로 파악하고 차단합니다.

에이전트는 작업을 수행하는 과정에서 데스크톱 애플리케이션이나 터미널을 이용할 수도 있고, 새로 발견한 다른 도구를 사용할 수도 있습니다. 보안은 사람이든 에이전트든 누가 책임이 있는지와 관계없이, 이러한 환경 전반에서 데이터와 행동을 추적해야 합니다.

이로 인해 보안팀이 이전에는 고려할 필요가 없었던 질문도 생깁니다. 위험한 일이 발생했을 때, 그 행동은 사람이 의도한 것이었을까요, 아니면 에이전트가 잘못 처리한 것이었을까요? 두 경우에는 서로 다른 대응이 필요합니다. 직원이 잘못된 판단을 했다면 지도해야 합니다. 에이전트가 누구도 요청하지 않은 일을 하고 있다면 중단시켜야 합니다.

엔드포인트에서는 데이터와 프로세스, 행동이 한곳에 함께 나타나므로 그 차이를 파악할 수 있습니다.

많은 기업이 생성형 AI의 위험에 대응해 특정 도구를 제한하거나 금지해 왔습니다. 데이터 접근 범위와 데이터가 이동할 수 있는 곳을 통제할 수 있다면 사실상 어떤 AI 도구든 허용하는 방향으로 조직이 나아가고 있다고 보시나요?

무조건 금지하는 방식으로는 이 문제를 해결할 수 없습니다. 직원들은 몇 초 만에 새로운 AI 도구를 찾아 사용하기 시작할 수 있으며, 대부분은 보안을 우회하려는 것이 아닙니다. 업무를 더 빠르게 처리하려는 것입니다.

더 중요한 질문은 직원들이 그런 도구를 사용할 때 회사 데이터가 어떻게 되는가입니다.

누군가 개인 AI 계정으로 별다른 위험이 없는 업무를 하고 있다면 기업용 계정을 안내해 주면 될 수도 있습니다. 하지만 회사에서 허용하지 않는 곳으로 소스 코드나 고객 정보, 인증 정보를 보내려 한다면 보안팀이 개입해야 합니다.

저는 앞으로 이런 방향으로 나아갈 것이라고 생각합니다. 사람들이 AI를 사용할 수 있도록 여지를 주되, 데이터에는 통제를 적용하는 것입니다. 어떤 데이터에 접근하는지, 어디로 보내는지, 언제 개입해야 하는지 파악해야 합니다.

AI를 로컬에서 실행하면 지연 시간과 개인정보 보호 측면에서 이점이 있을 수 있지만, 엔드포인트 기기의 컴퓨팅 성능과 메모리는 제한적입니다. 직원 기기에서 직접 의미 기반 데이터 분류와 실시간 정책 적용이 가능한 모델을 구축할 때 어떤 기술적 절충점을 고려하셨나요?

누군가의 노트북에 거대한 모델을 설치해 CPU와 메모리를 모두 소모하게 한 다음, 이를 보안이라고 부를 수는 없습니다. 보안 제품 때문에 컴퓨터를 쓰기 힘들어지면 직원들은 싫어할 것이고 IT 부서는 제품을 꺼 버릴 것입니다.

따라서 현실적인 절충이 필요합니다. 모델은 무해한 데이터와 민감한 데이터를 구분할 만큼 데이터를 충분히 이해해야 하지만, 동시에 백그라운드에서 지속적으로 실행할 수 있을 만큼 빠르고 작으며 안정적이어야 합니다.

초기에는 컴퓨터 속도를 늦추지 않으면서 다양한 유형의 컴퓨터에서 유용한 분류 결과를 제공하는 모델을 구축하는 데 주력했습니다. 이 엔지니어링 작업은 이미 마쳤기 때문에 고객이 직접 그런 절충을 감수할 필요는 없습니다.

개발 전반에 걸쳐 사용자 경험을 최우선으로 삼았습니다. 저희 제품은 기존 경쟁사의 비AI 에이전트가 사용하는 컴퓨팅 리소스의 약 20%만 사용하면서, 행동이 발생하는 즉시 로컬에서 판단을 내립니다. 민감한 데이터인지 판단하기 위해 민감한 데이터를 기기 밖으로 보낼 필요가 없습니다.

Bold는 AI 도구와 계정, 에이전트 활동을 식별하고, 위험한 행동을 안내하거나 다른 방향으로 유도하거나 차단할 수 있습니다. 시스템이 사용자에게 경고만 해야 할 때와 행동을 자동으로 중단해야 할 때는 어떻게 판단하나요?

좋은 동료라면 어떻게 대응할지 생각해 보세요. 개인 ChatGPT에 초안을 붙여넣으려 한다면 옆에 다가와 “저기, 그럴 때 쓸 수 있는 회사 계정이 있어요”라고 말할 겁니다. 고객 데이터베이스를 개인용 Drive에 업로드하려 한다면 팔을 붙잡겠죠.

저희도 같은 방식으로 대응하며, 코칭을 통해 사용자가 안전한 대안으로 전환하도록 유도하는 효과가 최소 90%에 달한다는 것을 확인했습니다. 대부분은 실수로 잘못된 계정에 로그인한 경우이거나, 데이터를 어디에 둘 수 있는지에 관한 회사 정책을 모르는 경우입니다.

차단 여부는 궁극적으로 고객이 결정하며, 그 기준은 회사마다 다릅니다. 저희의 역할은 고객이 올바른 결정을 내릴 수 있도록 상황을 이해하는 데 필요한 맥락과 확신을 제공하는 것입니다. 더 복잡하고 위험한 흐름의 경우, 앞서 이야기한 맥락을 사용자의 과거 기록은 물론 동료 집단의 기록과 비교해 판단하게 됩니다.

경력 초기에 SAM에서 연결 기기를 보호했고, 이후 Polyrize에서 ID와 클라우드 권한을 다뤘으며, 지금은 Bold에서 사람과 AI 에이전트, 기업 데이터 간의 상호작용을 보호하고 있습니다. 이 세 세대의 사이버 보안을 거치며 보안의 근본적인 경계에 대한 관점은 어떻게 달라졌나요?

보안의 기본 원칙에 대한 제 관점은 더욱 명확해졌습니다. 공통된 핵심은 실제 행동이 일어나는 곳 가까이에서 보안을 구현하고, 대규모 환경에서도 작동하게 하는 것입니다.

SAM에서는 자원이 매우 제한된 라우터에 엔터프라이즈급 보안을 구현했습니다. 이를 통해 고급 기술을 엣지에 효율적으로 적용하는 방법을 배웠습니다. Polyrize에서는 가시성과 보안 태세 관리를 통해 클라우드 및 SaaS 환경 전반의 데이터를 보호하는 데 주력했습니다. 노출된 위험을 파악하는 것은 필수적이지만, 그렇다고 해서 위험한 행동을 반드시 막을 수 있는 것은 아닙니다.

Bold는 이러한 교훈을 하나로 모았습니다. 사람과 AI 에이전트가 데이터와 상호작용하는 엔드포인트에 인텔리전스를 적용하고, 보안팀이 위험을 파악해 실시간으로 개입할 수 있도록 필요한 맥락을 제공합니다.

네트워크 보안과 클라우드 보안은 여전히 중요하지만, 엔드포인트에서는 데스크톱 애플리케이션, 로컬 파일, 개인 계정, 기기에서 실행되는 에이전트를 통해 이뤄지는 활동을 확인할 수 있습니다. 보안이 어디서, 언제 작동하는지는 보안이 얼마나 지능적인지만큼 중요하다는 점을 깨달았습니다.

3~5년 후를 내다볼 때, 직원들이 점점 더 자율적으로 작동하는 AI 에이전트와 함께 일하게 되면 엔터프라이즈 엔드포인트는 어떤 모습으로 변할 것으로 보시나요? 모든 기기에 자체적으로 지능형 보안 계층이 탑재되어, 어떤 사람과 에이전트가 특정 데이터와 상호작용할 수 있는지를 지속적으로 판단하는 단계에 이를 수 있을까요?

바로 그런 방향으로 나아가고 있다고 생각합니다.

엔드포인트는 기기에 있는 데이터를 파악하고, 사람이나 에이전트 중 누가 데이터와 상호작용하는지 알아내며, 무엇을 허용하고 허용하지 않을지 로컬에서 결정하는 지능형 보안 계층이 됩니다.

에이전트의 자율성이 높아질수록 이는 더욱 중요해집니다. 한 사람이 여러 에이전트를 동시에 활용해 파일과 애플리케이션, 회사 시스템 전반에서 다양한 작업을 처리하게 될 수 있습니다. 사용자는 점점 더 모든 단계를 지켜보지 않게 될 것이므로, 보안이 매 단계마다 사용자의 승인을 받는 데 의존할 수는 없습니다.

데이터는 계속 보호해야 하지만, 데이터에 접근하는 주체의 수는 키보드 앞에 앉은 한 사람을 훨씬 넘어설 것입니다. 보안 시스템은 에이전트와 통신하고, 판단을 내리며, 작업이 진행되는 동안 자율적으로 대응해야 합니다. 이러한 시스템을 운영하는 사람들은 개별 이벤트를 하나하나 검토하기보다 통제와 판단을 감독하는 역할을 점점 더 많이 맡게 될 것입니다. 데이터가 여전히 회사의 통제 아래 있을 때 그런 판단을 내릴 수 있는 곳이 바로 엔드포인트입니다.

훌륭한 인터뷰에 감사드립니다. 엔드포인트 데이터 보호와 안전한 엔터프라이즈 AI 도입에 대해 더 알아보고 싶은 독자는 Bold Security를 방문해 보시기 바랍니다.