인터뷰

Ocean Security의 공동 창립자 겸 CTO 오란 모얄 – 인터뷰 시리즈

Antoine Tardif
Unite.AI를 Google의 선호 소스에 추가
Oran Moyal, Co-Founder and CTO of Ocean Security
핵심 포인트AI 네이티브 상태는 모든 팀이 업무를 처리하는 방식을 바꾸기 때문에 기술적인 것이 아니라 조직적인 것이다.
더 보기
  • AI 네이티브 상태는 모든 팀이 업무를 처리하는 방식을 바꾸기 때문에 기술적인 것이 아니라 조직적인 것이다.
  • 개별 작업의 속도를 높이는 것은 단계 사이의 인계와 승인이 여전히 실제 병목으로 남아 있을 때 실패한다.
  • 에이전트는 지시만으로는 보안 통제가 되지 않기 때문에 강제된 권한과 독립적인 검증이 필요하다.

Oran Moyal은 Ocean Security의 공동 창립자 겸 CTO로, 정교한 이메일 위협을 조사하는 에이전트형 AI를 개발하고 있습니다. 그는 사이버 보안 연구·개발, 공격적 사회공학, 기업 보안 분야에서 경험을 쌓았습니다. 2024년에는 신뢰받는 커뮤니케이션을 공격자가 어떻게 악용하는지, 그리고 보안 시스템이 점점 더 표적화되는 위협에 어떻게 대응할 수 있는지를 분석해 온 경험을 바탕으로 Shay Shwartz와 함께 Ocean을 공동 창립했습니다.

Ocean Security는 표적형 피싱, 기업 이메일 침해, 금융 사기를 조사하도록 설계된 에이전트형 이메일 보안 플랫폼을 개발합니다. 이 플랫폼의 전문 AI 에이전트는 커뮤니케이션 맥락과 발신자의 의도를 분석해, 겉보기에는 정상적인 업무상 대화에 숨어 있는 위협을 보안팀이 식별하도록 돕습니다. 이번 인터뷰에서 모얄은 조직이 AI 네이티브가 된다는 것의 의미, 에이전트를 중심으로 업무 흐름을 재설계하는 방법, 그리고 효과적인 자동화를 위해 명확한 요구사항, 독립적인 검증, 엄격한 권한 적용, 인간의 판단이 여전히 핵심인 이유를 이야기합니다.

2024년 Ocean을 공동 창립하기 전, 이스라엘 방위군과 VisibleRisk / Microsoft Security에서 근무하는 등 수년간 사이버 보안 연구·개발 분야에서 일하셨습니다. 어떤 경험을 통해 Ocean을 시작하게 되었으며, 처음부터 회사를 구상하는 과정에서 AI의 등장이 비전에 어떤 영향을 주었나요?

과거에는 표적형 스피어 피싱 캠페인 하나를 준비하는 데 전담팀과 수주간의 수작업 조사 및 준비가 필요했습니다. 생성형 AI가 등장하자 모든 기업의 모든 직원이 이제 국가 단위의 공격에 버금가는 파괴적인 피싱 공격에 노출된다는 사실을 깨달았습니다. 하룻밤 사이에 20달러짜리 구독만으로 모든 공격자가 국가 단위 공격 역량을 갖게 됐습니다.

셰이와 저는 공격자 측에서 사회공학을 깊이 경험했고, 둘 다 기업 보안 회사를 세워 성장시켜 본 적이 있었기에 기존 도구로는 이런 위협을 따라잡을 수 없다는 것을 알고 있었습니다. 기존 도구는 규칙 위반과 이상 징후를 찾지만, 이런 공격은 실제 이메일 대화, 신뢰받는 계정, 정상적인 서비스를 이용한 일상적인 업무 커뮤니케이션 안에 숨어 있습니다. 이상해 보이는 점이 전혀 없습니다. 그래서 2024년, 침해가 발생하기 전에 인간 조사관처럼 실시간으로 맥락과 발신자의 의도를 분석하는 AI 기반 이메일 보안을 통해 기업이 이러한 새로운 위협에 대응하도록 돕고자 Ocean을 시작했습니다.

많은 조직이 AI 도구를 도입하거나 일부 프로세스를 자동화했다는 이유만으로 자신을 “AI 네이티브”라고 표현합니다. 진정한 AI 네이티브 조직과 기존 운영에 AI를 통합한 조직을 근본적으로 구분하는 요소는 무엇이라고 보시나요?

많은 기업이 AI 도구를 구매했다는 이유로 자신을 AI 네이티브라고 부릅니다. 이는 기술을 도입한 것일 뿐입니다. AI 네이티브가 된다는 것은 회사가 일상 업무를 처리하고 병목 현상을 해결하는 방식을 바꾼다는 뜻입니다.

병목 현상에 리더가 어떻게 대응하는지에서 변화가 시작됩니다. 전통적인 반응은 “시간이 너무 오래 걸리니, 이 일을 맡을 사람을 채용하자”입니다. AI 네이티브 조직은 먼저 “AI를 활용해 이 기능 전체의 속도를 어떻게 높일 수 있을까?”라고 묻습니다. 모든 팀에서 이 질문을 거듭하면 회사 전체의 운영 방식이 달라지기 시작합니다.

진정한 AI 네이티브 전환은 기술이 아니라 조직의 변화입니다. 한 부서의 속도만 높이면 병목 현상은 다음 부서로 옮겨갈 뿐이며, 결국 회사 전체가 가장 느린 기능의 속도에 맞춰 움직이게 됩니다. AI 네이티브 조직은 모든 부서가 함께 변화하므로 정보가 더 빠르게 흐르고, 피드백 주기가 짧아지며, 팀들이 하나의 연결된 시스템처럼 일합니다.

이 모델에서는 사람의 역할과 가치가 달라집니다. AI가 더 많은 일을 맡을수록 명확한 방향을 설정하고, 의도를 정의하며, 판단을 내리는 역량이 더욱 귀해집니다. 사람과 에이전트는 나란히 일합니다. AI가 실행을 더 많이 담당하고, 사람은 무엇을 왜 만들어야 할지 결정합니다.

목표는 모든 팀이 같은 자원으로 더 많은 일을 하고, 더 빠르게 움직이며, 품질을 떨어뜨리지 않으면서 더욱 긴밀하게 협업하도록 하는 것입니다.

AI를 통한 생산성 향상은 기존 업무 흐름이 비효율적이면 금세 사라질 수 있다고 말씀하셨습니다. 기업이 AI의 이점을 온전히 누리지 못하게 하는 가장 흔한 운영상의 병목 현상은 무엇이며, 리더는 업무 흐름을 어떻게 재설계해야 할까요?

개별 작업의 속도를 높인다고 해서 조직 전체의 속도까지 저절로 빨라지는 것은 아닙니다. 프로세스, 상호 의존 관계, 팀 간 커뮤니케이션 방식이 그대로라면 AI가 만들어 낸 생산성 향상의 상당 부분은 그 과정에서 사라집니다.

가장 흔한 병목 현상은 기술적인 문제가 아닙니다. 반복 작업을 초래하는 불명확한 요구사항, 팀 간의 느린 업무 인계, 승인을 기다리며 멈춰 있는 작업이 문제입니다. AI는 각 단계를 빠르게 하지만, 단계 사이에서 시간이 낭비됩니다.

리더는 실제로 시간이 어디에 쓰이는지 측정하는 데서 시작해야 합니다. 진짜 병목 현상은 대개 사람들이 짐작하는 것과 다르기 때문입니다. 그런 다음 개별 작업만 손보지 말고 업무 인계, 정의, 피드백 주기를 개선해 처음부터 끝까지 업무 흐름을 재설계해야 합니다. 마지막으로 모든 AI 활동을 각 팀이 이미 책임지고 있는 핵심성과지표(KPI)와 연결해야 합니다.

무엇보다 중요한 것은 리더가 사고방식을 바꾸는 일입니다. 자동화와 속도 향상을 기본 원칙으로 삼아야 합니다. 기존 프로세스를 당연하게 받아들이기보다, 팀은 일을 처리하는 방식을 계속 되짚고 개선해야 품질을 떨어뜨리지 않으면서 더 빠르게 움직이고 더 큰 성과를 낼 수 있습니다.

AI 에이전트를 업무 흐름에 도입하기 전에 요구사항을 명확히 정의하는 것이 중요하다고 강조하셨습니다. AI 에이전트가 업무의 상당 부분을 수행할 때, 조직은 과업을 정의하고 기대 사항을 전달하며 성공 기준을 수립하는 방식을 어떻게 재고해야 할까요?

AI 에이전트가 업무의 상당 부분을 맡게 되면 조직은 과업을 정의하고 전달하는 방식을 재고해야 합니다. 모호한 요청을 받아도 에이전트는 멈추지 않습니다. 스스로 추측하고, 잘못 추측할 때마다 재작업이 늘어납니다.

저는 이를 세 가지 층위로 생각합니다.

명확한 과업, 목표, 맥락. 에이전트는 무엇을 해야 하는지, 그 일이 왜 중요한지, 주변 맥락은 무엇인지 이해해야 합니다. 작업을 시작하기 전에 불분명한 점을 질문할 수 있어야 합니다. 그래야 중간에 문제를 발견하는 대신 처음부터 부족한 부분을 해소할 수 있습니다.

자체 검증. 성공 기준은 미리 정하되, 에이전트가 스스로 확인할 수 있어야 합니다. 예를 들어 소프트웨어 개발에서는 에이전트가 코드를 실행하고, 의도한 대로 작동하는지 테스트하고, 검토를 받기 전에 테스트를 통과했는지 확인할 수 있어야 합니다.

마지막 단계는 사람의 검토입니다. 사람에게는 에이전트가 합의된 기준에 따라 여러 차례 개선한 결과물을 전달해야 합니다. 사람의 역할은 기본적인 실수를 바로잡는 것이 아니라 판단을 내리는 것입니다.

정의가 명확할수록 결과물 하나에 필요한 사람의 시간은 줄어듭니다.

AI 에이전트가 사람의 검토를 받기 전에 스스로 작업을 검증할 수 있도록 해야 한다고 말씀하셨습니다. 효과적인 AI 기반 검증 절차는 실제로 어떤 모습이며, 자동화된 품질 검사가 작업을 수행하는 과정에서 발생한 것과 똑같은 실수를 되풀이하지 않도록 조직은 어떻게 해야 할까요?

효과적인 검증 절차는 실제 사용 방식에 맞춰 작업 결과를 테스트합니다. 에이전트는 실제 시스템을 처음부터 끝까지 실행하고, 결과가 성공 기준에 부합하는지 확인하며, 사람에게 전달하기 전에 실패한 부분을 수정해야 합니다.

검증 과정에서 에이전트 자신의 실수가 되풀이되지 않도록 하려면 몇 가지 원칙이 중요합니다.

기준과 실행을 분리합니다. 작업을 시작하기 전에 사람이 성공의 기준을 정해야 합니다. 에이전트가 ‘완료’의 의미를 정한다면 자기 과제를 스스로 채점하는 셈입니다.

엄격한 안전장치를 마련합니다. 모든 검사를 에이전트의 판단에 맡겨서는 안 됩니다. 일부 검사는 특정 매개변수와 표준, 정책을 확인하는 고정적이고 결정론적인 테스트여야 합니다. 이런 테스트는 에이전트가 논리로 우회할 수 없는 명확한 경계를 설정합니다.

독립적인 검토자를 둡니다. 새로운 맥락에서 접근하고 원래 방식에 이해관계가 없는 두 번째 에이전트는 첫 번째 에이전트가 놓친 오류를 찾아냅니다.

판정만이 아니라 근거를 제시합니다. 테스트 결과와 스크린샷, 녹화 자료를 통해 사람들은 단순히 ‘통과’라는 표시를 믿는 대신 실제로 어떤 일이 있었는지 확인할 수 있습니다.

그러면 사람의 관심을 위험이 가장 큰 부분에 집중할 수 있습니다. 목표는 사람을 절차에서 배제하는 것이 아닙니다. 기계적인 점검이 아니라 판단이 필요한 일에 사람의 시간을 쓰도록 하는 것입니다.

전통적인 조직에서는 여러 단계의 관리 체계와 승인 절차, 팀 간 업무 인계에 의존하는 경우가 많습니다. AI 중심 운영 모델은 엔지니어링, 제품, 보안, 비즈니스 팀의 협업 방식을 어떻게 바꾸며, 에이전트가 더 많은 실행 업무를 맡게 되면 기존의 역할과 책임은 어떻게 달라질까요?

AI를 활용하면 모든 사람과 모든 팀이 더 많은 일을 해낼 수 있습니다. 하지만 업무 인계와 승인, 조정 방식이 그대로라면 늘어난 산출물은 다음 단계가 진행되기를 기다리며 쌓일 뿐입니다. 조직의 속도는 빨라지지 않습니다. 새로운 병목이 생길 뿐입니다. AI 중심 운영 모델을 구축하려면 각 팀의 업무 방식뿐 아니라 팀 간 협업 방식도 재설계해야 합니다.

먼저 정보가 어떻게 흐르는지부터 살펴봐야 합니다. 더 많은 정보가 자동화를 통해 전달되도록 하고, 회의는 현황 공유가 아니라 의사결정을 위한 시간으로 활용해야 합니다. 현장에서 얻은 인사이트가 제품팀에 직접 전달되면 의사결정이 더 빠르고 정확해지고, 그 결과 요구사항이 더 명확해지고 실행도 개선됩니다.

승인 절차도 같은 방식으로 재고해야 합니다. 조직이 당연하게 여기는 관행을 바꿔야 하므로 가장 어려운 부분이기도 합니다. 승인 절차는 여전히 중요하지만 모든 변경 사항을 똑같이 다뤄서는 안 됩니다. 예를 들어 특정 승인 절차에 위험 평가를 추가하면 위험도가 낮은 업무의 수동 승인을 줄이면서도 중요한 사안에 대해서는 사람의 검토를 유지할 수 있습니다. 이는 통제력을 잃지 않으면서 절차를 더 빠르게 진행하는 한 가지 방법일 뿐입니다.

역할도 재정의되고 있습니다. 에이전트가 더 많은 실행 업무를 맡으면서 사람은 과업 자체를 책임지는 데서 결과를 책임지는 쪽으로 옮겨 갑니다. 사람은 전체 맥락을 이해하고, 가정에 의문을 제기하며, 기존 역할의 경계를 넘어설 수 있어야 합니다. 성공하는 조직은 AI를 가장 많이 도입하는 곳이 아니라 사람들이 함께 일하는 방식을 재설계하는 곳일 것입니다.

Ocean은 정교한 이메일 위협을 조사하기 위해 특화된 AI 에이전트를 활용하고 있습니다. 사이버 보안을 위한 에이전트형 AI를 개발한 경험은 사내 AI 활용 방식에 어떤 영향을 주었나요? 또한 자율 보안 시스템을 구축하면서 얻은 교훈 중 AI 중심 조직을 운영하는 데 적용할 수 있는 것이 있나요?

이메일 보안을 위한 자율 에이전트를 구축한 경험은 두 가지 측면에서 사내 AI 활용 방식을 형성했습니다.

첫 번째 교훈은 에이전트의 성과가 맥락을 얼마나 잘 이해하느냐에 달려 있다는 점입니다. 보안 에이전트는 자신이 보호하는 조직을 이해할 때 더 나은 결정을 내립니다. 조직 내부에서도 마찬가지입니다. 에이전트가 좋은 성과를 내려면 조직이 어떻게 운영되는지, 각 업무의 목적은 무엇인지, 그리고 그 업무가 전체적인 그림과 어떻게 연결되는지 제대로 이해하도록 해야 합니다.

두 번째 교훈은 에이전트를 지속적으로 평가해야 한다는 점입니다. 실제 운영 환경에서는 에이전트가 어떻게 성과를 내는지, 어느 부분에서 실패하는지, 어떤 도구나 데이터가 부족한지 끊임없이 평가합니다. 조직 내부에도 같은 방식을 적용합니다. 에이전트를 시험하고, 훈련하고, 피드백을 받을 수 있는 전용 공간이 필요합니다. 그런 공간이 없으면 에이전트가 나아지고 있는지, 다음에 무엇이 필요한지 파악하기 어렵습니다.

AI 네이티브 조직을 운영하는 일은 자율 보안 시스템을 구축하는 것과 매우 비슷합니다. 에이전트에 충분한 맥락을 제공하고, 성과를 계속 평가하며, 판단력이 중요한 영역에서는 사람이 계속 관여하도록 해야 합니다.

조직이 AI 에이전트에 더 큰 자율성을 부여하면서 책임 소재와 보안, 의도치 않은 결과에 대한 우려도 커지고 있습니다. 사이버 보안 분야에서 쌓은 경험을 바탕으로 볼 때, 기업은 보안을 훼손하거나 사람의 실질적인 감독 기능을 잃지 않으면서 에이전트가 독립적으로 작동할 수 있도록 어떤 통제 장치를 마련해야 할까요?

에이전트의 자율성은 앞으로 더욱 확대될 것이며, 조직은 단계적으로 그 수준을 높여야 합니다. 영향 범위를 충분히 파악할 수 있는 영역부터 시작해 가치를 입증한 다음 적용 범위를 넓혀야 합니다.

실질적인 통제 장치는 지시문이 아닙니다. 에이전트에게 “이렇게 하지 마”라고 말하는 것만으로는 보안 통제가 되지 않습니다. 통제 장치는 실제로 강제되어야 합니다. 에이전트가 접근할 수 있는 대상을 엄격히 제한하고, 권한 범위 밖의 대상에는 접근할 수 없음을 확인하며, 계획되지 않은 행동을 차단하도록 지속적으로 모니터링해야 합니다. 시스템의 다른 요소와 마찬가지로 통제 장치도 정기적으로 시험하고 검증해야 합니다.

책임은 운영자에게서 시작됩니다. 에이전트를 운영하는 사람은 에이전트가 독자적으로 할 수 있는 일, 승인이 필요한 일, 접근할 수 없는 영역 등 그 경계를 정합니다. 이메일 위협에 대응하는 에이전트를 예로 들어 보겠습니다. 이 에이전트는 의심스러운 메시지를 빠르고 안정적으로 스스로 격리할 수 있습니다. 조직 전체에서 발신자를 차단하는 등 영향 범위가 더 넓은 조치의 경우, 운영자는 우선 검토 절차를 둘 수 있습니다. 에이전트의 실적이 쌓이면 확신을 가지고 그 경계를 넓힐 수 있습니다. 명확한 통제 장치가 있어야 더 큰 자율성을 부여할 수 있습니다.

공격자들이 AI 에이전트를 점점 더 표적으로 삼고 있기 때문에 이 점은 더욱 중요합니다. 기업은 더 빠르게 움직이려 하지만, 보안팀에는 에이전트를 보호하기 위한 명확한 대응 지침이 아직 없습니다. 따라서 토대가 되는 것은 강제 적용되는 권한 설정과 상시 모니터링입니다.

많은 기업은 절약한 시간, 자동화한 업무 또는 직원 생산성을 기준으로 AI 도입 효과를 측정합니다. 재작업과 품질, 조정에 드는 비용까지 고려할 때, AI 네이티브 운영 모델이 지속 가능한 비즈니스 가치를 창출하는지 실제로 보여 주는 지표는 무엇이라고 생각하시나요?

절약한 시간은 중요한 지표이며, AI가 가치를 창출하고 있다는 사실을 보여 주는 첫 번째 분명한 신호인 경우가 많습니다. 하지만 조직이 그 시간을 어떻게 활용하는지, 그리고 그 성과가 장기적으로 유지되는지를 보여 주는 지표와 함께 살펴볼 때 AI의 전체적인 효과를 확인할 수 있습니다.

품질입니다. 품질이 유지되거나 향상될 때만 속도가 빨라진 것이 더 나은 결과로 이어집니다. 재작업과 결함, 결과물을 전달한 뒤 수정이 필요한 빈도를 추적해야 합니다. 속도와 품질이 함께 향상될 때 그 성과는 실질적이고 지속적입니다.

사업 확장입니다. AI 네이티브 조직의 진정한 가치는 절약한 시간으로 무엇을 가능하게 하느냐에 있습니다. 인원을 늘리지 않고도 얼마나 많은 새로운 역량과 사업을 추진하는지 측정합니다.

엔드투엔드 속도입니다. 에이전트가 기능을 개발하는 데 걸리는 시간은 전체 그림의 일부일 뿐입니다. 실제로 중요한 지표는 어떤 일을 우선순위에 두기로 결정한 순간부터 제품에 적용되는 순간까지, 모든 인수인계 과정을 포함한 전체 프로세스에 걸리는 시간입니다. 이 지표를 통해 실제 업무 속도와 업무 단위별 지표로는 드러나지 않는 조정 비용을 파악할 수 있습니다. 보안 분야에서는 엔드투엔드 속도가 매우 중요합니다. 공격자들이 이미 AI 에이전트를 활용하고 있으므로 위협을 탐지하고 대응하는 데 걸리는 시간을 계속 단축해야 합니다.

절약한 시간은 AI가 효과를 내고 있음을 보여 줍니다. 이러한 지표는 AI가 비즈니스에 지속적인 가치를 더하고 있음을 보여 줍니다.

더 작고 민첩한 기술 기업은 AI를 중심으로 운영 방식을 재설계해 의미 있는 경쟁 우위를 확보할 수 있다고 말씀하셨습니다. AI 네이티브 스타트업은 기존 대기업에 비해 어떤 이점이 있으며, 향후 3~5년 동안 성공적인 기술 기업의 구조는 어떻게 변화할 것으로 보시나요?

AI 네이티브 스타트업은 구조적인 우위를 갖고 있습니다. 처음부터 AI 에이전트를 중심으로 업무 절차와 기술, 팀을 구축할 수 있지만, 기존 기업은 수십 년간 누적된 레거시 인프라와 조직의 복잡성을 감당해야 합니다. 더 큰 격차는 기술적인 부분에 있지 않습니다. 누구나 같은 AI 도구를 사용할 수 있습니다. 승인 단계와 인수인계 절차, 고정된 역할을 먼저 해체할 필요 없이 업무 방식을 재설계할 수 있는 기업이 우위를 차지합니다.

앞으로 3~5년 동안 성공적인 기술 기업들은 기본적인 AI 자동화를 넘어 에이전트 기반 운영 모델로 전환할 것이라고 생각합니다. 이 모델에서는 특화된 AI 에이전트가 전체 업무 흐름을 수행합니다. 사람으로 구성된 팀이 사라지는 것은 아니지만, 사람들은 작업을 직접 처리하는 데 시간을 덜 쓰고 맥락을 제공하고 안전장치를 설정하며 결과를 이끄는 데 더 많은 시간을 쓰게 될 것입니다. 그 결과 조직은 더 효율적으로 운영되고 더 빠르게 규모를 키우며, 규모가 몇 배나 큰 기업들과도 경쟁할 수 있게 될 것입니다.

훌륭한 인터뷰 감사합니다. 에이전트형 이메일 보안에 대해 더 알아보고 싶은 독자라면 Ocean Security를 방문해 보시기 바랍니다.

앙투안은 Unite.AI의 비전 있는 리더이자 창립 파트너로, AI와 로봇공학의 미래를 만들어 가고 발전시키는 데 변함없는 열정을 쏟고 있습니다. 여러 기업을 창업한 그는 AI가 전기만큼 사회를 크게 변화시킬 것이라고 믿으며, 혁신적인 기술과 범용 인공지능(AGI)의 잠재력에 관해 자주 열정적으로 이야기합니다.

미래학자로서 이러한 혁신이 세상을 어떻게 바꿀지 탐구하는 데 전념하고 있습니다. 또한 미래를 새롭게 정의하고 산업 전반을 변화시키는 첨단 기술에 대한 투자에 초점을 맞춘 플랫폼인 Securities.io의 설립자입니다.