Deep Instinct의 CIO인 Carl Froggett와의 인터뷰 시리즈

Carl Froggett는 Deep Instinct의 최고정보책임자(CIO)입니다. 이 회사는 AI의 발전된 분야인 딥러닝을 사이버 보안에 적용하면 더 많은 위협을 더 빠르게 예방할 수 있다는 단순한 전제에서 출발했습니다.

Froggett는 팀 구축, 시스템 아키텍처, 대규모 기업 소프트웨어 도입, 비즈니스 요구에 맞는 프로세스와 도구 정비에서 검증된 경력을 보유하고 있습니다. 이전에는 Citi에서 글로벌 인프라 방어 및 CISO 사이버 보안 서비스를 총괄했습니다.

금융업계에서 경력을 쌓으셨는데, 어떻게 사이버 보안 분야로 전환하셨는지 말씀해 주시겠습니까?

1990년대 후반 Citi에서 IT 업무를 하다가 사이버 보안으로 옮겼습니다. 빠르게 관리직을 맡아, 발전하는 동시에 도전 과제도 많은 사이버 보안 분야에 IT 운영 경험을 적용했습니다. 다양한 비즈니스 요구에 맞는 기술과 보안 솔루션을 도입하고 운영하면서 혁신에도 집중할 수 있었습니다. Citi 재직 당시에는 전 세계 Citi 사업부와 고객을 위한 글로벌 플랫폼의 혁신, 엔지니어링, 제공, 운영을 담당했습니다.

Citi에서 25년 넘게 근무하며 보안 전략과 엔지니어링을 담당하는 팀들을 이끄셨습니다. 스타트업 Deep Instinct에 합류한 계기는 무엇입니까?

새로운 도전에 나서고 제 경험을 다른 방식으로 활용하고 싶었습니다. 15년 넘게 사이버 보안 스타트업과 핀테크 기업에 깊이 관여하며 팀을 지도하고 성장시켜 사업 확장을 지원했고, 일부 기업은 IPO까지 함께했습니다. Deep Instinct를 알고 있었고, 이 회사의 독창적이고 파괴적인 딥러닝(DL) 기술이 다른 업체에서는 얻지 못하는 결과를 내는 것을 봤습니다. 매일 마주하는 악성 위협으로부터 기업을 보호하는 새로운 시대를 여는 일에 참여하고 싶었습니다.

Deep Instinct의 딥러닝 적용이 사이버 보안에서 큰 변화를 일으키는 이유는 무엇입니까?

설립 초기부터 Deep Instinct는 사이버 보안 산업을 혁신하겠다는 야심 찬 목표를 세웠습니다. 뒤늦게 탐지하고 대응하며 확산을 막는 방식 대신 예방을 우선하는 철학을 도입했습니다. 랜섬웨어, 제로데이 취약점 악용, 이전에 보지 못한 위협이 증가하는 상황에서 기존의 사후 대응형 보안 모델은 제대로 작동하지 않습니다. 생성형 AI로 위협의 양과 속도가 커지고 공격자가 방법을 새롭게 바꾸고 혁신하며 기존 통제를 우회하는 만큼, 조직에는 공격자보다 한발 앞서기 위한 예측·예방 역량이 필요합니다.

공격자들이 WormGPT, FraudGPT, 변이하는 악성코드 등을 활용하면서 적대적 AI의 사용이 늘고 있습니다. AI에 AI로 맞서야 하는 중요한 시기입니다. 그러나 모든 AI가 같은 것은 아닙니다. 적대적 AI를 방어하려면 더 정교한 AI인 딥러닝이 필요합니다. 대부분의 사이버 보안 도구는 머신러닝(ML) 모델을 사용하지만, 위협 예방이라는 관점에서 여러 한계가 있습니다. 일반적으로 이용 가능한 데이터의 2~5%라는 제한된 부분집합으로 학습하고, 알려지지 않은 위협에 대한 정확도는 50~70%에 그치며, 오탐도 많이 발생합니다. 사람의 개입이 많이 필요하고 작은 데이터셋으로 학습하므로 사람의 편향과 오류에도 노출됩니다. 엔드포인트에서도 느리고 반응이 둔해, 위협이 비활성 상태일 때 처리하지 못하고 실행될 때까지 남겨 둡니다. 딥러닝은 데이터를 받아들이면서 스스로 학습하고, 복잡한 위협을 자율적으로 식별·탐지·예방할 수 있다는 점에서 효과적입니다.

딥러닝은 리더들이 기존의 ‘침해를 가정하는’ 사고에서 예측적 예방으로 전환해 AI가 만든 악성코드에 효과적으로 대응하도록 합니다. 위협이 발생하기 전에 파악하고 완화하는 접근법입니다. 알려진 악성코드와 알려지지 않은 악성코드 모두에 매우 높은 효과를 보이며, ML 기반 솔루션보다 오탐률이 훨씬 낮습니다. 이 효과를 유지하기 위한 DL 코어 업데이트는 연간 한두 번이면 됩니다. 독립적으로 작동하므로 클라우드에 끊임없이 조회하거나 위협 정보를 공유할 필요가 없어 매우 빠르고 개인정보 보호에도 유리합니다.

딥러닝은 이전에 접하지 못한 악성코드를 어떻게 예측적으로 예방합니까?

알려지지 않은 악성코드는 여러 방식으로 만들어집니다. 흔한 방법은 파일의 해시를 바꾸는 것으로, 단 1바이트를 덧붙이는 것만으로도 가능합니다. 해시 차단 목록에 의존하는 엔드포인트 보안 솔루션은 기존 해시 시그니처가 변종의 새 해시와 일치하지 않아 이런 ‘변이’에 취약합니다. 패킹은 패커로 바이너리 파일을 감싸 원본 파일 위에 일반적인 계층을 덧씌우는 기법입니다. 일종의 가면이라고 생각하면 됩니다. 원래 악성코드의 바이너리 자체를 수정해 새 변종을 만들기도 합니다. 보안 업체가 시그니처로 사용하는 특징, 즉 하드코딩된 문자열, C&C 서버의 IP와 도메인, 레지스트리 키, 파일 경로, 메타데이터, 뮤텍스, 인증서, 오프셋, 랜섬웨어가 암호화한 파일과 연관된 확장자 등을 바꿉니다. 코드나 코드 일부를 수정하거나 추가해 기존 탐지 기법을 회피할 수도 있습니다.

딥러닝은 신경망을 기반으로 하며 ‘두뇌’를 사용해 원시 데이터로 계속 학습합니다. 핵심은 학습 시 사람의 개입 없이 이용 가능한 모든 데이터를 사용한다는 것입니다. 높은 정확도의 주요 이유입니다. 매우 높은 효과와 낮은 오탐률을 달성하므로 알려지지 않은 위협에도 강합니다. 저희 DL 프레임워크는 시그니처나 패턴에 의존하지 않아 해시 변경의 영향을 받지 않습니다. 단순하고 알려진 패커뿐 아니라 FUD로 패킹된 파일도 성공적으로 분류합니다.

학습 단계에서는 알고리즘에 넣는 파일의 원시 데이터를 바꾸는 ‘노이즈’를 추가합니다. 이렇게 작은 ‘변이’를 자동으로 만들어 매 학습 주기에 사용합니다. 이 접근법 덕분에 문자열 변경이나 다형성과 같이 알려지지 않은 악성코드 변종에 가해지는 수정에도 플랫폼이 견딜 수 있습니다.

예방을 우선하는 사고는 사이버 보안의 핵심입니다. Deep Instinct는 공격 예방에 어떻게 집중합니까?

데이터는 모든 조직의 생명줄이며 보호가 최우선이어야 합니다. 악성 파일 하나면 침해가 발생할 수 있습니다. 오랫동안 업계는 공격자가 결국 데이터에 접근할 것이라는 ‘침해 가정’을 사실상의 기본 보안 사고로 받아들였습니다. 그러나 이 사고와 여기에 기반한 도구들은 충분한 데이터 보안을 제공하지 못했고, 공격자들은 이런 수동적 접근을 최대한 활용하고 있습니다. 저희 최근 연구에서는 2023년 상반기에 발생한 랜섬웨어 사건이 2022년 전체보다 많았습니다. 변화하는 위협 환경에 제대로 대응하려면 침해 가정에서 벗어나는 데 그치지 않고 완전히 새로운 접근과 예방 수단을 갖춰야 합니다. 새롭고 알려지지 않았으며 빠른 위협이 이런 결과를 만들고 있습니다. 시그니처가 변하는 위협을 따라가지 못했듯이, 기존 ML 기반 솔루션도 따라가지 못합니다.

Deep Instinct는 딥러닝으로 데이터 보안에 예방 우선 접근법을 적용합니다. Deep Instinct Predictive Prevention Platform은 사이버 보안을 위해 설계된 고유 DL 프레임워크에 기반한 최초이자 유일한 솔루션입니다. 시장에서 가장 효율적이고 효과적이며 신뢰할 수 있는 보안 솔루션으로, 제로데이·랜섬웨어·기타 미지의 위협을 99% 넘게, 20밀리초 미만에 예방하며 업계 최저 수준인 0.1% 미만의 오탐률을 제공합니다. 이미 애플리케이션과 엔드포인트 보호에 DL 프레임워크를 적용했고, 최근 Deep Instinct Prevention for Storage를 출시해 스토리지 보호로 확대했습니다.

취약점보다 앞서고 오탐을 줄이며 보안팀의 부담을 덜려면 데이터 보안을 예측적 예방으로 전환해야 합니다. 저희가 이 임무의 선두에 있으며, 이제 더 많은 기존 업체들이 예방 우선 기능을 내세우면서 이 접근이 힘을 얻고 있습니다.

모델 학습에는 어떤 훈련 데이터를 사용합니까?

다른 AI·ML 모델처럼 저희 모델도 데이터로 학습합니다. 다른 점은 학습하고 발전하는 데 고객 데이터나 파일이 필요하지 않다는 것입니다. 이 고유한 개인정보 보호 특성 덕분에 고객은 솔루션을 도입할 때 더 안심할 수 있습니다. 저희는 50개가 넘는 피드를 구독해 학습용 파일을 내려받습니다. 이후 자체 개발한 알고리즘으로 데이터를 검증하고 분류합니다.

이 학습 방식 덕분에 평균적으로 연간 두세 개의 새로운 ‘두뇌’만 만들면 됩니다. 새 두뇌는 독립적으로 배포돼 고객의 운영에 미치는 영향을 크게 줄입니다. 변화하는 위협에 맞추기 위해 끊임없이 업데이트할 필요도 없습니다. 이것이 DL 기반 플랫폼의 장점입니다. 다른 AI·ML 솔루션이 사후 대응 기능을 제공하는 반면 저희는 선제적이고 예방을 우선하는 접근을 제공할 수 있습니다.

저장소가 준비되면 모든 유형의 파일을 악성·정상으로 분류하고 기타 메타데이터와 함께 데이터셋을 만듭니다. 이후 이용 가능한 모든 데이터로 두뇌를 더 학습시킵니다. 학습 과정에서 어떤 데이터도 버리지 않으므로 낮은 오탐률과 높은 효과에 기여합니다. 이 데이터는 저희의 입력 없이도 스스로 계속 학습합니다. 결과를 조정해 두뇌를 가르치면 이후 학습을 이어 갑니다. 인간의 두뇌가 작동하고 배우는 방식과 비슷합니다. 더 많이 배울수록 정확하고 똑똑해집니다. 다만 데이터를 이해하고 학습하는 대신 외우는 일이 없도록 과적합을 피하는 데 매우 주의를 기울입니다.

효과가 매우 높은 수준에 도달하면 고객에게 배포할 추론 모델을 만듭니다. 이 단계에 배포된 모델은 새로운 것을 학습하지는 못합니다. 그러나 새 데이터와 알려지지 않은 위협을 접하고 악성인지 판단할 수 있습니다. 사실상 마주하는 모든 것에 ‘제로데이’ 판단을 내리는 셈입니다.

Deep Instinct가 고객의 컨테이너 환경에서 실행된다는 점은 왜 중요합니까?

플랫폼 솔루션 중 Deep Instinct Prevention for Applications(DPA)는 API/iCAP 인터페이스로 DL 기능을 활용하게 합니다. 조직이 이 기능을 애플리케이션과 인프라에 내장할 수 있으므로 다층 방어 전략을 통해 더 넓은 범위의 위협을 예방할 수 있습니다. 이는 독특한 차별점입니다. DPA는 저희가 제공하는 컨테이너에서 실행됩니다. 애플리케이션과 서비스를 온프레미스 또는 클라우드 컨테이너 환경으로 이전하는 고객의 현대적 디지털화 전략에 잘 맞습니다. 이러한 고객은 일반적으로 DevOps에서 ‘시프트 레프트’도 채택합니다. API 중심 서비스 모델은 애자일 개발과 위협을 예방하는 서비스를 가능하게 해 이를 보완합니다.

이 방식은 새 하드웨어나 물류상의 문제, 추가 운영 부담 없이 기존 서비스를 활용하므로 조직의 기술 전략에 원활하게 통합되고 총소유비용(TCO)을 매우 낮게 유지합니다. 필요에 따른 대규모 자동 확장, 복원력, 낮은 지연 시간, 쉬운 업그레이드 등 컨테이너의 모든 장점을 활용합니다. 기존 솔루션이 달성하지 못하는 효율로 애플리케이션과 인프라에 위협 예방을 대규모로 내장해 예방 우선 보안 전략을 구현합니다. DL 특성상 낮은 지연 시간과 높은 효과, 낮은 오탐률을 제공하면서 개인정보도 보호합니다. 파일과 데이터는 항상 고객이 통제하는 컨테이너 밖으로 나가지 않습니다. 클라우드에 공유하거나 분석하거나 파일·데이터를 전송할 필요가 없다는 점이 기존 제품과 다릅니다.

생성형 AI는 사이버 공격의 규모를 키울 수 있습니다. 이를 막는 데 필요한 속도를 어떻게 유지합니까?

저희 DL 프레임워크는 신경망을 기반으로 하므로 ‘두뇌’가 원시 데이터로 계속 학습합니다. 프레임워크의 속도와 정확도는 수억 개의 샘플로 학습한 결과입니다. 학습 데이터셋이 커질수록 신경망은 더 똑똑해져, 무엇이 파일을 악성으로 만드는지 더 세밀하게 이해합니다. 다른 솔루션보다 악성 파일의 구성 요소를 더 자세한 수준에서 알아보기 때문에 알려진 위협, 미지의 위협, 제로데이 위협을 기존 보안 제품보다 더 정확하고 빠르게 차단합니다. 클라우드 분석이나 조회가 필요 없다는 점도 독특합니다. ML만으로는 충분하지 않아 이를 뒷받침할 클라우드 분석이 필요했지만, 그 때문에 느리고 사후 대응적이 됩니다. DL에는 이런 제약이 없습니다.

기업이 주의해야 할, 생성형 AI로 증폭되는 주요 위협은 무엇입니까?

AI의 발전으로 피싱 이메일이 훨씬 정교해졌습니다. 과거에는 문법 오류가 많아 비교적 쉽게 알아볼 수 있었습니다. 이제 공격자는 ChatGPT 같은 도구로 여러 언어의 상세하고 문법적으로 올바른 이메일을 만들어 스팸 필터와 독자가 알아채기 어렵게 합니다.

또 다른 예는 AI가 정교해지면서 더 현실적이고 믿을 만해진 딥페이크입니다. 음성 AI 도구로 회사 임원의 목소리를 흉내 내 직원에게 사기성 음성 메시지를 남기기도 합니다.

앞서 말했듯 공격자는 AI로 행동을 바꿔 보안 솔루션과 탐지를 우회하고 더 효과적으로 퍼지는 미지의 악성코드를 만듭니다. 앞으로는 기존 솔루션을 우회하는 새롭고 정교하며 독특한 미지의 악성코드를 만드는 데 그치지 않고 공격의 전체 과정을 처음부터 끝까지 자동화하는 데도 AI를 활용할 것입니다. 비용은 크게 줄고 규모는 커지며 공격 캠페인은 더 정교하고 성공적으로 바뀝니다. 보안 업계는 지난 15년간 의존한 솔루션과 교육, 인식 제고 프로그램을 재검토해야 합니다. 올해의 침해 사례만 봐도 이미 제대로 작동하지 않으며 상황은 더 나빠질 것입니다.

Deep Instinct의 애플리케이션·엔드포인트·스토리지 솔루션을 간단히 정리해 주시겠습니까?

Deep Instinct Predictive Prevention Platform은 오늘날의 보안 문제, 즉 위협이 실행돼 고객 환경에 들어오기 전에 예방하는 문제를 해결하기 위해 설계된 고유 DL 프레임워크 기반의 최초이자 유일한 솔루션입니다. 세 가지 축으로 구성됩니다.

• 컨테이너 환경에서 API 또는 ICAP로 연결하는 에이전트리스 방식: Deep Instinct Prevention for Applications는 사용자 경험에 영향을 주지 않으면서 애플리케이션에 도달하기 전에 랜섬웨어, 제로데이 위협과 기타 알려지지 않은 악성코드를 예방합니다.
• 엔드포인트의 에이전트 기반 방식: Deep Instinct Prevention for Endpoints는 대부분의 현행 솔루션처럼 실행 중에 대응하는 대신 실행 전에 예방하는 독립형 플랫폼입니다. 기존 EDR 솔루션을 보완하는 실질적인 위협 예방 계층으로도 사용할 수 있습니다. 알려진 위협과 미지의 위협, 제로데이, 랜섬웨어를 악성 활동이 시작되기 전에 막아 경고와 오탐을 크게 줄입니다. SOC 팀은 신뢰성 있게 확인된 실제 위협에만 집중할 수 있습니다.
• 예방 우선 스토리지 보호: Deep Instinct Prevention for Storage는 온프레미스나 클라우드에 저장된 데이터 모두에 대해 랜섬웨어, 제로데이 및 미지의 악성코드가 스토리지 환경에 침투하기 전에 예측적으로 차단합니다. 고객의 중앙 스토리지에 빠르고 매우 효과적인 보호를 제공해 스토리지가 위협의 전파·배포 지점이 되는 것을 방지합니다.

좋은 인터뷰 감사합니다. 더 알고 싶은 독자는 Deep Instinct를 방문하시기 바랍니다.