인터뷰

마크 니콜슨, 델로이트의 미국 사이버 현대화 리더 – 인터뷰 시리즈: 돌아온 대화

Antoine Tardif
Unite.AI를 Google의 선호 소스에 추가
핵심 포인트AI는 취약점에서 악용까지의 기간을 수주에서 수시간으로 단축시켜 방어 자동화를 필수적으로 만듭니다.
더 보기
  • AI는 취약점에서 악용까지의 기간을 수주에서 수시간으로 단축시켜 방어 자동화를 필수적으로 만듭니다.
  • 안전한 AI 설계는 에이전트의 신원과 권한을 인간 사용자와 동일하게 관리해야 합니다.
  • 미래의 SOC는 인간의 역할을 경고 분류에서 AI 감독 및 전략 수립으로 전환할 것입니다.

마크 니콜슨, 델로이트의 미국 사이버 현대화 리더는 델로이트의 수석으로 사이버 보안, 인공지능, 기업 위험 관리의 교차점에서 20년 이상의 경험을 가지고 있습니다. 그는 사이버 AI 이니셔티브와 델로이트의 사이버 부문의 상업 전략을 이끌며, 대규모 조직이 보안 프레임워크를 현대화하고 사이버 투자를 진화하는 위험 환경과 일치시키는 것을 도와줍니다. 델로이트 이전에, 그는 Vigilant, Inc.의 공동 창립자이자 COO로 재직하였으며, 위협 인텔리전스와 악의적인 이벤트 모니터링에 중점을 둔 정보 보안 컨설팅 회사입니다. 그의 이전 경력은 여러 기술 회사에서 판매 및 비즈니스 개발 역할을 수행하여 사이버 보안의 기술적 및 상업적 측면에서 강한 기초를 제공했습니다.

델로이트는 세계 최대의 전문 서비스 회사 중 하나로, 거의 모든 산업의 조직에 감사, 컨설팅, 세금, 및 자문 서비스를 제공합니다. 그들의 사이버 보안 부문은 기술들인 인공지능을 통해 디지털 변화를 가능하게 하면서 복잡한 위협 환경을 탐색하는 것을 도와주는 것을 중점으로 합니다. 회사는 사이버 전략, 회복력, 위험 관리, 및 기업 보안을 포함하는 서비스를 제공하며, 사이버 보안을 보호 기능 및 혁신과 성장의 전략적 가능성으로 자리매김합니다.

이 인터뷰는 이전에 2025년에 게시된 인터뷰를 따릅니다.

당신은 사이버 보안의 초기부터 참여해 왔으며, Vigilant의 공동 창립자로서 초기 보안 정보 및 이벤트 관리(SIEM) 및 위협 인텔리전스 기능을 시장에 도입하는 것을 도와왔습니다. 초기 모니터링 시스템에서 오늘날의 AI 기반 사이버 방어 플랫폼으로의 진화는 조직이 위협을 탐지하고 대응하는 방식을 어떻게 변경했습니까?

우리가 처음으로 모니터링 플랫폼을 구축했을 때, 핵심적인 도전은 데이터를 한 곳에 모으고 그 의미를 이해하는 것이었습니다. 나는 분석가들이 매일 아침 방화벽 로그를 인쇄하여 수동으로 검토하여 비정상성을 찾으려고 했던 것을 기억합니다. SIEM이 성숙함에 따라도, 규모의 문제가 있었습니다. 인간의 속도는 탐지된 이벤트의 엄청난 수에 대응할 수 없었습니다. 자동화에도 불구하고, 사이버 방어자는 여전히 데이터 상관관계 및 분석 문제를 안고 있었고, 흔히 모니터링 실패에 대응해 새로운 규칙을 계속 작성해야 했습니다.

한 가지 희망은 AI가 이 역학을 근본적으로 바꿀 수 있다는 것입니다. 레벨 1 보안 운영을 자동화하는 에이전트 기능 도입을 넘어, AI는 모니터링 알고리즘을 기계가 동적으로 조정함으로써 탐지와 대응을 “사후”에서 “발생하는 순간”에 훨씬 가깝게 옮길 수 있습니다. 경우에 따라 보안 조직은 AI에 복구 조치의 시작을 맡겨도 된다고 느끼게 될 것입니다.

하지만 어려운 부분은 사라지지 않고 다른 곳으로 옮겨갑니다. 시스템이 더 자율적이고 복잡해짐에 따라, 신뢰 및 관찰 가능성이 전투장이 됩니다. 시스템이 무엇을 하는지, 왜 그렇게 하는지, 그리고 그것이 조작되지 않았는지 어떻게 알 수 있습니까? 인공지능의 기회는 엄청나지만, 그것은 또한 환경이 기계 속도로 작동할 때 위험을 높입니다.

당신은 인공지능이 적들에게 정찰을 자동화하고, 악용 코드를 생성하고, 공격 주기를 가속화하는 것을 가능하게 한다고 언급했습니다. 실제로, 취약점 발견과 악용 사이의 시간을 얼마나 압축했습니까?

과거에는 취약점 발견과 악용 사이에 시간이 있었습니다. 물론 긴급했지만, 제로데이 공격을 당하지 않는 한 공격자가 대규모로 악용하기 전에 위협을 이해하고 패치하며 완화할 시간이 대체로 있었습니다. AI는 그 시간창을 거의 없앴습니다.

공격자는 정찰을 자동화하고, 노출된 부분을 지속적으로 스캔하며, AI 도구로 악용 코드 개발과 표적 선정의 일부를 가속할 수 있습니다. 많은 경우에, 과거에는 몇 주가 걸리던 것이 이제 몇 시간으로 압축될 수 있습니다. 그리고 고도로 자동화된 시나리오에서는, 대부분의 보안 프로그램이 처리할 수 있는 속도보다 더 빠를 수 있습니다.

결론은 간단합니다. 보안 팀이 속도를 따라가려면 방어 측에도 자동화와 AI가 필요하며, 여기에 강력한 통제를 결합해야 합니다.

보안 팀은 점점 더 “인간-루프”에서 “인간-오버사이트” 모니터링 모델로 이동하고 있습니다. 현대적인 보안 작전 센터(SOC) 내에서 그 변화는 어떻게 보입니까? 그리고 AI가 더 많은 자율적인 작업을 맡게 됨에 따라, 조직은 분석가 역할을 어떻게 재고해야 합니까?

전통적인 SOC에서, 분석가들은 모든 의사 결정 지점의 중심에 있습니다. 경고가 들어오면, 분석가들은 그것을 분류하고, 조사하고, 어떤 조치를 취해야 하는지 결정합니다. 그 접근 방식은 경고와 공격의 속도가 관리할 수 있을 때는 작동했습니다. 그러나 오늘날의 환경에서는 활동의 규모가 너무 커서 인간이 모든 의사 결정 지점에서 게이트키퍼로 작동할 수 없습니다.

“인간-오버사이트”로의 전환은 AI 시스템이 경고 분류, 맥락 수집, 데이터 상관 분석, 특정 복구 조치 실행 등 이전에 분석가가 처리했던 여러 일상 업무를 수행할 수 있음을 뜻합니다. 분석가의 역할은 수동적인 실행에서 감독 및 검증으로 변경됩니다.

작업적으로, 분석가의 시간은 “반복적인 경고 처리”에서 더 가치 있는 작업으로 변경됩니다. 위협 헌팅, 탐지 엔지니어링, 적대자 시뮬레이션 및 방어 아키텍처 개선과 같은 작업입니다. 인간은 여전히 필수적이지만, 그들의 역할은 보안 데이터의 주요 처리자가 아니라 감독, 판단, 전략을 담당하는 쪽으로 진화합니다.

“보안 AI 설계”라는 개념은 모델 안전성 외에도 신원 시스템, 권한 아키텍처, 및 오케스트레이션 레이어로 확장되어야 합니다. 왜 그렇습니까?

많은 인공지능 보안 논의는 모델 자체에 중점을 두고 있습니다. 예를 들어, 훈련 데이터를 보호하거나, 모델 중독을 방지하거나, 프롬프트 주입 공격을 방어합니다. 그들은 실제 문제입니다. 그러나 그것은 전체적인 위험의 일부에 불과합니다.

실제로, 인공지능 시스템은 더 큰 디지털 생태계의 일부로 작동합니다. 이 시스템들은 데이터에 접근하고, API와 상호작용하며, 워크플로를 실행하며, 점점 더 자율적인 에이전트를 통해 작동합니다.

그것이 발생할 때, 신원 및 권한이 제어 평면이 됩니다. AI 에이전트는 효과적으로 기업 내의 새로운 디지털 신원입니다. 만약 그 신원이 적절하게 관리되지 않는다면, 그것은 중대한 위험을 도입할 수 있습니다.

“보안 AI 설계”는 신원 관리, 접근 제어, 오케스트레이션 레이어 및 AI 에이전트의 동작을 추적하는 모니터링 시스템으로 확장되어야 합니다. 조직은 AI 에이전트를 인간 사용자와 마찬가지로 취급해야 합니다. 정의된 권한, 감사, 및 감독이 있어야 합니다. 그렇지 않으면 공격 표면이 급격히 확장됩니다.

많은 기업은 레거시 보안 워크플로우에 AI 도구를 계층화하고 있습니다. 조직이 실제로 사이버 방어에서 AI를 활용하기 위해서는 어떤 가장 큰 아키텍처 변경이 필요합니까?

일반적인 패턴은 인간이 수행하도록 설계한 기존 프로세스와 워크플로에 AI를 덧붙이는 것입니다. 특히 컴퓨터 비전이 현실이 된 지금 나쁜 출발은 아닙니다. 예를 들어 Deloitte는 폐기하기 어려운 기존 전용 소프트웨어를 그대로 두고 신원 거버넌스 및 관리 과정의 인간을 대체하도록 훈련할 수 있는 에이전트를 만들었습니다. 이는 큰 비용 절감을 가져올 수 있습니다.

하지만 미래의 이점은 기업이 보안 워크플로를 처음부터 끝까지 다시 생각하는 데 있습니다.

데이터 기반을 현대화하여 보안 도구가 고품질의 잘 구조화된 텔레메트리 데이터에 접근할 수 있도록 합니다. 탐지, 응답 및 신원 기능이 단절된 도구가 아닌 조정된 시스템으로 작동하도록 오케스트레이션을 구축합니다.

신원은 가장 중요한 제어 중 하나로 남아 있습니다. 더 많은 자동화와 AI 에이전트가 도입됨에 따라, 비인간 신원의 수가 급격히 증가합니다. 그것들을 효과적으로 관리하는 것이 제어를 유지하는 데 필수적입니다.

AI 네이티브 보안은 궁극적으로 더 나은 데이터, 더 나은 오케스트레이션 및 인공지능 에이전트와 인간 에이전트 모두를 고려하는 거버넌스입니다.

AI 시스템이 더 자율적이 됨에 따라, 공격 표면은 에이전트 오케스트레이션, API 체인, 자동화된 의사 결정 파이프라인과 같은 영역으로 확장됩니다. 어떤 영역이 가장 우려스럽습니까?

만약 한 가지 영역을 선택해야 한다면, 그것은 에이전트 주도 시스템 내의 신원 및 데이터 접근 권한입니다.

조직이 더 많은 에이전트를 도입할수록, 기업 내의 자율적인 에이전트의 수가 증가합니다. 그 에이전트는 매우 강력한 데이터, API, 워크플로에 접근할 수 있으므로, 권한을 엄격하게 설계하고 모니터링하고 감사하지 않으면 공격자에게 매력적인 경로가 됩니다. 모든 에이전트를 신입 직원처럼 다뤄야 합니다. 이름을 붙이고, 권한 범위를 정하고, 모니터링하며, 필요하면 신속히 연결을 끊을 수 있게 해야 합니다.

API 체인과 자동화된 의사 결정 파이프라인도 위험을 도입합니다. 그러나 신원 거버넌스는 종종 기초적인 제어입니다. 에이전트가 누구인지, 무엇에 접근할 수 있는지, 그리고 무엇을 했는지 명확하게 알 수 없다면, 그것을 제어할 수 없습니다.

이사회의 관점에서, 이사들은 현재 AI 기반 사이버 위험에 대해 어떻게 생각하고 있습니까? 그리고 기술적인 현실과 이사회의 이해 사이에서 가장 큰 격차는 어디에 있습니까?

이사들은 점점 더 인식하고 있습니다. 인공지능은 기회를 가져올 수 있지만, 의미있는 위험도 가져올 수 있습니다. 대부분의 이사는 인공지능이 비즈니스 변화를 형성할 것이라는 것을 알고 있으며, 거버넌스, 보안, 회복력에 대한 질문을 시작하고 있습니다.

격차는 속도와 복잡성에서 나타납니다. 많은 이사 회의는 여전히 전통적인 사이버 프레임워크에 의존합니다. 이 프레임워크는 여전히 중요하지만 그것은 인공지능으로 인한 위협이 어떻게 빠르게 진화하고 확장할 수 있는지 반영하지 않을 수 있습니다.

또 다른 괴리는 “우리 AI는 안전한가?”가 하나의 질문처럼 들려도 답은 데이터 거버넌스, 모델 무결성, 신원 관리, 여러 시스템에 걸친 오케스트레이션에 있다는 점입니다. 격차를 좁히는 이사회는 이런 구성 요소를 보이고 시험할 수 있게 하는 통제 기반 보고를 요구하며, 감독이 기술의 속도를 따라가도록 이사들의 이해도를 높이는 데 시간을 투자합니다.

인공지능은 점점 더 사이버 보안의 양쪽에서 사용되고 있습니다. 우리는 영구적인 AI 대 AI 사이버 보안 경쟁에 들어가고 있습니까? 그리고 그렇다면, 공격자들이 복제하기 어려운 어떤 이점을 방어자가 가지고 있습니까?

우리는 명백히 공격자와 방어자가 모두 인공지능을 사용하는 시대에 살고 있습니다. 공격자는 이미 AI로 정찰을 가속하고, 취약점을 식별하며, 공격 수명 주기의 일부를 자동화하고 있습니다. 그러나 방어자는 실제적인 이점을 가지고 있습니다.

방어자는 자신의 환경에 대한 가시성을 가지고 있으며, 내부 텔레메트리 데이터에 접근할 수 있으며, 공격자가 탐색해야 하는 계층화된 아키텍처를 구축할 수 있습니다. 인공지능은 방어자가 네트워크, 엔드포인트 및 신원 전체의 방대한 데이터를 분석하여 비정상적인 동작을 훨씬 더 일찍 감지할 수 있도록 도와줍니다.

관건은 도입입니다. 공격자가 자동화하는 동안 방어자가 수동 워크플로에 머무르면 비대칭은 가혹해집니다. 군비 경쟁은 현실이며, 승자는 단지 시범 운영하는 쪽이 아니라 강력한 거버넌스와 함께 AI를 배치하는 쪽이 될 것입니다.

대규모 기업에 대한 고문을 통해, 조직이 사이버 보안 전략에 인공지능을 통합하려고 할 때 가장 일반적인 실수는 무엇입니까?

가장 일반적인 실수 중 하나는 인공지능을 아키텍처의 전환이 아니라 독립적인 도구로 취급하는 것입니다. 데이터 기반, 거버넌스 모델 또는 운영 프로세스를 업그레이드하지 않고 영향을 지속하는 데 필요한 기반을 갖추지 않은 채 고립된 실험을 하는 것입니다. 그것은 결과의 정체로 이어집니다.

또 다른 실수는 인공지능 기능을 배치할 때 새로운 위험을 완전히 고려하지 않는 것입니다. 새로운 신원, 새로운 데이터 흐름 및 자동화된 의사 결정 경로가 공격 표면을 확장할 수 있습니다. 만약 그것들이 올바른 제어 없이 결합된다면, 인공지능은 회복력 대신 취약성을 더할 수 있습니다.

마지막으로, 많은 조직은 워크포스 참여의 중요성을 과소평가합니다. 보안 작전을 매일 실행하는 실무자들은 어디에 마찰이 있는지 그리고 “좋은”것이 무엇인지 알고 있습니다. 가장 강력한 변환은 초기에 그 팀을 포함하여 기술이 그들의 판단을 방해하는 대신 강화하도록 합니다.

3~5년 후를 내다보면, AI 네이티브 보안 작전 센터는 오늘날의 SOC 환경과 어떻게 달라질 것입니까?

아마 크게 달라질 것입니다. 제가 예측할 수 없는 부분도 많습니다. 미래의 SOC는 인간과 디지털 워크포스가 결합된 형태로 운영될 가능성이 높습니다. 인공지능 시스템은 데이터 처리, 상관관계 및 초기 응답 활동을 처리할 것입니다. 에이전트 시스템은 취약점 관리, 신원 거버넌스, 사건 응답 및 지속적인 제어 모니터링과 같은 워크플로우를 자동화하는 것을 도와줄 것입니다.

인간 분석가는 여전히 필수적이지만, 그들의 역할은 중심에서 변경됩니다. AI 시스템을 감독하고, 탐지 사용 사례를 작성하는 대신 검증하며, 복잡한 위협을 조사하고, 방어 아키텍처를 개선하는 것입니다. 목표는 인간을 제거하는 것이 아니라, 그들의 역할을 높이는 것입니다. 분석가는 경고를 분류하고 데이터를 수동으로 조합하는 대신 사이버 보안의 전략적 측면에 집중할 것입니다. 질문은 “레벨 1과 레벨 2가 완전히 자동화되면 다음 세대의 보안 전문가를 어떻게 훈련할 것인가?”입니다. 아마 AI의 도움으로 개발할 수 있는 시뮬레이션과 훈련 기술의 획기적인 개선에서 답을 찾을 수 있을 것입니다.

성공적인 하이브리드 워크포스를 구축하여 인간 전문 지식과 인공지능 기반 자동화를 결합하는 조직은 현대적인 위협 환경에서 필요한 속도로 작동할 수 있을 것입니다.

인터뷰에 감사드립니다. 더 많은 정보를 원하는 독자는 델로이트를 방문하거나 이전 인터뷰를 읽어보십시오.

앙투안은 Unite.AI의 비전 있는 리더이자 창립 파트너로, AI와 로봇공학의 미래를 만들어 가고 발전시키는 데 변함없는 열정을 쏟고 있습니다. 여러 기업을 창업한 그는 AI가 전기만큼 사회를 크게 변화시킬 것이라고 믿으며, 혁신적인 기술과 범용 인공지능(AGI)의 잠재력에 관해 자주 열정적으로 이야기합니다.

미래학자로서 이러한 혁신이 세상을 어떻게 바꿀지 탐구하는 데 전념하고 있습니다. 또한 미래를 새롭게 정의하고 산업 전반을 변화시키는 첨단 기술에 대한 투자에 초점을 맞춘 플랫폼인 Securities.io의 설립자입니다.