์ธํฐ๋ทฐ
๋งํฌ ๋์ฝ์จ, ๋ธ๋ก์ดํธ์ ๋ฏธ๊ตญ ์ฌ์ด๋ฒ ๋ชจ๋ํ ๋ฆฌ๋ – ์ธํฐ๋ทฐ ์๋ฆฌ์ฆ: ๋์์จ ๋ํ
마크 니콜슨, 델로이트의 미국 사이버 모던화 리더는 델로이트의 수석으로 사이버 보안, 인공지능, 기업 위험 관리의 교차점에서 20년 이상의 경험을 가지고 있습니다. 그는 사이버 AI 이니셔티브와 델로이트의 사이버 실践의 상업 전략을领导하며, 대규모 조직이 보안 프레임워크를 현대화하고 사이버 투자를 진화하는 위험 환경과 일치시키는 것을 도와줍니다. 델로이트 이전에, 그는 Vigilant, Inc.의 공동 창립자이자 COO로 재직하였으며, 위협 인텔리전스와 악의적인 이벤트 모니터링에 중점을 둔 정보 보안 컨설팅 회사입니다. 그의 이전 경력은 여러 기술 회사에서 판매 및 비즈니스 개발 역할을 수행하여 사이버 보안의 기술적 및 상업적 측면에서 강한 기초를 제공했습니다.
델로이트는 세계 최대의 전문 서비스 회사 중 하나로, 거의 모든 산업의 조직에 감사, 컨설팅, 세금, 및 자문 서비스를 제공합니다. 그들의 사이버 보안 실践은 기술들인 인공지능을 통해 디지털 변화를 가능하게 하면서 복잡한 위협 환경을 탐색하는 것을 도와주는 것을 중점으로 합니다. 회사는 사이버 전략, 회복력, 위험 관리, 및 기업 보안을 포함하는 서비스를 제공하며, 사이버 보안을 보호 기능 및 혁신과 성장의 전략적 가능성으로 пози션합니다.
이 인터뷰는 이전에 2025년에 게시된 인터뷰를 따릅니다.
당신은 사이버 보안의 초기부터 참여해 왔으며, Vigilant의 공동 창립자로서 초기 보안 정보 및 이벤트 관리(SIEM) 및 위협 인텔리전스 기능을 시장에 도입하는 것을 도와왔습니다. 초기 모니터링 시스템에서 오늘날의 AI 기반 사이버 방어 플랫폼으로의 진화는 조직이 위협을 탐지하고 대응하는 방식을 어떻게 변경했습니까?
우리가 처음으로 모니터링 플랫폼을 구축했을 때, 핵심적인 도전은 데이터를 한 곳에 모으고 그意义를 이해하는 것이었습니다. 나는 분석가들이 매일 아침 방화벽 로그를 인쇄하여 수동으로 검토하여 비정상성을 찾으려고 했던 것을 기억합니다. SIEM이 성숙함에 따라도, 규모的问题이 있었습니다. 인간의 속도는 탐지된 이벤트의 엄청난 수에 대응할 수 없었습니다. 자동화에도 불구하고, 사이버 방어자는仍然적으로 데이터 상관관계 및 분석 문제를 가지고 있었습니다.
한 가지 희망은 인공지능이 그 역학을 근본적으로 변경할 것입니다. 레벨 1 보안 운영을 자동화하는 에이전트 기능을 배치하는 것을 넘어, 인공지능은 탐지 및 대응을 “사실”에서 “발생하는대로”로 변경할 수 있습니다. 일부 경우에, 사이버 조직은 AI가 복구 조치를 시작하는 것을 허용할 수 있습니다.
하지만 어려운 부분은消えません. 시스템이 더 자율적이고 복잡해짐에 따라, 신뢰 및 관찰 가능성이 전투장이 됩니다. 시스템이 무엇을 하는지, 왜那样하는지, 그리고 그것이 조작되지 않았는지 어떻게 알 수 있습니까? 인공지능의 기회는 엄청나지만, 그것은 또한 환경이 기계 속도로 작동할 때 위험을 높입니다.
당신은 인공지능이 적들에게 위협을 자동화하고, 취약점을 식별하고, 공격 주기를 가속화하는 것을 가능하게 한다고 언급했습니다. 실제로, 취약점 발견과 악용 사이의 시간을 얼마나 압축했습니까?
과거에는 취약점 발견과 악용 사이에 시간적인 간격이 있었습니다.緊急性은 있었습니다. 그러나 일반적으로, 제로 데이가 아닌 경우, 위협을 이해하고 패치하고 완화하기 전에 공격자가 대규모로 악용할 수 있는 시간적 간격이 있었습니다. 인공지능은 그 간격을 거의 없애버렸습니다.
적들은 자동으로 재조사하고, 노출을 스캔하고, 공격 주기를 가속화하는 것을 가능하게 하는 인공지능 도구를 사용할 수 있습니다. 많은 경우에, 과거에는 몇 주가 걸리던 것이 이제 몇 시간으로 압축될 수 있습니다. 그리고高度 자동화된 시나리오에서는, 대부분의 보안 프로그램이 처리할 수 있는 속도보다 더 빠를 수 있습니다.
결론은 간단합니다. 보안 팀은 방어 측에서 자동화와 인공지능을 필요로 합니다. 강력한 제어와 함께, 인공지능을 사용하여 사이버 위협을 탐지하고 대응할 수 있습니다.
보안 팀은 점점 더 “인간-루프”에서 “인간-오버사이트” 모니터링 모델로 이동하고 있습니다. 현대적인 보안 작전 센터(SOC) 내에서 그 변화는 어떻게 보입니까? 그리고 AI가 더 많은 자율적인 작업을 맡게 됨에 따라, 조직은 분석가 역할을 어떻게 재고해야 합니까?
전통적인 SOC에서, 분석가들은 모든 의사 결정 지점의 중심에 있습니다. 경고가 들어오면, 분석가들은 그것을 분류하고, 조사하고, 어떤 조치를 취해야 하는지 결정합니다. 그 접근 방식은 경고와 공격의 속도가 관리할 수 있을 때는 작동했습니다. 그러나 오늘날의 환경에서는 활동의 규모가 너무 커서 인간이 모든 의사 결정 지점에서 게이트키퍼로 작동할 수 없습니다.
“인간-오버사이트”로의 전환은 AI 시스템이 이전에 분석가가 처리했던 루틴 작업을 수행할 수 있음을 의미합니다. 분석가의 역할은 수동적인 실행에서 감독 및 검증으로 변경됩니다.
작업적으로, 분석가의 시간은 “경고 그라인딩”에서 더 가치 있는 작업으로 변경됩니다. 위협 헌팅, 탐지 엔지니어링, 적대자 시뮬레이션 및 방어 아키텍처 개선과 같은 작업입니다. 인간은仍然적으로 필수적이지만, 그들의 역할은 감독, 판단 및 전략으로 진화합니다.
“보안 AI 설계”라는 개념은 모델 안전성 외에도 身分 시스템, 권한 아키텍처, 및 오케스트레이션 레이어로 확장되어야 합니다. 왜 vậy입니까?
많은 인공지능 보안 논의는 모델 자체에 중점을 두고 있습니다. 예를 들어, 훈련 데이터를 보호하거나, 모델 중독을 방지하거나, 프롬프트 주입 공격에 대항하는 것을 방지합니다. 그들은 실제 문제입니다. 그러나 그것은 전체적인 위험의 일부에 불과합니다.
실제로, 인공지능 시스템은 더 큰 디지털 생태계의 일부로 작동합니다.它们는 데이터에 접근하고, API와 상호작용하며, 워크플ロー와 트리거하며, 점점 더 자율적인 에이전트를 통해 작동합니다.
그것이 발생할 때, 身分 및 권한이 제어 평면이 됩니다. AI 에이전트는 효과적으로 기업 내의 새로운 디지털 身分입니다. 如果 그 身分이 적절하게 관리되지 않는다면, 그것은重大한 위험을 도입할 수 있습니다.
“보안 AI 설계”는 身分 관리, 접근 제어, 오케스트레이션 레이어 및 AI 에이전트의 동작을 추적하는 모니터링 시스템으로 확장되어야 합니다. 조직은 AI 에이전트를 인간 사용자와 마찬가지로 취급해야 합니다. 정의된 권한, 감사, 및 감독이 있어야 합니다. 그렇지 않으면 공격 표면이 급격히 확장됩니다.
많은 기업은 레거시 보안 워크플로우에 AI 도구를 계층화하고 있습니다. 조직이 실제로 사이버 방어에서 AI를 利用하기 위해서는 어떤 가장 큰 아키텍처 변경이 필요합니까?
일반적인 패턴은 레거시 프로세스와 워크플로우에 AI를 결합하는 것입니다. 그것은 나쁘지 않은 첫 번째 접근 방식입니다. 예를 들어, Deloitte는 인간을 대체할 수 있는 에이전트를 만들었습니다. 그러나 미래의 이점은 기업이 사이버 보안 워크플로우를 처음부터 재고하는 것입니다.
데이터 재단을 현대화하여 보안 도구가 높은 품질의 텔레메트리 데이터에 접근할 수 있도록 합니다. 탐지, 응답 및 身分 기능이 단절된 도구가 아닌 조정된 시스템으로 작동하도록 오케斯特레이션을 구축합니다.
身分은 가장 중요한 제어 중 하나로 남아 있습니다. 더 많은 자동화와 AI 에이전트가 도입됨에 따라, 비인간 身分의 수가 급격히 증가합니다. 그것들을 효과적으로 관리하는 것이 제어를 유지하는 데 필수적입니다.
AI 네이티브 보안은 궁극적으로 더 나은 데이터, 더 나은 오케스트레이션 및 인공지능 에이전트와 인간 에이전트 모두를 고려하는 거버넌스입니다.
AI 시스템이 더 자율적이 됨에 따라, 공격 표면은 에이전트 오케스트레이션, API 체인, 자동화된 의사 결정 파이프라인과 같은 영역으로 확장됩니다. 어떤 영역이 가장 우려스럽습니까?
만약 한 가지 영역을 선택해야 한다면, 그것은 에이전트 주도 시스템 내의 身分 및 데이터 접근 권한입니다.
조직이 더 많은 에이전트를 도입할수록, 기업 내의 자율적인 에이전트의 수가 증가합니다. 그 에이전트는 데이터, API 및 워크플로우에 접근할 수 있습니다. 그것은 공격자에게 매력적인 경로를 제공할 수 있습니다. 만약 권한이 철저하게 설계, 모니터링 및 감사되지 않는다면, 그것은 위험을 도입할 수 있습니다.
API 체인과 자동화된 의사 결정 파이프라인도 위험을 도입합니다. 그러나 身分 거버넌스는 종종 기초적인 제어입니다. 에이전트가 누구인지, 무엇을触れる 수 있는지, 그리고 무엇을 했는지 명확하게 알 수 없다면, 그것을 제어할 수 없습니다.
이사회의 관점에서, 이사들은 현재 AI 기반 사이버 위험에 대해 어떻게 생각하고 있습니까? 그리고 기술적인 현실과 이사회의 이해 사이에서 가장 큰 격차는 어디에 있습니까?
이사들은 점점 더 인식하고 있습니다. 인공지능은 기회를 가져올 수 있지만, 의미있는 위험도 가져올 수 있습니다. 대부분의 이사는 인공지능이 비즈니스 변화를 형성할 것이라는 것을 알고 있으며, 거버넌스, 보안, 회복력에 대한 질문을 시작하고 있습니다.
격차는 속도와 복잡성에서 나타납니다. 많은 이사 회의는 여전히 전통적인 사이버 프레임워크에 의존합니다. 그러나 그것은 인공지능으로 인한 위협이 어떻게 빠르게 진화하고 확장할 수 있는지 반영하지 않을 수 있습니다.
또 다른 격차는 “우리의 AI가 안전합니까?”라는 질문이 단순한 질문으로 들릴 수 있지만, 그答案은 데이터 거버넌스, 모델 무결성, 身分 관리 및 오케스트레이션에 걸쳐 있습니다. 이사들은 그 움직이는 부분을可視화하고 테스트할 수 있는 제어 기반 보고서를 강조하고, 감독이 기술과 함께 유지되도록 시간을 투자해야 합니다.
인공지능은 점점 더 사이버 보안의 양쪽에서 사용되고 있습니다. 우리는 영구적인 AI 대 AI 사이버 보안 경쟁에 들어가고 있습니까? 그리고 그렇다면, 공격자들이 복제하기 어려운 어떤 이점을 방어자가 가지고 있습니까?
우리는 명백히 공격자와 방어자가 모두 인공지능을 사용하는 시대에 살고 있습니다. 적들은 이미 인공지능을 사용하여 재조사, 취약점 식별 및 공격 주기 가속화를 가속화하고 있습니다. 그러나 방어자는 실제적인 이점을 가지고 있습니다.
방어자는 자신의 환경에 대한 가시성을 가지고 있으며, 내부 텔레메트리 데이터에 접근할 수 있으며, 공격자가 탐색해야 하는 계층화된 아키텍처를 구축할 수 있습니다. 인공지능은 방어자가 네트워크, 엔드포인트 및 身分 전체의巨대량의 데이터를 분석하여 비정상적인 동작을 훨씬 더 일찍 감지할 수 있도록 도와줍니다.
그러나 방어자는 강력한 거버넌스와 함께 인공지능을 배치해야 합니다. 인공지능을 단순히 시도하는 것이 아니라, 그것을 지속적으로 사용할 수 있어야 합니다. 인공지능 경쟁은 실제이며, 승자는 인공지능을 강력한 거버넌스와 함께 배치하는 것입니다.
대규모 기업에 대한 고문을 통해, 조직이 사이버 보안 전략에 인공지능을 통합하려고 할 때 가장 일반적인 실수는 무엇입니까?
가장 일반적인 실수 중 하나는 인공지능을 독립적인 도구로 취급하는 것입니다. 데이터 재단, 거버넌스 모델 또는 운영 프로세스를 업그레이드하지 않고 인공지능을 단순히 결합하는 것입니다. 그것은 결과의 플레이트로 이어집니다.
또 다른 실수는 인공지능 기능을 배치할 때 새로운 위험을 완전히 고려하지 않는 것입니다. 새로운 身分, 새로운 데이터 흐름 및 자동화된 의사 결정 경로가 공격 표면을 확장할 수 있습니다. 만약 그것들이 올바른 제어 없이 결합된다면, 인공지능은 취약성을 추가할 수 있습니다.
마지막으로, 많은 조직은 워크포스 참여의 중요성을 과소평가합니다. 보안 작전을 매일 실행하는 실무자들은 어디에 마찰이 있는지 그리고 “좋은”것이 무엇인지 알고 있습니다. 가장 강력한 변환은 초기에 그 팀을 포함하여 기술이 그들의 판단을 증폭시키도록 합니다.
3~5년 후를 내다보면, AI 네이티브 보안 작전 센터는 오늘날의 SOC 환경과 어떻게 달라질 것입니까?
그것은 아마도 많이 다를 것입니다. 미래의 SOC는 인간과 디지털 워크포스의 하이브리드로 작동할 것입니다. 인공지능 시스템은 데이터 처리, 상관관계 및 초기 응답 활동을 처리할 것입니다. 에이전트 시스템은 취약점 관리, 身分 거버넌스, 사건 응답 및 지속적인 제어 모니터링과 같은 워크플로우를 자동화하는 것을 도와줄 것입니다.
인간 분석가는仍然적으로 필수적이지만, 그들의 역할은 중심에서 변경됩니다. AI 시스템을 감독하고, 탐지 사용 사례를 검증하며, 복잡한 위협을 조사하고, 방어 아키텍처를 개선하는 것입니다. 목표는 인간을 제거하는 것이 아니라, 그들의 역할을 높이는 것입니다. 다음 세대의 보안 전문가를 훈련하는 방법은 무엇일까요? 레벨 1 및 레벨 2가 완전히 자동화될 때, 분석가는 전략적인 측면에 집중할 것입니다.
성공적인 하이브리드 워크포스를 구축하여 인간 전문 지식과 인공지능 기반 자동화를 결합하는 조직은 현대적인 위협 환경에서 필요한 속도로 작동할 수 있을 것입니다.
