CYGNVS 회복탄력성 벤치마크 보고서, AI 사고 대응 준비의 허점 드러내

CYGNVS 회복탄력성 벤치마크 보고서는 CYGNVS가 Marsh Risk와 협력해 작성했으며, 조직의 AI 활용과 AI 관련 사고를 관리하는 역량 사이의 격차가 커지고 있음을 보여준다. 9,500건이 넘는 자체 보고 설문을 바탕으로 한 이 보고서에 따르면, 설문에 응답한 조직의 89%가 어떤 형태로든 AI 사고를 경험했으며 46%는 사고 발생 시 대응을 즉흥적으로 마련할 것이라고 답했다.

2026년 10월 13일에 발표된 이 보고서는 AI가 콘텐츠 생성에서 비즈니스 업무 흐름 운영으로 영역을 넓히면서 더욱 중대한 문제가 되는 사안을 살펴본다. 에이전트에 문서, 이메일, 비즈니스 시스템에 대한 접근 권한을 부여하면 에이전트를 유용하게 활용할 수 있다. 하지만 잘못된 지시, 노출된 자격 증명 또는 통제되지 않는 일련의 행동을 억제하기는 더 어려워진다.

조사 결과는 AI 도입과 AI의 실패에 대비한 복구 준비가 서로 다른 속도로 진행되고 있음을 시사한다. 데이터에 포함된 조직 가운데 약 80%가 생성형 AI를 사용하지만, AI를 공격에 대비해 테스트하는 조직은 3곳 중 1곳에 불과하다. AI를 사용하는 조직의 4분의 3이 AI 거버넌스 위원회를 두고 있다고 답했지만, 그렇다고 해서 검증된 운영 방어 체계를 갖췄다는 뜻은 아니다.

보고서에서 AI 사고로 분류하는 사례

핵심 수치를 해석할 때는 맥락을 고려해야 한다. 이 보고서는 AI 사고를 폭넓게 정의하며, 유해한 환각, 편향, 모델 드리프트, 데이터 유출, 의도하지 않은 목표를 추구하는 에이전트, 상호작용하는 에이전트 간의 실패, 불충분한 안전장치를 포함한다. 이러한 사건은 원인과 결과가 매우 다를 수 있다.

고객에게 잘못된 답변을 제공하는 일과 에이전트가 기밀 정보를 노출하는 일은 모두 이처럼 폭넓은 논의에 포함되지만, 동일한 보안 사고는 아니다. 따라서 89%라는 수치는 AI 관련 침해를 거의 10곳 중 9곳이 겪었다는 증거가 아니라, 어떤 형태로든 AI 사고를 경험했다고 응답한 비율로 해석해야 한다. 보고서는 또한 조직의 16%가 적어도 주 1회 AI 사고를 겪는다고 밝혔지만, 이러한 사고의 심각도가 모두 같다고 단정하지는 않았다.

이러한 구분은 대응 계획을 세울 때 중요하다. 유해한 모델 출력이 발생하면 콘텐츠를 철회하고 영향을 받은 의사결정을 검토해야 할 수 있다. 연결된 도구를 통해 작동하는 에이전트의 경우 권한을 취소하고 활동 기록을 보존하며 여러 시스템에서 발생한 변경 사항을 파악해야 할 수 있다. 기존 침해 대응 절차서가 두 대응의 일부를 다룰 수는 있지만, 담당 팀은 AI에 특화된 조치 중 어떤 것을 취할 수 있는지, 그리고 누가 그 조치를 취할 권한을 갖는지 여전히 파악해야 한다.

계획은 흔하다. 실행 가능한 계획은 그렇지 않다.

보고서는 대비 태세를 준비, 훈련, 대응, 보고의 네 단계로 나눈다. 각 단계에서 반복적으로 드러나는 취약점은 문서화된 계획을 보유하는 것과 압박이 큰 상황에서 이를 실행할 수 있는 것 사이의 간극이다.

• 준비: 92%가 사고 대응 절차를 문서화했지만, 랜섬웨어 대응 절차서를 마련한 곳은 37%, 제3자 관련 사고 대응 절차서를 마련한 곳은 29%에 그쳤다.
• 훈련: 17%는 도상훈련을 실시하지 않는다. 또 66%는 매년 또는 2년에 한 번 도상훈련을 한다.
• 대응: 67%는 가장 중요한 프로세스와 종속 요소를 담당할 책임자를 명확히 지정하지 않았다.
• 보고: 69%는 누가 언제 무엇을 했는지에 관한 기록에 상당한 공백이 있음을 인정했다.

한편 조직의 10곳 중 6곳 이상은 지난 12개월 동안 사고 건수가 증가했다고 답했으며, 84%는 대응 계획을 1년에 한 번 이하로 검토한다. 이 수치들은 대비 태세의 서로 다른 측면을 보여주지만, 함께 살펴보면 현실적인 의문이 제기된다. 계획에 명시된 시스템, 공급업체, 권한이 계속 바뀌는 상황에서 계획은 얼마나 빨리 낡은 것이 되는가?

AI를 도입한 환경에서는 새로운 모델의 추가, 데이터 소스의 확대, 또는 이전에는 수동으로 하던 작업을 실행할 권한의 부여 등이 변화를 일으킬 수 있다. 각각의 변화는 문제가 발생했을 때 필요한 대응을 바꿀 수 있다. 계획에는 관련 시스템의 책임자, 이용 가능한 억제 수단, 그리고 억제 조치가 진행되는 동안 보존해야 할 증거가 명시되어야 한다.

대응 인프라에 별도의 경계가 필요한 이유

설문에 응답한 조직 가운데 33%만이 조사 대상인 AI가 관찰하거나 영향을 미칠 수 없는 전용 대역외 지휘 환경을 갖추고 있다. 아키텍처상의 문제는 분명하다. 대응팀은 영향을 받은 환경을 신뢰할 수 없을 때도 신뢰를 유지하는 조정 공간이 필요하다.

공유 문서와 기업용 메시징 시스템에 접근할 수 있는 에이전트를 생각해 보자. 대응 담당자들이 같은 시스템에 조사 기록과 억제 계획을 작성한다면, 에이전트의 권한으로 대응 내용에도 접근할 수 있다. 그렇다고 해서 오작동하는 모든 에이전트가 자신의 행동을 숨긴다는 뜻은 아니다. 영향을 받은 시스템이 올바르게 작동하는 데 대응 아키텍처를 의존해서는 안 된다는 뜻이다.

CYGNVS는 보안팀, 기업 경영진, 외부 전문가가 협력할 수 있는 플랫폼으로 이러한 문제에 대응한다. 이 플랫폼의 AI 사고 지휘 센터에는 AI 전용 대응 절차서, 모의 훈련 시나리오, 대응 지침이 포함된다. 회사는 이 환경이 고객사의 기업용 싱글 사인온, 이메일, 인프라와 독립적으로 운영된다고 밝혔다.

대역 외 기능에는 별도의 사용자 ID와 사고 대응 작업 공간을 승인된 참여자만 이용할 수 있도록 제한하는 Isolate Mode가 포함된다. 회사는 대응 활동을 기록하기 위한 과거 시점의 스냅샷과 디지털 서명된 액세스 인증서도 제공한다고 설명한다. 이러한 기능은 조정 및 증거 관리 기능이며, 그 효과는 여전히 조직이 액세스를 구성하고, 책임을 배정하고, 사용 방법을 연습하는 방식에 달려 있다.

의사결정권자가 참여하는 훈련이 필요하다

보고서에 따르면 조직 중 법무, 경영진, 커뮤니케이션 부서가 참여하는 범부서 모의훈련을 실시하는 곳은 15%에 불과합니다. 여전히 거의 절반은 리허설을 주로 보안 및 IT 훈련으로 여기며, 다른 부서는 필요할 때 참여시킵니다.

그 결과 중요한 의사결정이 충분히 연습되지 않습니다. 보안팀은 연동 기능을 비활성화할 수 있지만, 고객 대상 서비스를 중단하려면 경영진의 승인이 필요할 수 있습니다. 법무팀과 커뮤니케이션팀은 조사가 끝나기 전에 무엇을 공개할 수 있는지 판단해야 할 수도 있습니다. 이러한 인계 절차를 훈련하면 권한이 부재한 지점과 서로 충돌하는 전제를 드러내는 데 도움이 됩니다.

외부 업체도 또 하나의 의존 요소입니다. 위기 커뮤니케이션 계획이 있다고 답한 비율은 88%지만, 10곳 중 4곳이 넘는 조직은 해당 계획의 실행에 필요한 외부 전문 인력을 확보하지 못했습니다. 연락처 목록과 계약 체결은 대응 준비의 실무 요소이며, 특히 광범위한 사고가 발생해 여러 조직이 같은 전문가를 필요로 할 때 중요합니다.

벤치마크 해석 방법

방법론에 따르면 2023년 1월부터 2026년 9월까지 아시아·유럽·북미 국가의 21개 산업 전반에서 설문조사 9,500건 이상을 수집했습니다. 응답은 응답자 본인의 보고를 바탕으로 했으며, 익명화한 뒤 전체 단위로 분석했습니다. 데이터에는 이전 24개월 동안 중대한 사이버 사고나 AI 사고를 겪은 조직과 겪지 않은 조직이 모두 포함됩니다.

이는 여러 해에 걸쳐 수집한 설문 응답 자료이지, 서로 다른 9,500개 기업을 대상으로 새로 한 번 실시한 여론조사가 아닙니다. 공개된 방법론은 모든 조직을 대표하는 확률표본을 설정하지 않았으며, 주요 결과별 표본 규모도 제시하지 않습니다. 백분율은 데이터셋 안에서 유용한 지표지만, 사고 발생률 전체를 정확히 추정한 수치로 받아들여서는 안 됩니다.

보고서는 최근 중대한 사고를 겪은 조직이 여러 지표에서 더 높은 대응 준비 수준을 보이는 경향이 있다고 밝혔습니다. 이러한 연관성은 해당 조직들이 무엇을 바꿨는지 살펴볼 근거가 되지만, 사고 경험이 개선을 초래했다고 그 자체로 입증하지는 않습니다. CYGNVS는 사고 대응 관리 소프트웨어도 판매하므로, 권고 사항을 평가할 때 회사의 상업적 이해관계도 고려해야 합니다.

조사 결과를 실제 운영 변화로 연결하기

보고서와 함께 CYGNVS는 고객이 산업, 조직 규모, 지역별 대응 준비 수준을 비교할 수 있도록 해 준다고 회사가 설명하는 Resilience Benchmark 기능을 선보입니다. 고객이 아닌 조직도 무료 평가를 완료하면 맞춤형 벤치마크 보고서를 받을 수 있습니다. 보고서와 평가는 CYGNVS의 회복탄력성 자료에서 확인할 수 있습니다.

가장 유용한 시사점은 구체적인 조치를 시험하는 것입니다. 누가 에이전트를 중지할 수 있는지, 회사 시스템이 침해된 경우 대응 담당자들이 어디에서 소통할지, 어떤 기록이 보존되는지, 비상 상황에서 접근 권한을 급히 마련하지 않고도 외부 전문가가 참여할 수 있는지를 확인해야 합니다. 이러한 역량을 측정하면 정책이 존재한다는 사실만으로 판단하는 것보다 이사회와 보안 책임자가 대응 준비 수준을 더 명확히 파악할 수 있습니다.

조직이 AI에 더 많은 권한을 부여할수록 대응 준비도 그에 맞춰 강화해야 합니다. CYGNVS Resilience Benchmark Report는 이러한 격차를 드러냅니다. 격차를 좁히려면 팀이 문서로 작성한 의도를 이미 연습해 본 의사결정과 통제로 바꿔야 합니다.