AI 회복력 재고찰: ‘설정하고 잊어버리기’ 모델을 포기해야 할 시점

최근 Gallup 조사에 따르면 AI 채택이 증가하는 추세이며, 고용된 성인의 절반 이상이 연간 최소 몇 차례는 기술을 사용한다고 보고했습니다. 이 데이터는 기업 환경 전반에 걸친 급속한 AI 채택을 가리키는 하나의 신호에 불과합니다. 여러 기업 리더가 AI의 ROI에 의문을 제기하기 시작했음에도, 조직이 업무 자동화와 생산성 극대화를 위해 기술에 의존하는 것을 멈추지는 못했습니다.

이러한 채택이 지속되는 동안, 조직은 자동화 워크플로우에서 발생할 수 있는 해로운 실수를 무시하고 싶어질 수 있습니다. AI를 일회성 솔루션으로 보고, IT 팀은 기술을 설정하고 실행만 시키면 ‘잊어버리면’ 된다고 생각합니다. 일부 보안 팀은 이러한 인식을 타파하고 안전한 AI 활용을 촉진하기 위해 자동화 플레이북을 만들려 하지만, 최우수 IT·보안 팀조차도 이러한 플레이북에 조정 여지를 거의 남기지 않습니다. 결과적으로 기업은 AI가 스스로 진화하는 것처럼 안전하게 함께 진화할 수 없습니다.

기업이 비즈니스 핵심 워크플로우에서 AI에 더 큰 권한을 부여함에 따라, 운영 민첩성이 오늘날 조직의 새로운 의무가 되어야 합니다. 이를 보편적인 관행으로 만들기 위해서는 기업 보안 리더가 ‘설정하고 잊어버리기’ 사고방식을 버리고 회복성을 설계해야 합니다.

자동화 역설 이해

AI 기반 자동화는 여러 기업 부문에서 막대한 생산성 향상을 제공하고 있습니다. 사이버보안을 예로 들어보겠습니다. AI 도구는 분석가가 과중한 업무와 압박을 받는 보안 운영 센터에서도 이전에 할 수 없었던 추가 작업을 수행하도록 합니다. 여기에는 알림 우선순위 지정, 이벤트 검토, 위협 탐지, 교차 검증, 그리고 두 번째 의견 얻기가 포함됩니다. 일부 C-레벨 리더와 달리, CISO는 AI가 미래에 제공할 가치에 대해 대체로 낙관적입니다. “CISO 보고서: AI 시대의 위험에서 회복력으로” 데이터에 따르면, CISO의 83%가 자동화를 기대를 초과할 가능성이 가장 높은 투자로 보고 있습니다.

이러한 이점에도 불구하고 역설은 남아 있습니다. 같은 보고서는 AI에 대한 CISO들의 회의감을 강조하며, 자율 오류의 결과를 우려하고 있습니다. CISO의 83%는 놓친 알림이나 오탐과 같은 ‘환각’ 현상의 영향을 가장 큰 우려로 꼽았습니다. 이러한 환각에 대한 우려를 뒷받침할 충분한 증거가 있습니다. 주요 상업 항공사가 법적 책임을 지게 되었고, 고객 서비스 챗봇이 사망 관련 요금 환불 정책을 환각해 손해 배상을 명령받았습니다. 위협 인텔리전스 회사는 스타트업을 외국 해커와 연결시켰다고 주장되는 보고서를 발표해 법적 문제에 직면하고 있습니다. AI가 실수를 하면 그 파장은 내부 시스템을 넘어 자본과 평판까지 확장될 수 있습니다.

구식 플레이북의 문제점

AI 중심 보안 플레이북은 성공적이고 안전한 AI 채택을 위한 기본 틀입니다. 그러나 이러한 플레이북이 전혀 변하지 않으면 문제가 발생합니다. 위협, IT 인프라, 비즈니스 환경은 지속적으로 진화하고 있습니다. AI는 위협 행위자가 공격을 확대하도록 돕는 한편, 점점 복잡해지는 IT 환경은 탐지를 어렵게 만듭니다. 동시에 기업이 AI에 더 큰 책임을 부여함에 따라 오류의 결과도 더욱 중요해집니다.

이러한 모든 요소가 계속 진화한다면, 자동화 논리 역시 함께 진화해야 합니다. 고정된 자동화 플레이북은 이를 방해합니다. 구시대적 논리로 현재 문제에 직면하게 만들며, 경우에 따라 보안 팀이 전혀 플레이북이 없던 상황보다 더 나빠질 수도 있습니다.

플레이북이 현재 AI 구현에 맞는 살아있는 유기체가 되어 내부 회복력을 촉진하려면, 다음과 같이 해야 합니다:

• 신규 위협 인텔리전스에 대해 지속적으로 테스트되어야 함
• 실제 사고 발생 후 업데이트되어야 함
• 효과가 없거나 가치를 제공하지 않게 되면 폐기되어야 함

이러한 사고방식은 CISA(사이버보안 및 인프라 보안국) 및 기타 글로벌 사이버보안 기관의 가이드라인과 일치하며, AI 시스템의 지속적인 모니터링과 지속적인 인간 개입을 권장합니다.

회복성 공식 구현

AI 시대는 AI를 단일 솔루션으로 보는 사고방식이나 기존 사용 사례에 자동화만 얹는 접근을 벗어나야 함을 기업에 요구합니다. 조직은 AI가 올바르게 작동하는 부분을 강화하고, 기술이 오류를 범했을 때 신속히 대응할 수 있는 회복성 문화를 구축해야 합니다.

세 부분으로 구성된 실용적인 공식은 이러한 회복성을 자동화된 행동에 내재화하는 데 도움이 됩니다.

• 신뢰도: 각 자동화 워크플로우마다, 팀은 스스로에게 물어야 합니다: 자동 응답을 시작한 트리거에 대해 우리는 얼마나 확신하고 있습니까?
• 가역성: 행동이 가역적인가? 그렇다면 얼마나 빠르고 안전하게 수행할 수 있는가?
• 영향 범위: 오류가 확산될 경우 그 결과는 얼마나 광범위하며, 영향을 받는 자산은 비즈니스에 얼마나 중요한가?

이러한 질문에 답하려면 적절한 가시성 및 모니터링 도구가 필수적입니다. 팀은 통합 가시성 및 데이터 관리 플랫폼을 활용해 자동 응답이 IT 환경의 어느 지점에서 발생할 수 있는지, 어떤 자산에 영향을 미치는지, 그리고 관련 비즈니스 결과를 완전히 파악해야 합니다. 이 과정을 정기적으로 수행하면 보안 팀은 최신 AI 플레이북을 유지할 수 있습니다. 또한, IT 팀이 언제, 어떻게 개입해야 부적절한 자동화 작업이 광범위하고 비용이 많이 드는 영향을 미치는 것을 방지할 수 있게 하여, 적절한 인간-루프 관행을 구현할 수 있습니다.

‘설정하고 잊어버리기’는 더 이상

현대의 CISO와 IT 리더는 AI 행동에 대한 최종 책임이 자신들에게 있음을 인식하는 것이 중요합니다. AI가 중요한 기업 업무에 관여할수록 최고 사이버보안 책임자의 부담은 커집니다. 기억해두면 좋은 격언은 “자동화는 버튼을 누르는 사람을 바꾸지만, 버튼이 눌리는 책임자는 바꾸지 않는다”입니다.

오늘날 CISO에게 부과된 책임과 위험은 ‘설정하고 잊어버리기’ 플레이북을 유지하기엔 너무 큽니다. 대신 회복성은 기업 전반에 스며들어 AI가 실수를 했을 때도 회복할 수 있는 실천과 문화가 되어야 합니다. 팀이 자동화 플레이북에 지속적인 모니터링, 가역성, 격리, 인간 소유권을 포함시킬 때, 기업은 자동화된 결정이 전사적인 문제로 확대되는 것을 방지할 수 있습니다.