AI는 손상된 보안基础을 고칠 수 없습니다

AI는 가시성, 분석, 의사결정을 강화하지만, 효과는 기본 환경의 품질에 의해 제한됩니다

“AI를 사용합니까?”라는 질문은 보안 제품에 대한 대화에서 기본 질문이 되었습니다. 보안 리더와 거의 모든 벤더가 이 질문을 제기합니다.

문제는 이 질문이 잘못된 것입니다. 제품이 AI를 사용한다고 해서 보안态勢를 강화할 수 있는 것은 아닙니다. AI는 모든 사이버 보안 문제를 해결할 수 있는 것은 아닙니다. 그 가치는 어떻게 적용되는지에 따라 달라지며, 이는 문제를 명확하게 정의하는 것으로 시작합니다.

더 좋은 질문은 “어떤 특정 보안 격차를 메우고 싶으며, 이 AI 기반 기술이 실제로 그것을 메울 수 있습니까?”입니다.

AI가 잘하는 것

AI는 보안에서 세 가지 주요 영역에서 가치를 제공합니다. 첫째, 데이터 격차를 메웁니다. 보안 팀은 수십 개의 소스에서 데이터를 가져옵니다. 이는 오래된 자산 인벤토리, 모든 접근 관계를 캡처하지 않는 身分 시스템, 특정 트래픽을 놓친 네트워크 텔레메트리 등입니다. AI는 불완전한 데이터 세트에서 컨텍스트를 추론하여 자산, 身分, 연결성, 워크로드 동작에 대한 더 완전한 그림을 그릴 수 있습니다.

AI는 또한 대규모 분석을 개선합니다. 보안 작동에서 신호 대 노이즈 문제는 심각하며 악화되고 있습니다. AI는 여러 데이터 소스에서 이벤트를 상관시키고, 주의가 필요한 경고를 표면화하고, 분석가의 시야에서 낮은 우선순위의 노이즈를 제거할 수 있습니다. 이것이 대부분의 보안 벤더가 AI 투자를 집중시킨 영역입니다. SOC 팀은 낮은 가치의 경고를 분류하는 데 덜 시간을 보내고, 인간의 판단이 필요한 활동에 더 많은 시간을 보냅니다.

세 번째, AI가 데이터를 강화하고 신호를 분석한 후, 다음 단계를 추천하거나, 위험을 완화할 정책 변경, 행동 패턴에 맞는 응답 동작, 구성 변경이 필요한 위치를 안내할 수 있습니다.

AI는 컨텍스트, 분석, 의사결정을 개선할 때 가장 큰 가치를 제공합니다. 그것은 강한 보안 관행을 강화하지만, 누락된 관행을 보완할 수는 없습니다.

약한 基础가 여전히 실패한다

AI는 조직이 제공하는 입력에 의해 제한됩니다. 이러한 입력(예: 텔레메트리, 아키텍처, 정책, 컨트롤, 기존 도구)은 AI가 할 수 있는 것의 경계를 정의합니다. 이러한 입력을 강화하면 AI가 더 날카로운 결과를 생산합니다. 약화시키면 출력이 열화됩니다.

부재를 식별할 컨텍스트가 없는 경우, AI는 그것을 보고할 수 없습니다. 그것은 환경을 조사하고 누락된 것을 플래그할 수 없습니다. 네트워크가 충분한 분리를 갖지 못하거나, 접근 제어가 너무宽容하거나, 가시성 격차로 인해 환경의 일부 세그먼트가 모니터링되지 않는다는 것을 보안 팀에게 알릴 수 없습니다.

AI는 “쓰레기가 들어가면 쓰레기가 나온다”라는 오래된 데이터 품질 원리를 탈피하지 않습니다. 그것은 강화합니다. 약한 텔레메트리는 약한 분석을 생성합니다. 결함이 있는 컨트롤은 AI에게 잘못된 방향으로 최적화할 수 있습니다. 불완전한 가시성은 의사결정이 부분적인 그림에서 이루어지며, AI는 더 빠르게 결정하지만, 더 정확하게는 아닙니다. 기본 정보가 신뢰할 수 없는 경우 속도는 개선되지 않습니다.

그것이 기초가 중요한 이유입니다. 강한 基础에는 의미 있는 경계를 적용하는 身分 및 접근 제어, 사용자, 워크로드, 애플리케이션, 데이터, 마이크로 세그먼테이션, 환경 전반에 걸친 포괄적인 가시성/관찰 가능성이 포함됩니다. 또한 신뢰할 수 있는 텔레메트리와 시스템이 어떻게 연결되고 의존하는지에 대한 명확한 이해가 필요합니다.

이것은 새롭지 않습니다. 이것은 보안 팀이 수년 동안 논의해 온 것과 같은 규율입니다. 모바일로의 전환에서 클라우드로의 이동까지. 변경된 것은 이것들을 무시하는 비용입니다. AI는 강한 보안 基础를 증폭할 수 있지만, 그것을 대체할 수는 없습니다.

에이전틱 AI는 위험 방정식을 변경한다

변화는 AI가 없는 상태에서 AI를 사용하는 상태로의 전환이 아닙니다. 그것은 AI를 보조하는 AI에서 행동하는 AI로의 전환입니다. 전통적인 AI는 데이터를 분석하고, 통찰력을 표면화하고, 다음 단계를 추천합니다. 에이전틱 AI는 인간의 결정 없이 시스템, 데이터, 워크플로우에서 실행됩니다.

이렇게 생각해 보십시오. 밤새 100개의 AI 에이전트를 배포하는 것은 효과적으로 로그오프하지 않고, 기계 속도로 작동하며, 허용된 시스템에 접근할 수 있는 100명의 새로운 직원을 고용하는 것과 같습니다. 그러나 인간 직원과 달리, 이러한 에이전트는 일시 정지하지 않으며, 의문을 가하지도 않으며, 접근이 사용되어야 하는지에 대한 판단을 적용하지 않습니다.它们는 지속적으로 실행되며, 허용된 시스템과 여러 애플리케이션에 접근합니다.

그것이 격차입니다. 접근 모델은 인간의 행동(예: 이산적인 동작, 더 느린 속도, 일부 판단)을 가정합니다. AI 에이전트는 이러한 제약을 제거합니다. 따라서 권한이 너무宽容하거나(또는 부정확한) 경우, 이러한 권한은 간헐적으로 사용되거나 남용되지 않습니다. 이러한 에이전트는 지속적으로, 대규모로, 접근할 수 있는 모든 시스템에서 실행됩니다.

위험은 에이전트에 특정 사용자의 동일한 접근 프로파일을 할당할 때 복합됩니다. 그러면 클론이 생성되며, 이는 도움이 되는 프록시가 아닙니다. 이 클론은 원본과 동일한宽容한 권한을 가지며, 지속적으로 실행되며, 공격자가 이를 악용할 경우, 조직은 동일한 위험에 노출됩니다.

AI 시대에 身分, 접근 제어, 최소 권한, 세그먼테이션, 관찰 가능성은 더 이상 최선의 관행이 아닙니다. 그것들은 基础적인 보안 요구사항입니다. 최근 Cloud Security Alliance 브리핑은 SANS, OWASP Gen AI 보안 프로젝트 및 실무자 커뮤니티와 함께 개발되었으며, 에이전틱 AI는 이러한 基础를 구식으로 만들지 않는다는 점을 강조합니다. 그것은 필수적입니다.

AI 준비 보안이란 무엇인가

AI 준비성을 조달 질문으로 간주하고, 어떤 AI 활성화된 도구를 구현할 것인지에 초점을 맞추는 것은 AI 준비성이 아키텍처, 治理, 컨트롤 문제라는 사실을 무시합니다. 질문은 어떤 도구를 구입할 것인가가 아니라, 환경이 AI를 안전하게 작동할 수 있는지 여부입니다.

가시성에서 시작하십시오. 어떤 AI 기능을 배포하기 전에, 보안 팀은 환경에 존재하는 모든 것에 대한 명확한 그림이 필요합니다. 자산, 워크로드, 身分, 애플리케이션, 데이터, AI 모델, 에이전트, 제3자 연결 등입니다. 이러한 인벤토리는 AI가 위해您가 구축할 수 있는 것이 아닙니다. 그것은 AI가 유용한 것을 할 수 있는 시작점입니다.

그런 다음 문제를 정의하십시오. 컨트롤 격차 또는 특정 위험을 먼저 식별하십시오. 개선해야 할 결과를 결정하십시오. 그런 다음 AI가 이러한 격차를 다른 접근 방식보다 더 잘 메울 수 있는지 여부를 물어보십시오. 문제를 먼저 식별하지 않고 AI 도구에서 시작하여 문제를 찾는 조직은 보안을 개선하지 않고 활동을 생성할 수 있습니다.

AI 에이전트에 대한 제로 트러스트 원칙을 적용하는 것이 여기서 작동합니다. 본능은 종종 에이전트가 해야 할 일의 목록을 정의하는 것입니다. 그러나 이러한 목록은 언제나 불완전할 것입니다. 더 신뢰할 수 있는 접근 방식은 각 에이전트가 할 수 있는 일을 정의하는 것입니다. 에이전트에게 정의된 작업에 필요한 접근만 제공하고, 스택의 모든 계층에서 이러한 제한을 적용합니다. 에이전트가 도달할 수 있는 시스템을 세그먼트하여, 에이전트가 정의된 경계를 벗어나거나 공격자가 이를 악용할 경우, 피해가 포함됩니다.

마지막으로, 활동의 증가가 성공 지표는 아닙니다. AI는 보안 팀이 취하는 동작의 볼륨을 증가시킬 수 있습니다. 그러나 이것은 보안을 개선하는 것을 의미하지 않습니다. 많은 활동을 표시하는 대시보드는 AI가 가치를 제공하는 신호가 아닙니다.

결과를 측정하십시오. 경고 볼륨이 실제 신호를 반영하여 떨어지는지, 위험이 가장 중요한 영역에서 더 빠르게 떨어지는지 여부를 확인하십시오. 정책 추천이 컨트롤을 강화하고, 보안 팀이 사건을 더 빠르게 포함하고, SOC 분석가가 인간의 판단이 필요한 작업에 더 많은 시간을 보낼 수 있도록 허용합니다.

기초가 먼저입니다

AI는 강한 보안태勢의 基础가 아닙니다. 그것은 승수기입니다. 승수기는 적용되는 것에 따라 가치가 달라집니다.

명확한 가시성, 최소 권한, 세그먼테이션, 강한 身分 제어가 있는 사운드 아키텍처를 구축한 조직은 AI를 사용하여 컨텍스트를 강화하고, 분석을 가속화하고, 더 나은 정보로 행동할 수 있습니다. 이러한 基础를 구축하지 않은 조직은 AI가 잘못된 방향으로 더 빠르게 이동하며, 결함이 있는 컨트롤을 최적화하고, 불완전한 그림에서 통찰력을 표면화합니다.

AI 투자에 앞서야 할 질문은 모든 보안 결정에서 주도해야 할 동일한 질문입니다. 해결하려고 하는 문제는 무엇인가? 답이 명확하고 지원 아키텍처가 있는 경우, AI는 솔루션을 더 효과적으로 만들 수 있습니다. 답이 불분명하거나 基础가 약한 경우, AI를 추가하면 아무런 차이가 없을 것입니다. 그것은 격차를 더 어렵게 만들 뿐입니다.

AI는 손상된 基础를 고칠 수 없습니다. 그것은 단지 균열을 더 빠르게 표시할 뿐입니다.