사상 리더
AI는 보안을 확장할 수 있다. 하지만 무엇을 확장할 것인가?

핵심 포인트조직적 맥락 없이는 더 많은 데이터를 처리한다고 해서 위협 탐지가 자동으로 개선되지 않습니다.
더 보기
- 조직적 맥락 없이는 더 많은 데이터를 처리한다고 해서 위협 탐지가 자동으로 개선되지 않습니다.
- 미세 조정된 모델은 최전선 모델보다 더 예측 가능한 비용으로 대규모 조사를 지원할 수 있습니다.
- 자율성은 위험에 비례해야 하며 에이전트가 확장되기 전에 거버넌스가 설계되어야 합니다.
오늘날 기업 보안팀은 현실적으로 수동 조사로 감당하기 어려울 만큼 많은 활동과 텔레메트리 데이터, 경보에 직면해 있습니다. 추정치는 서로 다르지만, 일부 연구에 따르면 보안 운영팀은 하루 평균 4,400건이 넘는 경보를 받습니다. 조직이 성장하고 도구를 추가하며 AI가 더 많은 공격을 가능하게 함에 따라 경보 수는 늘어날 수밖에 없습니다. 이미 환경에 엔드포인트가 200만 개에 달하는 기업의 사례도 있습니다. 이러한 경보를 수동으로 조사하는 보안팀은 점점 더 자율적으로 움직이는 공격자에 맞서 공정한 싸움을 벌이고 있다고 보기 어렵습니다.
방어 담당자에게 AI 에이전트는 환경 전반의 조사와 기타 반복 작업을 맡아 이러한 상황을 바꿀 수 있습니다. 그러나 더 많은 데이터를 처리할 수 있다고 해서 위협 탐지나 대응이 자동으로 개선되는 것은 아닙니다. 필요한 것은 단순한 확장이 아니라 맥락입니다.
확장성을 평가할 때 맥락이 중요한 이유
수백만 개의 엔드포인트를 조사하는 에이전트는 무엇을 찾고 있는지, 해당 환경에서 어떤 행동이 이례적인지, 어떤 발견을 추가로 조사해야 하는지 이해해야 합니다. 이러한 맥락이 없으면 자동화로 인해 잡음이 커지고 관련성이 없거나 오해를 불러일으키는 결론이 나올 수 있습니다.
또한 모든 조직이 각 경보를 조사할 때 최첨단 모델에 의존할 수 있는 것은 아니라는 점을 기억해야 합니다. 그렇게 하면 비용이 지나치게 많이 들 것입니다.
보안 환경은 인프라와 애플리케이션, 운영 요건, 규제 의무, 위험 감수 수준이 서로 다릅니다. 방어 담당자는 규정 준수 요건을 관리하고 운영 차질을 방지하는 동시에 애플리케이션을 계속 가동해야 합니다.
효과적인 에이전트가 되려면 과거의 조사 사례, 정립된 절차, 숙련된 분석가의 판단 등 조직의 지식을 통합해야 합니다. 이러한 지식의 상당 부분은 스프레드시트나 다른 형식으로 에이전트에 단순히 입력할 수 있는 것이 아닙니다. 경험 많은 보안 담당자들이 실제로 일하는 모습을 관찰하고 그들로부터 배워야 얻을 수 있는 지식입니다.
기업이 풀어야 할 핵심 과제는 조직에 축적된 지식을 어떻게 일관되고 맥락에 맞는 판단을 기계 속도로 내릴 수 있는 시스템으로 전환하느냐는 것입니다.
조직의 지식을 실제 운영에 적용하는 방법
조직은 과거 사례에 대한 판단과 확립된 절차, 분석가의 증거 해석 방식 등 조사에 영향을 주는 지식을 수집하고 적용할 방법을 마련해야 합니다. 기업에는 포착해 둘 필요가 있는 ‘맞춤형’ 프로세스와 도구, 암묵적으로 공유되는 지식도 있을 수 있습니다.
모델을 특화하는 것도 한 가지 방법입니다. 개별 기업 고객에 맞춰 모델을 미세 조정하면 성능을 높게 유지하면서도 대규모 조사를 더 예측 가능한 비용으로 수행할 수 있습니다. 미세 조정한 오픈소스 모델은 엔드포인트 수가 매우 많은 환경을 다루는 작업에 특히 유용할 수 있습니다.
조직은 모델과 워크플로, 기업 환경이 바뀌는 상황에서도 에이전트 성능을 평가해야 합니다. 운영 환경의 데이터를 더 이상 사용할 수 없거나 데이터가 오래된 경우, 합성 환경 또는 디지털 트윈을 활용해 서로 다른 버전의 에이전트를 대표성 있는 환경에서 테스트할 수 있습니다.
맥락을 제공하는 방법은 미세 조정뿐만이 아닙니다. 검색 증강, 메모리, 워크플로 오케스트레이션, 명시적인 정책 제어도 대안이 될 수 있습니다. 핵심은 선택한 방법이 에이전트가 실제로 작동할 환경에서 성능을 높이는 것입니다.
대규모 자율 운영에는 명확한 경계와 감독, 조율이 필요하다
위협을 정확히 식별하는 것은 과제의 일부일 뿐입니다. 에이전트는 어떤 조치를 취할 권한이 있는지, 언제 사람의 승인이 필요한지, 정상적인 업무 운영을 어떻게 방해하지 않을지 이해해야 합니다. 에이전트가 자율적으로 행동할 수 있는 범위와 사람의 판단이 필요한 범위를 정하는 것은 신뢰할 수 있는 배포에 필수적입니다.
자율 운영을 대규모로 구현하려면 규모의 경제도 필요합니다. 수백만 건의 조사에 최첨단 모델을 사용하는 기업은 결국 파산할 것입니다. 따라서 소형 언어 모델(SLM)이든 독점 모델이든, AI 모델을 활용해 조사하는 가장 효율적인 방법을 찾는 일이 무엇보다 중요합니다.
자율성은 위험 수준에 비례해야 합니다. 일상적이고 충분히 이해된 작업은 자율적으로 수행해도 적절할 수 있지만, 중대한 결과를 초래하거나 운영에 차질을 일으킬 수 있는 조치에는 사람의 승인이나 추가 권한 부여가 필요할 수 있습니다. 기업 보안에는 팀 간 협업도 중요합니다. 위협을 식별한 조사 결과에 방화벽 설정 변경이 필요한 경우, 적절한 승인과 조치에 대한 책임성을 갖춘 채 해당 시스템을 담당하는 팀으로 원활하게 전달되어야 합니다.
따라서 거버넌스와 워크플로 설계는 에이전트 배포의 필수 요소이며, 기술을 확장한 뒤에 추가할 수 있는 통제 수단이 아닙니다.
보안 AI의 성공을 가늠하는 다음 기준은 결과의 품질이다
조직은 조사 정확도, 오탐률과 미탐률, 조사 및 시정에 걸리는 시간, 조사당 비용, 에스컬레이션의 품질, 권한 부여 정책 준수 여부 등 결과 기반 지표를 사용해 에이전트를 평가해야 한다.
모델과 워크플로가 변화함에 따라 지속적인 평가는 필수적이다. 대표 사례를 대상으로 서로 다른 에이전트 버전을 테스트하고 합성 환경을 활용하면 조직이 업데이트를 프로덕션 환경에 배포하기 전에 성능 저하를 파악하는 데 도움이 될 수 있다.
보안 책임자는 자동화의 이점과 배포에 따른 운영상 위험 사이에서 균형을 맞춰야 한다. 애플리케이션 가용성, 규정 준수 의무, 조직의 위험 감수 수준, 구현 일정은 모두 새로운 기능을 얼마나 신속하게 도입할 수 있는지에 영향을 미친다.
AI는 보안팀이 오랫동안 이어져 온 역량 부족 문제를 해결할 기회를 제공하지만, 단순히 규모를 키우는 것이 최종 목표는 아니다. 진정한 기회는 기계의 속도에 조직의 맥락, 적절한 권한, 인간의 판단력을 결합해 에이전트가 중요한 사안을 가려내고 올바른 조치를 취하며 필요할 때 적절한 사람들을 참여시키도록 하는 데 있다.












