사이버 보안의 미래: AI, 자동화, 그리고 인간 요인

지난 10년 동안 정보 기술의 폭발적인 성장과 함께, 사이버 보안 위협의 암흑 현실도 극적으로 발전해 왔다. 사이버 공격은 과거에는 주로 악의적인 해커들이 명성을 얻거나 금전적 이익을 얻기 위해 수행되었지만, 현재는 훨씬 더 정교하고 목표가 명확해졌다. 국가 스폰서십을 받는 스파이 활동에서부터 기업과 개인의 신분 도용에 이르기까지, 사이버 범죄의 동기는 점점 더险하고 위험해지고 있다. 금전적 이익은 여전히 사이버 범죄의 중요한 이유이지만, 중요 데이터와 자산을 훔치는 더险한 목적으로 인해 그 중요성이 상대적으로 낮아졌다. 사이버 공격자는 인공 지능을 포함한 최신 기술을 활용하여 시스템에 침투하고 악의적인 활동을 수행한다. 미국에서는 연방수사국(FBI)이 2022년에 80만 건 이상의 사이버 범죄 관련 신고가 접수되었으며, 총 손실액은 100억 달러 이상으로, 2021年的 69억 달러를 훨씬 초과했다고 보고했다.

사이버 보안 위협이 빠르게 발전하는 상황에서, 조직은 다각적인 접근 방식을採用하여 사이버 보안을 강화해야 한다. 이러한 접근 방식은 공격자가 어떻게 시스템에 침투하는지, 초기 침투를 방지하는 방법, 침투를 신속하게 탐지하는 방법, 그리고 신속한 대응과 복구를 가능하게 하는 방법을 다루어야 한다. 디지털 자산을 보호하려면 인공 지능과 자동화를 활용하면서도 숙련된 인간 분석가가 보안态勢의 중요한 부분으로 남아 있어야 한다.

조직을 보호하려면 다양한 침투 지점과 공격 벡터를 고려한 다층 전략을採用해야 한다. 이러한 전략은 크게 네 가지 범주로 나눌 수 있다: 1) 웹 및 네트워크 공격, 2) 사용자 행동 및 身分 기반 공격, 3) 클라우드 및 하이브리드 환경을 대상으로 하는 엔티티 공격, 4) 맬웨어, 랜섬웨어, 고급 지속性 위협 및 기타 악성 코드.

AI와 자동화의 활용

이러한 공격 클래스 각각에 맞춘 인공 지능과 머신 러닝 모델을 배치하는 것은 프로액티브 위협 탐지와 방지에 중요하다. 웹 및 네트워크 공격의 경우, 모델은 피싱, 브라우저 악용, 분산 서비스 거부(DDoS) 공격과 같은 위협을 실시간으로 식별해야 한다. 인공 지능을 활용한 사용자 및 엔티티 행동 분석은 계정 침해 또는 시스템 자원 및 데이터의 악용과 같은 비정상적인 활동을 감지할 수 있다. 마지막으로, 인공 지능 기반 맬웨어 분석은 새로운 스트레인을 신속하게 분류하고, 악의적인 행동을 식별하며, 파일 기반 위협의 영향을 완화할 수 있다. 이러한 공격 표면에 걸쳐 인공 지능과 머신 러닝 모델을 구현함으로써, 조직은 자동으로 공격을 초기 단계에서 식별하여 전면적인 사건으로 확대되는 것을 방지할 수 있다.

인공 지능/머신 러닝 모델이 다양한 공격 벡터에서 잠재적인 위협 활동을 식별한 후, 조직은 또 다른 주요課題에 직면한다. 즉, 빈번한 경고를 이해하고, 중요한 사건과 노이즈를 구분하는 것이다. 많은 데이터 포인트와 탐지가 생성되므로, 추가적인 인공 지능/머신 러닝을 적용하여 가장 심각한 경고를 상위 수준의 조사와 대응이 필요한 경고로 분류하는 것이 중요하다. 경고 피로 현상은 해결해야 하는 중요課題이다.

인공 지능은 경고 분류 과정에서 중요한 역할을 할 수 있다. 인공 지능은大量의 보안 텔레메트리 데이터를 수신하고 분석하며, 여러 탐지 소스에서 정보를融合하여, 가장 높은 신뢰도의 사건만을 대응하기 위해 표면화한다. 이는 인간 분석가의 부담을 줄여주며, 그렇지 않으면 인간 분석가는广泛한 거짓 양성과 낮은 신뢰도의 경고로 인해 사건의 심각성과 다음 단계를 결정하기 위한 충분한 컨텍스트가 없는 상황에 직면할 것이다.

사이버 공격자들은 이미 인공 지능을 활용하여 DDoS, 타겟 피싱, 랜섬웨어와 같은 공격을 수행하고 있다. 그러나 방어 측면에서는 인공 지능의採用이 늦어졌다. 그러나 이것은 보안 벤더들이 이러한 인공 지능 기반 위협을 탐지하고 차단할 수 있는 고급 인공 지능/머신 러닝 모델을 개발하기 위해 경쟁하는 상황에서 빠르게 변화하고 있다.

방어적인 인공 지능의 미래는 특정 공격 유형과 사용 사례에 맞춘 소규모 언어 모델을 배치하는 것이며, 대형 생성 인공 지능 모델만을頼る 것이 아니다. 대형 언어 모델은 사이버 보안 작전과 같은 자동화된 헬프 데스크 기능, 표준 운영 절차 검색, 인간 분석가 지원에 더 많은 약속을 보여준다. 정확한 위협 탐지와 방지의 어려운 작업은 소규모 인공 지능/머신 러닝 모델에 의해 처리될 것이다.

인간 전문가의 역할

인공 지능/머신 러닝을 프로세스 자동화와 함께 사용하여 검증된 위협에 대한 신속한 복구와 포함을 가능하게 하는 것이 중요하다. 이 단계에서, 높은 신뢰도의 사건을 제공받은 인공 지능 시스템은 각 공격 유형에 맞춘 자동화된 플레이북 응답을 시작할 수 있다. 악의적인 IP를 차단하고, 손상된 호스트를 격리하며, 적응형 정책을 적용하며, 더 많은 작업을 수행할 수 있다. 그러나 인간 전문가가 여전히 중요한 역할을 한다. 인공 지능 출력을 검증하고, 비판적思考을 적용하며, 자동화된 응답 동작을 감독하여 비즈니스 중단 없이 보호를 보장한다.

인간은 세부적인 이해를 제공한다. 또한 새로운 복잡한 맬웨어 위협을 분석하는 것은 창의력과 문제 해결 능력이 필요하다. 이러한 능력은 기계가 다루기 힘든 부분이다.

인간 전문가는 다음几个 분야에서 중요한 역할을 한다:

• 검증 및 컨텍스트화: 인공 지능 시스템은 때때로 거짓 양성 또는 데이터의 오해를 발생시킬 수 있다. 인간 분석가는 인공 지능 출력을 검증하고, 인공 지능이 간과할 수 있는 컨텍스트를 제공해야 한다. 이는 응답이 실제 위협에 적절하고 비례하는지 확인한다.
• 복잡한 위협 조사: 일부 위협은 인공 지능만으로 처리하기에 너무 복잡하다. 인간 전문가는 이러한 사건을 더 깊이 조사하여, 인공 지능이 놓칠 수 있는 위협의 숨겨진 측면을 발견할 수 있다. 이는 복잡한 공격을 이해하고 효과적인 대책을 마련하는 데 중요하다.
• 전략적 의사 결정: 인공 지능은 루틴 작업과 데이터 처리를 처리할 수 있지만, 전반적인 보안态勢와 장기적인 방어 전략에 대한 전략적 의사 결정은 인간의 판단이 필요하다. 전문가들은 인공 지능으로 생성된 통찰력을 해석하여 자원 할당, 정책 변경, 전략적 계획에 대한 정보에 기반한 의사 결정을 내릴 수 있다.
• 지속적인 개선: 인간 분석가는 인공 지능 시스템의 지속적인 개선에 기여한다. 피드백과 훈련 데이터를 제공하여, 인공 지능 알고리즘을 더 정확하고 효과적으로 만든다. 이는 인공 지능과 인간 전문가가 함께 발전하여 새로운 위협에 대응할 수 있도록 한다.

최적화된 인간-기계 팀팅

이러한 전환의 근간에는 역사적 데이터에서 학습할 수 있는(지도 학습) 인공 지능 시스템과, 비지도/강화 학습 접근 방식을 통해 새로운 공격을 탐지하는 것이 중요하다. 이러한 방법을 결합하는 것이 공격자의 인공 지능 능력을 발전시키는 것을 앞서나가는 데 중요하다.

전체적으로 인공 지능은 방어자가 탐지 및 응답 능력을 확대하는 데 중요하다. 그러나 인간 전문가는 복잡한 위협을 조사하고, 인공 지능 시스템 출력을 감사하며, 전략적 방어 전략을 안내하는 데緊密하게 통합되어야 한다. 최적화된 인간-기계 팀팅 모델이 이상적이다.

시간이 지남에 따라大量의 보안 데이터가 축적되면, 조직은 이 데이터에 인공 지능 분석을 적용하여 프로액티브 위협 사냥과 방어를 강화하는 데 필요한 통찰력을 얻을 수 있다. 이전 사건에서 지속적으로 학습함으로써 새로운 공격 패턴을 예측적으로 모델링할 수 있다. 인공 지능 능력이 발전함에 따라, 특정 보안 사용 사례에 맞춘 소규모 언어 모델의 역할이 커질 것이다. 이러한 모델은 가장 중요한 경고를 인간 분석을 위해 정교하게 분류하여 ‘경고 피로’를さらに 줄일 수 있다. 인공 지능 기반의 자동화된 응답은 Tier 1 보안 작업을 처리하는 데 더 확대될 수 있다.

그러나 인간의 판단과 비판적思考은 특히 고위험 사건에서 여전히 필수적이다. 의심할 여지없이, 미래는 최적화된 인간-기계 팀팅의 미래이다. 여기서 인공 지능은大量의 데이터 처리와 루틴 작업을 처리하며, 인간 전문가는 복잡한 위협을 조사하고 높은 수준의 보안 전략에 집중할 수 있다.