AI 대 AI: 새로운 사이버 보안 현실

AI 기반 사이버 공격이 도착하여 이전에 이론적이지만 예상된 위험을 확인했으며 새로운 위협 풍경의 시대를 알리고 있습니다. AI 에이전트가 이제 복잡한 종단 간 캠페인을 분 단위로 시작할 수 있으므로 사이버 범죄자는 기계 속도로 기업의 취약성을 찾고 악용할 수 있습니다. 접촉 규칙이 변경되었습니다.昨日の 사이버 방어는 오늘의 AI 주도 공격을 따라갈 수 없습니다.

AI가 사이버 위협을 강화함에 따라 기업은 속도, 규모 및 정밀도 측면에서 따라가기 위해 자신의 AI 기반 방어 능력을 배치해야 합니다. 지금으로서는 사이버 적은 여전히 친숙한 전술, 기술 및 절차(TTP)를 따르지만 AI는 그들의 플레이북을 가속화하고 업그레이드하고 있습니다. 또한, 기업의 AI 모델 자체도 모델 독성 및 언어 기반 사회 공학을 통해 새로운 대상이 됩니다. 따라서 사이버 팀은 자신의 AI 능력을 제대로 보호해야 합니다. 따라서 보안은 조직의 더 큰 AI 전략의 핵심 부분이어야 합니다.

AI 기반 사이버 공격의 차이점은 무엇입니까?

디지털 세계에서 거의 중단되지 않는 사이버 침입 시도가 이미 존재하는 경우에 악의적인 행위자의 진입 장벽이 줄어들었으며 공격의 볼륨과 복잡성이 증가했습니다. AI 기반 공격은 공격 라이프 사이클의 각 단계에서 자동화, 가속화 또는 강화하기 위해 AI 또는 기계 학습(ML)을 사용할 수 있습니다.

기존 보안 프로세스와 기술만을 사용하고 적들이 사용하는 동일한 고급 기술을 배치하지 않으면 적에게 거의 불가능한 규모의 이점을 부여합니다. 조직은 이미 전통적인 위협 행위자로부터 기업을 모니터링하는 것에 압도되고 있습니다. AI 기반 공격은 경고 피로를 악화시킬 것입니다. 이것은 인간이 관리하는 프로세스에서 하이브리드 사이버 인간/디지털 워크フォ스로의 진화를 필요로 합니다.

모든 디지털 자산을 매핑합니다

오늘날, 기업 환경에서 잠재적인 진입 점을 이해하는 것은 표준이지만 여전히 많은 대기업에게는 어려운 일입니다. 디지털 시스템 및 자산을 넘어서 조직 내에서 모든 身份 및 액세스를 포함한 포괄적인 매핑이 필요합니다. 디지털 身份는 물리적 및 행동 특성을 개인에게 연결하는 것으로 이해되며 디지털 액세스를 관리하는 데 필요한 기존 제어가 있습니다.

그러나 비인간 身份(NHIs)의 기업 전체 랜드스케이프를 이해하는 것은 디지털 자산을 보호하는 데 필수적입니다. 조직 내에서 AI의 잠재적 가치를 실현하는 것은 AI 에이전트에게 비즈니스 프로세스를 자율적으로 완료할 수 있는 액세스 및 허가를 부여하는 것을 의미합니다. 이전 보안 시대의 클라우드 환경과 마찬가지로 오늘날의 에이전트 기반 워크플로는 대규모로 NHIs를 시작 및 종료하며 환경에서 작동하는 위치 및 의도된 임무 또는 역할을 수행하는 방법을 관리 및 추적하는 고급 능력이 필요합니다.

기업은 에이전트 身份 수명 주기 전체에 身份 거버넌스를 확장하고 에이전트 동작을 모니터링해야 합니다. 내부 위협 행위자로부터의 계정 탈취 또는 인사 위험 행동으로 인한 인간 사용자 액세스를 오늘날 모니터링하는 것과 마찬가지로 비즈니스 임무를 수행하는 에이전트의 身份 발자국 및 액세스 패턴이 무엇인지 이해하는 것이 중요합니다.

AI 모델을 잠금합니다

AI 기능은 효율성 및 생산성을 개선할 수 있는 잠재력을 가지고 있지만 조직에 대하여 사용될 수도 있습니다. 비즈니스 운영의 모든 측면에 AI를 도입하는 것은 더 이상 “좋은” 것이 아니라 오늘날의 경쟁 환경에서 성공을 위한 필수 구성 요소입니다. 따라서 AI를 안전하게 배치하는 것은 비즈니스 잠재력 및 결과를 안전하게 실현하는 데 필요한 구성 요소입니다.

AI 기반 사이버 방어로의 전환은 진행 중이며 AI 모델 자체가 대상이 되었습니다. 적들은 이러한 모델에 데이터를 독성화하고 의도하지 않은 동작을 수행하거나 민감한 정보를 공개하도록 조작할 수 있습니다.

AI에 대한 적대적 공격은 다양한 형태로 발생할 수 있습니다. 예를 들어, 독성 공격, 프롬프트 주입 공격 등이 있습니다. AI를 잠재적인 조작으로부터 적절하게 보호하려면 Cyber Infrastructure and Security Agency (CISA)의 Secure by Design 철학을 사용해야 합니다. 이것은 모델의 훈련에 사용되는 데이터에서 시작됩니다. 개발 프로세스 초기에 입력을 잠금으로 설정하면 배포에서 신뢰할 수 있는 출력을 위한 기초를 마련할 수 있습니다.

모델 및 기능을 개발하는 입력을 이해하는 것은 의도적인 데이터 거버넌스와 모델 자체에 대한 액세스 제어를 통해 가능합니다. 원하는 출력을 확인할 수 있는 중요한 제어는 데이터 손실 방지(DLP); 정책 및 안전성 적용; 검증 가능한 출처를 통한 접지; 높은 영향 동작에 대한 엄격한 승인 제어; 감사 가능성; 그리고 모델을 강화하기 위한 침투 테스트를 포함합니다.

보안 작전에 AI를 통합합니다

지금까지 사이버 방어에 AI를 적용하는 것은 전술적으로 진행되었으며 많은 조직이 AI를 레거시 인간 중심 프로세스에 볼트オン하는 대신에 AI 중심 프로세스를 다시 생각해 보는 전략적으로 진행되지 않았습니다. 이것은 자전거에 V8 엔진을 장착하는 것과 같습니다. AI를 사용하는 다음 진화는 프로세스를 설계할 때부터 에이전트 AI 및 자동화를 네이티브로 하는 것입니다. 위협 탐지, 위협 사냥, 탐지 엔지니어링과 같은 보안 작전 방법 및 프로세스는 여전히 조직의 보안에서 임팩트가 크며 중요합니다. 현재 보안 프로세스를 AI 강화로 전환하면 미래의 AI 기반 보안 작전 센터(SOC)에 강한 기초를 마련할 수 있습니다.

또한, 자동화는 AI의 출현으로 인해 고유한 개념이 아닙니다. 보안 워크플로 및 프로세스는 이미 수년 동안 자동화되어 왔으며, 성숙한 조직은 매우 정교한 오케스트레이션 및 자동화 기능을 가지고 있습니다. 그러나 AI는 기존의 규칙 기반 자동화를 강화하고 동적, 적응性, 컨텍스트 풍부한 자동화 워크플로를 허용하여 이러한 새로운 AI 위험에 필요한 속도 및 민첩성을 해결하는 데 도움이 될 수 있습니다.

다음은 무엇입니까?

보안은 비즈니스 및 IT가 중요한 자산 및 사용자를 악의적인 악용으로부터 안전하게 유지하는 데 계속해서 주의해야 합니다. 디자인 시 보안이 고려된 AI는 AI 모델이 배포되고 더 중요한 활동을 수행하도록 요청되는 속도에 따라 필수입니다. 사이버 팀은 새로운 AI 기능을 적절하게 구현하여 사이버 카트 및 마우스 게임에서 따라가기 위해 프로세스를 설계에서 바닥부터 전환하는 방법에 대해 전략적으로 생각해야 합니다.

보안 리더는 근시안적으로 몇 가지 구체적인 단계를 수행할 수 있습니다. 현재 보안 프로세스를 검토하여 격차, 현대화 기회 및 변환할 수 있는 영역을 찾습니다. AI의 새로운 위협, 동향 및 기술을 따라갑니다. 무엇보다도 시간의 시험을 통해 자신을 증명한 방어의 깊이라는 기본 보안 원칙에 고정되어 있습니다. 계층화된 보호 및 확인: 身份, 엔드 포인트, 네트워크, 데이터 및 강력한 모니터링 및 응답 기능이 있습니다.

AI의 변환 가능성은 너무 큰 업사이드를 약속하므로 채택을 거부하기에는 너무나 크며, 위협 행위자에게는 지니가 병에서 나왔습니다. 따라서 이 다음 시대에서 보안 리더의 역할은 조직이 비즈니스 목표를 달성하는 데 도움을 주는 것을 지원하는 것과 같습니다. 단지 기계 속도로 AI를 사용하여 신중한 위험 완화를 제공하는 것입니다.