AI 보안의 3가지 기둥

인공지능(AI)은 サイバーセキュリティ 산업을 강타하고 있으며, 모든 종류의 벤더가 솔루션에 AI를 통합하려고 노력하고 있습니다. 그러나 AI와 보안의 관계는 단순히 AI 기능을 구현하는 것 이상입니다. 공격자와 수비수가 기술을 사용하여 현대의 위협 환경을 변화시키는 방법에 관한 것입니다. 또한 AI 모델이 개발, 업데이트, 보호되는 방법에 관한 것입니다. 오늘날, 사이버 보안의 AI에는 3개의 주요 기둥이 있으며, 점점 더 많은 조직이 AI 기반 솔루션을 제공하는 보안 제공업체로 전환함에 따라 이러한 기술이 실제로 어떻게 사용되는지 이해하는 것이 점점 더 중요해지고 있습니다.

기둥 #1: AI 기능 방어

AI 기반 솔루션의 채택이 계속 증가함에 따라, 기업은 이러한 솔루션을 보호하는 것이 우선순위가 된다는 것을 점점 더 많이 인식하고 있습니다. AI 솔루션은大量의 데이터(데이터가 많을수록 솔루션이 더 정확함)를 통해 훈련되므로, 공격자가 이러한 솔루션 중 하나를 침해할 경우 고객 데이터, 지적 재산, 금융 정보 및 기타 귀중한 자산의 보물창고에 접근할 수 있습니다. 공격자가 이러한 공격 벡터를 점점 더 많이 활용함에 따라, 조직의 첫 번째 방어선은 일상적으로 사용하는 AI 모델을 방어하는 능력입니다.

幸い, 이 문제는 비밀이 아닙니다. 실제로, AI 모델을 보호하기 위한 솔루션을 위한 시장은 급속히 성장하고 있으며, 지난 1-2년 동안 많은 스타트업이 등장했습니다. 또한, 생성적 AI와 같은 솔루션이 상대적으로 새로운 것은 사실이지만, AI는 이미 khá 오래전부터 존재했으며, 대부분의 AI 솔루션에는 어느 정도의 보안이 내장되어 있습니다. 그러나, 조직은 항상 추가적인 단계를 취하여 자신과 데이터를 보호해야 하며, AI 파이프라인을 공격자로부터 방어하는 데 도움이 되는 제3자 솔루션은 부족하지 않습니다.

기둥 #2: AI를 사용하는 공격자 중단

AI가 점점 더 쉽게 접근할 수 있게 되면서, 공격자가 자신의 목적을 위해 기술을 활용하는 것은 놀라운 일이 아닙니다. 조직이 운영을 스트림라인화하고 단조롭고 반복적인 프로세스를 자동화하는 데 AI를 사용하는 것과 마찬가지로, 공격자도 공격의 규모와 복잡성을 증가시키는 데 AI를 사용할 수 있습니다. 실제로, 공격자는 아직 “새로운” 유형의 공격을 수행하는 데 AI를 사용하지 않고 있습니다. 그러나, 기술은 기존의 공격 전략을 매우 높은 볼륨으로 수행하는 것을 더 쉽게 만들어줍니다.

예를 들어, 피싱 사기는 숫자 게임입니다. 만약 수신자의 1%가 악의적인 링크를 클릭한다면, 그것은 공격자에게 승리입니다. 그러나 AI의 도움으로, 공격자는 피싱 이메일에 예상치 못한 수준의 개인화를 적용할 수 있으므로, 그것은 이전보다 더 설득력 있고 위험합니다. 더욱 나쁜 것은, 한 번 조직이 침해되면(피싱 또는 기타 수단을 통해), 공격자는 AI를 사용하여 발견 데이터를 분석하고 결정-making 프로세스를 생성하여 확산을 더 쉽고 은밀하게 만듭니다. 공격자가 확산을 자동화할 수록, 목표에 도달하는 것이 더 빠르며, 종종 전통적인 보안 도구가 공격을 식별하기 전에, 또는 효과적으로 대응하기 전에입니다.

그것은 조직이 준비되어야 함을 의미하며, 이는 이러한 고 볼륨, 고 복잡성의 공격을 식별하고 방어할 수 있는 솔루션이 있는 곳에서 시작됩니다. 많은 비즈니스에서는 피싱 사기, 멀웨어 공격, 기타 벡터에 대한 방어를 위한 솔루션이 이미 있지만, 공격이 더 빈번하고 복잡해짐에 따라 이러한 솔루션이 여전히 효과적인지 테스트하는 것이 중요합니다. 보안 리더는 올바른 솔루션이 있는 것이 중요하지만, 실제 위협에 대해 예상대로 작동하는지 확인하는 것이 중요합니다.

기둥 #3: 사이버 보안 제품에서 AI 사용

마지막 기둥은 보안 전문가가 가장 익숙한 것입니다. 즉, 사이버 보안 벤더가 제품에서 AI를 사용하는 것입니다. AI가 가장 잘하는 일 중 하나는 패턴을 식별하는 것입니다. 이는 의심스러운 또는 비정상적인 활동을 식별하는 데 이상적입니다. 점점 더 많은 벤더가 탐지 솔루션에 AI를 배포하고 있으며, 많은 벤더가 또한 자동화된 요소의 일부를 자동화하는 데 AI를 사용하고 있습니다. 과거에는 저수준의 위협을 다루는 것이 보안의 필수적인 요소였지만, 오늘날 AI는 이러한 프로세스의 대부분을 자동화할 수 있습니다. 이는 보안 전문가가 직접 주의를 요구하는 위협에만 집중할 수 있도록 합니다.

이것은 다양한 보안 솔루션에 상당한 가치를 추가했습니다. 그러나, 이것은 공백에서 발생하지 않습니다. AI 모델은 유지 관리되어야 하며, 모델을 일관되게 업데이트하는 것으로 유명한 벤더와 함께 작업하는 것이 중요합니다. 잠재적인 보안 파트너를 검증하는 것이 중요하며, 조직은 벤더가 AI를 어떻게 사용하는지 알아야 합니다. 데이터가 어디에서 오는지, 내재된 편향과 같은 문제를 어떻게 피하는지 등은(그리고 해야 합니다) 특정 벤더와 함께 작업 여부를 결정하는 데 영향을 미칠 수 있습니다. AI 솔루션은 거의 모든 산업에서 普及되고 있지만, 모든 솔루션이 동일하게 생성되지 않습니다. 조직은 기술의 내부를 이해하는 보안 파트너와 함께 작업해야 하며, “AI”를 단순히 마케팅용 버즈워드로 간주하는 벤더는 아닙니다.

AI에 대한 자신감

AI가 사이버 보안 환경에서 점점 더 普及됨에 따라, 조직은 기술이 실제로 어떻게 사용되는지에 익숙해지는 것이 중요합니다. 즉, AI가 보안 솔루션을 개선하는 방법과 공격자가 더 발전된 공격을 구축하는 데 도움이 되는 방법을 이해하는 것입니다. 또한, 오늘날의 AI 모델을 구축하는 데 사용되는 데이터를 보호하는 것이 중요하며, 기술을 안전하게 및 보안적으로 배포하는 벤더와 함께 작업하는 것이 중요합니다. AI와 보안의 3つの 주요 기둥을 이해함으로써, 조직은 기술에 대한 자신감을 가지고 접근하기 위해 필요한 기준 지식을 확보할 수 있습니다.