현대 위협 풍경에서 AI로 AI를 대응하는 것

AI가 사이버 보안 산업을 극적으로 변화시켰다는 것은 새롭지 않은 소식이다. 공격자와 수비수 모두가 자신의 능력을 향상시키기 위해 인공 지능을 사용하고 있으며, 각자는 상대방을 한 단계 앞서려 하고 있다. 이 고양이와 쥐의 게임은 새로운 것이 아니지만, 인공 지능의 등장으로 동적에 새로운 요소가 도입되었다. 전 세계의 공격자들은 이 새로운 기술을 사용하여 혁신적인 공격 방법을 개발할 수 있는 가능성에 기뻐하고 있다.

적어도 이것이 인식이다. 하지만 현실은 조금 다르다. 공격자들이 AI를 사용하고 있다는 것은 사실이지만, 대부분 기존의 전략을 정교화하기 위해 사용하고 있다. 여기서의 생각은 명확하다. 왜 내일의 공격 방법을 개발하기 위해 시간과 노력을 투자해야 하는가? 이미 수비수들이 오늘의 공격을 막는 데 어려움을 겪고 있기 때문이다.幸い, 현대의 보안 팀은 자신의 AI 능력을 사용하고 있으며, 많은 경우에 악성 코드, 피싱 시도, 기타 일반적인 공격 전략을 더 빠르고 정확하게 탐지하는 데 도움이 된다. 공격자와 수비수 사이의 “AI 무기 경쟁”이 계속됨에 따라, 공격자가 실제로 기술을 어떻게 사용하는지 이해하는 것이 중요할 것이다.

공격자들이 AI를 어떻게 사용하는가

반자율적인 AI가 조직의 방어를 систем적으로 해킹하는 것은 끔찍한 생각이지만, 아직은 윌리엄 깁슨의 소설이나 다른 과학 픽션 작품에만 존재하는 이야기이다. 인공 지능은 최근 몇 년 동안驚異的な 속도로 발전했지만, 아직 인공 일반 지능(AGI)에 도달하지 못했다. AGI는 인간의 생각 패턴과 행동을 완벽하게 모방할 수 있는 기술이다. 하지만 오늘날의 AI가 인상적이지 않다는 것은 아니다. 생성적 AI 도구와 큰 언어 모델(LLM)은 기존 자료에서 정보를 합성하고 작은 반복적인 변화를 생성하는 데 매우 효과적이다. 하지만 완전히 새로운 것을 생성할 수는 없다. 하지만 합성하고 반복하는 능력은 매우 유용하다.

실제로 이것은 공격자가 새로운 공격 방법을 개발하는 대신 기존의 공격 방법을 향상시키는 것을 의미한다. AI를 사용하면 공격자는 수천 개의 피싱 이메일을 보내는 대신 수백만 개의 이메일을 보낼 수 있다. 또한 LLM을 사용하여 더 설득력 있는 메시지를 작성하여 더 많은 수신자가 악성 링크를 클릭하거나 악성 코드가 포함된 파일을 다운로드하도록 할 수 있다. 피싱과 같은 전략은 기본적으로 숫자 게임이다. 대부분의 사람들은 피싱 이메일에 걸리지 않지만, 수백만 명이 받는다면, 1%의 성공률도 수천 명의 새로운 피해자를 초래할 수 있다. LLM이 1%의 성공률을 2% 이상으로 높일 수 있다면, 공격자는 거의 노력을 하지 않아도 공격의 효과를 두 배로 늘릴 수 있다. 악성 코드도 마찬가지이다. 악성 코드의 작은 변형이 탐지 도구에서 감추는 데 효과적이라면, 공격자는 새로운 것을 개발하기 전에 한 가지 악성 코드 프로그램에서 더 많은 이익을 얻을 수 있다.

또 다른 요소는 속도이다. AI 기반 공격은 인간의 제한을 받지 않기 때문에 공격 순서를 훨씬 빠른 속도로 수행할 수 있다. 즉, 공격자가 네트워크를 침입하고 피해자의 가장 중요한 데이터에 접근하기 전에 보안 팀이 경고를 받거나 반응하기도 전에 공격할 수 있다. 공격자가 더 빠르게 이동할 수 있다면, 더 시끄럽고 방해가 되는 활동을 수행할 수 있다. 새로운 것을 하는 것이 아니라, 공격을 더 빠르게 진행함으로써 네트워크 방어를 게임 변경할 수 있다.

보안 팀이 AI를 어떻게 사용하는가

보안 전문가들은 모든 수준에서 비즈니스와 정부에서 AI를 사용하여 방어를 강화하는 방법을 찾고 있다. 8월에 미국 국방 고등 연구 계획국(DARPA)은 최근 AI 사이버 챌린지(AIxCC) 결승자를 발표했는데, 이는 코드 기반 취약성을 식별하고 수정하는 데 사용되는 LLM을 훈련하는 보안 연구 팀에게 상을授与하는 것이다. 이 챌린지는 구글, 마이크로소프트, 오픈AI와 같은 주요 AI 제공업체의 기술적 및 재정적 지원을 받는다. 물론 DARPA는 단 하나의 예이다. 실리콘 밸리에서 열두 개의 스타트업 창립자가 자신의 고급 신형 AI 기반 보안 솔루션에 대해 이야기하려는 것을 막을 수 없다. 간단히 말해서, 방어를 위해 AI를 사용하는 새로운 방법을 찾는 것은 모든 유형과 크기의 조직에서 높은 우선순위이다.

하지만 공격자와 마찬가지로, 보안 팀은 자신의 기존 능력을 증폭시키는 데 AI를 사용할 때 가장 성공을 거두게 된다. 공격이 점점 더 큰 규모로 발생하고 있기 때문에, 보안 팀은 시간과 자원면에서 얇게 펼쳐져 있으며, 모든 보안 경고를 식별하고 조사하고 완화하는 데 충분한 시간이 없다. 단순히 시간이 없다. AI 솔루션은 자동 탐지 및 대응 기능을 제공함으로써 이 과제를 완화하는 중요한 역할을 하고 있다. AI가 패턴을 식별하는 데 매우 뛰어나다는 것을 의미한다. 즉, AI 도구는 비정상적인 행동, 특히 알려진 공격 패턴에 해당하는 행동을 매우 잘 인식할 수 있다. AI가 인간보다 훨씬 빠르게大量의 데이터를 검토할 수 있기 때문에, 보안 팀은 자신의 작전을 상당히 확대할 수 있다. 많은 경우에 이러한 솔루션은 기본적인 완화 프로세스를 자동화할 수도 있다. 즉, 인간의 개입 없이 낮은 수준의 공격에 대해 반대할 수 있다. 또한 보안 검증 프로세스를 자동화하는 데 사용될 수 있다. 즉, 네트워크 방어가 의도한 대로 작동하는지 확인하기 위해 지속적으로 네트워크 방어를 확인할 수 있다.

또한 AI가 보안 팀이 잠재적인 공격 활동을 더 빠르게 식별하는 데 도움이 되는 것은 물론, 또한 정확도를 크게 향상시킨다는 점도 중요하다. 즉, AI 솔루션이 잠재적인 공격에 대해 경고할 때, 보안 팀은 그것이 즉시 주의를 필요로 하는 가치가 있다는 것을 확신할 수 있다. 이것은 충분히 논의되지 않는 AI의 한 측면이다. 많은 논의가 AI가 인간을 “대체”하고 일자리를 뺏는 것에 대해 중심을 두고 있지만, 실제로는 AI 솔루션이 인간이 자신의 일을 더 잘하고 더 효율적으로 수행하도록 ermög하고 있으며, 또한 보안 위치와 관련된 단조롭고 반복적인 작업으로 인한 소진을 완화하는 데 도움이 된다. 인간에 대한 부정적인 영향을 미치지 않고, AI 솔루션이 보안 위치와 관련된 “바쁜 일”을 다루고 있으며, 인간이 더 흥미롭고 중요한 작업에 집중할 수 있도록 하고 있다. 소진이 최고 수준에 달하고 많은 비즈니스들이 새로운 보안 인재를 유치하는 데 어려움을 겪고 있는 시점에, 직업 만족도를 개선하고 삶의 질을 높이는 것은 엄청난 긍정적인 영향을 미칠 수 있다.

이것이 보안 팀에게真正한 이점이다. AI 솔루션이 공격자들이 자신의 AI 도구를 사용하여 공격을 증가시키는 것을 방지하는 데 도움이 되는 것은 물론, 또한 보안 전문가들이 자신의 역할에서 더 행복하고 더 만족할 수 있도록 하는 데 도움이 된다. 이것은 모든 관련자가 승리하는 희귀한 해결책이다. 그리고 이것은 오늘날의 비즈니스들이 AI 기반 보안 솔루션에 투자할 때가 되었다는 것을 인식하도록 도와야 한다.

AI 무기 경쟁은 이제 시작되었다

AI 솔루션을 채택하기 위한 경쟁이 진행 중이며, 공격자와 수비수 모두가 기술을 자신의 이익을 위해 사용하는 다양한 방법을 찾고 있다. 공격자가 AI를 사용하여 공격의 속도, 규모 및 복잡성을 증가시키는 동안, 보안 팀은 자신의 탐지 및 완화 능력의 속도와 정확도를 향상시키기 위해 AI 도구를 사용하여 반격해야 한다.幸い, AI 솔루션은 보안 팀에 중요한 정보를 제공하여, 자신의 솔루션의 효과를 테스트하고 평가하는 데 도움이 되며, 또한 더 중요한 작업에 시간과 자원을 할당할 수 있도록 해준다. 분명히, AI 무기 경쟁은 이제 시작되었다. 하지만 보안 전문가들이 이미 공격자보다 한 단계 앞서기 위해 AI를 사용하고 있다는 사실은 매우好的徵兆이다. them to better test and evaluate the efficacy of their own solutions while also freeing up time and resources for more mission-critical tasks. Make no mistake, the AI arms race is only getting started—but the fact that security professionals are already using AI to stay one step ahead of attackers is a very good sign.