피싱 공격에서 AI의 역할: 공격자와 방어자, 누가 더 많은 이익을 얻는가?

사이버 범죄가 증가함에 따라 사이버 보안 산업은 이를 따라가기 위해 최신 기술을 도입해야 했다. 인공 지능(AI)은 사이버 공격을 막는 데 가장 유용한 도구 중 하나가 되었지만 공격자도 이를 사용할 수 있다. 최근 피싱 공격은 이 문제의 양면을 잘 보여주는 예이다.

피싱은 현재 가장 흔한 유형의 사이버 범죄이다. 더 많은 회사들이 이 증가하는 위협에 대해 인식하고 있기 때문에, 더 많은 회사들이 이를 막기 위해 AI 도구를 구현하고 있다. 그러나 사이버 범죄자들도 피싱에서 AI를 사용하고 있다. 여기에서는 양측이 이 기술을 어떻게 사용하는지와 누가 더 많은 이익을 얻는지에 대해 자세히 살펴본다.

AI가 피싱 공격을 막는 방법

피싱 공격은 사람들의 자연스러운 호기심과 страх을 이용한다. 이러한 사회 공학이 इतन 효과적이기 때문에 이를 막는 데 가장 좋은 방법은 이를 처음부터 보지 못하게 하는 것이다. đó에서 AI가 등장한다.

반-피싱 AI 도구는 일반적으로 고급 이메일 필터의 형태를 취한다. 이러한 프로그램은 수신된 메시지를 피싱 시도에 대한 징후를 검색하고 의심스러운 이메일을 자동으로 스팸 폴더로 보낸다. 일부 새로운 솔루션은 피싱 이메일을 99.9%의 정확도로 감지할 수 있다. 실제 예제를 기반으로 스캠 메시지의 다양한 버전을 생성하여 이를 학습시킴으로써 이를 달성한다.

보안 연구자들이 더 많은 피싱 이메일을 발견할수록, 이러한 모델에 더 많은 데이터를 제공할 수 있다. 이는 모델을 더 정확하게 만든다. AI의 지속적인 학습 능력도 모델을 더 정교하게 만들어 잘못된 양성 결과를 줄인다.

AI는 또한 악의적인 링크를 클릭했을 때 피싱 공격을 막는 데 도움이 될 수 있다. 자동화된 모니터링 소프트웨어는 정상적인 행동의 기준을 설정하여 다른 사람이 계정을 사용할 때 발생하는 비정상적인 동작을 감지할 수 있다. 그러면 보안 팀에 경고를 보내고 침입자가 많은 피해를 입히기 전에 프로필을 잠그는 등의 조치를 취할 수 있다.

공격자가 피싱에서 AI를 사용하는 방법

피싱 공격을 막는 데 AI의 잠재력은 인상적이지만, 이는 또한 피싱 이메일을 생성하는 데 강력한 도구이다. ChatGPT와 같은 생성형 AI가 더 쉽게 접근할 수 있게 되면서, 피싱 공격이 더 효과적으로 되었다.

스피어 피싱은 사용자 지정 메시지를 만들기 위해 개인 정보를 사용하는 가장 효과적인 피싱 유형 중 하나이다. 사용자의 모든 개인 정보를 정확하게 입력한 이메일은 훨씬 더 설득력 있을 것이다. 그러나 이러한 메시지는 전통적으로 만들기 어렵고 시간이 많이 걸린다. 특히 대규모로 생성할 때 더 그렇다. 그러나 생성형 AI가 등장한 이후에는 더 이상如此이 아니다.

AI는 인간이 작성한 것보다 훨씬 더 설득력 있는 가짜 메시지를 작성할 수 있다. 2021년 연구에 따르면, AI가 생성한 피싱 이메일은 인간이 작성한 것보다 클릭률이 훨씬 높았다. 이는 ChatGPT가 출시되기 전이었다.

마케터가 고객과의 커뮤니케이션을 맞춤화하기 위해 AI를 사용하는 것과 마찬가지로, 사이버 범죄자도 사용자 지정 피싱 메시지를 생성하기 위해 AI를 사용할 수 있다. 생성형 AI가 더 좋아지면, 이러한 가짜 메시지는 더 설득력 있게 될 것이다.

공격자가 인간의 약점으로 인해 우세를 유지한다

공격자와 방어자가 모두 AI를 사용하고 있기 때문에, 어느 쪽이 더 많은 이익을 보았을까? 최근 사이버 범죄 추이를 살펴보면, 사이버 범죄자들이 더 복잡한 보호 수단에도 불구하고 번창하고 있음을 알 수 있다.

비즈니스 이메일 컴프롬파이즈 공격은 2022년 하반기 81% 증가했으며, 직원들은 이러한 메시지 중 28%를 열었다. 이는 지난 2년간 175%의 더 긴 기간 동안 증가한 것으로, 피싱이 이전보다 더 빠르게 증가하고 있음을 시사한다. 이러한 공격은 효과적이며, 1분당 17,700달러를 훔치고, 이는 사이버 공격의 91%를 차지하는 이유일 것이다.

피싱이 इतन 많이 증가한 이유는 무엇일까? 이는 인간 요소 때문일 가능성이 있다. 직원들이 이러한 도구를 실제로 사용해야만 효과적이기 때문이다. 또한, 직원들이 안전하지 않은 행동을 할 수 있다. 예를 들어, 비인가된 개인 장치를 사용하여 작업 계정에 로그인하는 경우가 있다.

이전의 조사에 따르면, 직원들은 공격을 보고하는 비율이 2.1%에 불과하다. 이러한 보고의 부족은 보안 조치가 어디서 개선되어야 하는지 파악하기 어렵게 만든다.

증가하는 피싱 공격을 막는 방법

이러한 경고적인 추세를 고려하여, 비즈니스와 개인 사용자는 안전을 유지하기 위해 조치를 취해야 한다. AI 반-피싱 도구를 구현하는 것이 좋은 시작점이지만, 이것만으로는 충분하지 않다. 7%의 보안 팀만이 AI를 사용하거나 사용할 계획이 없으며, 피싱의 지배력이 계속되고 있으므로, 회사들은 인간의 yếu점도 해결해야 한다.

피싱 공격에서 인간이 가장 약한 링크이기 때문에, 인간이 피싱 공격을 막는 데 중점을 두어야 한다. 조직은 보안 최선의 방법을 더 많이 강조해야 한다. 이러한 프로그램은 피싱 공격을 식별하는 방법, 왜 이것이 문제인지, 그리고 훈련 후 지식을 테스트하는 시뮬레이션을 포함해야 한다.

강력한 身分 및 접근 관리 도구를 사용하는 것도 중요하다. 이러한 도구는 성공적인 침입 이후에도 침입을 막는 데 도움이 된다. 경험이 풍부한 직원이라도 실수를 할 수 있으므로, 침입을 막고 광범위한 피해를 막을 수 있어야 한다.

AI는 양면의 도구이다

AI는 최근 역사상 가장 파괴적인 기술 중 하나이다. 이것이 좋은지 나쁜지에 대해서는 사용 방법에 따라 다르다.

サイバー 범죄자에게도 사이버 보안 전문가에게도 도움이 될 수 있다는 것을 인식하는 것이 중요하다. 조직이 이러한 위험을 인식하면, 피싱 공격을 더 효과적으로 막을 수 있다.