AI 무기 경쟁: 소비자 안전을 위한 실시간 방어의 필요성

대규모 언어 모델(Large Language Model, LLM)을 사용하여 1시간에 완벽한 고유한 피싱 이메일을 1백만 개 생성할 수 있는 사기꾼이 있다면, 우리는 왜 아직도 인간의 속도로 서명 업데이트를 통해 AI 전쟁을 치루고 있는가?

생성적 인공 지능의 부상은 더 이상 추상적인 위협이 아니다. 조직적인 사이버 범죄자들이 사회 공학의 고전적인 예술을 자동화하고 완벽하게 하는 데 깊은 학습 도구를 활용한 것은 현실이다. 소비자에게 이는 재정적으로 파괴적인 결과를 가져왔다. 미국 연방 거래위원회(FTC)는 2024년에 사기 피해액이 125억 달러 이상으로 증가했으며, 이는 2023년보다 25% 증가한 것이다. 이 엄청난 금액은 전통적인 인간 기반 보안 조치가 AI 기반 위협에 대처하지 못하는 새로운 시대를 확인한다.

이 새로운 사기들의 복잡성은 새로운 전략이 필요하다. 우리는 반응형 보안 모델, 서명 기반 스캔, 단순한 키워드 필터 및 “bolt-on” 보안 솔루션을 넘어서서 이미 우리의 가장 중요한 디지털 인프라를 보호하는 실시간 행동 인공 지능을 채택해야 한다.

AI 기반 사기의 새로운 현실

생성적 인공 지능은 사이버 범죄의 장벽을 낮추면서 동시에 악의적인 콘텐츠의 신뢰도를 높였다. 사기꾼은 이제 신뢰할 수 있는 개인이나 기관을 완벽하게 모방하는 초 개인화된 고부하 캠페인을 수행할 수 있다.

이 확장의 가장 주목할 만한 예로는 다음이 있다:

딥페이크 인물 및 음성 클로닝

사기꾼이 사랑하는 사람이나 고위幹部로 가장하는 고전적인 사기극은 AI에 의해 완벽하게 되었다.

• CEO 및 고위幹部 딥페이크: 고위幹部 사기 사건에서 딥페이크 비디오 및 오디오가 사용되어 비디오 통화 중에財務 직원을 속여 수백만 달러의 송금을 승인하도록 했다. 공격자가 고위幹部의 목소리 또는 공공 비디오를 단기간 동안 학습시킨 후, 거의 완벽한 실시간 오디오 및 비디오를 생성하여 피해자의 가장 신뢰할 수 있는 방어 수단인 눈과 귀를 우회할 수 있다.
• 딥페이크 암호화폐 사기: 소비자 플랫폼에서 일론 머스크와 같은 유명인의 딥페이크가 자주 “비트코인 2배” 사기에 사용된다. 딥페이크 비디오는 종종 손상된 플랫폼에서 실시간으로 스트리밍되며, 사기적인 암호화폐 증여를 승인하는 유명인으로 보인다. 이러한 딥페이크는 इतन나 현실적이다. 피해자를 속여서 수백만 달러의 손실을 초래한다.

초 개인화된 대화형 피싱

생성적 인공 지능은 고전적인 “나이지리아 왕자” 사기극의 특징적인 특徵을 제거했다: 나쁨 문법, 외국어 구사 및 일반적인 인사말.

• 다형 피싱: 공격자는 LLM(예: FraudGPT)을 사용하여 공개 데이터, LinkedIn 프로필, 소셜 미디어 게시글 및 회사 웹사이트를 수집하여 대상에 대한詳細한 데이터를 구축한다. 그런 다음 AI는 동료나 상관의 특정 톤 및 어휘를 모방하는 이메일을 작성한다. 이것은 다형 피싱으로 알려져 있다. AI는 몇백만 개의 약간 다른 고유한 이메일을 생성할 수 있기 때문에 전통적인 서명 기반 이메일 필터에 의해 감지하기가 거의 불가능하다.
• AI 기반 낭만적인 사기(돼지屠殺): AI 채팅봇을 사용하면 사기꾼이 동시에 수백개의 가짜 데이트 프로필을 관리할 수 있다. AI는 장기간 동안 세련된 감정 조작 대화를 유지하여 신뢰를 구축한다. 이것은 “돼지屠殺”이라고 알려져 있다. 완벽한 의사소통 및 언어 간격을 연결하는 능력으로 사기꾼이 피해자를 더 깊이 вовлек을 수 있다. 그 후에 사기꾼은 사기를 위해 대화를 사기적인 투자 계획으로 전환한다. 이는 피해자당 평균적으로 가장 큰 재정 손실을 초래한다.

전통적인 보안의 치명적인 결점

이러한 AI 기반 사기들이 성공하는 이유는 전통적인 사이버 보안 조치가 고속, 저량 위협 환경에 대처하기 위해 설계되지 않았기 때문이다. 그들은 구식 가정에 기반을 두고 있다:

1. 서명 및 알려진 위협에 대한 의존

전통적인 안티 바이러스 및 보안 소프트웨어는 알려진 위협 또는 “서명” 데이터베이스에 기반한다. 공격자가 AI를 사용하여 완전히 새로운 고유한 이메일, 새로운 변종의 멀웨어 또는 이전에 보지 못한 딥페이크 비디오를 생성할 때, 보안 시스템은 이를 표시할 수 있는 사전 존재하는 서명이 없다. 새로운 서명이 생성되어 배포될 때까지, 사기극은 이미 다음 다형 변종으로 이동한다. 이러한 반응형 모델은 생성적 인공 지능의 속도에 너무 느리다.

2. 행동 및 상황 인식의 부족

많은 레거시 시스템은 보안을 분리된, 거래적 검사로 간주한다. 예를 들어, 기본 필터는 이메일에 “송장” 또는 “긴급”이라는 단어가 포함되어 있는지 확인한다. AI 기반 사회 공학은 성공적으로 행동에 초점을 맞추기 때문에 성공한다. 정당한 피싱 이메일은 정당해 보이고, 딥페이크 비디오는 주장하는 사람과 동일하게 보인다. 전통적인 도구는 사용자 또는 네트워크에 대한 행동 기준을 설정할 수 없으므로 사기가 진행 중임을 나타내는 미묘한, 비정상적인 행동을 표시할 수 없다.

3. 인간 오류를 주요 취약점으로 사용

전통적인 보안의 최종 방어는 종종 인간 사용자이다. 이것은 정確히 AI 사기의 사회 공학적 측면이 악용하는 것이다. 사용자를 교육하여 사기를 식별하는 것은 효과적인 완화책이지만, 그것은 감지 시스템이 아니다. 딥페이크 음성이 정확하게 그들의 아이와 동일하게 들리거나, 문법적으로 완벽한 이메일이 그들의 CEO로부터 온 것으로 보이면, 인간 교육은 AI에 의해 생성된 감정적 및 상황적 조작과 대결할 수 없다.

적극적인 대안: 실시간 AI 기반 위협 감지

해결책은 AI로 AI를 맞서는 것이다. 생성적 인공 지능이 공격 프로세스에 통합된 것처럼, 실시간 기계 학습 모델이 이미 주요 소비자 및 기업 플랫폼에 배포되어 행동 이상을 적극적으로 감지한다. 이 내장된 실시간 방어는 다음 세대의 소비자 안전을 위한 청사진을 제공한다.

주요 회사 및 플랫폼은 다음을 위해 이러한 AI 기반 모델을 사용한다:

• 금융 사기 감지: 대규모 금융 기관은 로그인 패턴, 거래 이상 및 장치 지문을 실시간으로 분석하기 위해 AI 기반 행동 분석을 사용한다. 사용자가 새로운, 등록되지 않은 장치 또는 위치에서突然 큰, 비정상적인 송금을 시작하면, AI는 이상을 표시하여 즉시 검토를 요청한다. 이는 자금을 잃기 전에 사기를 중단하는 데 도움이 된다.
• 이메일 및 콘텐츠 필터링: 예를 들어, Google의 Gmail은 기계 학습 모델을 사용하여 메시지 콘텐츠, 발신자 기록 및 작성 스타일을 분석하여 일일로 수백만 개의 피싱 이메일을 처리하고 차단한다. 이러한 모델은 서명 기반 모델이 아니다. 정당한 이메일이 보이는 방식과 聽하는 방식을 학습하므로, 매우 세부적이고 상황에 맞는 스피어 피싱 시도를 표시하는 데 매우 효과적이다.
• 소셜 미디어 콘텐츠 모더레이션: 메타와 같은 플랫폼은 유해한 콘텐츠와 가짜 계정을 실시간으로 감지하고 대응하기 위해 자연어 처리(NLP) 및 기계 학습을 사용한다. 이는 단순한 키워드 검색을 넘어 의사소통의 맥락과 의도를 이해한다.

이 예제들의 공통점은 수동적, 서명 기반 방어에서 적극적, 실시간 행동 분석으로의 이동이다. 이것은 일반 소비자 및 가족 생태계에서 결여된 중요한 계층이다. 이는 여전히 구식 도구에 크게 의존한다.

해결책은 이미 절도당한 집에 디지털 데드볼트를 설치하는 것이 아니다. 그것은 자신의 발자국 소리를 학습하는 통합 경보 시스템이다. 이는 지능적인 보안 시스템에서 나온다. 이러한 시스템은 사용자 행동, 통신 패턴 및 디지털 상호작용의 “정상” 기준을 설정하기 위해 실시간 AI를 사용한다. 이것은 딥페이크 인물 또는 초 개인화된 피싱 시도가 성공하기 전에 생성된 미묘하지만 중요한 비정상성을 표시하는 唯一한 방법이다. 실시간 분석을 위한 AI를 내장함으로써, 우리는 마침내 발전하는 AI 기반 공격의 엄청난 새로운 소피스蒂케이션에 대응하는 소비자 방어를 구축할 수 있다.