선거 사기에 대한 AI의 상승적 영향

2022년, 펜실베이니아 주 선거 직원들을 대상으로 한 악의적인 이메일이 5월 17일 주 선거에서 6개월 동안 546% 이상 증가했다. 전통적인 피싱 공격에 대한 악의적인 대형 언어 모델(Large Language Model, LLM)의 잠재력과 함께, 평범한 미국人が 더욱 현실적인 사기를 목표로 할 가능성이 높다.

정부는 특히 AI가 우리 일상生活에 통합됨에 따라 注意를 기울이고 있다. 예를 들어, 미국 사이버 보안 및 인프라 보안 기관은 선거 보안을 강화하기 위한 프로그램을 시작했다. 이는 정부와 공공이 잠재적인 악의적인 행위자로부터 자신과 데이터를 보호하려는 요구가 증가하고 있음을 보여준다.

最近, 2024년 뮌헨 안보회의에서 20개의 기술 및 AI 회사들이 “2024년 선거에서 AI의 부정적인 사용을 방지하기 위한 기술 협약”에 서명했다. 이는 선거와 선거 과정의 보안을 위한 지침을 강조한다. 이는 마이크로소프트, 아마존, 구글 등 주요 기술 회사로 구성되어 있으며, 이는 산업계에서 중요한 변화를 나타낸다. 즉, 정치적 성향을 넘어서 데이터 보안은 시민과 사이버 전문가 모두에게今年의 나머지 기간 동안 관심을 끌 것이다. 또한, 생성형 AI는 악의적인 행위자가 공격을 수행하는 방법에 큰 영향을 미칠 것이다. 이는 매우 현실적인 사기를 만들 수 있다.

(MSFT ) (AMZN )

선거 사기 유형

선거 시즌은 사기가 증가하는 유일한 시기ではない 하지만, 투표 시기에 접근할수록 여러 가지 방법과 기술이 증가하는 것을 볼 수 있다. 이러한 사기들은 일반적으로 개인의 계정이나 금전적인 이익을 얻는 것을 목표로 한다. 이러한 사기에 걸리면 심각한 hậu果를 초래할 수 있다. 실제로, 딥페이크 사기는 미국에서만 34억 달러의 손실을 초래했다.

선거 시즌에 나타나는 사기 유형은 다음과 같다:

• 피싱: 피싱은 가짜 링크, 이메일, 웹사이트를 사용하여 민감한 소비자 정보에 접근하는 것을 말한다. 이는 일반적으로 대상 시스템에 악성 코드를 설치하여 수행된다. 이 데이터는 이후 다른 身分을 도용하거나 귀중한 자산에 접근하거나 이메일 스팸을 전송하는 데 사용된다. 선거 시즌에는 피싱 이메일이 기부 이메일로 위장할 수 있다. 시민은 후보자에게 기부한다고 생각하지만, 실제로는 악의적인 행위자의 계획에 따라 행동할 수 있다.
• 로보콜, 위장, AI 생성 음성 또는 채팅봇: 뉴햄프셔에서 보인 바와 같이, 로보콜은 조 바이든 대통령이 뉴햄프셔 주민에게 투표하지 말라고 요청하는 것으로 위장했다. 선거 시즌에는 투표하지 말라고 요청하는 로보콜이 증가할 수 있다.
• 딥페이크: AI의 발전으로 딥페이크는 매우 현실적으로 되었다. 이를 사용하여 보스 또는 좋아하는 셀럽을 위장할 수 있다. 딥페이크는 AI를 사용하여 얼굴이나 표정을 조작하는 비디오 또는 이미지이다. 우리는 일상생활에서 많은 딥페이크를 접할 수 있다. 이는 일반적으로 비디오 형태로, 가짜 클립이 특정인을 특정 행동이나 말하는 것으로 나타낸다. 이는 특히 후보자를 위장하여 선거에서 사용될 수 있다. 영국을 포함한 다른 나라에서도 딥페이크를 사용하여 선거를 조작할 수 있다는 우려가 있다.

선거에 대한 AI의 영향

이러한 사기들 외에도, AI 알고리즘은 더욱 현실적인 가짜 메시지, 이메일, 소셜 미디어 게시물을 생성하여 사용자를 속여敏感한 정보를 제공하도록 한다.

마이크로소프트와 오픈AI는 サイバー脅威와 방어를 강화하는 방법에 대한 위협 브리핑을 발표했다. 이는 러시아, 북한, 이란, 중국의 5개 사이버 공격자가 이미 생성형 AI를 사용하여 새로운 공격 방법을 개발하고 있음을 보여준다.

챗봇, 음성 클로닝, 기타 사기들은 AI를 사용하여 더욱 현실적으로 만들 수 있다. 음성 클로닝 도구는 선거 인물의 음성 또는 얼굴을 거의 완벽하게 복제할 수 있다. AI는 또한 가짜 투표자 호출을 생성하여 콜 센터를 淹没시킬 수 있다.

이번 선거 시즌에 가장 높은 경계를 유지해야 할 곳은 소셜 미디어이다. 투표자들은 투표를 완료했음을 공유할 수도 있고, 후보자를 지지하는 게시물을 올릴 수도 있다. 그러나 이번에는 AI 피싱(스미싱, 보이스 피싱 포함) 사기가 증가할 수 있다.

예를 들어, 누군가가 특정 후보자를 지지하는 게시물을 소셜 미디어에 올린다. 몇 분 후, 그 사람은 후보자 캠페인 매니저로부터 이메일을 받을 수 있다. 그 이메일에 링크를 클릭하면, 자격 증명 수집, 금전적 손실, 또는 악성 코드 설치로 이어질 수 있다. AI는 거의 실시간으로 타겟팅된 피싱 캠페인을 생성하고 전달할 수 있으므로, 무해한 것으로 보이는 소셜 미디어 게시물을 통해 사용자가 새로운 수준의 현실적인 피싱 사기에 노출될 수 있다.

이번 선거 시즌에 경계를 유지하기

피싱과 같은 공격은 더욱 현실적인 사기를 만들 수 있는 방법으로 계속 사용될 것이다. 생성형 AI의 등장으로 이러한 공격의 영향은 가속화될 수 있다.

사업은 기술을 사용하여 데이터와 직원을 보호하지만, 소비자도 사기를 식별하고 피하는 방법을 알아야 한다. 이러한 방법에는 다음이 포함된다:

• 랜덤 또는 철자 오류가 있는 하이퍼링크 또는 이메일 제목을 주의한다
• 알 수 없는 발신자로부터의 링크를 클릭하지 않는다
• 가능한 경우 2요소 인증 또는 생체 인증을 사용한다
• 소셜 미디어 계정을 비공개로 설정한다
• 악의적인 활동을 보고한다
• 다른 동료 또는 가족 구성원에게 교육한다
• .gov 도메인을 확인하여 선거 후보자의 진위를 확인한다
• 회사에 IT 부서가 있다면 다음을 문의할 수 있다:
  • 제로 트러스트 네트워크
  • 피싱 방지 2요소 인증
  • 이메일 보안 도구 (DMARC, DKIM, SPF)
  • 통신을 암호화하여 검증하는 방법

선거 시즌은 경계를 유지해야 할 때이지만, 공격은 언제든지 발생할 수 있으므로, 사이버 보안基础를 강화하고 신뢰할 수 있도록 하는 것이 중요하다.