2020년 선거를 위해 인간 행동을 더 잘 모방하도록 진화한 봇

Emilio Ferrara, 컴퓨터 과학자 USC 정보 과학 연구소 (USC ISI)는 소셜 미디어의 봇과 가짜 계정이 모두 인공 지능을 통해 감지되지 않도록 인간의 행동을 더 잘 모방하도록 진화하고 있음을 보여주는 새로운 연구 결과를 발표했습니다. 

Ferrara와 Luca Luceri를 포함한 그의 팀이 수행한 연구(남부 스위스의 응용 과학 대학), Ashok Deb(USC ISI) 및 Silvia Giordano(Scuola Universitaria Professionale della Svizzera Italiana) 저널에 게재됨 첫 월요일. 그들은 2018년 미국 선거에서 사용된 다양한 봇과 가짜 계정을 살펴보고 이를 2016년 미국 선거의 행동과 비교했습니다. 

전체적으로 연구팀은 약 250,000명의 소셜 미디어 활성 사용자를 연구했으며 2016년과 2018년 선거에 대해 논의한 사람들에 초점을 맞췄습니다. 250,000명의 사용자 중 팀은 30,000명이 봇이라는 것을 발견했습니다. 

2016년 선거에서 봇은 대부분 콘텐츠를 리트윗했으며 동일한 문제나 메시지에 관한 대량의 트윗을 보내는 데 집중했습니다. 2018년의 봇은 인간이 소셜 미디어와 마찬가지로 진화했습니다. 봇은 더 적은 콘텐츠를 리트윗하기 시작했고 이러한 메시지를 대량으로 공유하는 것을 중단했습니다. 

2018년 봇은 인간의 행동을 더 잘 모방하게 되었습니다. 연구원들은 그들이 더 사실적으로 보이기 위해 동시에 여러 봇을 사용할 가능성이 더 높다는 것을 발견했습니다. 그들은 이것을 아이디어에 대한 합법적인 인간 참여인 것처럼 보이려고 사용했습니다. 

그 당시 인간은 리트윗이 아닌 답글을 통해 참여하기 시작했습니다. 봇도 이를 따랐다. 그들은 답장을 사용하여 대화에 참여하고 문제나 메시지에 대한 목소리를 냈습니다. 그들은 또한 합법적인 뉴스 매체와 여론 조사원이 사용하는 전략을 복제하기 위해 여론 조사를 사용했습니다. 연구원들은 이러한 여론 조사가 평판이 좋은 이미지를 구축하는 데 사용되었다고 믿습니다. 

 연구원들이 사용한 예 중 하나는 연방 선거에 관한 온라인 트위터 설문 조사를 게시한 봇이었습니다. 설문 조사에서는 이번 선거에서 투표할 때 신분증을 제시해야 하는지 질문했습니다. 그런 다음 봇은 Twitter 사용자에게 투표하고 설문 조사를 리트윗하도록 요청했습니다. 

이 연구의 주 저자인 Emilio Ferrara는 새로운 연구와 그 의미에 대해 말했습니다. 

“우리의 연구는 봇과 탐지 알고리즘 사이에 군비 경쟁이 있다는 생각을 더욱 확증합니다. 소셜 미디어 회사가 남용을 완화하고 자동화된 계정을 억압하기 위해 더 많은 노력을 기울이면서 봇은 인간의 전략을 모방하도록 진화합니다. AI의 발전으로 봇이 더 인간적인 콘텐츠를 생성할 수 있습니다. 봇이 어떻게 진화하고 어떻게 더 정교한 봇을 탐지할 수 있는지 이해하기 위해 더 많은 노력을 기울여야 합니다. 다가오는 2020년 미국 선거에서 소셜 미디어 담론의 무결성은 외부 영향 없이 민주적인 절차를 허용하는 데 가장 중요합니다.”

미래에 대한 큰 의미

선거 기간 동안 가짜 온라인 소셜 미디어 계정과 봇의 문제는 수년 동안 문제였습니다. 2016년 선거 기간 동안 펼쳐지고 있던 문제들은 당시에는 거대해 보였지만 가까운 장래에 보게 될 것에 비하면 작은 것이었습니다. 인공 지능을 사용하면 더 나빠질 것입니다. 

봇은 주로 인공 지능 덕분에 인간 행동을 더 잘 모방하기 위해 계속 진화할 것입니다. 누가 진짜이고 누가 진짜인지 판별할 수 없는 지점에 도달할 것입니다. 이것은 다가오는 2020년 미국 선거뿐만 아니라 미국과 전 세계의 모든 미래 선거에 극적인 영향을 미칠 것임을 의미합니다.