가짜 정보에 대한 초기 경보 시스템 개발에 AI 활용

노트르담 대학교의 연구자들은 온라인에서 가짜 정보를 퍼트리는 것을 막기 위한 프로젝트에 착수했습니다. 이 프로젝트는 폭력을 선동하고, 불화를 조장하며, 민주주의 선거에 개입하는 미디어 캠페인 등 다양한 형태의 가짜 정보를 포함합니다.

연구팀은 가짜 이미지를 식별하고, 딥페이크 비디오와 온라인에서 가짜 정보를 식별할 수 있는 초기 경보 시스템을 개발하기 위해 인공 지능(AI)을 활용했습니다. 이 시스템은 확장 가능하고 자동화된 시스템으로, 콘텐츠 기반 이미지 검색을 사용합니다. 또한 컴퓨터 비전 기반 기술을 사용하여 여러 소셜 미디어 네트워크에서 정치적 밈을 식별할 수 있습니다.

팀 원저자인 팀 웬링거(Tim Weninger)는 노트르담 대학교 컴퓨터 과학 및 엔지니어링 부서의 부교수입니다.

웬링거는 “밈은 쉽게 만들고 공유할 수 있습니다. 정치적 밈의 경우, 투표를 독려하는 데 사용될 수 있지만, 또한 부정확한 정보를 퍼트리고 해를 끼칠 수 있습니다”라고 말했습니다.

웬링거는 노트르담 대학교 컴퓨터 과학 및 엔지니어링 부서의 조수교수인 월터 스키어(Walter Scheirer)와 연구 팀의 다른 구성원들과 함께 협력했습니다.

2019년 인도네시아 총선

연구팀은 2019년 인도네시아 총선을 대상으로 시스템을 테스트했습니다. 그들은 트위터와 인스타그램에서 총선과 관련된 200만 개 이상의 이미지와 콘텐츠를 수집했습니다.

총선에서, 중도좌파 성향의 현직자가 보수적이고 포퓰리스트 성향의 후보자를 물리쳤습니다. 선거 이후, 8명이 사망하고 수백 명이 부상한 폭력적인 시위가 발생했습니다. 연구팀의 연구에 따르면, 선거에 영향을 미치고 폭력을 선동하기 위한 목적으로 소셜 미디어에서 자발적이고 조직적인 캠페인이 시작되었습니다.

조직적인 캠페인은 가짜 이미지를 사용하여 잘못된 주장을 제기하고 특정 사건을 왜곡했습니다. 정당한 뉴스 로고를 사용하여 뉴스 기사와 밈을 조작하여 시민과 양당 지지자들을 자극했습니다.

전 세계

2019년 인도네시아 총선은 전 세계에서 발생할 수 있는 상황을 대표합니다. 특히 소셜 미디어를 통해 퍼지는 가짜 정보는 민주주의 과정을 위협할 수 있습니다.

노트르담 대학교의 연구팀은 디지털 포렌식 전문가와 평화 연구 전문가로 구성되었습니다. 연구팀에 따르면, 시스템은 조작된 콘텐츠를 식별하여 폭력을 예방하고, 언론인이나 선거 감시인에게 잠재적인 위협을 경고하는 데 사용됩니다.

시스템은 아직 연구 및 개발 단계에 있지만, 궁극적으로 사용자에게 콘텐츠를 모니터링할 수 있는 확장 가능하고 개인화된 시스템이 될 것입니다. 시스템 개발의 가장 큰課題 중 하나는 데이터 수집과 처리를 확대하는 최선의 방법을 결정하는 것입니다. 스키어에 따르면, 시스템은 현재 평가 중이며, 다음 단계는 운영 사용으로의 전환입니다.

시스템은 2020년 미국 총선에서 사용될 가능성이 있습니다. 이 선거에서는大量의 가짜 정보와 조작이 예상됩니다.

스키어는 “가짜 정보 시대가 도래했습니다. 인기 있는 영화에서 배우를 대체하는 딥페이크는 재미있고 가벼워 보일 수 있지만, 세계 지도자들끼리 대립시키는 목적으로 만들어진 비디오나 밈을 상상해 보십시오. 실제로 말하지 않은 말을 말하는 것입니다. 이러한 콘텐츠가 얼마나 빠르게 공유되고 퍼질 수 있는지 생각해 보십시오. 이러한 행동의 결과를 고려해 보십시오”라고 말했습니다.