AI 모델은 허위 정보를 퍼트리는 사용자를 행동하기 전에 식별할 수 있다

셰필드 대학교의 연구자들이 개발한 AI 모델은 트위터 사용자가 허위 정보를 게시하기 전에 잠재적으로 식별할 수 있다. 이 모델이 신뢰할 수 있는 것으로 판명되면 기존의 소셜 미디어에서 허위 정보를 방지하는 방법을 보완하는 데 사용될 수 있다.

TechXplore에 따르면, 이 연구는 셰필드 대학교 컴퓨터 과학부의 연구자들에 의해 수행되었으며, 닉ος 알레트라스 박사와 이다 무가 포함되어 있다. 이 연구는 PeerJ 저널에 발표되었으며, 신뢰할 수 없는 뉴스 출처에서 콘텐츠를 게시할 가능성이 있는 소셜 미디어 사용자를 예측하는 방법에 대해 설명한다.

연구 팀은 6,000명 이상의 트위터 사용자로부터 1백만 개 이상의 트윗을 수집하여 공개적으로 사용할 수 있는 데이터를 준비하기 위해 자연어 처리 기술을 적용했다. AI 모델은 이진 분류 모델로, 사용자를 신뢰할 수 없는 출처에서 정보를 공유할 가능성이 있는지 또는 그렇지 않은지 레이블링했다. 모델이 데이터에 훈련된 후, 약 79.7%의 분류 정확도를 달성했다.

연구자들은 모델의 성능 결과를 분석했을 때, 불손한 언어를 많이 사용하고 종교와 정치에 대해不断으로 트윗하는 사용자들이 신뢰할 수 없는 출처에서 정보를 게시할 가능성이 더 높다는 것을 발견했다. 특히, “자유주의자”, “미디어”, “정부”, “이스라엘”, “이슬람”과 같은 단어가 많이 사용되었다. 반면에, 신뢰할 수 있는 출처에서 정보를 게시하는 사용자들은 “I’ll”, “gonna”, “wanna”, “mood”, “excited”, “birthday”와 같은 단어가 많이 사용되었다. 또한, 그들은 개인적인 삶에 대한 이야기, 친구와의 상호작용, 감정, 취미에 대한 정보를 공유하는 경향이 있었다.

이 연구의 결과는 페이스북, 레딧, 트위터와 같은 소셜 미디어 회사들이 온라인에서 허위 정보의 확산을 방지하기 위한 새로운 방법을 개발하는 데 도움이 될 수 있다. 또한, 이 연구는 심리학자와 사회 과학자들이 허위 정보가 사회 네트워크 전체에 걸쳐 확산되는 행동을 더 잘 이해하는 데 도움이 될 수 있다.

알레트라스에 따르면, 소셜 미디어는 사람들이 뉴스를 얻는 주요 방법 중 하나가 되었다. 전 세계 수백만 명의 사용자가 매일 페이스북과 트위터를 통해 뉴스를 얻지만, 이러한 플랫폼은 또한 사회 전체에 걸쳐 허위 정보를 퍼트리는 도구가 되었다. 알레트라스는 또한 在线 정치적 적대감이 높을수록 불손한 언어의 사용과 신뢰할 수 없는 콘텐츠의 확산 사이에 상관관계가 있을 수 있다고 설명했다.

무에 따르면, 신뢰할 수 없는 정보를 공유하는 사용자의 행동을 분석하면 소셜 미디어 플랫폼이 기존的事実 확인 방법을 보완하여 사용자 수준에서 허위 정보의 확산을 방지하는 데 도움이 될 수 있다. 무는 TechXplore를 통해 다음과 같이 말했다 :

“신뢰할 수 없는 뉴스 출처에서 콘텐츠를 공유하는 사용자의 행동을 연구하고 분석하면 소셜 미디어 플랫폼이 사용자 수준에서 허위 정보의 확산을 방지하는 데 도움이 될 수 있다. 이는 기존的事実 확인 방법을 보완하여 포스트 또는 뉴스 출처 수준에서 작동하는 방법과 함께 작동한다.”

알레트라스와 무의 연구는 허위 정보를 생성하고 확산하는 AI를 사용하여 허위 정보를 방지하는 한 예가 될 수 있다. 최근 몇 개월 동안 지역 및 전국 정치를 둘러싼 허위 정보가 증가했으며, 이러한 콘텐츠의 대부분은 AI 알고리즘에 의해 생성되고 확산되었다. 깊은 신경망은 허위 정보를 퍼트리는 가짜 계정과 프로필을 생성하기 위해 사용되었다. 알레트라스와 무의 연구는 소셜 미디어 회사들이 가짜 계정과 봇 계정을 식별하는 데 도움이 될 수 있다. 이러한 계정은 유해한 선전과 허위 정보를 퍼트리는 목적으로 생성되었다.