AI 모델은 허위 정보를 퍼트리는 사람들을 그들이 행동하기 전에 식별할 수 있다

셰필드 대학교의 연구자들이 개발한 AI 모델은 потен적으로 트위터 사용자들이 허위 정보를 게시하기 전에 그들을 식별할 수 있다. 이 모델이 신뢰할 수 있는 것으로 판명되면 기존의 소셜 미디어에서 허위 정보를 방지하는 방법을 보완하는 데 사용될 수 있다.

TechXplore에 따르면, 이 연구는 셰필드 대학교 컴퓨터 과학부의 연구자들에 의해 수행되었으며, Nikos Aletras 박사와 Yida Mu가 포함되었다. 이 연구는 PeerJ 저널에 발표되었으며, 사용자가 신뢰할 수 없는 뉴스 소스의 콘텐츠를 게시할 가능성이 있는지 예측하는 데 사용된 방법을 자세히 설명하고 있다.

연구 팀은 6,000명 이상의 트위터 사용자로부터 100만 개 이상의 트윗을 수집했으며, 모두 공개적으로 이용할 수 있었다. 팀은 자연어 처리 기술을 적용하여 데이터를 준비하여 AI 모델을 훈련시켰다. AI는 이진 분류 모델로, 사용자를 신뢰할 수 없는 소스의 정보를 공유할 가능성이 있는지 또는 그렇지 않은지로 분류했다. 모델이 훈련을 마친 후에, 약 79.7%의 분류 정확도를 달성할 수 있었다.

연구자들은 모델의 성능 결과를 분석했을 때, 사용자들이 불손한 언어를 많이 사용하고 종교와 정치에 대해 계속해서 트윗하는 경우 신뢰할 수 없는 소스의 정보를 게시할 가능성이 더 높았다는 것을 발견했다. 특히, “liberal”, “media”, “government”, “Israel”, “Islam”과 같은 단어가 많이 사용되었다. 한편, 신뢰할 수 있는 소스의 정보를 게시하는 사용자들은 “I’ll”, “gonna”, “wanna”, “mood”, “excited”, “birthday”와 같은 단어를 사용하는 경향이 있었으며, 일반적으로 친구와의 상호작용, 감정, 취미에 대한 정보와 같은 개인적인 삶에 대한 이야기를 공유했다.

이 연구의 결과는 페이스북, 레딧, 트위터와 같은 소셜 미디어 회사들이 온라인에서 허위 정보의 확산을 방지하기 위한 새로운 방법을 개발하는 데 도움이 될 수 있다. 또한, 이 연구는 심리학자와 사회과학자들이 허위 정보가 소셜 네트워크를 통해 확산되는 행동을 더 잘 이해하는 데 도움이 될 수 있다.

Aletras는 TechXplore에 따르면, 소셜 미디어는 사람들이 뉴스를 얻는 주요 방법으로 변모했다고 설명했다. 전 세계 수백만 명의 사용자가 매일 페이스북과 트위터를 통해 뉴스를 얻지만, 이러한 플랫폼은 또한 사회 전반에 허위 정보를 퍼트리는 도구가 되었다. Aletras는 사용자 행동의 특정 경향을 신뢰할 수 있게 식별하는 것이 허위 정보를 방지하는 데 도움이 될 수 있다고 설명했다. Aletras는 또한 “불손한 언어의 사용과 신뢰할 수 없는 콘텐츠의 확산 사이에 상관관계가 있으며, 이는 온라인 정치적 적대감이 높기 때문”이라고 설명했다.

Mu는 신뢰할 수 없는 정보를 공유하는 사용자의 행동을 분석하면 소셜 미디어 플랫폼이 기존的事実 확인 방법을 보완하고 사용자 수준에서 허위 정보를 모델링하는 데 도움이 될 수 있다고 말했다. Mu는 TechXplore를 통해 말했다:

“신뢰할 수 없는 뉴스 소스의 콘텐츠를 공유하는 사용자의 행동을 연구하고 분석하면 소셜 미디어 플랫폼이 사용자 수준에서 가짜 뉴스를 방지하는 데 도움이 될 수 있으며, 기존的事実 확인 방법을 보완하는 데 도움이 될 수 있다.”

Aletras와 Mu의 연구는 AI를 사용하여 AI에 의해 생성된 허위 정보를 방지하는 한 예가 될 수 있다. 최근 몇 개월 동안 지역과 국가 정치를 둘러싼 허위 정보가 증가했으며, 대부분의 콘텐츠는 AI 알고리즘에 의해 생성되고 확산되었다. 깊은 신경망은 가짜 뉴스를 퍼트리는 가짜 계정의 실제적인 사진과 프로필을 생성하는 데 사용되었다. Aletras와 Mu의 연구는 소셜 미디어 회사들이 어떤 계정이 가짜인지, 유해한 선전과 허위 정보를 퍼트리기 위해 생성된 봇 계정인지 식별하는 데 도움이 될 수 있다.