통계 모델, 소셜 미디어에서 허위 정보 탐지에 도움

미국 대학의 수학 교수와 그의 협력자 팀은 소셜 미디어 게시물에서 허위 정보를 탐지할 수 있는 통계 모델을 개발했습니다.

기계 학습은 허위 정보의 확산을 막기 위해 점점 더 많이 사용되고 있지만, 블랙 박스 문제와 같은 주요 장애물이 여전히 존재합니다. 이것은 연구자들이 기계가 인간 트레이너와 같은 결정을 내리는 방법을 이해하지 못하는 경우를 말합니다.

통계 모델을 사용한 허위 정보 탐지

AU의 수학 및 통계학과의 조이스 부쿠발라스(Zois Boukouvalas) 조교수는 COVID-19에 대한 허위 정보 트윗이 포함된 트위터 데이터 세트를 사용하여 통계 모델이 주요 이벤트 동안 소셜 미디어에서 허위 정보를 탐지하는 방법을 보여주었습니다.

부쿠발라스와 그의 동료 연구원들은 newly published research에서 모델의 결정이 인간과 일치하는 방법을 보여주었습니다.

“우리는 기계가 결정을 내리는 방법과 이유를 알고 싶습니다. 우리는 모델이 편향된 결정을 내리는 경우 소셜 미디어 계정을 차단하지 않습니다.”라고 부쿠발라스 曰.

팀이 사용한 방법은 통계에 의존하는 기계 학습의 한 유형입니다. 통계 모델은 효과적이며 허위 정보와 싸우는 또 다른 방법을 제공합니다.

모델은 높은 예측 성능을 달성하고 112개의 실제와 허위 정보 트윗을 거의 90%의 정확도로 분류했습니다.

“이 발견의 중요한 점은 우리 모델이 높은 정확도를 달성하면서 허위 정보를 탐지하는 방법에 대한 투명성을 제공했다는 것입니다. 깊은 학습 방법은 이러한 정확도와 투명성을 달성할 수 없습니다.”라고 부쿠발라스 曰.

모델 훈련 및 준비

연구자들은 모델을 테스트하기 전에 데이터 세트를 준비했습니다. 인간이 제공하는 정보는 편향과 블랙 박스를 도입할 수 있기 때문입니다.

트윗은 연구자들이 미리 정의된 규칙에 따라 언어를 사용하여 허위 정보 또는 실제 정보로 분류했습니다. 팀은 또한 허위 정보와 관련된 언어적 특징과 편향을 고려했습니다.

모델을 훈련하기 전에, UMBC의 소시오링위스트 교수 크리스틴 말린슨(Christine Mallinson)은 허위 정보, 편향, 신뢰할 수 없는 출처와 관련된 글쓰기 스타일을 식별했습니다.

“우리가 모델에 이러한 입력을 추가하면, 모델은 좋은 정보와 나쁜 정보를 구분하는根本적인 요인을 이해하려고 합니다. 모델은 맥락과 단어가 상호 작용하는 방법을 학습합니다.”라고 재프코비치(Japkowicz) 曰.

연구자들은 이제 모델의 사용자 인터페이스를 개선하고, 이미지 또는 멀티미디어가 포함된 소셜 미디어 게시물에서 허위 정보를 탐지하는 모델의 능력을 향상시키고자 합니다. 통계 모델은 다양한 요소가 상호 작용하여 허위 정보를 생성하는 방법을 학습해야 합니다.

부쿠발라스와 재프코비치는 인간의 지능과 뉴스 리터러시가 허위 정보의 확산을 막는 데 핵심이라고 말합니다.

“우리는 기계 학습을 기반으로 하는 도구를 설계하여 공중을 경고하고 교육하여 허위 정보를 제거하려고 하지만, 우리는 인간이 먼저 허위 정보를 퍼트리지 않도록 적극적으로 참여해야 한다고 믿습니다.”라고 부쿠발라스 曰.