AI가 뉴스에서의 허위 정보와 편향성을 극복할 수 있다

최근 몇 년 동안 사회가 직면한 가장 큰 도전 중 하나는 뉴스에서의 허위 정보와 편향성이다. 정보 작전, 딥페이크, 금융적 영향, 사회적 긴장의 악용과 같은 것들이 개인과 국가 행위자들이 전 세계적으로 사용하는 새로운 도구가 되었다.

허위 정보는 거짓 정보를 의미하는 일반적인 용어이며, 공론의 조작에서 주요 역할을 하고 있다. 동시에 정치 지도자에 대한 공격으로 사용되며, 다양한 국가에서 집단 간의 분리를恶화시키고 있다. 이전보다 더 많은 허위 정보가 투표소에 도달하고 있으며, 매우 효과적으로 작용하고 있다.

허위 정보와 조금 다른 개념인 부정확한 정보는 고의적으로 오도하거나 편향된 정보를 말한다. 이는 조작된 내러티브와 사실을 포함할 수 있다. 즉, 이것은 선전이다.

2019년 옥스포드 대학의 연구자들이 작성한 보고서에 따르면, 러시아, 중국, 베트남, 과테말라를 포함한 70개국에서 조직적인 부정확한 정보 캠페인이 진행되고 있다.

디지털 경제는 뉴스에서의 허위 정보와 편향성을 증가시켰으며, AI 기술과 소셜 미디어 플랫폼이 이를 대중에게 전파하는 수단이 되었다.

우리는 이러한 예를 많이 보았다. 예를 들어, 이전의 두 번의 미국 대통령 선거는 허위 정보와 편향성이 가득 차 있었으며, 이는 미래에도 계속될 것이다. 금융 시장도 허위 정보와 편향성을 통해 단기적으로 조작될 수 있으며, 외교 관계도 이러한 사용으로 인해 더 긴장되고 있다. 허위 정보에 대한 거짓 정보가 특정 사안의 지지자와 반대자에 대한 사회적 긴장을 일으키고 있으며, 거의 모든 국가에서 가짜 뉴스가 만연하다.

우리는 소셜 미디어와 알고리즘에 대한 의존도가 높아져서 허위 정보와 편향성에 매우 취약해졌으며, 이는 대규모 집단을 조작하기 쉽게 만들었다.

The Conversation이라는 비영리 미디어 아웃レット 네트워크가 발행한 “소셜 미디어가 허위 정보를 전파하는 데 취약한 이유”라는 에세이에 따르면, 소셜 미디어 생태계가 고의적이고 우발적인 허위 정보에 취약한 세 가지 유형의 편향이 있다. 대부분의 뉴스가現在 소셜 미디어에서 오는 것을 인식하는 것이 중요하다.

세 가지 유형의 편향은 다음과 같다:

1. 뇌의 편향: “인지적 편향은 뇌가 일상적으로 처리하는 정보에서 기인한다.”
2. 사회적 편향: “사람들이 직접 친구와 연결될 때, 사회적 편향이 정보 선택에 영향을 미친다.”
3. 기계의 편향: “세 번째 유형의 편향은 온라인에서 볼 수 있는 것을 결정하기 위해 사용되는 알고리즘에서 발생한다. 소셜 미디어 플랫폼과 검색 엔진 모두 이를 사용한다.”

이러한 편향의 조합은 악의적인 행위자가 현재의 뉴스 플랫폼을 허위 정보를 전파하는 수단으로 사용하는 완벽한 환경을 만들었다. 그러나 편향이 이 영역 밖에서도 존재하는 것을 인식하는 것이 중요하다. 일반적인 뉴스 보고서와 기사도 저자의 또는 출판물의 특정 성향으로 인해 편향될 수 있다. 이것은 새로운 것이 아니다.

허위 정보와 편향성에 대한 AI 솔루션

인공지능의 발전은 허위 정보와 편향성을 극복할 수 있는 새로운 도구를 제공했다.

예를 들어, 올바르게 설계된 AI는 특정 허위 정보와 다른 문제가 있는 콘텐츠를 효과적으로 감지하고 제거할 수 있다. 이는 구글, 트위터, 페이스북과 같은 회사에서 이미 사용되고 있으며, 가짜 봇을 식별하는 데 사용된다. 그리고 가짜 봇은 허위 정보와 편향된 뉴스를 전파하는 데 자주 사용된다.

이 문제를 극복하기 위해 새로운 AI 프레임워크를 탐색하고, 기존의 것을 개선해야 한다. 이러한 문제는 충돌이 발생할 때 더 위험해진다. 예를 들어, 러시아-우크라이나 충돌과 같은 군사적 충돌은 허위 정보가 매우 빠른 속도로 전파되도록 한다.

다양한 AI 기반 도구가 개발 중이다. 예를 들어, NT CONNECT라는 국제 기술 개발업체는 최근에 뉴스 집계 애플리케이션인 NOOZ.AI를 출시했다. AI 기반 언어 분석 엔진은 오늘날의 뉴스 미디어에서 발견되는 편향성을 투명하게 만들기 위해 설계되었다. 이는 기사를 읽기 전에 뉴스 미디어의 영향을 읽는 사람에게 알림으로써 이를 달성한다.

“저자 또는 저널리스트는 종종 특정 편향성을 가지고 있다 – 종종 읽는 사람의 지식 없이”라고 회사 측은 보도자료에서 말했다. “저자와 뉴스 출처의 역사적인 편향성을 알고 있다면, 소비자는 더 객관적인 마음으로 기사를 검토하고 특정 주제에 대해 특정한 방식으로 생각하도록 조작되는 것을 피할 수 있다.”

NOOZ.AI 도구는 네 가지 주요 기둥을 기반으로 한다:

• 의견 분석: 기자리의 글쓰기에서 개인적인 감정, 견해, 신념, 또는 판단의 존재를 읽는 사람에게 도움을 준다.
• 감성 분석: 도구는 감성 분석을 사용하여 작가의 일반적인 뉴스 콘텐츠 또는 특정 주제에 대한 지지 또는 반대를 읽는 사람이 측정할 수 있도록 한다.
• 선전 분석: 잠재적인 부정확한 정보를 식별하기 위해 18가지 가능한 설득 기술의 사용을 감지할 수 있다.
• 수정 분석: 읽는 사람은 뉴스 기사의 진화를 조사하고 시간이 지남에 따라 의견과 감정의 조작을 볼 수 있다.

애플리케이션은 각 기사에 점수를 제공하며, 의견 점수는 0에서 100까지, 감성 점수는 -100에서 100까지이다. 또한 각 수정의 모든 텍스트 편집을 추적하며, 읽는人が 다양한 버전을 비교할 수 있도록 한다.

NT CONNECT의 CTO인 Garry Paxinos는 다음과 같이 말했다:

“편향된 보도는 오늘날의 사회에서 주요 관심사이다. 허위 정보는 가장 흔하게 (잘못) 사용되는 용어이다. 그러나 언어 자체가 사전적인 독자를 조작하고 설득하는 데 사용될 수 있다. 언어를 객관적으로 분석함으로써, 우리는 다른 접근 방식에서 발견되는 주관적인 편향성을 피한다. 허위 정보를 주관적으로 레이블링하는 대신, 우리는 과장된 헤드라인, 수정 기록, 기사 텍스트를 통해 어떻게 조작될 수 있는지 보여준다.”