페이스북의 AI가 어떻게 허위 정보를 퍼뜨리고 민주주의를 위협하는가

링크드인의 AI 연구를 담당했던 Dan Tunkelang은 “추천이 결정에 영향을 미치는 힘을 가지면, 스팸메일, 사기, 그리고 노블한 동기가 아닌 사람들을 위한 목표가 된다”고 말했다.

이것은 페이스북과 같은 소셜 미디어 회사들이 직면한 딜레마이다. 페이스북은 사용자의 클릭, 조회, 기타 측정 가능한 사용자 행동을 추적하기 위해 암시적 피드백을 사용한다. 이것은 “추천 엔진”이라고 불리는 AI 시스템을 설계하는데, 이 시스템은 사용자에게 어떤 콘텐츠를 표시하고 언제 표시할지에 대한 최종 결정 권한을 가진다.

페이스북은 사용자 참여를 최대화하기 위해 추천 엔진을 최적화했으며, 이는 페이스북 플랫폼에서 사용자가 보낸 시간의 양으로 측정된다. 시간의 최대화는 콘텐츠의 품질이나 정확성보다 우선한다.

이 시스템은 사용자들을 감정적으로 자극하는 헤드라인을 보상한다. 이러한 헤드라인은 사용자들을 이용하여 인지적 편향을 이용하며, 러시아 트롤이 사회를 분열시키거나 정치 선거에 영향을 미치기 위한 의도로 작성된 헤드라인일 수도 있다.

페이스북이 AI를 어떻게 사용하는가

페이스북이 사용자에게 표시하고 상호작용할 콘텐츠를 결정하기 위해 AI를 사용하는 방식에 대한 인식이 부족하다. 먼저 확인 편향이 무엇인지 이해해야 한다. 심리학 오늘은 이것을 다음과 같이 설명한다.

확인 편향은 이전의 믿음이나 가치와 일치하거나 지원하는 정보를 검색, 해석, 선호, 기억하는 경향이다.

페이스북은 사용자들이 확인 편향을 만족하는 뉴스를 클릭할 가능성이 더 높다는 것을 알고 있다. 이것은 음모론과 정보의 확산을 위한 위험한 선례를 마련하며, 사용자들은 정확성이나 사회적 영향과는 상관없이 자신이 원하는 것을 독점적으로 제공받는 에코 챔버에 갇히게 된다.

MIT의 연구에 따르면, 트위터에서 가짜 뉴스는 실제 뉴스보다 6배 더 빠르게 퍼진다.

이것은 페이스북과 트위터가 모두 무기처럼 사용될 수 있음을 의미한다. 트위터는 사용자들이 의도적으로 좁은 또는 편향된 관점의 피드를 팔로우할 수 있도록 허용하는 반면, 페이스북은 사용자가 자신의 뉴스 피드를 제어하거나 측정할 수 있는 방법이 없다. 이것은 완전히 페이스북의 추천 엔진에 의해 제어된다.

페이스북은 사용자의 욕망을 예측하고 형성하려고 시도한다. 페이스북은 사용자가 아직 경험하지 않은 뉴스 아이템에 대해 사용자가 좋아하거나 싫어할 정도를 추정한다. 사용자 참여를 잃지 않기 위해, 페이스북은 사용자 참여를 줄일 수 있는 뉴스 아이템을 건너뛰고, 사용자의 확인 편향을 만족하는 뉴스 아이템을 제공한다.

페이스북은 또한 사용자의 역사적인 행동과 의견을 자동으로 필터링하여 자동으로 사용자와 비슷한 의견을 가진 사용자와 매칭한다. 페이스북은 사용자가 원하는 항목을 예측하고 수학적으로 순위를 매기는 유틸리티 함수를 사용한다.

이것은 사용자가 가짜 뉴스에 갇히게 만든다. 제공되는 콘텐츠는 사용자가 클릭하는 것을 影響하기 위한 목적으로 설계된다. 빌 게이츠가 백신을 사용하여 인간 인구를 마이크로 칩으로 만들려고 하는 음모론을 믿는다면, 페이스북은 왜矛盾되는 증거를 제공하여 사용자가 플랫폼에서 탈퇴하게 만들겠는가?

페이스북은 또한 필터 버블을 사용하여 사용자가 충돌하는 관점에 노출되지 않도록 한다.

페이스북 광고

페이스북 사용자들은 의도하지 않게 광고를 클릭할 수 있다. 이유는 간단하다. 광고를 처음 표시받은 사용자는 광고免責 조항을 볼 수 있지만, 사용자가 광고를 공유하면, 친구 목록의 모든 사용자는 광고免責 조항 없이 뉴스 피드 아이템으로 표시된다.

페이스북 공유

불행히도, 상황은 더 나빠진다. 사용자가 1000명의 친구가同時에 콘텐츠를 공유하면, 추천 엔진은 동일한 견해를 가진 소수에게 우선순위를 부여한다. 사용자는 이러한 뉴스 피드 아이템이 모든 사람에게 표시되는 것처럼 느끼게 된다. 이러한 뉴스 피드를 사용하여 사용자는 서로의 사회적 증거를 강화한다.

사용자가 다른 사용자에게 잘못된 또는 가짜 아이템에 대해 알리려고 시도하면, 댓글이나 뉴스 피드와 상호작용하는 행위는 사용자의 참여 시간을 증가시킨다. 이것은 페이스북이 사용자에게 더 많은 가짜 뉴스를 제공하도록 한다.

이것은 에코 챔버를 생성하며, 사용자는 자신이 본 것만 믿도록 훈련된다. 진실은 단지 환상이다.

문제의 심각성

1,000만 명이 넘는 사람들이 뉴스 피드에 참여했다. 포프 프란치스코가 2016년 트럼프의 선거를 지지한다고 주장하는 뉴스 피드였다. 증거는 없지만, 이것은 러시아에서 나온 가짜 뉴스였다. 이것은 2016년 선거 이전 3개월 동안 페이스북에서 가장 많이 공유된 뉴스였다.

이 뉴스 아이템은 “인터넷 연구 기관”이라고 불리는 러시아 트롤 팜에서 생성되었다. 이 기관은 트위터와 페이스북에서 인종 차별적인 文章을 홍보하고, 미국 정치인에 대한 거짓 주장을 퍼트리는 가짜 뉴스를 무기처럼 사용했다.

정보위원회는 85페이지의 보고서를 발간했다. 이 보고서는 2016년 미국 선거에 영향을 미치기 위한 러시아의 적극적인 캠페인과 간섭에 대해 자세히 설명하고 있다.

2020년 선거에서 문제는 더 심각해졌다. 2020년 9월, FBI의 팁을 받은 페이스북과 트위터는 러시아의 국가 선전 노력과 관련된 뉴스 기관인 피스데이터의 소셜 미디어 계정을 중단했다.

불행히도, 계정을 중단하는 것은 임시적인 해결책이다. 러시아 계정은 종종 친구 요청의 형태를 취하거나, 정기적인 게시물이 있는 사용자의 계정을 탈취한다. 이러한 계정은 처음에는 정치적인 게시물이 아니지만, 점차적으로 선전이나 음모론으로 채워진다.

사용자는 친구의 계정이 손상되었다는 것을 모를 수 있다. 사용자가 음모론에 취약하다면, 가짜 뉴스 피드 아이템에 참여할 수 있다. 러시아 트롤은 종종 봇이며, 사용자에게 추가적인 사회적 증거를 제공한다.

취약한 사용자는 기술과 AI가 어떻게 작동하는지 이해하지 못하는 사람들이다. 65세 이상의 인구는 가장 많이 투표하는 인구이기도 하지만, 뉴욕 타임즈에 따르면, 가짜 뉴스를 퍼트리는 인구이기도 하다.

연구에 따르면, 페이스북 사용자들은 65세 이상이 29세 미만의 성인보다 7배 더 많은 가짜 뉴스 웹사이트의 文章을 게시했다. 디지털 미디어 리터러시의 부족으로, 이 연령층은 사실이나 정확성에 기반하지 않고 사용자 참여에 기반한 뉴스 피드에 대비되지 않는다.

나쁜 배우들은 페이스북의 추천 엔진을 이용하여 사용자의 인지적 편향을 이용한다. 이러한 조직은 음모론과 선전을 퍼트리기 위해 페이스북의 AI를 최적화했다. 처음에는 무해한 것으로 보이는 음모론은 종종 백인 우월주의, 극우 민족주의, 또는 QAnon과 같은 음모론으로 이어진다.

요약

페이스북은 문제가 있다는 것을 알고 있다. 페이스북은 콘텐츠를 삭제하는 전략을 발표했다. 그러나 계정을 삭제하는 것은 임시적인 해결책이다. 사용자들은 의도하지 않게 허위 정보를 퍼트리고 있다.

경고 레이블을 추가하는 것은 보수적인 사람들이 사회 미디어 자이언트에 편향된 것으로 생각하는 음모론을 강화한다. 보수적인 사람들이 가장 많이 가짜 뉴스를 믿는 사람들이다.

해결책은 사용자 참여뿐만 아니라 사용자의 행복을 측정하고, 진실을 제공하며, 자아의식을 높이는 새로운 추천 엔진을 개발하는 것이다.

한편, 페이스북은 트위터가 정치 광고를 금지한 것과 같은 길을 따라야 한다.

마지막으로, 중요한 질문을 해야 한다. 사용자가 볼 뉴스를 선택할 수 없다면, 언제 추천이 아니라 마음의 통제가 되는가?

추천 도서:

러시아의 적극적인 캠페인과 간섭 – 정보위원회 보고서

민주주의의 종말을 예측하는 충격적인 논문 – 릭 쉔크만, 조지 워싱턴 대학교 역사 뉴스 네트워크의 창립자

페이스북에서 가짜 뉴스를 더 많이 공유하는 사람들 – 뉴욕 타임즈