Facebook은 AI가 생성하고 음모 이론을 영속시키는 데 사용되는 계정을 제거합니다.

소셜 미디어 회사들은 2020년 선거 시즌을 앞두고 다양한 방법으로 잘못된 정보를 통제하는 것을 목표로 하고 있습니다. Twitter는 최근 플랫폼에서 정치 광고를 금지했지만 Facebook은 수백 개의 가짜 계정, 그룹 및 페이지를 폐쇄했다고 발표했습니다. 이러한 계정 중 상당수는 인공 지능에 의해 생성된 프로필 이미지가 있는 것으로 보이며, 많은 계정이 잘못된 정보와 음모론을 유포하는 데 사용된 것으로 알려졌습니다.

포브스가 보도한 바와 같이, Facebook은 금지된 계정과 페이지가 "Beauty of Life" 네트워크 또는 "TheBL"에 연결되어 있다고 밝혔으며 Facebook은 이 네트워크가 보수적인 뉴스 게시 그룹인 Epoch Times와 연결되어 있다고 말했습니다. Facebook에 따르면 Epoch Media Group은 현재 금지된 많은 페이지와 그룹을 통한 광고에 거의 9.5만 달러를 지출했으며 대부분의 게시물에는 친 트럼프 음모론이 포함되어 있습니다. Epoch Media Group은 혐의를 부인하고 있지만 Facebook은 Graphika 및 Atlantic Council의 DFRLab(Digital Forensic Research Lab)과 같은 독립 연구원과 긴밀히 협력하여 조치를 취하기 전에 계정 및 페이지의 특성을 파악했다고 밝혔습니다.

페이스북에 따르면 해당 계정은 "조율된 허위 행위", 의도적으로 타인의 신원을 오도하는 행위, 정치적 개입 시도 등으로 인해 삭제됐다.  씨넷에 따르면, 페이스 북은 계정이 보수적 선거, 보수적 정책 및 트럼프 대통령에 대한 강력한 지원에 중점을 둔 특정 정치 후보자 및 이데올로기를 홍보하는 콘텐츠를 자주 게시했다고 말했습니다.

Facebook은 발견한 내용 중 많은 부분을 포함하는 이벤트에 대한 39페이지 분량의 보고서를 게시했습니다. 페이스북 보고서의 주목할만한 측면 중 하나는 금지된 계정 중 상당수가 AI의 도움으로 생성되었다는 것입니다. 페이스북의 연구원들은 보고서에서 다음과 같이 말했습니다.

"이 보고서 작성자에게 알려진 최초의 대규모 가짜 얼굴 배포에서 수십 개의 가짜 계정에는 인공 지능이 생성한 프로필 사진이 있었습니다."

보고서의 조사 결과에 따르면 AI가 생성한 이미지는 완벽하지 않았으며 세부 사항은 종종 본질을 드러냈습니다. 사람의 안경이나 머리카락과 같은 이미지의 인접한 요소는 종종 비대칭이었습니다. 또한 배경 세부 정보가 종종 흐릿하고 왜곡되었습니다. 그러나 이러한 요소는 특히 Facebook 댓글 체인에 있는 프로필 사진의 작은 이미지 크기를 고려할 때 언뜻 눈에 띄지 않을 수 있습니다. 가짜 프로필의 대부분은 또한 가짜 프로필 정보와 심지어 AI에 의해 생성된 가짜 게시물까지 있는 것으로 보입니다.

NBC가 보도한 바와 같이, Facebook의 보안 정책 책임자 인 Nathaniel Gleicher는 계정의 동작이 가짜 이미지와 프로필 정보를 사용하려는 시도가 계정이 발견되는 것을 막는 데 도움이되지 않는다고 말했습니다. Gleicher는 AI가 생성한 이미지가 실제로 해당 계정이 잡힐 가능성이 더 높다고 말했습니다. 글라이처는 다음과 같이 말했습니다.

“우리는 이러한 계정이 가짜 행동에 관여했기 때문에 감지했습니다. AI가 생성한 프로필을 자신을 더 사실적으로 보이게 하는 방법으로 사용하는 것은 실제로 도움이 되지 않습니다. 여기에서 가장 큰 교훈은 가짜 신원을 사용하는 네트워크의 지독함입니다. 여기서 새로운 점은 이것이 정치적 콘텐츠를 홍보하기 위해 미국인으로 위장한 외국 배우를 활용하는 미국 기반 미디어 회사라는 것입니다. 우리는 과거에 국가 배우들에게서 그것을 많이 보았습니다.”

그럼에도 불구하고 Graphika와 Atlantic Council의 독립적인 연구원은 악의적인 행위자가 너무 많은 이미지를 쉽게 만들고 자신의 계정에 진정성을 부여할 수 있다는 것이 "우려"라고 말했습니다. Facebook 및 기타 소셜 미디어 회사는 잘못된 정치적 정보의 확산을 막기 위한 노력을 강화해야 한다는 압력을 받고 있습니다. 이 작업은 잘못된 정보를 퍼뜨리려는 사람들보다 기술적으로 앞서 나가야 합니다.

Facebook이 계정, 페이지 및 그룹을 중단하기 전에 이러한 엔티티가 게시한 콘텐츠는 수백만 명의 사람들에게 도달했습니다. 알려진 바에 따르면 최소 55만 개의 계정이 89개의 서로 다른 금지 페이지 중 하나를 팔로우했습니다. 대부분의 팔로워는 미국 이외의 계정이었습니다. 전체적으로 약 600개의 계정, 90개의 페이지, 150개의 그룹이 Facebook에서 제거되었습니다. Instagram에서도 약 70개의 계정이 제거되었습니다.

이 소식은 페이스북이 2020년 6000월까지 진행되는 DeepFake 탐지 챌린지를 시작할 때 나온 것입니다. Twitter는 또한 최근 사우디아라비아에서 시작된 용의자가 의도적으로 오해의 소지가 있는 콘텐츠를 게시한 거의 XNUMX개의 계정을 금지했습니다.