페이스북, 사용자 불량행위를 방지하기 위해 봇과 시뮬레이션을 사용한다

페이스북은 유해한, 손상되는, 그리고 불법적인 행동을 더 잘 감지하기 위한 새로운 AI를 설계했습니다. The Verge의 보고서에 따르면, 페이스북의 런던 AI 부서의 연구원들은 “WW”라는 AI 기반 페이스북 시뮬레이터를 만들었습니다. 이 시뮬레이터는 사기꾼, 불법 제품 판매자, 스팸메일 발송자, 그리고 다른 악의적인 사용자들의 행동을 시뮬레이션된 페이스북에서 시뮬레이션합니다.

“WW”라는 페이스북 시뮬레이터는 “WWW”의 약자로, 페이스북에서 발표한 논문에서 공개되었습니다. WW는 페이스북의 다양한 도구와 알고리즘을 테스트하기 위한 클론된, 포함된 버전의 페이스북입니다.

最近, 페이스북은 WW의 사용법에 대한 자세한 정보를 공개했습니다. 그 중 하나는 악의적인 사용자의 행동을 시뮬레이션하는 것입니다. 여러 봇을 사용하여 사기, 스팸, 괴롭힘 등과 같은 행동을 시뮬레이션함으로써, 연구원들은 사용자들의 유해한 행동을 더 잘 감지하고 방지할 수 있을 것입니다.

페이스북 엔지니어 마크 하먼(Mark Harman)은 WW가 페이스북에서 유해한 행동을 방지하는 데 유용한 도구가 될 것이라고 믿습니다. 예를 들어, 하먼은 시뮬레이션이 사기꾼을 감지하는 더好的 방법을 개발하는 데 사용될 수 있다고 생각합니다.

페이스북 엔지니어들은 실제 페이스북 사기꾼들의 행동을 모방하기 위해 두 그룹의 봇을 만들었습니다. 한 그룹은 목표물, 다른 그룹은 사기꾼이었습니다. 사기꾼들은 종종 사용자의 친구 네트워크를 탐색하여 잠재적인 목표물을 찾습니다. 이 행동을 봇이 모방하면서, 엔지니어들은 무해한 봇이 사기 당하지 않도록 하는 다양한 방법을 실험했습니다. 그들은 봇이 1분마다 보낼 수 있는 개인 메시지의 수를 제한하는 것과 같은 여러 제약을 실험했습니다.

시뮬레이션된 페이스북과 실제 페이스북은 몇 가지 면에서 다릅니다. 하나는 시뮬레이션된 페이스북에는 실제 시각적 요소가 포함되어 있지 않다는 것입니다. 따라서 시뮬레이션에서 파생된 데이터는 모두 숫자 데이터와 봇 간의 상호작용에 대한 통계로 구성됩니다. 또 다른 것은 시뮬레이션의 모든 배우가 봇이라는 것입니다. 봇은 실제 사용자와 상호작용할 수 없습니다. WW 시뮬레이션은 사용자의 의도나 특정 대화의 내용과 같은 것을 고려할 수 없습니다. 오직 메시지를 보내고, 댓글을 달고, 등의 행동만 시뮬레이션됩니다.

하먼에 따르면, 이러한 제약을 실험하는 과정은 도시 계획자가 특정 도로에서 속도를 줄이기 위해 속도 제한을 설정하는 것과 비슷합니다. 도시 계획자가 속도 제한을 설정하고,然后 데이터를 수집하는 것과 마찬가지로, 엔지니어들은 시뮬레이터에서 봇 간의 메시지와 상호작용이 어떻게 변하는지 분석했습니다. 하먼은 페이스북의 플랫폼에서 유해한 행동을 방지하면서 정상적인 행동이나 트래픽의 흐름을 심각하게 제한하지 않는 변경을 찾는 것이 목표라고 설명합니다.

하먼은 또한 WW를 사용하여 시뮬레이션을 하는 것이 실제 페이스북 인프라에서 발생하는 행동을 연구할 수 있기 때문에 유용하다고 설명합니다. 이러한 발견의 적용은 아직 시간이 필요합니다. 현재 WW와 그 시뮬레이션은 연구 단계에 있습니다. 하먼과 다른 페이스북 연구원들은 아직 이러한 발견을 실제 페이스북에 적용하지 않을 것입니다. 아직 많은 작업이 남아 있습니다. 연구 그룹은 시뮬레이션을 통해 실제 인간의 행동을 충분히 반영하는지 확인해야 합니다.

하먼에 따르면, WW의 주요 이점은 대규모에서 작동할 수 있다는 것입니다. 페이스북 연구원들은 시뮬레이션을 통해 수천 개의 작은 변경의 잠재적인 결과를 확인할 수 있습니다.

미래에는 연구원들이 봇을 그냥 놀게 하거나 실험하게 할 수 있습니다. 봇이 스스로 어떤 상호작용을 하게 될지 보는 것입니다. 종종 연구원들이 예상하지 못한 상호작용이 발생할 수 있습니다.

“현재, 주요 초점은 봇을 훈련시켜 플랫폼에서 발생하는 것들을 모방하는 것입니다. 그러나 이론적으로 그리고 실제로, 봇이 우리가 본 적 없는 것을 할 수 있습니다.” 하먼은 말했다. “그것은 실제로 우리가 원하는 것입니다. 우리는 결국 악의적인 행동을 예방하기 위해 지속적으로 추격하지 않고 앞서가고 싶습니다.”

만약 모든 것이 잘 진행된다면, 페이스북은 WW의 시뮬레이션을 기반으로 2020년 말에 수정을 시작할 수 있습니다.