Facebook은 봇과 시뮬레이션을 사용하여 사용자의 나쁜 행동을 시도하고 대응합니다.

Facebook은 유해하고 유해하며 불법적인 행동을 더 잘 탐지하기 위한 새로운 AI를 설계했습니다. The Verge가 보도한 바와 같이, Facebook 런던 AI 부서의 연구원들은 Facebook 자체의 시뮬레이션 버전에서 사기꾼, 불법 제품 상인, 스패머 및 기타 나쁜 행위자의 행동을 시뮬레이션하는 데 사용되는 "WW"라는 AI 기반 Facebook 시뮬레이터를 만들었습니다.

"WW"로 알려진 Facebook 시뮬레이터는 "WWW"의 잘림에서 이름을 따왔습니다. 페이스북이 종이로 공개한 올해 XNUMX월 출간. WW는 다양한 Facebook 도구 및 알고리즘의 테스트를 지원하기 위한 Facebook의 복제된 포함 버전입니다.

이 회사는 최근 WW에 대한 일부 사용에 대한 자세한 내용을 공개했으며 그 중 하나는 AI를 통한 나쁜 행위자 시뮬레이션입니다. 수를 이용하여 행동을 시뮬레이션하는 봇 사기, 스팸, 괴롭힘 등과 같이 연구원들은 사용자의 유해한 행동을 더 잘 탐지하고 대응할 수 있기를 바랍니다.

Verge가 인용한 Facebook 엔지니어 Mark Harman에 따르면 WW는 Facebook에서 다양한 유해한 행동을 억제하는 데 유용한 도구가 될 것으로 예상됩니다. 예를 들어, Harman은 시뮬레이션이 사기꾼을 탐지하는 더 나은 방법을 설계하는 데 사용될 수 있다고 믿습니다.

Facebook 엔지니어는 두 개의 봇 그룹(대상 그룹 하나와 사기꾼 그룹 하나)을 만들어 실제 Facebook 사기꾼의 행동을 모방했습니다. 사기꾼은 종종 잠재적인 대상을 찾기 위해 친구 네트워크를 통해 사용자의 친구를 탐색합니다. 이 동작은 엔지니어가 무고한 봇이 사기를 당하지 않도록 방지하는 다양한 방법을 실험하면서 사기꾼 봇에 의해 모방되었습니다. 그들이 실험한 전술에는 봇이 분당 보낼 수 있는 개인 메시지 수를 제한하는 것과 같은 수많은 제약이 포함되었습니다.

시뮬레이션된 Facebook이 실제와 다른 몇 가지 방법이 있습니다. 우선, Facebook의 시뮬레이션에는 실제로 시각적 요소가 포함되어 있지 않으므로 시뮬레이션에서 파생된 데이터는 모두 봇 간의 상호 작용에 대한 수치 데이터 및 통계 형식입니다. 또 다른 예로, 시뮬레이션의 모든 액터는 실제 사용자와 상호 작용할 수 없는 봇입니다. WW 시뮬레이션은 메시지 전송, 댓글 작성 등의 작업만 시뮬레이션되므로 사용자 의도나 주어진 대화 내용과 같은 것을 설명할 수 없습니다.

Harman에 따르면 제약 조건을 실험하는 이 프로세스는 "과속 방지턱"을 설치하여 특정 도로에서 속도를 줄이려는 도시 계획자와 유사합니다. 도시 계획자가 과속 방지턱을 만든 다음 유틸리티에 대한 데이터를 수집하는 방법과 유사하게 엔지니어는 봇이 매개 변수와 제약 조건을 변경함에 따라 시뮬레이터에서 봇 간의 메시지와 상호 작용이 어떻게 달라지는지 분석했습니다. Harman은 정상적인 행동이나 트래픽의 자유로운 흐름을 심각하게 제한하지 않고 유해한 행동을 억제하기 위해 Facebook 플랫폼에 어떤 변화를 줄 수 있는지 아이디어를 얻는 것이 목표라고 설명합니다.

Harman은 또한 시뮬레이션에 WW를 사용하는 이점은 그들이 연구하는 행동이 실제 Facebook 인프라에서 발생하여 제안된 변경 사항이 실제 Facebook 사용자에게 어떤 영향을 미칠 수 있는지 훨씬 더 잘 이해할 수 있다는 점이라고 설명합니다. 현재 WW와 그 시뮬레이션이 연구 단계에 있기 때문에 이러한 결과를 적용하려면 어느 정도 시간을 기다려야 할 것입니다. Harman과 다른 Facebook 연구원들은 아직 수행해야 할 작업이 많이 남아 있기 때문에 실제로 Facebook의 라이브 버전에 연구 결과를 실제로 적용하지는 않을 것입니다. 연구 그룹은 그들이 만든 시뮬레이션이 실제 인간 행동과 적절하게 일치하는지 확인해야 합니다.

Harman에 따르면 WW의 주요 이점은 Facebook 연구원이 생성하는 모든 시뮬레이션을 통해 수천 가지 사소한 조정의 잠재적 결과를 확인할 수 있는 대규모 작업 능력입니다.

앞으로 연구원들은 봇이 스스로 어떤 종류의 상호 작용을 생각해 내는지 확인하기 위해 잠시 동안 봇이 놀고 실험하게 할 수 있습니다. 이는 종종 연구원들이 예상조차 하지 못하는 것일 수 있습니다.

“현재 주요 초점은 플랫폼에서 일어나는 일을 모방하도록 봇을 훈련시키는 것입니다. 그러나 이론적으로나 실제적으로 봇은 우리가 할 수 있는 일을 할 수 있습니다. ~하지 않았다. 전에 본 것" 하만이 말했다. "그것은 실제로 우리가 원하는 것입니다. 왜냐하면 우리는 궁극적으로 나쁜 행동을 계속해서 따라잡기보다는 앞서 나가기를 원하기 때문입니다."

모든 것이 순조롭게 진행된다면 Facebook은 2020년 말까지 WW의 시뮬레이션을 기반으로 수정 작업을 시작할 수 있습니다.