채트룰렛, AI 기반 콘텐츠 모더레이션으로 돌아오다

채트룰렛은 2010년대 초반에 임의의 사람들과 대화할 수 있는 기능으로 유명해졌습니다. 그러나 사이트는 또한 누들이나 다른 “R-등급” 콘텐츠를 쉽게 만날 수 있는 것으로 악명이 높았습니다. 와이어드에 따르면, 채트룰렛은 이제 AI를 사용한 콘텐츠 모더레이션을 통해 돌아오고 있습니다.

AI 기반 콘텐츠 모더레이션

AI와 컴퓨터 비전 알고리즘이 더 발전하고 신뢰할 수 있게 되면서, 반대되는 콘텐츠를 감지하는 데 사용할 수 있게 되었습니다. 이것은 사용자가 콘텐츠를 업로드하거나 생성할 수 있는 모든 회사에 좋은 소식입니다. 유튜브, 페이스북, 트위터와 같은 회사들은 AI 기반 콘텐츠 필터링 알고리즘을 사용하여 반대되는 콘텐츠를 처리합니다. 채트룰렛은 특히 누들이나 다른 음란한 행위로 많은 사용자를 잃었습니다. 하지만 AI 이미지 인식의 발전으로 콘텐츠를 더 효과적으로 모니터링할 수 있게 되었습니다.

2019년에 채트룰렛의 창립자 안드레이 테르노프스키는 스위스에서 회사를 설립하여 전문 경영자와 AI 전문가와 협력하기로 했습니다. 머신 러닝 전문가 앤드류 Дон은 테르노프스키에 의해 채트룰렛의 AI 기술 개발을 담당하기 위해 고용되었습니다. 돈은 올해 초에 CEO가 되고, 더 많은 제품 연구원과 관리자를 팀에 추가했습니다.

新的 리더십 아래에서, 채트룰렛은 트래픽의 증가를 이용하여 사용자 연구와 다양한 콘텐츠 모더레이션 방법을 테스트했습니다. 채트룰렛 팀은 두 개의 새로운 채팅 채널을 설계했습니다. 하나는 랜덤 채팅으로, 반대되는 콘텐츠를 제외하기 위해 설계되었습니다. 다른 하나는 모더레이션이 없는 채널입니다. 이 분리는 사용자들이 반대되는 콘텐츠에 대해 걱정하지 않고 다른 사람들과 연결되기를 원하는 사용자를 끌어들이기 위해 만들어졌습니다. 모더레이션이 없는 채널은 2021년 중반에 제거될 예정입니다.

AI 회사 하이브와의 파트너십

채트룰렛은 누드를 감지하는 AI를 개발하기 위해 AI 회사 하이브와 파트너십을 맺었습니다. 하이브는 또한 레딧 콘텐츠를 모더레이션하기 위해 사용되며, 주요 소셜 네트워크에서 콘텐츠를 관리하는 경험을 가지고 있습니다. 돈에 따르면, 하이브의 AI 모니터링 시스템은 매우 정확하여 인간 모더레이터를 포함하면 실제로 모더레이션의 정확도를 낮춥니다. 하이브는 200만 명이 넘는 분산된 근로자를 통해 데이터를 주석으로标记하여 AI 모델을 훈련합니다. 분산된 근로자는 누드나 총기와 같은 반대되는 콘텐츠를 찾고, 이미지에 주석을 달아 하이브의 AI를 훈련하는 데 사용합니다. 채트룰렛은 구글의 클라우드 비전 AI 시스템과 아마존 리코그니션을 사용하여 콘텐츠 모더레이션을 도와주려고 했지만, 하이브의 AI가 가장 정확하고 신뢰할 수 있는 것으로 판명되었습니다. (META )

하이브의 AI는 채트룰렛의 6억 개가 넘는 비디오 프레임을 처리했습니다. 두 사용자 간의 연결마다 세 개의 프레임이 생성됩니다. 연결을 시작할 때 두 사용자에게 하나의 프레임이 생성되고, 연결을 종료할 때 사용자에게 하나의 프레임이 생성됩니다. 약관을 위반하는 콘텐츠는 1초 내에 식별될 수 있다고 보고됩니다. 인간 모더레이터에게 경고 메시지가 전송되어 사용자를 금지하거나 경고할 수 있습니다.

올해 초, 채트룰렛은 약 400만 명의 고유 방문자를 월마다 가지고 있었습니다. 이것은 2016년 초 이후 가장 많은 방문자 수입니다. 음란한 콘텐츠를 제거하는 노력은 효과가 있었던 것으로 보이며, 여성 사용자는 2018年的 11%에서 34%로 증가했습니다.

소셜 미디어 회사가 나타나고 사라지지만, 채트룰렛은 다시 한 번 두드러진 위치에 올라섰습니다. 그러나 테르노프스키는 회사가 콘텐츠 모더레이션을 넘어서 다른 문제도 해결해야 한다고 인정합니다. 테르노프스키에 따르면, 처음 방문한 사용자의 90%가 다시 돌아오지 않습니다. 그들은 그들의 상호작용이 중간 정도라는 것을 발견하기 때문입니다.

“真正의 도전은 사람들이 정기적으로 사용할 수 있는 가치 있는 것을 구축하는 것입니다. 사람들은 단순히 한번 사용하고 말지 않고, 계속 사용할 수 있는 것입니다,” 테르노프스키는 와이어드와의 인터뷰에서 설명했습니다.