์ธ๊ณต์ง๋ฅ
Chatroulette, AI ์ฃผ๋ ์ฝํ ์ธ ๋ชจ๋๋ ์ด์ ์ ๋์์ผ๋ก ๋์์ค๋ค
Chatroulette는 초기 2010년대에 사람들이 다른 임의의 사람들과 대화할 수 있도록 허용함으로써 유명해졌습니다. 그러나 사이트는 또한 사람들이 누드와 기타 “R-등급” 콘텐츠를 쉽게遭遇할 수 있었기 때문에 악명이 높았습니다. Wired에 따르면, Chatroulette는 이제 AI를 사용한 더 나은 콘텐츠 모더레이션으로 돌아오고 있습니다. 돌아오는 것을 목표로 합니다.
AI 주도 콘텐츠 모더레이션
AI와 컴퓨터 비전 알고리즘이 더 정교하고 신뢰할 수 있게 되면서, 반대되는 콘텐츠를 감지하는 데 उनक의 적용이 개선되었습니다. 이는 사용자가 콘텐츠를 업로드하거나 생성할 수 있는 모든 회사에 대한 보입니다. Youtube, Facebook, Twitter와 같은 회사들은 AI 기반 콘텐츠 필터링 알고리즘을 사용하여 반대되는 자료를 처리합니다. Chatroulette는 특히 누드와 기타 음란한 행위로 고생했는데, 이는 많은 사용자를 쫓아내는 결과를 가져왔습니다. 전염병은 Chatroulette에 대한 관심을 재개시켰고, AI 이미지 인식의 발전 덕분에 사용자 스트림 콘텐츠를 더 효과적으로 모니터링할 수 있게 되었습니다.
2019년, Chatroulette의 창립자 Andrey Ternovskiy는 스위스에서 회사를 설립하여 전문 경영자와 AI 전문가와 협력하기로 했습니다. 기계 학습 전문가 Andrew Done은 Ternovskiy에 의해 AI 기술 개발을 담당하기 위해 고용되었습니다. Done은今年 초에 CEO가 되었습니다. 그리고 제품 연구원과 관리자를 더 추가했습니다.
新的 리더십 아래에서, Chatroulette는 트래픽의 증가를 이용하여 사용자 연구를 수행하고 다양한 콘텐츠 모더레이션 방법을 테스트했습니다. Chatroulette 팀은 두 개의 새로운 채팅 채널을 설계했습니다. 하나의 채팅 채널은 반대되는 콘텐츠를 제외하기 위해 설계된 Random Chat입니다. 다른 채널은 Unmoderated입니다. 이 분리는 반대되는 콘텐츠에 대해 걱정하지 않고 다른 사람들과 연결하고 싶은 사용자를 유혹하기 위해 만들어졌습니다. 비필터링 채널은 2021년 중반에 제거될 것입니다.
AI 회사 Hive와의 파트너십
Chatroulette는 누드 감지 AI를 개발하기 위해 AI 회사 Hive와 파트너십을 맺었습니다. Hive는 또한 Reddit 콘텐츠를 모더레이션하는 책임이 있으므로, 주요 소셜 네트워크에서 콘텐츠를 관리하는 경험을 가지고 있습니다. Done에 따르면, Hive의 AI 모니터링 시스템은 इतन나 정확하여 인간 모더레이터를 포함하면 전체 모더레이션의 정확성이 저하됩니다. Hive는 200만 명이 넘는 분산 작업자의 데이터를 사용하여 AI 모델을 훈련합니다. 분산 작업자는 누드와 총기와 같은 반대되는 콘텐츠를 찾고, 훈련에 사용할 이미지를 주석으로 달아줍니다. Chatroulette는 Google의 Cloud Vision AI 시스템과 Amazon Rekognition을 사용하여 콘텐츠 모더레이션을 지원하기 위해 시도했지만, 결국 Hive의 AI가 가장 정확하고 신뢰할 수 있는 것으로 판명되었습니다.
Hive의 AI는 Chatroulette의 6억 개 이상의 비디오 프레임을 처리했습니다. 두 사용자 간의 연결은 3개의 프레임을 생성합니다. 연결 시작 시 사용자마다 하나의 프레임이 생성되고, 연결을 종료하는 사용자에게 하나의 프레임이 생성됩니다. 약관을 위반하는 콘텐츠는 1초 내에 식별될 수 있다고 보고됩니다. 경고 메시지는 사용자를 금지하거나 경고할 수 있는 인간 모더레이터에게 전송됩니다.
今年 초, Chatroulette는 약 400만 명의 고유 방문자를 월마다 가지고 있었습니다. 이는 2016년 초 이후 회사에서 가장 많은 방문자 수입니다. 음란한 콘텐츠를 억제하려는 노력은 효과가 있었던 것으로 보입니다. 여성은 현재 모든 사용자의 약 34%를 차지하고 있습니다. 이는 2018년에 11%였던 것보다 증가한 것입니다.
소셜 미디어 회사들은 오고 갑니다. 그러나 Chatroulette는 다시 한 번 두드러진 위치에 올라왔습니다. 그러나 Ternovskiy는 회사가 콘텐츠 모더레이션을 넘어서 다른 문제도 해결해야 한다고 인정합니다. Ternovskiy에 따르면, 거의 90%의 첫 방문자는 다시 돌아오지 않습니다. 그들은 그들의 상호작용이 중간 정도라는 것을 발견하기 때문입니다.
“실제로 도전은 사람들이 정기적으로 사용할 수 있는 가치 있는 것을 구축하는 것입니다. 그것이 단순히 일회적인 것이 아니라, 사람들이 더 관심을 가지고 사용할 수 있도록 하는 것입니다.” Ternovskiy는 Wired를 통해 설명했습니다.
