聊天轮盘重返舞台：借助AI驱动的内容审核

聊天轮盘（Chatroulette）在2010年代初期因允许人们与其他随机人交谈而闻名。然而，该网站也因人们容易遇到裸露和其他“R级”内容而声名狼藉。据Wired报道，Chatroulette现在试图通过借助AI驱动的内容审核来东山再起。随着AI和计算机视觉算法变得更加复杂和可靠，其应用于检测令人反感的内容的能力也得到了改善。这对于允许用户上传或创建内容的公司来说是一个福音。像YouTube、Facebook和Twitter这样的公司都使用AI驱动的内容过滤算法来处理令人反感的材料。Chatroulette尤其曾经被裸露和其他淫秽行为所困扰，这些行为把很多用户赶走了。由于疫情，人们对Chatroulette的兴趣又重新高涨起来，多亏了AI图像识别技术的进步，Chatroulette现在可以更有效地监控用户的内容。

AI驱动的内容审核

随着AI和计算机视觉算法变得更加复杂和可靠，其应用于检测令人反感的内容的能力也得到了改善。这对于允许用户上传或创建内容的公司来说是一个福音。像YouTube、Facebook和Twitter这样的公司都使用AI驱动的内容过滤算法来处理令人反感的材料。Chatroulette尤其曾经被裸露和其他淫秽行为所困扰，这些行为把很多用户赶走了。由于疫情，人们对Chatroulette的兴趣又重新高涨起来，多亏了AI图像识别技术的进步，Chatroulette现在可以更有效地监控用户的内容。

2019年，Chatroulette的创始人安德烈·特尔诺夫斯基（Andrey Ternovskiy）在瑞士注册了公司，旨在与专业经理和AI专家合作。机器学习专家安德鲁·多恩（Andrew Done）被特尔诺夫斯基聘请来监督Chatroulette的AI技术开发。多恩今年早些时候成为CEO，并为团队添加了更多产品研究人员和经理。

在新领导下，Chatroulette利用流量激增进行用户研究和测试各种内容审核方法。Chatroulette团队设计了两个新的聊天频道。一个频道叫做随机聊天（Random Chat），旨在排除令人反感的内容，而另一个频道叫做无审核频道（Unmoderated）。这种分离是为了吸引那些想要与其他人建立联系而不必担心令人反感的内容的用户。无审核频道最终将在2021年中期被淘汰。

与AI公司Hive合作

Chatroulette与AI公司Hive合作开发裸露检测AI。Hive还负责审核Reddit内容，这使得他们在管理大型社交网络内容方面积累了经验。根据多恩的说法，Hive的AI监控系统非常准确，以至于加入人工审核员实际上会降低审核的准确性。Hive在超过200万分布式工人的数据注释基础上训练AI模型。分布式工人寻找令人反感的内容，如裸露和枪支，并为AI模型的训练注释图像。虽然Chatroulette尝试使用Google的Cloud Vision AI系统和Amazon (AMZN ) Rekognition来协助内容审核，但最终发现Hive的AI是最准确和可靠的。

Hive的AI已经处理了Chatroulette的6亿多帧视频。每次用户连接都会产生三个帧。连接开始时为每个用户创建一个帧，连接结束时为结束连接的用户创建一个帧。违反条款的内容可以在一秒内被识别。然后向人工审核员发送警报消息，审核员可以禁止或警告用户。

今年初，Chatroulette每月有大约400万独立访客，这是自2016年初以来最多的访客。限制淫秽内容的努力似乎已经奏效，女性现在占所有用户的34%，而2018年这一比例仅为11%。

虽然社交媒体公司来来去去，Chatroulette似乎又一次崛起。然而，特尔诺夫斯基承认，该公司除了内容审核以外还有其他问题需要解决。根据特尔诺夫斯基的说法，几乎90%的首次访客从不返回，因为他们觉得自己的互动很平庸。

“真正的挑战是建立一些值得人们使用的东西，让他们更有兴趣经常使用它，而不是仅仅是一次性的东西，”特尔诺夫斯基通过Wired解释道。