聊天轮盘在人工智能驱动的内容审核的帮助下回归

聊天轮盘在 2010 年代初期因允许人们与其他随机的人交谈而闻名。 然而，由于人们很容易遇到裸体和其他“限制级”内容，该网站也变得臭名昭著。 据《连线》报道，Chatroulette 现在的目标是 卷土重来 在人工智能的帮助下实现更好的内容审核。

人工智能驱动的内容审核

随着人工智能和计算机视觉算法变得更加复杂和可靠，它们检测不良内容的应用程序也得到了改进。这对于任何允许用户上传或以其他方式创建内容的公司来说都是一个福音。 YouTube、Facebook 和 Twitter 等公司 采用人工智能驱动的内容过滤算法 处理令人反感的材料。尤其是聊天轮盘曾经饱受裸体和其他淫秽行为的困扰，导致许多用户流失。这场流行病重新引起了人们对Chatroulette的兴趣，得益于人工智能图像识别的进步，Chatroulette可以更有效地监控用户流式传输的内容。

2019年，Chatroulette创始人Andrey Ternovskiy在瑞士注册成立公司，旨在与职业经理人和人工智能专家合作。 Ternovskiy 聘请机器学习专家 Andrew Done 负责监督新 Chatroulette 人工智能技术的开发。多恩于今年早些时候成为首席执行官，为团队增加了更多的产品研究人员和经理。

在新领导层的领导下，Chatroulette 利用流量的增长进行用户研究并测试各种内容审核方法。 Chatroulette 团队设计了两个新的聊天频道。 一个聊天频道称为“随机聊天”，旨在排除令人反感的内容，而另一个频道称为“未经审核”。 进行这种划分是为了吸引有兴趣与其他人联系而无需担心令人反感的内容的用户。 未经过滤的频道最终将在 2021 年中期被淘汰。

与人工智能公司 Hive 合作

Chatroulette 与 AI 公司合作 蜂房 开发裸体检测人工智能。 Hive 还负责审核 Reddit 内容，为他们提供在主要社交网络上管理内容的经验。 Done 表示，Hive 的人工智能监控系统非常准确，包括人类审核员实际上会降低整体审核的准确性。 Hive 根据超过 2 万分布式工作人员注释的数据训练 AI 模型。 分散的工作人员会寻找令人反感的内容，例如裸体和枪支的存在，并对图像进行注释以用于训练 Hive AI。 虽然 Chatroulette 尝试使用 Google 的 Cloud Vision AI 系统和 Amazon Rekognition 来协助内容审核，但最终发现 Hive 的 AI 对其需求来说最准确、最可靠。

Hive 的 AI 已处理来自 Chatroulette 的超过 600 亿帧视频。 两个用户之间的任何连接都会导致创建三个框架。 在连接开始时为两个用户创建一帧，并为结束连接的用户生成一帧。 据报道，违反条款的内容可以在一秒钟内识别出来。 警报消息会发送给人工主持人，后者可以禁止或警告用户。

今年年初，Chatroulette 每月约有 4 万独立访客，这是该公司自 2016 年初以来访客数量最多的一次。遏制淫秽内容的努力似乎已取得成效，目前女性约占 34%。所有用户，高于 11 年的 2018%。

尽管社交媒体公司来来去去，但聊天轮盘似乎再次占据了重要地位。 然而，特诺夫斯基承认，除了内容审核之外，该公司还有其他问题需要解决。 根据 Ternovskiy 的说法，几乎 90% 的首次访问者再也不会回来，因为他们发现互动平庸。

“真正的挑战是构建一些有价值的东西，让人们更有兴趣定期使用它，而不仅仅是一次性的东西，” 特诺夫斯基通过《连线》解释道。