人工智能现在被用于检测学校儿童的网络欺凌

关于学校儿童的欺凌、自伤和网络欺凌的数据变得越来越令人担忧。正如Jun Wu所介绍的，美国的数据显示，在2017年，根据国家教育统计中心和司法局的数据，约20%的12-18岁的学生经历过欺凌。 根据疾病控制和预防中心的数据，9-12年级的学生中有19%报告在过去12个月内在学校被欺凌。

更令人担忧的是，网络欺凌的增加，已经超出了学校的范围。正如Wu所指出的，“在线论坛、电子邮件和社交媒体平台上的骚扰可能比面对面欺凌更有害于受害者的精神健康。网络欺凌可能是学校欺凌的升级。同时，欺凌可能从社交媒体开始，然后扩展到课堂上。”

在澳大利亚，研究人员报告了一种叫做Momo的现象，即“网络捕食者以Momo的名义联系孩子，通过社交媒体要求他们自伤，这引起了全国各地学校的担忧。”

预防此类欺凌和可能由抑郁症引起的自伤，促使一些人工智能开发人员尝试寻找解决方案来解决这个普遍的问题。

正如SkyNews报道，一些英国学校已经开始使用一个名为AS Tracking的AI工具，该工具由STEER公司开发，已经在英国150所学校中使用。该工具涉及学生进行在线心理测试，到2019年9月，50,000名学生将参加该测试。

正如所解释的，该测试要求学生想象一个他们感到舒适的空间，然后提出一系列抽象的问题，例如“有人进入你的空间有多容易？”孩子可以通过点击一个从“很容易”到“很难”的按钮来回答。结果被发送到STEER，“然后将数据与其心理模型进行比较，并在教师仪表板中标记需要关注的学生。”

根据STEER的联合创始人Jo Walker博士的说法，“我们的工具突出了那些在特定发展阶段挣扎的孩子，并指出教师如何看待这些孩子的想法。”他补充说，“自从引入该工具以来，自伤率已经下降了20%。”

在她的分析中，Wu提到了美国的一些AI开发人员，他们正在帮助解决这个问题。 Securly使用AI创建“网页过滤、网络欺凌监控和自伤警报，供学校使用。学校可以向学生发放Apple设备和Chromebook，同时监控学生的网络活动。父母也可以在家中的设备上使用应用程序来监控孩子的网络活动。” Bark使用AI来监控短信、YouTube、电子邮件和24个不同的社交网络，以提醒父母注意潜在的安全问题。 SN Technologies Corp更进一步，其AI解决方案使用面部识别技术来跟踪学校监控摄像头视频中的“黑名单”学生。

在澳大利亚，网络安全初创公司Saasyan Assure开发了一种AI方法，可以帮助教师跟踪观看“Momo Challenge”视频的学生。Saasyan Assure的负责人Greg Margossian说，他的公司“只是确保在所有客户的数据库中包含‘Momo’关键词，而不需要他们思考。”据称，该公司“提供了一种可以添加到学校所有设备上的订阅软件，可以创建每个学生的计算机使用历史记录，并在出现欺凌、自伤或暴力等风险时提醒教师。”