初创公司创建AI工具以检测电子邮件骚扰

自2017年末Me Too运动兴起以来，人们越来越关注性骚扰事件，包括职场骚扰和通过电子邮件或即时通讯骚扰。

据《卫报》报道，AI研究人员和工程师已经创建了检测文本通信骚扰的工具，称为MeTooBots。MeTooBots正在被全球各公司实施，以便标记可能有害和骚扰的通信。一个例子是由Nex AI公司创建的机器人，目前正在被大约50家不同的公司使用。该机器人使用一个算法来检查公司文档、聊天记录和电子邮件，并将其与训练数据中的欺凌或骚扰信息进行比较。被认为可能骚扰或有害的信息可以发送给人力资源经理进行审查，尽管Nex AI没有透露机器人在分析通信时寻找的具体术语。

其他初创公司也创建了AI驱动的骚扰检测工具。AI初创公司Spot拥有一个聊天机器人，可以让员工匿名报告性骚扰指控。机器人会提出问题并提供建议，以便收集更多细节并进一步调查事件。Spot希望帮助人力资源团队以敏感的方式处理骚扰问题，同时保持匿名性。

根据《卫报》的报道，MIT和哈佛AI教授布莱恩·苏比拉纳（Brian Subirana）解释说，使用AI检测骚扰的尝试是有局限性的。骚扰可能非常微妙，难以被察觉，通常只表现为一种模式，这种模式只有在检查数周的数据时才会显现出来。机器人目前还无法超越检测某些触发词的能力，并分析可能存在的更广泛的相互作用或文化动态。尽管检测骚扰存在复杂性，苏比拉纳仍然相信机器人可以在打击在线骚扰中发挥作用。苏比拉纳认为机器人可以被用来训练人们检测骚扰，并创建一个可能存在问题的信息数据库。苏比拉纳还表示，即使人们怀疑他们的信息可能正在被审查，即使实际上并没有被审查，也可能会产生一种安慰作用，使人们不太可能骚扰他们的同事。

虽然苏比拉纳认为机器人在打击骚扰方面有潜在的用途，但他也认为数据保密性和隐私是一个主要问题。苏比拉纳表示，这种技术可能会在滥用时制造一种不信任和怀疑的氛围。妇女权利非政府组织Fawcett Society的首席执行官萨姆·斯梅瑟斯（Sam Smethers）也对机器人可能被滥用的问题表示了担忧。斯梅瑟斯表示：

“我们需要仔细审查这项技术的开发，了解谁是幕后推手，以及采取的方法是否是基于一个旨在防止骚扰和促进平等的职场文化，还是只是另一种控制员工的方式。”

使用机器人检测骚扰同时保护匿名性和隐私的方法需要在机器人开发者、公司和监管机构之间协商。使用机器人和AI的预测能力同时保护隐私的可能方法包括保持通信的匿名性。例如，机器人可以生成报告，只包括可能有害语言的存在和可能骚扰语言出现的次数。人力资源部门可以通过此方式了解是否在意识宣传讲座后有害语言的使用减少，或者是否需要注意潜在的骚扰增加。

尽管对使用机器学习算法和机器人检测骚扰的适当用途存在分歧，但双方似乎都同意，最终决定是否干预骚扰案件应该由人类做出，机器人应该只提醒人们注意匹配的模式，而不应断定某件事情是骚扰的实例。