AI Now 研究所警告情绪检测软件的滥用和其他伦理问题

AI Now 研究所发布了一份报告，敦促立法者和其他监管机构对情绪检测技术的使用设定严格的限制，在可能用于做出重要决定（如员工招聘或学生录取）时禁止使用。此外，报告还包含了有关人工智能领域的一系列其他建议。

AI Now 研究所 是位于 NYU 的一个研究机构，致力于研究人工智能对社会的影响。AI Now 每年发布一份报告，展示他们关于人工智能研究现状和人工智能当前使用的伦理影响的发现。 据 BBC 报道，今年的报告讨论了算法歧视、人工智能研究中缺乏多样性和劳动问题等话题。

情绪识别，即情绪检测算法的技术术语，是人工智能研究的一个快速增长的领域。使用该技术做出决定的人经常声称，这些系统可以通过分析微表情以及语调和身体语言等其他线索来可靠地获取有关人们的情绪状态的信息。AI Now 研究所指出，该技术被应用于广泛的领域，例如确定谁被聘用、设置保险价格和监测学生是否在课堂上注意听讲。

AI Now 的联合创始人 Kate Crawford 教授解释说，人们常常认为人类的情绪可以用相对简单的模型来准确预测。克劳福德说，一些公司正在以心理学家 Paul Ekman 的工作为基础开发他们的软件，Ekman 曾假设脸上只有六种基本的情绪类型。然而，克劳福德指出，自从 Ekman 的理论被提出以来，研究发现面部表情的变异性远远大于此，表情可以在不同情况和文化中轻易改变。

“与此同时，随着这些技术的推出，大量研究表明，人们的情绪和面部表情之间没有一致的关系，” 克劳福德在接受 BBC 采访时说。

因此，AI Now 研究所认为，情绪识别的大部分内容是基于不可靠的理论和有问题的科学。因此，情绪检测系统不应部署，直到进行更多的研究，并且“政府应具体禁止在高风险决策过程中使用情绪识别”。AI Now 认为，特别是在“敏感的社会和政治背景”中应停止使用该技术，这些背景包括就业、教育和执法。

至少有一家专门从事情绪识别的 AI 开发公司 Emteq 同意，应该有法规来防止该技术的滥用。Emteq 的创始人 Charles Nduka 告诉 BBC，虽然 AI 系统可以准确识别不同的面部表情，但并没有简单的表情到情绪的映射。Nduka 表达了对法规过度的担忧，担心这可能会扼杀研究，他指出，如果“某些东西被禁止，很重要的是不要把婴儿和洗澡水一起倒掉”。

据 NextWeb 报道，AI Now 还建议了几项其他政策和规范，以指导人工智能行业的发展。

AI Now 强调了人工智能行业需要使工作场所更加多样化，并且工人应该有权利表达他们对侵入性和剥削性人工智能的担忧。技术工人也应该有权知道他们的努力是否被用于构建有害或不道德的工作。

AI Now 还建议立法者采取措施，要求对任何来自健康相关人工智能的数据使用提供知情同意。此外，建议对数据隐私采取更严肃的态度，并且各州应为私人和公共实体的生物识别数据制定隐私法。

最后，该研究所建议人工智能行业开始更全球化地思考和行动，尝试解决人工智能的更广泛的政治、社会和生态后果。建议应努力考虑人工智能对地理位置转移和气候的影响，并且政府应公开人工智能行业的气候影响。