人工智能现在研究所警告情绪检测软件的滥用和其他伦理问题

人工智能现在研究所发布了一份报告，敦促立法者和其他监管机构对情绪检测技术的使用设定严格的限制，在可能用于做出重要决定的情况下禁止使用该技术，例如员工招聘或学生录取。报告还包含了其他关于人工智能领域的建议。

人工智能现在研究所是位于纽约大学的研究机构，致力于研究人工智能对社会的影响。人工智能现在研究所每年发布一份报告，展示他们关于人工智能研究现状和人工智能使用的伦理影响的发现。 据BBC报道，今年的报告讨论了算法歧视、人工智能研究中缺乏多样性和劳动问题等话题。

情绪识别，即情绪检测算法的技术术语，是人工智能研究的一个快速增长的领域。使用该技术做出决定的人经常声称，这些系统可以通过分析微表情、语调和身体语言等线索来可靠地获取有关人们的情绪状态的信息。人工智能现在研究所指出，该技术被应用于广泛的领域，例如确定谁应被录用、确定保险价格和监测学生是否在课堂上注意听讲。

人工智能现在研究所的联合创始人凯特·克劳福德教授解释说，人们经常认为人类的情绪可以用相对简单的模型来准确预测。克劳福德说，一些公司正在开发基于保罗·埃克曼理论的软件，埃克曼假设面部上只有六种基本的情绪。然而，克劳福德指出，自从埃克曼的理论被提出以来，研究发现面部表情有更大的变异性，表情可以在不同情况和文化中轻松改变。

“与这些技术被推出同时，大量研究表明，没有实质性的证据表明人们的情绪和面部表情之间存在一致的关系，” 克劳福德在接受BBC采访时说。

因此，人工智能现在研究所认为，情绪识别的大部分内容是基于不可靠的理论和有问题的科学。因此，情绪检测系统不应在进行更多研究之前部署，并且“政府应特别禁止在高风险决策过程中使用情绪识别”。人工智能现在研究所认为，我们应该特别停止在“敏感的社会和政治背景”中使用该技术，例如就业、教育和执法。

至少有一家专门从事情绪识别的AI开发公司Emteq同意，应该有法规来防止滥用该技术。Emteq的创始人查尔斯·恩杜卡向BBC解释说，虽然AI系统可以准确识别不同的面部表情，但没有简单的表情到情绪的映射。恩杜卡表示担心监管可能过度，扼杀研究，并指出如果“要禁止某些东西，必须确保不要把婴儿和洗澡水一起扔掉”。

据NextWeb报道，人工智能现在研究所还建议了一些其他政策和规范，以指导人工智能行业的发展。

人工智能现在研究所强调了人工智能行业使工作场所更加多样化的必要性，并表示工人应该有权利表达他们对侵入性和剥削性人工智能的担忧。科技工人也应该有权利知道他们的工作是否被用于构建有害或不道德的项目。

人工智能现在研究所还建议立法者采取措施，要求对任何来自健康相关人工智能的数据使用提供知情同意。此外，建议对数据隐私采取更加严肃的态度，并且各国应努力设计涵盖私人和公共实体的生物识别数据隐私法。

最后，该研究所建议人工智能行业开始以全球视角思考和行动，尝试解决人工智能的更广泛的政治、社会和生态后果。建议应努力解决人工智能对地理位置和气候的影响，并且政府应公开披露人工智能行业的气候影响。