情感识别人工智能开发中的伦理考虑

情感调节的人工智能是机器学习领域最新的技术进步。虽然它显示出巨大的潜力，但伦理问题可能会影响其采用率和寿命。人工智能开发者能否克服这些问题？

什么是情感识别人工智能？

情感识别人工智能是一种机器学习模型，通常依赖于计算机视觉技术来捕获和分析面部表情，以解读图像和视频中的情绪。然而，它也可以操作音频片段来确定语调或书面文本来评估语言的情绪。

这种算法代表了人工智能领域的迷人进步，因为到目前为止，模型无法理解人类的情绪。虽然像ChatGPT这样的语言模型可以令人信服地模拟情绪和个性，但它们只能逻辑地将单词连接起来——它们无法感受到任何东西，也没有情感智慧。虽然情感识别模型无法感受到情绪，但它仍然可以检测和分类它们。这一发展很重要，因为它表明人工智能可能很快就能真正理解和表现出幸福、悲伤或愤怒的情绪。像这样的技术飞跃表明进步加速了。

人工智能情感识别的应用场景

企业、教育者、顾问和心理健康护理专业人员是可以使用人工智能情感识别的一些群体。

评估办公室风险

人力资源团队可以使用算法来进行电子邮件或应用程序聊天中的情绪分析。或者，他们可以将算法集成到他们的监控或计算机视觉系统中。用户可以跟踪情绪来计算指标，如离职风险、倦怠率和员工满意度。

协助客户服务代理

零售商可以使用内部人工智能客户服务代理或虚拟助手来解决高压力情况。由于他们的模型可以识别情绪，它可以建议缓解技巧或改变语气，当它意识到消费者正在生气时。这种对策可能会提高客户满意度和留存率。

帮助课堂学生

教育者可以使用这种人工智能来防止远程学习者落后。一家创业公司已经使用其工具来衡量学生面部的肌肉点，同时记录他们的速度和成绩。这种方法可以确定他们的情绪、动力、优势和劣势。该创业公司的创始人声称他们使用软件时的测试成绩提高了10%。

进行内部市场研究

企业可以使用情感识别模型进行内部市场研究。它可以帮助他们了解目标受众如何对其产品、服务或营销材料做出反应，提供有价值的数据驱动的见解。因此，他们可能会加速上市时间并增加收入。

使用人工智能检测情绪的问题

研究表明，准确性高度依赖于训练信息。一个研究小组——尝试从图像中解读情绪——在他们的模型在日本女性面部表情数据集上实现了92.05%的准确率，并在扩展的Cohn-Kanade数据集上实现了98.13%的准确率。

虽然92%和98%之间的差异似乎微不足道，但它很重要——这种细微的差异可能会产生重大影响。为了说明这一点，数据集污染率低至0.001%已被证明可以有效地建立模型后门或故意造成误分类。即使是百分之几也是重要的。

此外，虽然研究看似很有前景——准确率超过90%显示出潜力——研究人员在受控环境中进行研究。在现实世界中，模糊的图像、伪造的面部表情、糟糕的角度和微妙的情绪更加普遍。换句话说，人工智能可能无法始终如一地表现。

情感识别人工智能的当前状态

算法情绪分析是使用算法来确定文本语气是积极的、中立的还是消极的过程。这项技术可以说是现代情绪检测模型的基础，因为它为算法情绪评估铺平了道路。类似的技术，如面部识别软件，也促进了进步。

如今的算法主要可以检测简单的情绪，如幸福、悲伤、愤怒、恐惧和惊讶，准确率各不相同。这些面部表情是天生的和普遍的——这意味着它们是自然的和全球公认的——所以训练人工智能来识别它们相对容易。

此外，基本面部表情通常被夸大。人们在生气时皱着眉头，在悲伤时皱着脸，在高兴时微笑，在震惊时睁大眼睛。这些简单、夸张的表情很容易区分。更复杂的情绪更难以确定，因为它们要么是微妙的，要么是基本表情的组合。

由于这类人工智能大部分仍处于研究和开发阶段，它尚未发展到涵盖像渴望、羞耻、悲痛、嫉妒、宽慰或困惑等复杂情绪。虽然它可能最终会涵盖更多，但不能保证它能解读所有这些情绪。

实际上，算法可能永远无法与人类竞争。例如，OpenAI的GPT-4数据集大约为1PB，而人类大脑的一个立方毫米中包含约1.4PB的数据。神经科学家们尽管经过几十年的研究，但仍然无法完全理解大脑如何感知情绪，所以构建一个非常精确的人工智能可能是不可能的。

虽然使用这项技术进行情绪识别有先例，但这一领域仍然处于技术上的初期阶段。关于这一概念的研究很多，但大规模部署的实例很少。一些迹象表明，采用率滞后可能是由于人们对准确率不一致和伦理问题的担忧所致。

人工智能开发者的伦理考虑

根据一项调查，67%的受访者同意人工智能应该受到更多的监管。为了让人们放心，开发者应该尽量减少偏见，确保他们的模型按预期行为，并改善结果。这些解决方案是可能的，如果他们在开发过程中优先考虑伦理考虑。

1. 知情数据收集和使用

在人工智能监管日益增加的时代，知情同意是至关重要的。如果员工发现他们的面部表情正在被未经同意地记录会发生什么？父母是否需要在教育情绪分析中签署同意书，还是学生可以自行决定？

开发者应该明确披露模型将要收集的信息、操作时间、分析使用方式以及谁可以访问这些详细信息。另外，他们应该包含选择退出功能，以便个人可以自定义权限。

2. 匿名化的情绪分析输出

数据匿名化既是隐私问题，也是安全问题。开发者应该匿名化他们收集的情绪信息，以保护所涉及的个人。至少，他们应该考虑使用静态加密。

3. 人机协同决策

使用人工智能来确定某人的情绪状态的唯一原因是为了告知决策。因此，无论它是在心理健康领域还是零售环境中使用，开发者都应该利用人机协同的保障措施来最小化意外行为。

4. 人工智能输出的以人为中心的反馈

即使算法的准确率几乎达到100%，它仍然会产生假阳性。考虑到模型可能实现50%或70%的准确率——而且这还没有考虑到偏见或幻觉问题——开发者应该考虑实施反馈系统。

人们应该能够审查人工智能关于他们的情绪状态的说法，并在他们认为它是错误的时提出上诉。虽然这样的系统需要防护措施和问责制，但它可以最小化不准确输出带来的不利影响。

忽视伦理的后果

伦理考虑应该是人工智能工程师、机器学习开发者和企业主的优先事项，因为它影响他们。考虑到公众舆论越来越不确定和监管日益加紧，忽视伦理的后果可能很大。