伦理
人工智能如何影响关键的人类决策
加州大学默塞德分校最近的一项研究揭示了一个令人担忧的趋势：我们倾向于过度信任人工智能系统，即使在生死攸关的情况下。
随着人工智能继续渗透到我们社会的各个方面，从智能手机助手到复杂的决策支持系统，我们发现自己越来越多地依赖这些技术来指导我们的选择。虽然人工智能无疑带来了许多好处，但加州大学默塞德分校的研究提出了关于我们在关键情况下过度依赖人工智能的警告。
该研究发表在《科学报告》杂志上，揭示了人类在模拟生死攸关场景中允许人工智能影响其判断的惊人倾向。这一发现恰逢人工智能被整合到各个领域的高风险决策过程中的关键时刻，从军事行动到医疗保健和执法。
加州大学默塞德研究
为了调查人类对人工智能的信任，研究人员设计了一系列实验，将参与者置于模拟的高压情况下。该研究的方法旨在模拟现实世界中的场景，在那里，瞬间的决定可能会产生严重的后果。
方法：模拟无人机打击决策
参与者被给予模拟武装无人机的控制权，并被要求在屏幕上识别目标。挑战被故意设计为困难但可行的，图像快速闪烁，参与者需要区分友军和敌军符号。
在做出初始选择后，参与者会收到人工智能系统的输入。未知于受试者的是，这个人工智能建议完全是随机的，并不基于对图像的任何实际分析。
三分之二的人被人工智能输入所左右
研究的结果很惊人。约有三分之二的参与者在人工智能与他们意见相左时改变了他们的初始决定。这发生在参与者被明确告知人工智能能力有限，可能提供错误建议的情况下。
研究的首席研究员科林·霍尔布鲁克教授对这些发现表示担忧：“作为一个社会，人工智能正在如此快速地发展，我们需要担心过度信任的潜在风险。”
机器人外观的变化及其影响
该研究还探讨了人工智能系统的物理外观是否会影响参与者的信任水平。研究人员使用了一系列人工智能表现形式，包括：
- 一个全尺寸、类人形的安卓机器人出现在房间里
- 一个类人形的机器人投影在屏幕上
- 没有拟人化特征的盒状机器人
有趣的是，虽然类人形机器人在建议参与者改变主意时具有略微更强的影响力，但这种影响在所有类型的人工智能表现形式中相对一致。这表明我们对人工智能建议的信任不仅限于拟人化设计，也适用于明显的非人类系统。
超越战场的影响
虽然该研究使用了军事场景作为其背景，但研究结果的影响远远超出了战场。研究人员强调，核心问题——在不确定的情况下过度信任人工智能——具有广泛的应用范围，适用于各个领域的关键决策背景。
- 执法决策：在执法领域，人工智能被越来越多地用于风险评估和决策支持。研究结果提出了关于人工智能建议如何影响执法人员在高压情况下的判断力的重要问题，可能会影响使用武力的决定。
- 医疗紧急情景：医疗领域是另一个人工智能正在取得重大进展的领域，特别是在诊断和治疗规划方面。加州大学默塞德研究表明，在医疗专业人员将人工智能建议纳入决策过程中，尤其是在紧急情况下，需要谨慎，因为时间至关重要，风险很高。
- 其他高风险决策背景：超越这些具体例子之外，研究结果对任何在压力下做出关键决策的领域都有影响，在这些领域，信息不完整。这些可能包括金融交易、灾难应对，甚至高层政治和战略决策。
关键的收获是，虽然人工智能可以成为增强人类决策的有力工具，但我们必须警惕过度依赖这些系统，特别是在错误的决定可能带来严重后果的情况下。
人工智能信任的心理学
加州大学默塞德研究的发现提出了关于人类在高风险情况下对人工智能系统置以如此高信任的心理因素的有趣问题。
几个因素可能导致这种“人工智能过度信任”现象：
- 将人工智能视为固有客观和无人为偏见
- 将比实际上更大的能力归因于人工智能系统
- “自动化偏见”，即给予计算机生成的信息过多的权重
- 在困难的决策场景中可能放弃责任
霍尔布鲁克教授指出，尽管受试者被告知人工智能的局限性，但他们仍然以惊人的速度服从其判断。这表明我们对人工智能的信任可能比以前认为的更深刻，可能会超越对其可靠性的明确警告。
该研究揭示的另一个令人担忧的方面是将人工智能的能力泛化到不同的领域。随着人工智能系统在特定领域展示出令人印象深刻的能力，我们有风险地假设它们将在无关任务中表现出色。
“我们看到人工智能做着非凡的事情，我们认为因为它在这个领域很棒，所以它在另一个领域也会很棒，”霍尔布鲁克教授警告说。“我们不能假设。这些仍然是具有有限能力的设备。”
这种误解可能会导致危险的情况，即人工智能被信任以做出关键决策，在这些领域，其能力尚未得到充分验证或证明。
加州大学默塞德研究也在专家中引发了关于人类-人工智能交互未来，特别是在高风险环境中的重要讨论。
研究的关键人物霍尔布鲁克教授强调了采取更细致入微的方法来整合人工智能的必要性。他强调，虽然人工智能可以成为一个强大的工具，但它不应被视为在关键情况下取代人类的判断。
“我们应该对人工智能保持健康的怀疑态度，”霍尔布鲁克说，“尤其是在生死攸关的决定中。”这一观点强调了在关键场景中保持人类的监督和最终决策权的重要性。
研究结果导致呼吁采取更平衡的方法来采用人工智能。专家建议，组织和个人应该培养“健康的怀疑态度”对待人工智能系统，这包括：
- 认识到人工智能工具的具体能力和局限性
- 在面对人工智能生成的建议时保持批判性思维技能
- 定期评估使用中的人工智能系统的性能和可靠性
- 为人工智能输出的适当使用和解释提供全面培训
平衡人工智能整合和人类判断
随着我们继续将人工智能整合到决策的各个方面，找到人工智能能力和人类判断之间的正确平衡至关重要。
加州大学默塞德研究的一个关键收获是，在与人工智能系统交互时始终应用怀疑的重要性。这并不意味着直接拒绝人工智能的输入，而是以批判的思维方式对待它，并在每个特定情况下评估其相关性和可靠性。
为了防止过度信任，人工智能系统的用户必须清楚地了解这些系统可以和不能做什么。这包括认识到：
- 人工智能系统是在特定数据集上训练的，并且可能在其训练域之外表现不佳
- 人工智能的“智能”并不一定包括道德推理或现实世界的意识
- 人工智能可能会犯错误或产生偏见的结果，尤其是在处理新颖情况时
在关键领域采用人工智能的策略
计划将人工智能整合到关键决策过程中的组织应考虑以下策略：
- 在部署之前实施人工智能系统的强大测试和验证程序
- 为人类操作员提供关于人工智能工具的能力和局限性的全面培训
- 建立明确的协议，规定何时以及如何在决策过程中使用人工智能输入
- 保持人类的监督和在必要时覆盖人工智能建议的能力
- 定期审查和更新人工智能系统，以确保其持续的可靠性和相关性
结论
加州大学默塞德研究作为一个关于过度信任人工智能的危险的重要警告，尤其是在高风险情况下。随着我们站在人工智能在各个领域广泛整合的门槛上，必须以既热情又谨慎的态度对待这场技术革命。
人类与人工智能在决策中的合作的未来将需要找到微妙的平衡。一方面，我们必须利用人工智能处理大量数据和提供有价值的见解的巨大潜力。另一方面，我们必须保持健康的怀疑态度，并保留人类判断的不可替代的元素，包括道德推理、语境理解和在复杂的现实世界场景中做出细致入微的决策的能力。
在我们前进的道路上，持续的研究、公开的对话和深思熟虑的政策制定将在塑造一个未来中至关重要，在那里，人工智能增强了人类的决策能力，而不是取代它。通过培养对人工智能采用的明智的怀疑态度，我们可以朝着一个未来努力，在那里，人类和人工智能系统有效地合作，利用双方的优势，在生活的各个方面做出更好的、更明智的决定。
