思想领袖
从神经网络到疏忽：当人工智能失败时，谁负责？
将 Unite.AI 添加到您在 Google 上的首选来源
本文讨论了人工智能造成的伤害的法律问题，以及如果神经网络在现实世界中不能正常工作，责任可能在哪里。
人工智能（AI）已经从研究实验室进入法庭、诊所、汽车和股票交易所，神经网络可以诊断疾病、批准贷款，并越来越多地完成长期以来被认为是人类的任务。但是，当这些系统在现实世界中失败时，它们会带来严重甚至致命的后果。
作为安大略省、加拿大的原告人身伤害律师和商业管理博士候选人，我越来越多地被问到一个简单的问题：如果人工智能造成伤害，谁应该负责？
答案实际上更复杂。人工智能挑战了疏忽、因果关系和可预见性的原则，并提出了关于法律如何应对机器决策的基本问题。
人工智能在高风险决策中的扩展作用
人工智能不再仅限于低技能任务的自动化或机器学习平台。它现在可以对医疗保健、金融、就业、交通、执法和法律分析做出决定。
当前的人工智能模型通常由深度神经网络组成，这些网络虽然可以在大型数据集内检测复杂模式，但对于开发人员来说却基本上是不可解释的。学者们已经观察到，人工智能系统将不可预测性和自主性引入了法律领域，这个领域曾经严格遵循可预见性和意图。这就产生了创新和问责之间的冲突。
虽然法律体系将造成的伤害归因于人类，但人工智能将责任分配给数据集的工程师、部署者和最终用户。责任变得模糊。
责任差距：当伤害不能轻易归因
法律学者越来越多地提到了人工智能治理中的“责任差距”。传统的侵权法取决于识别：
- 照顾义务
- 违反该义务
- 因果关系
- 损害
人工智能使每个元素都变得复杂。例如，开发人员可能不知道模型将如何在部署后表现，组织可能使用第三方机器学习（ML）系统。从最终用户的角度来看，确定输出的机制是不透明的。
一项学术研究指出，如果人工智能系统以半自治或通过机器学习等过程自主适应的方式运行，证明过错将更加困难。这一分裂挑战了依赖于人类代理的原则。
在人身伤害诉讼中，法院传统上会检查被告是否在情况下合理行事。但是，当决策部分委托给概率模型时，法院应该如何评估合理性？
神经网络和可解释性的问题
深度学习系统通常作为“黑盒”运行。它们的内部决策过程即使对于专家来说也很难解释。这一缺乏可解释性的后果非常严重。
如果一个医疗人工智能系统误诊癌症，谁应该负责？可能是：
- 模型如何训练
- 训练数据是否包含偏见
- 验证过程是否充分
- 临床医生是否过度依赖自动输出
法律文献建议在归因人工智能造成的伤害的责任时，应区分 因果责任、角色责任和责任 。
然而，在实践中，责任可能会扩展到一系列行为者：
- 数据提供者
- 软件开发人员
- 模型训练人员
- 部署人员
- 使用人工智能输出的组织
- 依赖人工智能推荐的专业人员
人工智能不会消除责任，但重新分配责任。
自动驾驶车辆：人工智能责任的案例研究
自动驾驶车辆诉讼为我们提供了一个早期的视角，法院如何处理人工智能相关的伤害。 法院已经应用 传统的疏忽和产品责任原则来处理新技术造成的伤害。 最近的案例 中，陪审团已经开始在人类驾驶员和创建自动驾驶系统的技术公司之间分配责任。
法律评论员已经建议，现有的产品责任原则，例如设计缺陷、制造缺陷和未能警告，适用于人工智能启用的系统。
然而，自动驾驶车辆暴露了当前法律框架的局限性。责任应该归属于：
车辆制造商？软件开发商？人类操作员？还是用于训练算法的数据？
一些学者已经建议，类比产品责任原则可以有效地在上游和下游行为者之间划分责任。
从原告的角度来看，这些案例表明，法院可能仍然会将传统原则应用于新技术，但仅凭借真正先进的专家证据和技术知识。
严格责任和疏忽：竞争的法律理论
一个核心的辩论是，是否可以将传统的疏忽框架应用于人工智能系统。 一些学者 倡导严格责任制度，认为在复杂的技术环境中，受伤方不应承担证明过错的负担。
严格责任可能特别适用于以下情况：伤害是可预见的但不可避免的，人工智能系统大规模部署，风险在社会上分布，或者技术上的因果关系不容易证明。
有人认为，疏忽法可以适应技术变化。 比较法律研究 已经论证了在现有的原则基础上进行建设，这些原则具有固有的稳定作用，并可以逐渐适应新的伤害。
严格责任和疏忽法说明了与创新、公平和风险及成本分配相关的政策偏好。
创新者是否应该对技术风险负责？或者说，社会应该广泛分担进步的成本？
商业视角：风险分配和保险
从商业角度来看，人工智能责任不仅是一个法律问题，也是一个风险管理问题。部署人工智能系统的组织已经开始关注合同风险分配问题：专业责任保险、网络安全保险和赔偿，以及监管合规框架。
保险市场可能在建立人工智能责任方面发挥重要作用。 一些研究 表明，人工智能造成的某些伤害最终可能通过结合保险和侵权法的混合补偿计划来解决。
将人工智能融入运营决策的公司应该在数字转型中考虑诉讼风险。未能这样做可能会使这些组织面临声誉损害、监管处罚和民事责任。
道德责任与法律责任
在许多情况下，法律责任不等同于道德责任。人工智能治理辩论包括以下原则：
- 公平
- 透明度
- 问责
- 可解释性
然而，法律义务并不自动从道德考虑中产生。
最近的工作 提出了多行为者人工智能生态系统中责任分配的概念框架，以及将设计决策与法律结果联系起来的证据规则。因此，旨在促进创新的法律体系也必须考虑到新技术对受害者的影响。这一平衡将塑造人工智能治理的未来。
人工智能时代的疏忽未来
人工智能挑战了这样一种假设：决策权始终归于可识别的人类行为者。但是，法律责任最终仍然是人类的。
在不久的将来，法院不太可能将人工智能系统认定为法律人。但是，预计开发、部署和从人工智能系统中获利的个人将被追究责任。
随着人工智能系统变得更加独立，混合模型可能会出现，结合各种形式的监管：
- 疏忽原则
- 产品责任学说
- 监管监督
- 基于保险的补偿计划
与其取代普通法概念，不如说人工智能可能会迫使法院澄清这些概念。从原告的角度来看，问题是发生了什么。
谁是风险创造者？谁可以最好地防止风险伤害个人？
直到立法机构采纳综合技术。在神经人工智能责任制度中，法院将应用现有的法律原则来处理新技术。神经网络可能是新的。疏忽不是新的。
