Kanon Clifford, 原告人身伤害律师，Bergeron Clifford Kanon Clifford 原告人身伤害律师，Bergeron Clifford

从神经网络到疏忽：当人工智能失败时，谁负责？

本文讨论了人工智能造成的伤害的法律问题，以及如果神经网络在现实世界中不能正常工作，责任可能在哪里。人工智能（AI）已经从研究实验室进入法庭、诊所、汽车和股票交易所，神经网络可以诊断疾病、批准贷款，并越来越多地完成长期以来被认为是人类的任务。但是，当这些系统在现实世界中失败时，它们会带来严重甚至致命的后果。作为安大略省、加拿大的原告人身伤害律师和商业管理博士候选人，我越来越多地被问到一个简单的问题：如果人工智能造成伤害，谁应该负责？答案实际上更复杂。人工智能挑战了疏忽、因果关系和可预见性的原则，并提出了关于法律如何应对机器决策的基本问题。人工智能在高风险决策中的扩展作用人工智能不再仅限于低技能任务的自动化或机器学习平台。它现在可以对医疗保健、金融、就业、交通、执法和法律分析做出决定。当前的人工智能模型通常由深度神经网络组成，这些网络虽然可以在大型数据集内检测复杂模式，但对于开发人员来说却基本上是不可解释的。学者们已经观察到，人工智能系统将不可预测性和自主性引入了法律领域，这个领域曾经严格遵循可预见性和意图。这就产生了创新和问责之间的冲突。虽然法律体系将造成的伤害归因于人类，但人工智能将责任分配给数据集的工程师、部署者和最终用户。责任变得模糊。责任差距：当伤害不能轻易归因法律学者越来越多地提到了人工智能治理中的“责任差距”。传统的侵权法取决于识别： 照顾义务 违反该义务 因果关系 损害 人工智能使每个元素都变得复杂。例如，开发人员可能不知道模型将如何在部署后表现，组织可能使用第三方机器学习（ML）系统。从最终用户的角度来看，确定输出的机制是不透明的。一项学术研究指出，如果人工智能系统以半自治或通过机器学习等过程自主适应的方式运行，证明过错将更加困难。这一分裂挑战了依赖于人类代理的原则。在人身伤害诉讼中，法院传统上会检查被告是否在情况下合理行事。但是，当决策部分委托给概率模型时，法院应该如何评估合理性？神经网络和可解释性的问题深度学习系统通常作为“黑盒”运行。它们的内部决策过程即使对于专家来说也很难解释。这一缺乏可解释性的后果非常严重。如果一个医疗人工智能系统误诊癌症，谁应该负责？可能是： 模型如何训练 训练数据是否包含偏见 验证过程是否充分 临床医生是否过度依赖自动输出 法律文献建议在归因人工智能造成的伤害的责任时，应区分 因果责任、角色责任和责任 。然而，在实践中，责任可能会扩展到一系列行为者： 数据提供者 软件开发人员 模型训练人员 部署人员 使用人工智能输出的组织 依赖人工智能推荐的专业人员 人工智能不会消除责任，但重新分配责任。自动驾驶车辆：人工智能责任的案例研究自动驾驶车辆诉讼为我们提供了一个早期的视角，法院如何处理人工智能相关的伤害。 法院已经应用 传统的疏忽和产品责任原则来处理新技术造成的伤害。 最近的案例 中，陪审团已经开始在人类驾驶员和创建自动驾驶系统的技术公司之间分配责任。法律评论员已经建议，现有的产品责任原则，例如设计缺陷、制造缺陷和未能警告，适用于人工智能启用的系统。然而，自动驾驶车辆暴露了当前法律框架的局限性。责任应该归属于： 车辆制造商？软件开发商？人类操作员？还是用于训练算法的数据？一些学者已经建议，类比产品责任原则可以有效地在上游和下游行为者之间划分责任。从原告的角度来看，这些案例表明，法院可能仍然会将传统原则应用于新技术，但仅凭借真正先进的专家证据和技术知识。严格责任和疏忽：竞争的法律理论一个核心的辩论是，是否可以将传统的疏忽框架应用于人工智能系统。 一些学者...