思想领袖

从神经网络到过失责任:人工智能失灵时,谁该负责?

Kanon Clifford
将 Unite.AI 添加到您在 Google 上的首选来源
A conceptual legal illustration showing a lawyer in a boardroom, a scale of justice with a glowing AI brain and a human hand, and a digital
要点人工智能的不透明性通过复杂化注意义务、因果关系等过失责任核心要素,形成了责任认定缺口。
查看更多
  • 人工智能的不透明性通过复杂化注意义务、因果关系等过失责任核心要素,形成了责任认定缺口。
  • 法院或可沿用现有产品责任原则处理人工智能案件,但需依赖更先进的技术证据。
  • 当人工智能造成的损害可预见但因果关系难以厘清时,严格责任制度或能更公平地分配风险。

本文讨论了人工智能造成的伤害的法律问题,以及如果神经网络在现实世界中不能正常工作,责任可能由谁承担。

人工智能(AI)已经从研究实验室进入法庭、诊所、汽车和股票交易所,神经网络可以诊断疾病、批准贷款,并越来越多地完成长期以来被认为是人类的任务。但是,当这些系统在现实世界中失败时,它们会带来严重甚至致命的后果。

我在加拿大安大略省担任人身伤害案件的原告方律师,目前也是工商管理博士(DBA)候选人,研究商业、法律与技术的交叉领域。我越来越频繁地被问到一个简单的问题:如果人工智能造成伤害,谁应该负责?

答案实际上更复杂。人工智能挑战了过失、因果关系和可预见性的原则,并提出了关于法律如何应对机器决策的基本问题。

人工智能在高风险决策中的日益扩大的作用

人工智能不再仅限于低技能任务的自动化或机器学习平台。它现在可以对医疗保健、金融、就业、交通、执法和法律分析做出决定。

当前的人工智能模型通常由深度神经网络组成,这些网络虽然可以在大型数据集内检测复杂模式,但对于开发人员来说却基本上是不可解释的。学者们已经观察到,人工智能系统将不可预测性和自主性引入了法律领域,这个领域曾经严格遵循可预见性和意图。这就产生了创新和问责之间的冲突。

虽然法律体系将造成的伤害归因于人类,但人工智能将责任分配给数据集的构建工程师、系统开发者、部署者和最终用户。责任变得模糊。

责任空白:当伤害不能轻易归因

法律学者越来越多地提到了人工智能治理中的“责任空白”。传统侵权法要求明确以下要素:

  1. 注意义务
  2. 违反该义务
  3. 因果关系
  4. 损害

人工智能使每个元素都变得复杂。例如,开发人员可能不知道模型将如何在部署后表现,组织可能使用第三方机器学习(ML)系统。从最终用户的角度来看,确定输出的机制是不透明的。

一项学术研究指出,如果人工智能系统以半自主或通过机器学习等过程自主适应的方式运行,证明过错将更加困难。这一分裂挑战了以人的行为为基础的原则。

在人身伤害诉讼中,法院传统上会检查被告是否根据具体情况采取了合理行动。但是,当决策部分委托给概率模型时,法院应该如何评估合理性?

神经网络和可解释性的问题

深度学习系统通常作为“黑盒”运行。它们的内部决策过程即使对于专家来说也很难解释。缺乏可解释性会带来严重的法律后果。

如果一个医疗人工智能系统误诊癌症,谁应该负责?可能是:

  • 模型如何训练
  • 训练数据是否包含偏见
  • 验证过程是否充分
  • 临床医生是否过度依赖自动输出

法律文献建议在归因人工智能造成的伤害的责任时,应区分 因果责任、角色责任和法律赔偿责任 。

然而,在实践中,责任可能会扩展到一系列行为者:

  • 数据提供者
  • 软件开发人员
  • 模型训练人员
  • 部署人员
  • 使用人工智能输出的组织
  • 依赖人工智能推荐的专业人员

人工智能不会消除责任,但重新分配责任。

自动驾驶车辆的启示:人工智能责任案例研究

自动驾驶车辆诉讼为我们初步展示了法院可能如何处理人工智能相关伤害。 法院已经应用 传统的过失和产品责任原则来处理新技术造成的伤害。 最近的案例 中,陪审团已经开始在人类驾驶员和创建自动驾驶系统的技术公司之间分配责任。

法律评论员已经建议,现有的产品责任原则,例如设计缺陷、制造缺陷和未能警告,适用于采用人工智能的系统。

然而,自动驾驶车辆暴露了当前法律框架的局限性。责任应该归属于:
车辆制造商?软件开发商?人类操作员?还是用于训练算法的数据?

一些学者已经建议,类比产品责任原则可以有效地在上游和下游行为者之间划分责任。

从原告的角度来看,这些案例表明,法院可能仍然会将传统原则应用于新技术,但前提是具备高度专业的专家证据和技术知识。

严格责任和过失:相互竞争的法律理论

一个核心争议是,是否可以将传统的过失框架应用于人工智能系统。 一些学者 倡导严格责任制度,认为在复杂的技术环境中,受伤方不应承担证明过错的负担。

严格责任可能特别适用于以下情况:伤害是可预见的但不可避免的,人工智能系统大规模部署,风险在社会上分布,或者技术上的因果关系不容易证明。

有人认为,过失法可以适应技术变化。 比较法研究 主张在现有法理基础上继续发展,这些原则具有固有的稳定作用,并可以逐渐适应新的伤害。

严格责任和过失法说明了与创新、公平和风险及成本分配相关的政策偏好。

创新者是否应该对技术风险负责?或者说,社会应该广泛分担进步的成本?

商业视角:风险分配和保险

从商业角度来看,人工智能责任不仅是一个法律问题,也是一个风险管理问题。部署人工智能系统的组织已经开始关注通过合同分配风险、专业责任保险、网络风险保险保障、赔偿义务,以及监管合规框架。

保险市场可能在建立人工智能责任方面发挥重要作用。 一些研究 表明,人工智能造成的某些伤害最终可能最适合通过结合保险和侵权法的混合补偿机制处理。

将人工智能融入运营决策的公司应该在数字转型中考虑诉讼风险。未能这样做可能会使这些组织面临声誉损害、监管处罚和民事责任。

道德责任与法律责任

在许多情况下,法律责任不等同于道德责任。人工智能治理辩论包括以下原则:

  • 公平
  • 透明度
  • 问责
  • 可解释性

然而,法律义务并不自动从道德考虑中产生。

近期研究 提出了多方参与的人工智能生态系统中责任分配的概念框架,以及将设计决策与法律结果联系起来的证据规则。因此,旨在促进创新的法律体系也必须考虑到新技术对受害者的影响。这一平衡将塑造人工智能治理的未来。

人工智能时代过失责任的未来

人工智能挑战了这样一种假设:决策权始终归于可识别的人类行为者。但是,法律责任最终仍然是人类的。

在不久的将来,法院不太可能将人工智能系统认定为法律上的主体。但是,预计开发、部署和从人工智能系统中获利的个人将被追究责任。

随着人工智能系统变得更加独立,混合模型可能会出现,结合各种形式的监管:

  1. 过失原则
  2. 产品责任法理
  3. 监管监督
  4. 基于保险的补偿计划

与其取代普通法概念,不如说人工智能可能会迫使法院澄清这些概念。从原告的角度来看,问题是发生了什么。

谁是风险创造者?谁可以最好地防止风险伤害个人?

在立法机构建立全面的人工智能责任制度之前,法院将继续把现有法理适用于新技术。神经网络或许是新事物,过失并不是。

Kanon Clifford 是Bergeron Clifford律师事务所代理原告的人身伤害律师。能够为人们的生活带来有意义的改变,是吸引他从事人身伤害法律工作的原因。客户获得公平赔偿的权利,是他致力于改善伤者及其家人生活的核心。Kanon 最初作为暑期实习生加入 Bergeron Clifford,学习人身伤害法律实务。此后,他在该事务所完成律师实习,并于2020年取得安大略省律师执业资格。他拥有渥太华大学社会科学学士学位,以及英格兰德文郡埃克塞特大学荣誉法学学士(LL.B.)学位。他还以优异成绩取得位于英格兰伦敦的英国法律大学(University of Law)的法学硕士(LL.M.)学位,专攻争议解决。目前,他正以非全日制方式攻读工商管理博士(D.B.A.),研究法律、商业与技术的交汇领域。