ソートリーダー

ニューラルネットワークから過失責任へ:AIが失敗したとき、誰が責任を負うのか

Kanon Clifford
Unite.AI を Google の優先ソースに追加
A conceptual legal illustration showing a lawyer in a boardroom, a scale of justice with a glowing AI brain and a human hand, and a digital
要点AIの不透明性は、注意義務や因果関係といった過失責任の核心的要素を複雑化することで、責任の空白を生み出す。
もっと見る
  • AIの不透明性は、注意義務や因果関係といった過失責任の核心的要素を複雑化することで、責任の空白を生み出す。
  • 裁判所は既存の製造物責任法理をAIに適用し得るが、高度な技術的証拠を要求する可能性がある。
  • 厳格責任制度は、AIによる危害が予見可能であるにもかかわらず因果関係が不透明な場合に、リスクを公平に配分し得る。

本稿では、人工知能が引き起こす被害をめぐる法的問題と、ニューラルネットワークが現実の環境で正しく機能しない場合に誰が責任を負うのかを考察します。

人工知能(AI)は研究室を出て、法廷、診療現場、自動車、証券取引所へと入り込んでいます。ニューラルネットワークは病気を診断し、融資を承認し、長らく人間の領域とされてきた仕事を担うようになっています。しかし、こうしたシステムが現実の環境で機能不全に陥ると、深刻な、ときには命にかかわる結果を招きます。

私はカナダのオンタリオ州で人身損害事件の原告側弁護士として活動するとともに、現在、経営学博士(DBA)の学位取得を目指し、ビジネス、法、技術が交わる領域を研究しています。その立場から、次の簡単な質問を受けることが増えています。 AIが被害を引き起こしたら、誰に責任があるのでしょうか。

実際には、答えはそれほど単純ではありません。AIは過失、因果関係、予見可能性に関する法理に難題を突きつけ、機械の判断に法がどう対応すべきかという根本的な問いを提起します。

リスクの高い意思決定で広がるAIの役割

AIの用途は、技能をあまり要しない作業の自動化や機械学習プラットフォームにとどまりません。今では医療、金融、雇用、交通、警察活動、法務分析で意思決定を行っています。

現在のAIモデルは通常、深層ニューラルネットワークで構成されています。大規模なデータセットから複雑なパターンを検出できる一方、その仕組みは開発者にとっても大部分が不透明です。 研究者は AIシステムが 予測不可能性と自律性 を法の領域に持ち込むと指摘しています。従来、その領域は予見可能性と意図によって厳密に規律されていました。ここに、革新と責任追及の緊張関係が生じます。

法制度は生じた被害の責任を人間に帰属させますが、AIではデータセットを作る技術者、システムの開発者、導入者、エンドユーザーに責任が分散します。責任の所在が曖昧になるのです。

責任の空白:被害の責任を容易に特定できないとき

法学者は AIガバナンスに生じつつある「責任の空白」に言及することが増えています。従来の不法行為法では、次の要素を特定する必要があります。

  1. 注意義務
  2. 注意義務違反
  3. 因果関係
  4. 損害

AIは各要素の判断を複雑にします。例えば開発者は、導入後にモデルがどう振る舞うかを把握できない場合があります。また、組織が第三者の機械学習(ML)システムを使うこともあります。エンドユーザーからは、出力が決まる仕組みが見えません。

ある学術研究は AIシステムが半自律的に動作したり、機械学習などの過程で自律的に適応したりすると、過失の立証が難しくなると指摘しています。この責任の分散は、人間の行為を前提とする法理に課題を突きつけます。

人身損害訴訟では、裁判所は従来、被告がその状況に照らして合理的に行動したかを検討してきました。しかし、意思決定の一部を確率モデルに委ねた場合、その合理性をどう評価すべきでしょうか。

ニューラルネットワークと説明可能性の問題

深層学習システムはしばしば「ブラックボックス」として機能します。内部の意思決定過程は、専門家でさえ容易には解釈できません。この説明可能性の欠如には重大な法的意味があります。

医療AIががんを誤診したとすれば、何に過失があったのでしょうか。次の点が関係し得ます。

  • モデルをどのように訓練したか
  • 訓練データに偏りがあったか
  • 検証の手順が十分だったか
  • 臨床医が自動生成された出力に頼りすぎていなかったか

法学文献は AIによる被害の責任を帰属させる際に、 因果関係に基づく責任、役割に伴う責任、法的な賠償責任 を区別するよう勧めています。

ただし実務では、責任は次のような一連の関係者に及ぶ可能性があります。

  • データ提供者
  • ソフトウェア開発者
  • モデルの訓練担当者
  • システムの導入者
  • AIの出力を利用する組織
  • AIの推奨に依拠する専門家

AIは責任を消すのではなく、再配分します。

自動運転車からの教訓:AIの責任を考える事例

自動運転車をめぐる訴訟は、裁判所がAI関連の被害にどう対処するかを垣間見せています。 裁判所は 過失と製造物責任に関する従来の原則を、被害を引き起こす新技術に適用してきました。 最近の事件では陪審が、人間の運転者と自動運転システムを開発した技術企業との間で責任を配分し始めています。

法律の論者は 設計上の欠陥、製造上の欠陥、警告義務違反といった既存の製造物責任の法理が、AIを利用するシステムにも関係すると指摘しています。

一方、自動運転車は現在の法的枠組みの限界も示します。責任を負うのは、自動車メーカーでしょうか。ソフトウェア開発者でしょうか。人間の操作者でしょうか。それとも、アルゴリズムの訓練に使ったデータでしょうか。

一部の研究者は 製造物責任の原則を類推適用することで、開発・供給の上流と下流にいる関係者の責任を効果的に区分できるとしています。

原告の立場から見ると、これらの事件は、裁判所が新技術にも従来の原則を適用し得ることを示しています。ただし、そのためには極めて高度な専門家証拠と技術的知識が必要です。

厳格責任と過失責任:競合する法理

中心的な論点は、従来の過失責任の枠組みをAIシステムに適用できるかどうかです。 一部の研究者は 厳格責任の制度を支持し、非常に複雑な技術環境では、被害者に過失を立証する負担を負わせるべきではないと主張しています。

厳格責任は、被害が予見可能でも回避できない場合、AIが大規模に導入されている場合、リスクが社会全体に分散している場合に、とりわけ有用かもしれません。技術的な因果関係の立証が難しい場合も同様です。

他方、過失責任をめぐる法は技術の変化に適応できるという主張もあります。 比較法研究は 既存の法理を基盤とすることを支持しています。既存の法理には秩序を安定させる作用があり、新たな被害にも段階的に適応できるためです。

厳格責任と過失責任は、革新、公平性、リスクや費用の配分に関する政策上の選択を反映しています。

革新を生み出す側が技術的リスクを負うべきでしょうか。それとも、進歩の費用を社会全体で広く分担すべきでしょうか。

ビジネスの視点:リスク配分と保険

ビジネスの観点から、AIの責任は法律だけでなくリスク管理の問題でもあります。AIを導入する組織は、契約によるリスク配分、専門職賠償責任保険、サイバーリスクの保険補償、補償条項、規制遵守の枠組みに注目し始めています。

保険市場は、AIに関する責任を明確にするうえで重要な役割を果たすかもしれません。 ある研究は AIによる特定の被害には、保険と不法行為法を組み合わせた複合的な補償制度が最も適切となる可能性を示唆しています。

業務上の意思決定にAIを取り入れる企業は、デジタル変革において訴訟リスクを考慮すべきです。怠れば、評判の低下、規制上の制裁、民事責任にさらされるおそれがあります。

倫理的責任と法的責任

多くの場合、法的責任と倫理的責任は同じではありません。AIガバナンスの議論では、次の原則が取り上げられます。

  • 公平性
  • 透明性
  • 説明責任
  • 説明可能性

しかし、倫理的な配慮から法的義務が自動的に生じるわけではありません。

最近の研究は 複数の関係者が関わるAIエコシステムで責任を配分するための概念的枠組みと、設計上の判断を法的結果に結び付ける証拠法上のルールを提案しています。したがって、革新を促進しようとする法制度は、新技術による被害者にも配慮しなければなりません。この均衡の取り方が、AIガバナンスの将来を形作ります。

人工知能の時代における過失責任の将来

AIは、意思決定権限が常に特定可能な人間にあるという前提を揺さぶっています。それでも、法的責任は最終的に人間に残ります。

近い将来、裁判所がAIシステムに法人格を認める可能性は低いでしょう。むしろ、AIを開発・導入し、そこから利益を得る人々が責任を負うと見込まれます。

AIの自律性が高まるにつれ、次のような規律を組み合わせた複合的なモデルが発展する可能性があります。

  1. 過失責任の原則
  2. 製造物責任の法理
  3. 規制当局の監督
  4. 保険に基づく補償制度

AIはコモンローの概念を置き換えるのではなく、裁判所にその明確化を迫るだけかもしれません。原告の立場から問われるのは、何が起こったかです。

リスクを生み出したのは誰か。そのリスクが人に被害を及ぼすのを最も効果的に防げるのは誰か。

立法機関が包括的なAI責任制度を整えるまでは、裁判所は既存の法理を新技術に適用することになります。ニューラルネットワークは新しいかもしれません。過失は新しいものではありません。

カノン・クリフォードは、Bergeron Cliffordの人身傷害事件で原告を代理する弁護士です。人々の生活に有意義な変化をもたらす能力が、カノンを負傷法に引き付けています。カノンにとって、クライアントの公正な補償を受ける権利は、負傷した人々とその家族の生活を改善するという彼の深いコミットメントの柱です。カノンは、Bergeron Cliffordでサマースタッフとして始め、人身傷害法の実務を詳しく学びました。彼はその後、2020年にオンタリオ州で弁護士資格を取得する前に、弁護士事務所で研修を修了しました。彼は、オタワ大学でB.Soc.Sc.を取得しています。彼は、イングランドのデボン州にあるエクセター大学でLL.B.(Honours)を取得し、イングランドのロンドンにあるUniversity of LawでLL.M.(紛争解決)を優等で取得しています。現在、法務、ビジネス、テクノロジーの交差点に焦点を当てて、経営学博士課程(D.B.A.)をパートタイムで勉強中です。