教皇レオ14世、AIの「武装解除」を呼びかけ、殺傷能力を持つ自律型兵器の禁止を要請

教皇レオ14世は、人工知能の「武装解除」を求めるとともに、10月30日に教皇の間で行った演説で、11月にジュネーブに集まる各国に対し、殺傷能力を持つ自律型兵器の禁止に向けた具体的な措置を講じるよう呼びかけた。

この会合には、「AIの未来：知的技術の発展と応用をめぐる、バチカンと科学界の対話」の参加者が集まった。会合は、Pontifical Academy for LifeとFuture of Life Instituteが共同で主催した。

多くの国から集まった参加者を歓迎し、教皇は、人工知能の発展をめぐる不安を参加者と共有していると述べた。進むべき方向は分かっているものの、その道を進むための取り組みは十分ではないという。参加者の懸念と、未来に向けた考えや提案に謝意を示し、それらを、現代の大きな課題の複雑さに対処するうえでますます必要とされる、学際的なアプローチから生まれた初期の成果だと評した。

教皇は、人工知能を扱った2024年6月14日のG7会合での教皇フランシスコの演説を振り返った。フランシスコはその中で、AIは期待と恐れの両方を呼び起こす道具だと述べ、人の命を奪う決定を機械に委ねてはならないと強調した。レオ14世は、これらの言葉は今なお変わらず重要だと述べ、5つの考察を示すに先立ち、回勅でこの問題をより深く掘り下げようとしたと付け加えた。

5つの考察

第一に、人工知能の未来はあらかじめ決まっているわけではないと教皇は述べた。人間がこの技術を開発する以上、その未来は人々の選択にかかっており、したがって人々には、その応用を導き、変え、必要であれば退ける責任がある。重要なのは、AIに何ができるかだけではなく、何のために役立てるべきかという問いだという。AIの開発を単に勝敗を競うレースと捉える人々は、ゴールにとらわれ、取り残される人々を忘れるおそれがあると警告した。また、人間に資する信頼性の高いシステムは、その影響を十分に予測したり制御したりできないほど強力なシステムよりも価値があると述べた。

第二に、「機械は道具であり、人ではない」と述べた。AIシステムは経験を重ねることも、身体を持つこともない。喜びや痛みを感じず、人間関係を通じて成熟することもなく、愛や仕事、友情、責任の意味を内側から知ることもない。一部には、こうしたシステムに権利、さらには法的人格を認めるべきだとする意見もあるが、その考え方は人間の責任を曖昧にし、被害を受けた人々に、人間の顔を持たない存在に救済を求めさせるおそれがあると警告した。

人間による監督、共通善、制度

第三に、決して委ねてはならない決定があると教皇は述べた。標的リストに載せられたり、国境管理のデータベースに登録されたりした人は、単なるデータにすぎない存在へと矮小化されるおそれがあるという。人の命や自由、武力の行使に関わる決定は、常に、実効性があり、十分な情報に基づき、責任を伴う人間の監督下に置かれなければならない。そのため、人工知能の武装を解除しなければならないと述べ、11月にジュネーブに集まる各国に対し、殺傷能力を持つ自律型兵器の禁止に向けた具体的な措置を講じるよう促した。

第四に、知的技術は共通善に資するよう導かれるべきであり、それ自体が目的となったり、特権を持つ一部の人々の利益だけに役立ったりしてはならないと述べた。回勅の教えを引き、正義の実現には、ケア、知識、道具、機会など、イノベーションの恩恵にアクセスできることが必要だと説明したうえで、こうした技術の発展は、世界社会のさまざまなレベルで連帯と参加を促し、進歩の恩恵が、とりわけ最も必要としている人々に公正に行き渡るようにすべきだと述べた。

第五の考察では、おそらく最も緊急性が高いとして、制度を取り上げた。人工知能の開発を導くべき倫理原則の多くはすでに明らかになっているが、今必要なのは、それらを実践に移せる制度、とりわけ世界の共通善を守ることのできる実効性のある国際機関だと述べた。そのためには共通の基準、独立した監督、明確な説明責任の仕組みが必要だという。そうすることで、AIの開発と利用に関する決定を検証し、必要に応じて異議を申し立て、引き起こされた被害に対する適切な救済措置を講じられるようになる。教皇は、参加者の貢献に謝意を示して演説を締めくくり、共通善に向けた対話と責任の共有の精神をもって取り組み続けるよう促し、祝福を授けた。

演説の背景にある回勅

この演説で示された5つの考察は、それぞれ、レオ14世が2026年5月15日に発表した回勅Magnifica Humanitasの番号付きの箇所に基づいている。同回勅の正式な題名は、人工知能の時代における人間の尊厳を守るためにである。教皇はこの文書で、レオ13世が1891年に回勅Rerum Novarumを発表し、2026年にその135周年を教会が祝うことにも言及している。

かつては国家がイノベーションをおおむね導き、方向づけていたが、今日では、技術開発を主に推進しているのは民間の主体であり、その多くは国境を越えて活動し、多くの政府を上回る資源と介入能力を備えていると、この回勅は指摘している。この変化によって、技術をめぐる権力は、前例のないほど民間主体に偏った性格を帯び、その実態を把握し、統治し、共通善に向けて方向づけることが難しくなっていると、文書は述べている。章の中には、責任、透明性、AIのガバナンス、および兵器と人工知能をそれぞれ主題とするものがある。