先進的なAI技術が倫理的な課題を提起する – 思想家

アルフレッド・クルーズ・ジュニア、BAE Systems Inc.のインテリジェンス＆セキュリティ部門の副社長兼チーフカウンセル

今年の初め、世界的パンデミック以前、私はチャールストンのシタデル・インテリジェンス・エシックス・カンファレンスに出席し、国家安全保障に関連するインテリジェンス収集における倫理のトピックについて議論しました。防衛産業では、知識、コンピューティング、先進技術、特に人工知能（AI）と機械学習（ML）の普及を目にしています。しかし、インテリジェンス収集や実時間の戦闘におけるAIの展開には、重大な問題が生じる可能性があります。

量子コンピューティングとAIのリスク

私たちが疑問に思うべきことは、量子コンピューティング能力とAIを戦時の意思決定プロセスに使用することです。例えば、ターミネーターのことを覚えていますか？私たちの技術が飛躍的に進歩するにつれて、スカイネットが提示した現実が私たち前にあります。私たちは自分たちに、「スカイネットが私たちを攻撃してくるのか？」と問いかけるでしょう。私たちと一緒に、過去を振り返ってみましょう。AIマシンは、人間の指示なしで独自に思考し、意思決定を行う能力を持っていたため、マシンは人間をバグと判断し、人類を破壊しようとしました。間違ったことを言っているわけではありません。AIには潜在的な利点がありますが、リスク要因があるため、制御パラメータが必要であると考えています。

AIの倫理的曖昧さと哲学的ジレンマ

米国国防総省（DoD）は、AIの倫理原則を発表しました。これは、AIの使用が新たな倫理的曖昧さとリスクを生み出すからです。量子コンピューティング能力とAIを組み合わせると、意思決定の能力が変化し、制御を失うリスクが増大します – 今日私たちが認識している以上に。量子コンピューティングは、私たちの脳のオペレーティングシステムを上回り、スーパーコンピューターは私たちの脳が行うよりもはるかに迅速に、かつ正確に計算を行うことができます。

さらに、コンピューティングとAIの使用は、哲学的なジレンマを提起します。マシンに独自の意志を与えることを許可する時点はいつでしょうか？また、マシンが独自に思考することを許可した場合、それはマシン自体が自我を持つことを意味しますか？自我を持つことは、生命を構成するものでしょうか？私たちとしては、まだこの状況を定義する方法を決定していません。したがって、現状では、マシンが人間の制御なしで行動することは、重大な結果をもたらす可能性があります。マシンは、人間の介入を乗り越えて、火災を停止することができますか？マシンが独自に動作している場合、停止することができますか？

私が見る限り、AIを防衛の観点から使用することは簡単です。しかし、攻撃に転用することはどれほど簡単でしょうか？攻撃の場合、マシンは現場で戦闘の意思決定を行うでしょう。マシンが敵を攻撃することは、ジュネーブ条約と戦争法の違反となるでしょうか？この空間への急速な進出に際して、世界は、AIと量子コンピューティングの使用が、現在の法律に従う必要があることを認識しなければなりません。

DoDは、自律システムとAIを使用する際の立場を取り、常に意思決定プロセスに人間が関与することを述べています。人間が最終的な決定を下し、武器を発射するトリガーを引くでしょう。それが私たちのルールですが、敵が別のルートを選択し、AI搭載マシンに最終的な決定を下させる場合どうなるでしょうか？すると、マシンは、すでに私たちよりも速く、賢く、正確であるため、優位性を持ちます。

顔認識機能を搭載したドローンを考えてみましょう。ドローンは、事前に設定されたターゲットであるテロリストと判断したため、独自の判断で攻撃します。誰が実際に攻撃を命じたのでしょうか？間違った判断が下された場合、責任は誰に問うのでしょうか？

AI/MLに内在する偏見

研究によると、マシンは人間よりも間違いを犯す可能性は低いとされています。しかし、研究はまた、人間の「教師」がマシンに教える際に、機械学習に偏見があることを示しています。DoDのAIの倫理原則は、既存の偏見について言及し、「国防省は、AI能力における予期せぬ偏見を最小限に抑えるための意図的な措置を講じる」と述べています。既に、実証された研究により、顔認識アプリケーションでは、特に有色人種に対する偽陽性の偏見があることがわかっています。マシンに意思決定を教えるコードを作成する場合、人間の教師自身が持つ偏見が反映される可能性があります。これは、教師が自身の偏見に気付いていないため、無意識のうちに起こる可能性があります。

では、偏見を排除するにはどうすればよいのでしょうか？AIの出力は、入力の質によって決まります。したがって、制御が必要です。入力するデータを制御する必要があります。開発者は、偏見を排除するためにコードを不断に書き直す必要があります。

世界が技術の最適な利用を定義する

技術そのものは、善も悪もありません。どのように使用するかが、善意を持ちながらも悪い結果をもたらす可能性があります。技術が人々の生活に影響を与える方法で進歩するにつれて、世界は適切な行動を定義するために協力しなければなりません。AIアプリケーションから人間を除外する場合、人間が持つ、引き金を引く前のその一時停止 – その道徳的指針 – も除外されることになります。マシンは、自己判断で行動するように教えられた場合、その一時停止はありません。したがって、将来、世界はこれを容認するでしょうか？マシンが戦闘の意思決定を行うことを許可するために、世界はどれほど遠くまで進むでしょうか？