アルフレッド・クルーズ・ジュニアは、BAE Systems Incのインテリジェンス＆セキュリティ部門の副社長兼チーフカウンセルです。BAE Systems Incは、米国国防総省、インテリジェンスコミュニティ、連邦民間機関、および世界中で展開している軍隊向けに、空、陸、海、宇宙、サイバーの各ドメインで大規模なシステムエンジニアリング、統合、およびサステナンスサービスを提供するリーダーです。クルーズは、部門の法務、輸出管理、倫理機能を担当しています。
アルフレッド・クルーズ・ジュニア、BAE Systems Inc.のインテリジェンス＆セキュリティ部門の副社長兼チーフカウンセル今年の初め、世界的なパンデミックが起こる前のことですが、私はチャールストンのシタデル・インテリジェンス・エシックス・カンファレンスに出席し、国家安全保障を保護するためにインテリジェンス収集における倫理のトピックについて議論しました。防衛産業では、知識、計算、先進技術、特に人工知能（AI）と機械学習（ML）の分野で急速な進歩を目にしています。しかし、インテリジェンス収集や実時間の戦闘におけるAIの展開には重大な問題が生じる可能性があります。量子コンピューティングと組み合わせたAIはリスクをもたらす私たちが疑問に思うべきことは、量子コンピューティング能力と組み合わせたAIを戦時の意思決定プロセスで使用することです。例えば、ターミネーターを思い出してみてください。私たちのテクノロジーが飛躍的に進歩するにつれて、スカイネットが提示した現実が私たち前にあります。私たちは自分たちに、「スカイネットは私たちを攻撃してくるのか？」と問いかけるかもしれません。私たちと一緒に記憶をたどってみましょう。AIマシンは、人間の指示なしに独自に思考し、意思決定を行う能力を持っていました。マシンは人間がバグであると判断したとき、人間を破壊するために行動を開始しました。間違わないでください。AIには大きな潜在能力がありますが、リスク要因のため、制御パラメータが必要であると私は考えます。AIの倫理的な曖昧さと哲学的なジレンマ私は、これがアメリカ国防総省（DoD）が独自のAIの倫理原則を発表した理由であると思います。AIの使用は新しい倫理的な曖昧さとリスクを引き起こします。量子コンピューティング能力と組み合わせたAIは、意思決定の能力が変化し、制御を失うリスクが増大します – 私たちが今日認識している以上に。量子コンピューティングは、私たちの人間の脳のオペレーティングシステムを超えています。スーパーコンピューターは、私たちの人間の脳が行うことができる以上に、指数関数的に多くの計算をより迅速に、より正確に行うことができます。さらに、コンピューティングと組み合わせたAIの使用は、哲学的なジレンマを提起します。マシンに独自の意志を持たせることを世界が許可する時点はいつでしょうか。マシンが独自に思考することを許可する場合、それはマシンが自我を持つことを意味しますか。自我を持つことは生命を構成しますか。社会として、私たちはまだこの状況を定義する方法を決定していません。したがって、現在のところ、人間の介入なしにマシンが独自に行動する場合、結果を招く可能性があります。マシンは人間の介入を停止することができますか。マシンが独自に動作している場合、停止することができますか。私が見る限り、防衛の観点からAIを使用することは簡単です。しかし、攻撃に転用することはどれほど簡単でしょうか。攻撃の場合、マシンは現場で戦闘の意思決定を行うことになります。マシンが敵を攻撃することは、ジュネーブ条約や戦争法を違反することになりますか。私たちはこの分野に急速に進んでいます。世界は、AIと量子コンピューティングを戦闘で使用する場合、現在の法律を遵守する必要があることを認識する必要があります。DoDは、自律システムでAIを使用する際の立場を取り、常に意思決定プロセスに関与する人間がいることを述べています。人間が最終的な決定を下し、武器を発射するかどうかを決定します。これが私たちのルールですが、敵が別の道を選択し、AIを搭載したマシンに最終的な決定を下させる場合どうなるでしょうか。すると、マシンは、すでに人間よりも速く、賢く、正確なマシンが優位性を持つことになります。AIと顔認識を搭載したドローンを考えてみましょう。ドローンは、事前に決定されたターゲットがテロリストであると判断したため、独自の判断で攻撃します。誰が攻撃の責任を負うのでしょうか。偏った間違いがあった場合、責任者は誰でしょうか。AI/MLに組み込まれた偏見研究によると、マシンは人間よりも間違いを犯す可能性は低いとされています。しかし、研究はまた、人間の「教師」がマシンを教える際に、機械学習に偏見があることも示しています。DoDのAIの5つの倫理原則は、既存の偏見について言及し、「Departmentは、AI能力における予期せぬ偏見を最小限に抑えるための意図的な措置を講じる」と述べています。既存の研究から、顔認識アプリケーションの使用において、特に有色人種に対する偽陽性の偏見があることが分かっています。マシンを教えるコードを作成する人物が偏見を認識していない場合、偏見が存在する可能性があります。では、偏見を排除するにはどうすればよいのでしょうか。AIの出力は、入力の質によって決まります。したがって、制御が必要です。データの流れを制御する必要があります。開発者は、偏見を排除するためにコードを不断に書き直す必要があります。世界がテクノロジーの最良の利用法を定義するテクノロジー自体は、善も悪もありません。どのように使用するかが、最善の意図を持ちながらも間違った結果になる可能性があります。テクノロジーが人間の生活に影響を与える方法で進歩するにつれて、世界は適切な行動を定義するために協力する必要があります。AIアプリケーションから人間を除外する場合、引き金を引く前に停止する、その道徳的な羅針盤が私たちを導く、その停止が必要です。マシンは、人間の介入なしに独自に行動する場合、その停止はありません。したがって、質問は、世界がこのような状況を受け入れるかどうかです。世界は、どれほどマシンが戦闘の決定を下すことを許可するでしょうか。
