国防総省のAIの使用を制限するテクノロジー諮問グループ

国防総省は、人工知能（AI）に多大な投資を行う意向を明らかにしており、AIは米国軍をより強力で堅牢なものにして、国家安全保障上の脅威に対処できるようにすると述べている。 Engadgetによると、先週木曜日、国防イノベーション委員会は、軍事用AIの使用に関する倫理ガイドラインの提案を発表した。この提案には、予期せぬ偏見を避けるための戦略や、緊急停止手順を備えた管理可能なAIの開発が含まれている。

Wiredによると、国防イノベーション委員会は、オバマ政権によって設立され、国防総省がテクノロジー業界の経験と才能を獲得することを支援するために設立された。委員会は現在、元Google CEOのエリック・シュミットが議長を務めている。国防総省は最近、軍事プロジェクトでのAIの倫理的な実装に関するガイドラインを確立するよう依頼された。木曜日、委員会はそのガイドラインと推奨事項を発表した。報告書では、軍事用AIの使用について真剣に議論する時期は今であり、重大な事件が発生してしまった後に議論するよりも今議論するべきであると述べられている。

Artificial Intelligence Newsによると、最近、元軍事将校は、国防総省がAIの使用において後れを取っていると述べた。国防総省はこの差を埋めようとしており、軍事用AIの開発と拡大を国家優先事項に指定している。AI倫理学者は、国防総省がAIのリーダーになるために急いでいることで、AIシステムが非倫理的な方法で使用される可能性があると懸念している。独立したAI倫理委員会が独自の提案を行ったが、国防イノベーション委員会は、軍事用AIシステムの開発と実装において常に遵守すべき5つの原則を提案している。

委員会が提案した最初の原則は、軍事用AIプラットフォームの使用、展開、結果については、常に人間が責任を負うべきであるというものである。これは、2012年の政策と似ており、致死的な力が使用される可能性がある場合、人間が最終的に意思決定プロセスの一部となるべきであると規定していた。リストには、エンジニアがプログラムを理解し、十分に文書化するようにすることの重要性を強調する一般的なアドバイスが含まれている。他の原則は、AIシステムの信頼性をテストすることの重要性を強調している。これらのガイドラインは、当たり前のことのように思えるが、委員会はその重要性を強調したいと思っている。

リストにある他の原則は、AIアルゴリズムの偏見を制御し、予期せぬ損害が発生する可能性がある場合にAIが自動的に解除されるようにすることに関係している。ガイドラインでは、予期せぬ損害が発生する場合、AIは自ら解除し、人間のオペレーターが引き継ぐべきであると規定している。原則の草案では、AIの出力が追跡可能で、分析者がAIが特定の決定に至った理由を確認できるようにすることも推奨している。

委員会が推進した推奨事項は、2つの異なる考え方を反映している。原則は、AIが将来の軍事作戦において不可欠になるという事実を反映しているが、多くのAIは依然として人間の管理と意思決定に依存していることも反映している。

国防総省は委員会の勧告を採用する必要はないが、委員会の勧告を真剣に受け止めているようだ。 Wiredによると、合同人工知能センターのディレクターであるジャック・シャナハン中将は、委員会の勧告は、国防総省が「国防総省のAI戦略で概説されている最高の倫理基準を維持するのを助け、米軍の技術革新に対する厳格なテストと導入基準の強い歴史を活用する」と述べた。

テクノロジー業界全体は、軍事用ハードウェアとソフトウェアの開発にAIを使用することについて懸念を抱えている。Microsoft (MSFT ) とGoogleの従業員は、軍事組織との協力に抗議し、Googleは最近、Project Mavenへの貢献を終了することを決定した。多くのCEO、科学者、エンジニアは、 誓約書に署名し、 「致死的な自律型兵器の開発、製造、取引、または使用に参加したり支援したりしない」と約束した。委員会が提案したガイドラインを国防総省が採用する場合、テクノロジー業界がプロジェクトに協力する意欲が高まる可能性があるが、時間が解決するだろう。