技術顧問團體推動五角大廈對人工智慧的使用限制

五角大廈已經明確表示將大量投資於人工智慧，聲稱人工智慧將使美國軍隊更加強大和有力，以應對可能的國家安全威脅。 根據Engadget的報導，在上週四，國防創新委員會提出了多項人工智慧在軍事領域使用的倫理指南。這些提案包括避免意外偏見和可控的人工智慧，具有緊急停止程序，以防止人工智慧造成不必要的傷害。

Wired報導說，國防創新委員會是由奧巴馬政府成立的，目的是為五角大廈提供技術業界的經驗和人才。該委員會目前由前谷歌CEO埃里克·施密特擔任主席。最近，該部門被任命為制定人工智慧在軍事項目中的倫理實施指南。上週四，委員會發佈了其指南和建議，以供審查。該報告指出，現在是討論人工智慧在軍事背景下的使用的合適時機，以免在發生嚴重事件之前被迫這樣做。

根據Artificial Intelligence News，一位前軍事官員最近表示，五角大廈在人工智慧的使用方面正在落後。五角大廈旨在彌補這個差距，並宣佈人工智慧在軍事領域的發展和擴張是一個國家優先事項。人工智慧倫理學家擔心，五角大廈在人工智慧領域的趨勢可能會導致人工智慧系統被用於不道德的方式。雖然各個獨立的人工智慧倫理委員會已經提出自己的建議，但國防創新委員會至少提出了五項原則，軍方在開發和實施人工智慧系統時應該始終遵循。

委員會提出的第一原則是，人類應該始終對任何在軍事背景下使用的人工智慧平台的使用、部署和結果負責。這與2012年的一項政策類似，該政策規定，人類應該始終是決策過程的一部分，特別是在可能使用致命武力的情況下。列表中還有其他原則，提供了諸如確保人工智慧系統始終由了解和充分記錄其程序的工程師構建等的一般性建議。另一個原則建議，軍事人工智慧系統應該始終被測試其可靠性。這些指南似乎是常識，但委員會希望強調其重要性。

列表中的其他原則涉及人工智慧算法的偏見控制和人工智慧系統的自動停用，以防止意外傷害。指南規定，如果不必要的傷害將發生，人工智慧應該能夠停用自己，並讓人類操作員接管。原則草案還建議，人工智慧的輸出應該是可追蹤的，以便分析師可以看到人工智慧做出決策的原因。

委員會提出的建議強調了兩個不同的想法。這些原則反映了人工智慧將是未來軍事行動的重要組成部分，但人工智慧在很大程度上仍然依賴於人類管理和決策。

雖然五角大廈不需要採用委員會的建議，但似乎五角大廈正在認真對待這些建議。 根據Wired的報導，聯合人工智慧中心主任，傑克·沙納漢中將，表示委員會的建議將幫助五角大廈“堅持最高的倫理標準，如國防部人工智慧戰略中概述的，並堅持美國軍隊在技術創新方面的嚴格測試和實施標準。”

整個技術業界仍然對在軍事硬件和軟件中使用人工智慧持謹慎態度。微軟和谷歌的員工都曾抗議過與軍事實體的合作，谷歌最近也決定不再續簽參與Project Maven的合同。許多CEO、科學家和工程師也 簽署了一份承諾 不參與 “開發、製造、貿易或使用致命自主武器”的承諾。如果五角大廈採用委員會的建議，可能會使技術業界更願意在項目上進行合作，雖然這需要時間來證明。ts，和工程師也簽署了一份承諾，不參與“開發、製造、貿易或使用致命自主武器”。如果五角大廈採用委員會的建議，可能會使技術業界更願意在項目上進行合作，雖然這需要時間來證明。