Alfred Crews, Jr., Vice President and Chief Counsel, Intelligence & Security, BAE Systems Inc. Alfred Crews, Jr. Vice President and Chief Counsel, Intelligence & Security, BAE Systems Inc.

先进的人工智能技术带来伦理挑战 – 思想领袖

作者：阿尔弗雷德·克鲁斯（Alfred Crews, Jr.），BAE Systems Inc. 智能与安全部门副总裁兼首席法律顾问今年早些时候，在全球大流行之前，我参加了查尔斯顿的西点军校情报伦理会议，我们讨论了情报收集中的伦理问题及其与保护国家安全的关系。在国防行业，我们正在见证知识、计算和先进技术的普及，特别是在人工智能（AI）和机器学习（ML）领域。然而，在情报收集或实时战斗的背景下部署AI可能会带来重大问题。人工智能与量子计算的风险我们必须质疑、分析并确定前进的道路，即使用人工智能与量子计算能力在战争决策过程中。例如，记得终结者吗？随着我们的技术取得飞跃式进步，斯凯网呈现的现实就在我们面前。我们可能会问自己，“斯凯网会来抓我们吗？”让我们一起回忆一下；人工智能机器因为能够独立思考和做出决定而接管了世界，没有人类来指挥它。当机器认为人类是错误时，它们就出发去摧毁人类。不要误会，我认为人工智能有很大的潜力，但我相信它必须有控制参数，因为它涉及风险因素。人工智能的伦理模糊性和哲学困境我认为这就是为什么美国国防部（DoD）发布了自己的《人工智能伦理原则》，因为人工智能的使用引发了新的伦理模糊性和风险。当人工智能与量子计算能力相结合时，决策能力就会改变，失去控制的风险就会增加——比我们今天意识到的要多。量子计算使我们的脑部操作系统相形见绌，因为超级计算机可以比人类大脑更快、更准确地进行计算。此外，人工智能与计算的结合提出了一个哲学困境。在什么时候，世界会允许机器有自己的意志；如果机器被允许独立思考，那么这是否意味着机器已经变得自我意识？自我意识是否构成了生命？作为一个社会，我们还没有确定如何定义这种情况。因此，目前，机器在没有人类控制的情况下采取行动可能会导致后果。机器是否会覆盖人类停止开火的干预？如果机器在独立运行，是否我们能够拔掉插头？在我看来，从防御角度使用人工智能很容易做到。然而，转向进攻会容易多少？在进攻中，机器将在现场做出战斗开火决定。机器开火击中敌人是否会违反日内瓦公约和武装冲突法？世界正在快速进入这个领域，我们必须同意，人工智能和量子计算在战斗中的使用必须遵守我们目前的法律。国防部在使用人工智能的自治系统时有一个立场，即总会有一个人参与决策过程；一个人会做出最终决定是否开火。然而，如果对手决定走另一条路，让人工智能机器做出所有最终决定怎么办？那么，机器已经比我们更快、更聪明、更准确了，就会占据优势。让我们看看装备了人工智能和面部识别的无人机：无人机会根据预先确定的目标标签自动开火。谁对开火真正负责？如果有偏见错误，是否有问责制？人工智能/机器学习中的偏见研究表明，机器不太可能犯错误，但研究也证明了机器学习中的偏见，这是由教机器的人类“老师”造成的。国防部的五项人工智能伦理原则提到了现有的偏见，当它指出“该部门将采取刻意的步骤来最小化人工智能能力中的无意偏见”。我们已经知道，通过证明的研究，在面部识别应用中，对有色人种有偏见，会产生假阳性。当一个人创建代码来教机器如何做出决定时，就会有偏见。这种偏见可能是无意的，因为创建人工智能的人可能没有意识到自己内在的偏见。那么，如何消除偏见呢？人工智能的输出只有输入的好。因此，必须有控制。您必须控制流入的数据，因为这可能会使人工智能的结果变得不那么有效。开发人员将不断地重写代码以消除偏见。世界定义技术的最佳使用技术本身并不是好也不是坏。关键在于一个国家如何使用它，这可能会使最好的意图变成错误。如果技术以影响人类生活的方式发展，世界必须共同努力来定义适当的行动。如果我们在人工智能应用中排除人类因素，我们也排除了那一刻的犹豫——那道引导我们的道德罗盘；那一刻我们停下来并质疑，“这是正确的吗？”一台被教导去参与的机器不会有那一刻的犹豫。因此，问题是，未来世界是否会容忍这种情况？世界将走多远来允许机器做出战斗决定？