人工智能可以通过新的算法避免特定的不想要的行为

随着人工智能算法和系统变得更加复杂和承担更大的责任，确保人工智能系统避免危险和不想要的行为变得更加重要。最近，来自马萨诸塞大学阿默斯特分校和斯坦福大学的一组研究人员发表了一篇论文，展示了如何通过使用一种可以生成精确的数学指令来调整人工智能行为的技术来避免特定的人工智能行为。

根据TechXplore的报道，这项研究是基于这样的假设：不公平/不安全的行为可以用数学函数和变量来定义。如果这是真的，那么研究人员应该能够训练系统来避免这些特定的行为。研究团队旨在开发一个工具包，可以被人工智能的用户使用来指定他们想要人工智能避免的行为，并使人工智能工程师能够可靠地训练一个系统，在现实世界中使用时会避免不想要的行为。

菲利普·托马斯（Phillip Thomas），论文的第一作者和密歇根大学阿默斯特分校的计算机科学助理教授，解释说，研究团队的目标是证明机器学习算法的设计者可以使人工智能的使用者更容易描述不想要的行为，并使人工智能系统避免这种行为的可能性很高。

研究团队通过将他们的技术应用于数据科学中一个常见的问题——性别偏见来测试他们的技术。研究团队旨在通过减少性别偏见使用于预测大学生GPA的算法更加公平。研究团队使用了一个实验数据集，并指示他们的人工智能系统避免创建对一个性别的GPA进行系统性低估或高估的模型。结果，算法创建了一个更好地预测学生GPA并且具有比以前模型更少的系统性性别偏见的模型。以前的GPA预测模型由于偏见减少模型的局限性或根本没有使用偏见减少而受到偏见的影响。

研究团队还开发了另一个算法，这个算法被应用于自动胰岛素泵中，算法的目的是平衡性能和安全性。自动胰岛素泵需要决定给患者多少胰岛素的剂量。在进食后，泵将理想地提供足够的胰岛素来保持血糖水平。提供的胰岛素剂量不能太大或太小。

机器学习算法已经擅长于识别个体对胰岛素剂量的反应，但现有的分析方法不能让医生指定应该避免的结果，例如低血糖崩溃。相比之下，研究团队能够开发一种可以被训练来提供保持在两极之间的胰岛素剂量的方法，防止过量或不足。虽然该系统尚未准备好在真正的患者中进行测试，但基于这种方法的更复杂的人工智能可能会改善糖尿病患者的生活质量。

在研究论文中，研究人员将算法称为“塞勒多尼亚”算法。这是指科幻作家艾萨克·阿西莫夫描述的机器人三大定律。暗示是人工智能系统“不得伤害人类，或通过不作为允许人类受到伤害”。研究团队希望他们的框架将使人工智能研究人员和工程师能够创建各种算法和系统，这些算法和系统避免危险的行为。斯坦福大学计算机科学助理教授、论文的高级作者艾玛·布伦斯基尔（Emma Brunskill）向TechXplore解释道：

“我们希望推进尊重人类用户价值并证明我们对自主系统的信任的AI。”