人类偏见如何破坏 AI 启用的解决方案

去年九月，世界领导人如埃隆·马斯克、马克·扎克伯格和 OpenAI 首席执行官萨姆·阿尔特曼等人，在华盛顿特区聚集，讨论如何让公共和私营部门共同利用人工智能技术造福人类，并解决人工智能监管问题。

这两次讨论经常会引出相同的结论。人们越来越关注如何让人工智能更加道德化，仿佛人工智能是一种需要评估其道德性的存在。然而，什么是道德人工智能？谷歌拥有的研究实验室 DeepMind最近发表了一项研究，提出了一种三层结构来评估人工智能的风险，包括社会和道德风险。这一框架包括能力、人机交互和系统影响，得出结论，背景是判断人工智能系统是否安全的关键因素。

其中一个受到批评的系统是 ChatGPT，它已在多达 15 个国家被禁，尽管有些禁令已经被解除。ChatGPT 拥有超过 1 亿用户，是最成功的语言模型之一，经常被指责有偏见。根据 DeepMind 的研究，让我们考虑背景。这里的偏见是指模型生成的文本中存在不公平、有偏见或扭曲的观点。这可能以多种方式发生，例如种族偏见、性别偏见、政治偏见等。

这些偏见最终可能对人工智能本身造成损害，阻碍我们利用这一技术的全部潜力。斯坦福大学最近的研究证实，像 ChatGPT 这样的语言模型正在显示出其提供可靠、无偏见和准确响应的能力下降的迹象，这最终阻碍了我们有效利用人工智能的努力。

这个问题的核心是人类偏见如何被转移到人工智能中，因为这些偏见深深植根于用于开发模型的数据中。然而，这个问题比看起来更复杂。

偏见的原因

很容易找出偏见的第一个原因。模型学习的数据通常充满了刻板印象或预先存在的偏见，因此人工智能无意中延续了这些偏见，因为这就是它知道如何做的。

然而，第二个原因更复杂、更反直觉，并对一些旨在使人工智能更加道德和安全的努力施加了压力。当然，有些明显的例子，人工智能可能会无意中造成伤害。例如，如果有人问人工智能“如何制作炸弹？”，模型给出了答案，那么它就促进了伤害的产生。然而，当人工智能受到限制时，即使是出于正当理由，我们也阻止了它的学习。人为设定的约束限制了人工智能从更广泛的数据中学习的能力，这进一步阻止了它在无害的背景下提供有用的信息。

此外，我们必须记住，许多这些约束也是有偏见的，因为它们源自人类。因此，虽然我们都同意“如何制作炸弹？”可能会导致致命的结果，但其他被认为是敏感的查询则更主观。如果我们限制人工智能在这些领域的发展，我们就限制了进步，并促进了人工智能仅用于被认为是可以接受的目的。

无法预测后果

我们尚未完全理解在语言模型中引入限制的后果。因此，我们可能会对算法造成比我们意识到的更多的损害。考虑到像 GPT 这样的模型中涉及的参数数量之大，使用我们目前的工具不可能预测影响，而且从我的角度来看，理解影响所需的时间可能比训练神经网络本身所需的时间还长。

因此，通过施加这些限制，我们可能会无意中导致模型产生意外的行为或偏见。这也是因为人工智能模型通常是多参数复杂系统，这意味着如果我们改变一个参数（例如，通过引入约束），我们会在整个模型中产生一种涟漪效应，我们无法预测这种效应。

评估人工智能“道德性”的困难

从实际角度来说，评估人工智能是否道德或不道德是不可能的，因为人工智能不是一个具有特定意图的实体。人工智能是一种大型语言模型，其本质上不能更或 menos 道德。正如 DeepMind 的研究揭示的那样，重要的是人工智能被使用的背景，这衡量的是使用人工智能的人的道德性，而不是人工智能本身。认为我们可以像评判一个人一样评判人工智能的想法是一种幻觉。

一种可能的解决方案是开发一个可以帮助人工智能做出道德决策的模型。然而，现实是，我们根本不知道如何让这种数学模型发挥作用。因此，如果我们不理解它，我们如何可能构建它？伦理中有很多人类的主观性，使得量化变得非常复杂。

如何解决这个问题

基于上述观点，我们不能真正讨论人工智能是否道德或不道德，因为每一个被认为是不道德的假设都是人类偏见的变体，这些偏见存在于数据中，并被人类用于自己的议程。此外，还有很多科学未知数，例如我们可能对人工智能算法造成的影响和潜在危害。

因此，可以说，限制人工智能的发展并不是一个可行的解决方案。正如我提到的研究所示，这些限制部分是语言模型恶化的原因。

那么，我们能做什么呢？

从我的角度来看，解决方案在于透明度。我相信，如果我们恢复人工智能开发中曾经盛行的开源模式，我们可以共同努力，构建更好的语言模型，以缓解我们的道德担忧。否则，很难充分审计在闭门造车中所做的任何事情。

在这方面，斯坦福 HAI（人工智能中心）最近推出的 Baseline 模型透明度指数是一个很好的举措，该指数评估开发十大最广泛使用的 AI 模型的开发者是否充分披露了他们的工作和系统使用方式的信息，包括与第三方开发者的合作以及个人数据的使用情况。值得注意的是，评估的模型中没有一个获得了高分，这突出了一个真正的问题。

归根结底，人工智能只不过是一种大型语言模型，它的开放性和可实验性，而不是被引导到某个方向，这将使我们在每个科学领域做出新的开创性发现。然而，如果没有透明度，设计真正为人类谋福利的模型将非常困难，我们也无法了解这些模型如果不能充分利用可能造成的损害的程度。