思想领袖
像人类一样思考:人工智能能发展出类比推理能力吗?

当人类面临新事物时,会本能地寻找比较。一个学习原子的孩子可能会听到电子围绕原子核“像行星围绕太阳一样”旋转。一个企业家可能会将他们的初创公司描述为“宠物美容界的优步”。一位科学家可能会告诉非专业人士,大脑处理信息“像计算机一样”。
这种精神飞跃——看到一件事物如何在其深层结构上与另一件事物相似——被称为类比推理。它可能正是当前区分人类智能与人工智能的要素。如果我们希望有朝一日开发出通用人工智能(AGI)——这一迄今仍未实现的人工智能圣杯——就必须弄清楚,机器究竟能否学会类比思考。这一问题的重要性无以复加。如果答案是“否”,那么即便最先进的人工智能系统,也将永远只是徒有其表的高级计算器。对于需要超越重新组合训练数据才能解决的问题,它们将无能为力。
理解的架构
类比推理在结构层面上发挥作用,而不是表面层面。例如,什么使得心脏和水泵相似?当然不是它们的外观。它们都执行相同的功能,即在系统中循环流体。正是这种将某一情境中的典型关系映射到另一情境的能力,使人类的学习、创造力和问题解决能力独一无二。
现实世界中有很多例子。奥古斯特·凯库勒,一位杰出的德国化学家,曾经通过一个梦见蛇咬住自己尾巴的梦境获得了关于苯的结构的提示。今天,程序员在编写代码时会应用厨房组织的原则,教师会将电流比作管道中的水流来加以解释。
然而,当前的人工智能系统却发现这种认知技能很难掌握。当被要求解释类比时,现代的大型语言模型(LLM)很乐意解释为什么“时间就是金钱”,或者完成语言推理谜题。但是,越来越多的证据提示,它们经常从事复杂的模式匹配,而不是真正的结构映射。当研究人员向这些模型提出偏离其训练数据的新颖类比问题时,它们的性能往往会大幅下降。这是因为LLM擅长复制以前见过的类比,但在被要求建立新联系时却会失败。
没有类比推理,就没有AGI
显然,类比推理是不可或缺的条件,AGI离不开它。如果没有它,人工智能系统将变得脆弱,无法将一个领域的知识应用于另一个领域。例如,想象一辆已经学会在加利福尼亚阳光明媚的街道上行驶的自动驾驶汽车,但无法将这种知识应用于雪地行驶。这种人工智能系统只是一个昂贵的模式匹配器,而不是真正的智能系统。真正的智能需要认知灵活性:即使具体细节不同,也能认识到冰面行驶与其他湿滑路面情境在结构上是可以类比的。
同样的原理也适用于其他领域。类比思维也推动了科学、医学诊断、法律推理和创造性事业的进步。没有这种能力的人工智能系统就像一位已经记住了整个图书馆但无法跨学科综合知识的学者。令人印象深刻,但仅限于狭窄的范围。
构建类比思维
那么,开发出能够像人类一样进行类比推理的人工智能系统需要什么?基于新兴研究和类比思维的基本性质,似乎有几个关键条件和技术是必要的。
结构丰富和多样的训练数据
第一个要求是人工智能系统需要在超越表面层次的文本模式的数据上进行训练。互联网是一个很好的起点,因为它有大量的科学论文、技术文档、创作作品和解释性内容。但是,并不是任何互联网数据都适用。所需的是结构多样性。换句话说,为了引导人工智能系统学习识别抽象模式,开发人员应该从训练的第一天开始就让它们接触到对比。它们的训练数据可以包括建筑蓝图和音乐曲谱、数学证明和诗歌、法律论证和烹饪配方。由于每个领域都包含不同类型的关系结构,未来的AGI可以从这类练习中受益。
更重要的是,这些数据需要保留和突出结构关系,而不仅仅是统计相关性。知识图谱、因果图和明确映射的概念间关系,可以帮助人工智能系统学习“看到”结构,而不是机械地记忆关联。可以将其理解为:不仅教人工智能事物是什么,还要教它们依照什么原则相互关联。
超越训练集的测试
为了确保人工智能系统正在学习类比推理,而不是简单地提高模仿技能,我们需要工具来故意测试它们将结构映射到以前未遇到的情况的能力。这需要构建故意与训练数据不同的测试问题——研究人员所称的“反事实”任务。
例如,不要要求人工智能完成标准类比,如“小狗与狗的关系就像小猫与_____的关系”,我们可以向它提出使用虚构概念的问题,或者要求它在以前从未见过彼此相连的领域之间映射关系。它能否认识到食材和食谱之间的关系与证据和法律论证之间的关系相似,即使它以前从未遇到过这种特定的比较?这种测试将揭示系统是否真正理解了底层结构,还是只是回忆类似的例子。
衡量重要的指标
对于人工智能开发人员来说,好消息是,有几十年的认知科学研究专门研究人类如何处理类比。他们可以利用这些研究来开发类比推理的强大基准。然而,这些基准必须超越简单地计算类比测试的正确答案。真正需要的是这样的指标:它们能够反映人工智能系统是否能识别值得映射的关系,同时忽略表面相似性,并在各个映射之间保持一致。
这可能涉及奖励识别高阶关系的评分系统。例如,一个人工智能系统将获得更高的分数,如果它不仅可以识别原子和太阳系都涉及轨道,还可以理解控制这些轨道的因果关系。另一个需要评估的能力是人工智能系统是否可以自发地生成类比来解释新概念,而不仅仅是完成预先结构化的类比问题。
通过提示进行支架构建
最近的研究提示,人工智能的类比推理能力在很大程度上取决于它被要求这样做的方式。类比提示——明确引导模型完成结构映射过程——可以比毫无引导地直接提出问题引出更复杂的推理。这可能涉及首先要求系统在源领域中识别关系,然后明确要求它将这些关系映射到目标领域。
这种技术可以发挥双重作用:提高当前人工智能系统的类比推理能力,同时为未来的模型生成训练数据。通过记录成功的引导类比推理实例,可以创建能够教导后续系统更自然地进行这种过程的例子。
混合架构
实现类似人类的类比推理可能需要超越纯粹的神经网络方法。将模式识别与符号推理相结合的混合系统——显式地表示和操作结构关系——可能会提供缺失的部分。虽然神经网络擅长学习隐式模式,但符号系统可以强制结构一致性和逻辑映射,这是类比推理所要求的。
混合架构仍处于初期阶段,但研究人员正在积极探索其潜力。例如,一些研究人员主张将神经网络与符号推理相结合,这或许能增强类比能力。另一些研究人员则提倡构建混合模型,以应对人工智能模型编造信息和类比推理流于表面的倾向。
下一步是什么?
根据你问谁,类比推理要么已经出现,要么人工智能只是变得更加擅长模仿。无论哪种观点更接近真相,很明显,如果要实现AGI的梦想,就不能仅靠更大的模型或更多的数据。它还需要对我们如何构建、训练和评估人工智能系统进行一些基本的创新。
随着人工智能的变革能力展开,类比推理代表了人工智能性能的关键基准和人工智能当前能力与真正的人类认知之间差距的清醒提醒。当人工智能系统能够认识到民主与公民的关系就像管弦乐队与音乐家的关系一样——认识到协调、代表性与涌现的和谐所体现的深层结构关系——而不仅仅是表面特征时,它将跨越真正智能的重要门槛。












