思想领袖

像人类一样思考:人工智能能否发展出类比推理?

mm
将 Unite.AI 添加到您在 Google 上的首选来源

当人类面临新事物时,会本能地寻找比较。一个学习原子的孩子可能会听到电子围绕原子核“像行星围绕太阳一样”旋转。一个企业家可能会将他们的初创公司描述为“宠物美容的优步”。一位科学家可能会告诉非专业人士,大脑处理信息“像计算机一样”。

这种精神飞跃——看到一件事物如何在其深层结构上与另一件事物相似——被称为类比推理。它可能是区分人类智慧和人工智能的关键因素。如果我们希望开发出真正的人工智能,我们必须弄清楚机器是否能够学习类比推理。如果答案是“否”,那么即使是最先进的人工智能系统也将永远只能是高级计算器。它们将无法解决需要更多数据处理的复杂问题。

理解的架构

类比推理在结构层面上发挥作用,而不是表面层面。例如,什么使得心脏和水泵相似?当然不是它们的外观。它们都执行相同的功能,即在系统中循环流体。这种能力使人类的学习、创造力和问题解决能力独一无二。

现实世界中有很多例子。奥古斯特·凯库勒,一位杰出的德国化学家,曾经通过一个梦境获得了关于苯的结构的提示,他梦见一条蛇咬住了自己的尾巴。今天,程序员在编写代码时会应用厨房组织的原则,教师会通过比较电流和水流来解释电流的原理。

然而,当前的人工智能系统却发现这种认知技能很难掌握。当被要求解释类比时,现代的大型语言模型(LLM)很乐意解释为什么“时间就是金钱”,或者完成语言推理谜题。但是,越来越多的证据表明,它们经常从事复杂的模式匹配,而不是真正的结构映射。当研究人员向这些模型提出新颖的类比问题时,它们的性能往往会大幅下降。这是因为LLM擅长复制以前见过的类比,但在被要求建立新联系时却会失败。

没有类比推理,就没有真正的人工智能

显然,类比推理是真正的人工智能的必要条件。如果没有它,人工智能系统将变得脆弱,无法将一个领域的知识应用于另一个领域。例如,想象一辆已经学会在加利福尼亚阳光明媚的街道上行驶的自动驾驶汽车,但无法将这种知识应用于雪地行驶。这种人工智能系统只是一个昂贵的模式匹配器,而不是真正的智能系统。真正的智能需要在不同情况下识别结构相似性的认知灵活性。

同样的原理也适用于其他领域。类比思维也推动了科学、医学诊断、法律推理和创造性事业的进步。没有这种能力的人工智能系统就像一位已经记住了整个图书馆但无法跨学科综合知识的学者。令人印象深刻,但仅限于狭窄的范围。

构建类比思维

那么,开发出能够像人类一样进行类比推理的人工智能系统需要什么?基于新兴研究和类比思维的基本性质,似乎有几个关键条件和技术是必要的。

结构丰富和多样的训练数据

第一个要求是人工智能系统需要在超越表面层次的文本模式的数据上进行训练。互联网是一个很好的起点,因为它有大量的科学论文、技术文档、创作作品和解释性内容。但是,并不是任何互联网数据都适用。所需的是结构多样性。换句话说,为了引导人工智能系统学习识别抽象模式,开发人员应该从训练的第一天开始就让它们接触到对比。它们的训练数据可以包括建筑蓝图和音乐曲谱、数学证明和诗歌、法律论证和烹饪配方。由于每个领域都包含不同类型的关系结构,一个潜在的人工智能系统将从这种训练中受益。

更重要的是,这些数据需要保留和突出结构关系,而不仅仅是统计相关性。知识图谱、因果图和显式映射的概念关系可以帮助人工智能系统学习“看到”结构,而不是机械地记忆关联。

超越训练集的测试

为了确保人工智能系统正在学习类比推理,而不是简单地提高模仿技能,我们需要工具来故意测试它们将结构映射到以前未遇到的情况的能力。这需要构建故意与训练数据不同的测试问题——所谓的“反事实”任务。

例如,不要要求人工智能完成标准类比,如“小狗与狗的关系就像小猫与_____的关系”,我们可以向它提出使用虚构概念的问题,或者要求它在以前从未见过的领域之间建立关系。它能否认识到食谱和食材之间的关系与证据和法律论证之间的关系相似,即使它以前从未遇到过这种特定的比较?这种测试将揭示系统是否真正理解了底层结构,还是只是回忆类似的例子。

衡量重要的指标

对于人工智能开发人员来说,好消息是,有几十年的认知科学研究专门研究人类如何处理类比。他们可以利用这些研究来开发类比推理的强大基准。然而,这些基准必须超越简单地计算类比测试的正确答案。真正需要的是能够捕捉人工智能系统是否能够识别哪些关系对于映射是相关的,同时忽略表面相似性并保持映射的一致性。

这可能涉及奖励识别高阶关系的评分系统。例如,一个人工智能系统将获得更高的分数,如果它不仅可以识别原子和太阳系都涉及轨道,还可以理解控制这些轨道的因果关系。另一个需要评估的能力是人工智能系统是否可以自发地生成类比来解释新概念,而不仅仅是完成预先结构化的类比问题。

通过提示进行支架构建

最近的研究表明,人工智能的类比推理能力在很大程度上取决于它被要求这样做的方式。类比提示——明确地引导模型通过结构映射的过程——可以比简单地提出问题更能引出更复杂的推理。这可能涉及首先要求系统在源领域中识别关系,然后明确要求它将这些关系映射到目标领域。

这种技术可以发挥双重作用:提高当前人工智能系统的类比推理能力,同时为未来的模型生成训练数据。通过记录成功的引导类比推理实例,可以创建能够教导后续系统更自然地进行这种过程的例子。

混合架构

实现类似人类的类比推理可能需要超越纯粹的神经网络方法。将模式识别与符号推理相结合的混合系统——显式地表示和操作结构关系——可能会提供缺失的部分。虽然神经网络擅长学习隐式模式,但符号系统可以强制结构一致性和逻辑映射,这是类比推理所要求的。

混合架构仍处于初期阶段,但研究人员正在积极探索其潜力。一些研究人员认为,将神经网络与可能带来增强类比能力的符号推理相结合是有前途的。其他人则提倡构建混合模型,以解决人工智能模型的肤浅类比推理问题。

下一步是什么?

根据你问谁,类比推理要么已经出现,要么人工智能只是变得更加擅长模仿。无论哪种观点更接近真相,很明显,如果要实现真正的人工智能的梦想,就需要比仅仅更大的模型或更多数据更有意义的创新。它还需要对我们如何构建、训练和评估人工智能系统进行一些基本的创新。

随着人工智能的变革能力展开,类比推理代表了人工智能性能的关键基准和人工智能当前能力与真正的人类认知之间差距的严峻提醒。当人工智能系统能够认识到民主与公民的关系就像管弦乐队与音乐家的关系一样——认识到深层结构关系、协调、代表和涌现和谐——而不仅仅是表面特征时,它将跨越真正智能的重要门槛。

超过 13 年,Gediminas Rickevicius 一直是全球领先的 IT、广告和物流公司的增长动力。他一直在改变传统的商业发展和销售方法,通过将大数据融入战略决策中。作为 Oxylabs 的全球合作伙伴高级副总裁,Gediminas 继续他的使命,赋予企业最先进的公共网络数据采集解决方案。