书评

评论:理查德·H·R·哈珀的《思维形态:人工智能时代的推理》

mm

理查德·H·R·哈珀的《思维形态:人工智能时代的推理》并不是对通用人工智能的另一种推测性预测,也不是对机器学习架构的技术性解释。这是一种基于人类的、扎根于现实的对我们如何误解人工智能的考察,因为我们期望它像我们一样思考。哈珀挑战了当今系统拥有某种形式的涌现式智能的主流叙事。相反,他认为大型语言模型和其他生成工具最好被理解为非常精细的“词汇几何引擎”——强大,但在目的上基本狭隘。

这本书的特点是哈珀坚持认为,智能不能孤立地被评估。它必须始终在使用的背景下、系统运行的环境中以及它支持的人类目的中被考虑。哈珀认为,推理不是一个可以被复制的抽象谜题;它与人类事务的更广泛地理密不可分。人工智能系统可能会产生流利的响应,但流利并不是思考。它们的操作仍然基于统计关联,而不是理解。

人类推理:一种情境活动

这本书首先重新定义了什么是推理。对于哈珀来说,推理深深植根于人类经验中——社会的、文化的和情境的。它受到意图、历史和决策所处的生活背景的影响。机器则通过表示法运作:标记、嵌入、模式和概率。它们可以模仿推理的表面而不共享其基础。

哈珀警告说,当我们将推理从其人类背景中剥离并将其简化为计算输出时,我们会误解这些系统真正能实现什么。这一误解不仅仅是学术性的;它对设计选择、政策框架、工作场所部署和公众期望都有真正的影响。

理解当今的狭义人工智能系统

这本书的一个中心主题是哈珀将当代人工智能重新归类为狭义人工智能(Narrow AI)。尽管它们具有多功能性,现代人工智能模型都是为特定的模式操作而优化的。它们不具备普遍的理解、意识或类似人类的能动性。哈珀的“词汇几何”框架强调了这种区别:这些系统擅长于在多维语言空间中排列和生成文本,但它们不像人类那样对世界进行推理。

这一论点反对了这样一种假设:大型语言模型仅仅因为能够生成合理的答案就接近智能。相反,哈珀敦促读者认识到这些工具生成的是词语的配置,而不是见解。它们的能力在于相关性,而不是认知。

情境:智能的真正衡量标准

哈珀最强有力的贡献之一是他将智能争论重新定位,远离基于测试的基准。他认为,智能应该相对于系统使用的背景来判断。一个模型可能在抽象任务中表现出色,但当放入现实世界环境中,人类依赖于细微差别、情境意识和生活经验时,就会失败。

这种情境方法重新定义了组织如何评估人工智能。性能指标变得次于以下问题:

  • 要解决什么任务?
  • 谁在使用这个系统?
  • 什么样的价值观、约束或社会动态塑造了环境?

通过将注意力从人工测试转移到现实的人类地理,哈珀将讨论带回了推理真正存在的地方。

重新调整我们与人工智能的关系

这本书中反复出现的一个类比尤其难忘:我们不应该将人工智能视为一种类似人类的智能,而应该像人类历史上与工作动物(如马、骆驼等)相处一样对待人工智能。这些动物是有价值的工具,是人类能力的强大扩展,但从来没有被误认为是思想的同伴。

将这种类比应用于人工智能,它不是贬低,而是阐明。它有助于设定适当的界限和期望。一个工具可以是非凡的而不需要是智能的。它可以改变工作而不复制思维的本质。哈珀鼓励我们以这种校准的思维方式设计、监管和使用人工智能系统,抵制将其拟人化的诱惑。

对人工智能话语的独特贡献

使这本书特别有价值的是它明显地偏离了当前主导人工智能对话的观点。许多当前的讨论集中在两个极端:一种是相信人工智能正在迅速接近人类级别的认知,另一种是害怕它是一个空洞的模仿,注定会误导或故障。哈珀将自己置于这两种叙事之外。他承认当代系统的显著能力,同时拒绝了这些能力等同于真正智能的假设。通过这样做,他提供了一条中间道路——既不Alarmist也不乌托邦——更好地反映了人工智能在现实人类环境中的实际功能。

这种基础使哈珀的工作与其他有影响力的观点进行了积极的对话。虽然一些研究人员将智能视为规模的涌现特性,其他人则强调对齐、安全或形式验证,但哈珀添加了不同的东西:一个人类背景的视角。他认为,智能不能简化为模型性能或基准分数;它必须与其设置、目的和融入日常生活相关地被评估。这种贡献通过重新集中在社会实践、设计和文化意义上——这些往往被技术辩论所掩盖——扩展了人工智能思维的生态系统。

对于人工智能开发的未来,影响是显著的。哈珀的框架推动工程师、设计师和政策制定者重新考虑如何构建和部署系统。如果推理不是一种从计算能力中自动涌现的特征,而是根植于情境,那么未来的人工智能系统必须以对用例、环境和人类工作流程的更深入的敏感性来设计。他的观点鼓励开发者思考如何构建能够和谐地融入人类推理过程的工具,而不是复制人类认知。它预示着一种转变:从模仿到增强,从关注速度、准确性或规模转向设计方法,认真对待社会嵌入。

在这种意义上,《思维形态:人工智能时代的推理》不仅仅是对现状的批判;它是下一代人工智能系统可能被构想的蓝图——扎根于现实、情境化并与人类思维的现实相一致,而不是抽象的机器智能幻想。

安托万是一位具有远见的领导者和Unite.AI的创始合伙人,他被对塑造和推广AI和机器人人的未来充满不动摇的热情所驱动。作为一位连续创业者,他相信AI将对社会产生与电力一样的颠覆性影响,他经常被听到对颠覆性技术和AGI的潜力大加赞赏。

作为一位未来学家,他致力于探索这些创新将如何塑造我们的世界。另外,他也是Securities.io的创始人,这是一个专注于投资于重新定义未来和重塑整个行业的尖端技术的平台。