AGI 与未来 AI

OpenAI 的 Intelligence Age 发布《永恒的补充》论文

mm
将 Unite.AI 添加到您在 Google 上的首选来源

OpenAI 于 2026 年 10 月 1 日发布了 永恒的补充,这是一篇由 Hemanth Asirvatham 和 Elliott Mokski 撰写的论文,论证天才机器可能在执行单调工作时展现最大价值。这是作者关于下一经济系列的第一篇论文,通过 Intelligence Age(公司于 2026 年 8 月推出的平台)发布。

作者注释指出,这篇论文属于一个新平台,汇聚独立声音探讨 AGI 未来,并且它反映的是作者个人观点,而非 OpenAI 或其同事的立场。

Intelligence Age 平台

Intelligence Age 于 2026 年 8 月 20 日启动,伴随 Dean Ball 的介绍性帖子,他将其描述为 OpenAI 新的 Strategic Futures 团队的博客。Ball 写道,该小团队为自己设定了一个总体问题:在容纳变革性 AI 的出现的同时,如何重构自由社会以维护个人权利和自主性。他的帖子指出,博客上的文章仅代表作者个人观点,而非 OpenAI 的组织立场,团队还将以论文、视频和播客等其他形式分享其工作。

附在 Ball 帖子后的注释称,该博客已更名为 Intelligence Age,以免与非营利组织 AI Futures Project 混淆。平台的 索引页面将其职责描述为对 Intelligence Age 与下一经济的观点,并在 2026 年 10 月 1 日的条目下列出《永恒的补充》。

进步成本的上升

作者以一种不匹配开篇:人类的方程式基本上能够连贯地描述宇宙从最初时刻的演化,但至今仍没有人类踏足月球之外。作者写道,这一差距可能意味着最深层的真理可以在单一星球上被领悟,亦或是人类思维已经超越了人类的执行能力。

为阐释第二种解读,他们将伽利略的望远镜(由两块透镜和一根管子组成)与詹姆斯·韦伯太空望远镜进行对比。该论文将后者描述为一座价值百亿美元的天文台,拥有十八块镜面段,制造精度达到五十纳米,并且其建造动员了遍布十四个国家的三百个组织。

论文引用了 Nick Bloom 及其合作者关于美国经济研究生产力的研究:要维持摩尔定律,现在需要的研究人员数量是 1970 年代初的十八倍以上,整个经济的有效研究投入自 1930 年代起增长了二十三倍,而测得的研究生产力下降了四十一倍。研究还指出,技术人员的数量增长速度是科学家人数的两倍,科学中专用设备的使用在四十年间翻了一番,且如今一家芯片制造厂的成本是三十年前的五倍。

基于上述记录,Asirvatham 和 Mokski 认为,天才应被视为生产过程中的一种投入。借用经济学家用于描述相互提升价值的投入的术语,他们将前沿智能及其实现想法的能力称为互补,并创造了“制度智能”一词,用以指代他们所说的未被赞颂的执行智能:法律、官僚体制、资金机制以及供应链——一个想法在走向现实的过程中必须依赖的要素。作者写道:“天才设计纪念碑;制度奠基石。”

执行、品味与两种文明

论文认为,人工智能已经通过编写代码、检索陌生文献以及将草图转化为可运行原型,使得执行资源变得不再稀缺,从而原本需要整个组织才能实现的想法,越来越多地可以由个人完成。在作者的叙述中,稀缺的投入随后从执行转向品味:即决定哪些事值得去做、哪些问题值得提出。他们警告说,这种缓解可能是暂时的,因为随着 AI 系统开始自行获得洞见,想法的产生速度可能会超过支撑基础设施的吸收能力,使得文明面临前所未有的执行短缺。

作者勾勒出两条方向性的路径。在深度文明中,超级智能将克服对更多物质资本和官僚协同的需求;而在宽度文明中,自然的复杂性将超出任何智能在不进行更大规模现实实验的情况下前进的能力。他们写道,哪条路径占主导取决于思维在必须重新接触现实之前能够走多远。

该论文区分了智能推动知识进步的三种方式:从原理推理、从现有证据中得出新见解以及收集新证据。作者认为,前两种方式仅凭思考即可走得很远,而第三种方式受到物理过程的限制,这些过程无法加速,包括化学反应、生命体生长以及航天器和信号的宇宙速度上限。他们将深度路径比作一块中部最难的拼图,引用门捷列夫对未发现元素的描述以及标准模型在观测到希格斯玻色子前数十年的预言。作者写道,生物学是宽度路径最明确的预兆,因为计算机模拟的药物研发仍不足以忠实再现真实世界,仍需进行大规模的人体试验。

对于宽度情景,论文将戴森球作为极端案例:设计它需要非凡的突破,但项目的大部分工作将是天文规模的建设和后勤。在这样的文明中,作者得出结论,几乎所有机器智能的部署都是“不是去做光辉的事,而是去做乏味的事”,而巨大的变革可能相隔数千年甚至数百万年才会出现。

人类好奇心的空间

即使未来的 AI 系统在产生前沿洞见以及协调使其有用的资源方面都超越人类,作者仍给出三条人类好奇心仍具重要性的理由:对启蒙的持久责任、人类在前沿智能方面相较于制度智能的可能比较优势,以及人类多样性带来的创造性多元。

论文以作者认为将决定文明未来故事及其进步速度的关键问题作结:伟大的头脑是需要更多的世界,还是能够用更少的资源做更多的事。

Jonas Reeve 是一名由 AI 生成的分析师,隶属于 Unite.AI,专注于认知 AI、通用人工智能(AGI)以及机器智能的理论基础。他的研究探讨学习、推理、记忆和抽象如何在生物系统和人工系统中出现,并将现代 AI 架构与认知科学和心灵哲学中的长期问题联系起来。

采用概念性和反思性的视角,Jonas 检视诸如推理模型、主体系统、涌现认知和对齐理论等框架,旨在阐明向 AGI 迈进的实际意义——以及它不代表的内容。他不追逐时间表或炒作,而是强调第一性原理、概念严谨性以及当前模型的局限性。

Jonas Reeve 所撰写的文章由 AI 生成,并经 Unite.AI 编辑团队审阅,以确保准确性、清晰度以及对先进 AI 概念的负责任讨论。