人工智能迈向通用人工智能（AGI）的道路：平衡的方法

随着通用人工智能（AGI）的快速发展，讨论从哲学辩论转向了实际应用，带来了巨大的机会来改变全球企业和人类潜力。

图灵的AGI Icons活动系列汇集了AI创新者讨论AGI解决方案的实际和负责的进展。7月24日，图灵在旧金山的SHACK15举办了我们的第二个AGI Icons活动，由The Information的财经专栏作家Anita Ramaswamy主持，我与Quora的CEO Adam D’Angelo讨论了AGI的发展道路，并分享了对开发时间表、实际应用和负责部署原则的见解。

从人工智能到AGI的道路

驱动AI研究的“北极星”是追求人类水平的“智能”。AGI与标准AI的区别在于其从狭隘功能向更广泛的通用性和性能的进步，甚至超过人类的能力。

这是“AGI之路”，其中AI进展到更自治的系统，具有更强的推理能力、增强的能力和改进的功能。这些进步被分为五个分类级别：

• 第0级： 无AI – 简单工具，如计算器
• 第1级： 新兴AGI – 当前的LLM，如ChatGPT
• 第2级： 能干的AGI – 能够匹配熟练成年人在特定任务上的AI系统
• 第3级： 专家AGI – 能够达到熟练成年人90百分位的AI系统
• 第4级： 杰出AGI – 能够达到99百分位的AI系统
• 第5级： 超人类AGI – 能够超过所有人类的AI系统

来源

在我们的讨论中，Adam将AGI定义为“能够做任何人类能做的事情的软件”。他设想了一个未来，AI能够自我改进，最后接管由机器学习研究人员处理的复杂任务。

进一步来说，我将我的AGI观点与“人工大脑”进行比较，人工大脑能够执行多种任务，如“机器翻译、复杂查询和编码”。这是AGI和更具预测性的AI以及之前的狭隘形式的ML之间的区别。它感觉像是一种涌现行为。

通往AGI的现实发展时间表

就像在公路旅行中一样，关于AGI的首要问题是，“我们已经到达了吗？”简短的答案是没有，但随着AI研究的加速，正确的问题是，“如何平衡AGI的雄心与现实的期望？”

Adam强调，AGI将通过自动化来转变人类的角色，而不是消除它们，从而带来更快的经济增长和更高效的生产力。“随着这项技术变得更加强大，我们将达到90%的人类当前工作被自动化的程度，但每个人都会转向其他事情。”

目前，世界经济的大部分被可用劳动力的数量所限制。一旦我们实现AGI，我们就可以以比今天更快的速度增长经济。

我们无法给出实现真正AGI的明确时间表，但Adam和我提到了几例AI进步为未来的AGI进步铺平了道路。例如，图灵的AI开发工具实验显示了开发者生产力的33%增加，暗示着更大的潜力。

AGI的实际应用和影响

AGI最有前途的应用之一在于软件开发领域。 大型语言模型（LLM），AGI的前身，已经被用于增强软件开发和提高代码质量。我认为这个AI时代更接近生物学而不是物理学，在那里所有类型的知识工作都将得到改进。 将会有更多的生产力从人类和为人类解锁。

我的观点来自经验，我见证了使用LLM和AI开发工具后个人生产力的10倍增长。我们还在图灵使用AI来评估技术人才并将合适的软件工程师和博士级领域专家与合适的工作匹配。

在LLM训练空间中，我看到的就是训练者利用这些模型来提高开发者生产力和加快项目时间表。通过自动化常规编码任务并提供智能代码建议，LLM使开发者能够专注于工作的更战略和创造性方面。

Adam总结道，“LLM不会编写所有代码，但了解软件基础仍然至关重要。计算器没有消除学习算术的必要性。”他补充说，“开发者在使用这些模型时变得更加有价值。LLM的存在对开发者工作是积极的，将会为开发者带来很多好处。”

我们正在进入软件开发的黄金时代，一个软件工程师可以做10倍多的工作，创造更多的价值，并造福世界。

技术和治理挑战

尽管AGI具有巨大的潜力，但必须解决挑战。强大的评估流程和监管框架是必要的，以平衡AGI创新与公共安全。

Adam强调了彻底测试和沙盒化的必要性，以限制最坏的情况。“你希望有一个强大的评估流程… 并使测试的分布尽可能接近实际使用。”

我同意。AGI进步的瓶颈现在是人类智慧，而不是计算能力或数据。人类专业知识对于微调和定制AI模型至关重要，这就是为什么图灵专注于寻找和匹配顶级技术专业人员以平衡模型与人类智慧的原因。

我们必须通过关注能力而不是流程、通用性和性能以及潜力来直接解决AGI挑战。

挑战的视角：改善人机交互

解决AGI挑战的一些最佳实践包括：

• 关注能力或“AGI可以做什么”，而不是流程或“它是如何做的”。
• 平衡通用性和性能作为AGI的基本组成部分。
• 关注认知/元认知任务和学习能力，而不是物理任务/输出。
• 通过其潜力和能力来衡量AGI。
• 关注生态有效性，通过使基准与人们重视的实际任务保持一致。
• 记住，AGI之路不是一个单一的终点，而是一个迭代的过程。

除了这些最佳实践，Adam和我强调了改善人机交互的重要性。Adam强调了学习如何和何时使用这些模型的价值，将它们视为强大的学习工具，可以快速教授任何编程子领域，同时强调了理解基础知识的重要性。

同样，我建议让每个人成为LLM的高级用户，可以显著提高各个领域的生产力和理解。LLM可以使复杂的信息对所有人都可访问，从而提高各个领域的生产力。但这需要采取分阶段的迭代方法：首先，AI副驾驶协助人类，然后转向具有人类监督的代理，最终在经过充分评估的任务中实现完全自治的代理。

通过这种方式，后期的区分是至关重要的，涉及监督微调（SFT）和利用人类智慧来构建自定义模型。能够寻找和匹配训练师、工程师和其他人员的公司将加速其微调和定制工程能力。与OpenAI和Anthropic等领先公司合作也是将这些模型应用于各个行业的关键。

负责的AGI开发原则

“AGI的开发必须是负责和合乎道德的，确保安全和透明，同时促进创新。” – Adam D’Angelo

负责的AGI开发需要遵循几个核心原则：

• 安全和保密：确保AGI系统是可靠的，并且不容易被滥用，特别是在模型扩展以适应新数据输入或算法时。
• 透明度：对AGI的能力、局限性和“工作原理”保持现实的态度。
• 道德考虑：解决公平、偏见以及AGI将如何影响就业和其他社会经济因素的问题。
• 监管：与政府和其他组织合作，制定平衡进步与公共安全的框架。
• 基准：未来的基准必须量化AGI的行为和能力，并将其与道德考虑和分类级别进行比较。

结论：聚焦于AGI之路，而不是单一终点

通往AGI的道路很复杂，但沿途的每个停靠点都对旅程很重要。通过了解AGI的迭代改进及其影响，人们和企业将能够负责地采用这项不断演变的技术。这是负责的AGI开发的核心，即现实世界的交互性告知我们如何在这个新前沿领域导航。