AGI 与未来 AI
AGI-22 会议亮点:通用人工智能的发展进展
要点会议研究人员如今认为,AGI的到来以年而非十年为单位来衡量。
查看更多
- 会议研究人员如今认为,AGI的到来以年而非十年为单位来衡量。
- 仅靠扩展神经网络无法克服通用智能的核心障碍。
- 进化学习或许能解决阻碍通用人工智能的悖论。
我最近参加了第15届通用人工智能会议(AGI-22),该会议于8月在西雅图举行,目的是为了熟悉可能导致通用人工智能(AGI)创造的新发展。
AGI是一种高级AI,可以跨多个领域泛化,并且其范围并不狭窄。狭窄AI的例子包括自主车辆、聊天机器人、国际象棋机器人或任何其他为单一目的而设计的AI。相比之下,AGI可以灵活地在任何上述领域或其他领域之间切换。它是一种推测性的AI类型,利用诸如迁移学习和进化学习等新兴算法,同时也利用诸如深度强化学习等传统算法。
在开幕主题演讲中,AI研究员Ben Goertzel, SingularityNET的CEO和创始人、OpenCog基金会的领导者发表了关于该行业现状的演讲。他似乎对AGI的未来方向持乐观态度,表示“我们距离实现AGI只有几年,而不是几十年”。这将意味着AGI可能在大约2029年推出,这也是世界领先的发明家、思想家和未来学家Ray Kurzweil预测AI达到人类智能水平的年份。
理论认为,一旦达到这种智能水平,AI将立即并持续自我改进,以迅速超过人类的智能,这被称为超智能。
另一位演讲者Charles J. Simon,Future AI的创始人和CEO,在一个单独的会议上表示,“AGI的出现将是渐进的”,“AGI是不可避免的,会比大多数人预想的更早到来,可能只需两三年”。
尽管存在乐观的情绪,但在这一领域仍然存在着重大的障碍。Ben Goertzel也承认,为了实现AGI,“我们需要新的想法,而不仅仅是扩大神经网络”。这是Gary Marcus也曾表达过的观点,他曾说过“深度学习已经遇到瓶颈”。
创建AGI的一些核心挑战包括设计一个奖励系统,使智能的扩展尽可能充分地以信息为依据。 莫拉维克悖论反映了当前技术下实现AGI的困难。这个悖论指出,对于一岁孩子来说很直观的适应性,如学习走路和模拟现实,为AI编写程序来实现这些能力,远比实现人类认为困难的任务更难。
对于人类来说,情况恰恰相反。掌握国际象棋或执行复杂的数学公式可能需要一生时间,但这些对于狭窄的AI来说是相对容易的任务。
解决这个悖论的一种可能方法是进化学习,也称为进化算法。这基本上使AI能够通过模拟生物进化的过程来搜索复杂的解决方案。
在一个单独的问答环节中,Ben Goertzel表示,“AGI并不是不可避免的,但其可能性很高”。这是我也得出的结论,但不可避免性和可能性之间的界限变得模糊。
在会议期间,提出了许多论文,其中一个值得注意的论文是多项式函子:交互的一般理论,由Topos研究所的David Spivak(加利福尼亚州伯克利)和华盛顿大学的Nelson Niu(华盛顿州西雅图)共同撰写。该论文讨论了一个称为Poly的数学范畴,它可能会影响AI在与动态过程、决策和数据存储及转换相关的密切联系方面的未来发展。目前尚不清楚这将如何影响AGI研究,但它可能是导致AGI的缺失组件之一。
当然,还有其他更具推测性的论文,例如Mohammadreza Alidoust的多样性-效率指数(VEI):AGI代理的综合IQ定义。该想法是构建一种衡量智能系统智能水平的替代方法,一种计算方式的IQ测试来衡量AGI代理。
可能在这一基础技术上取得突破的两家著名公司是OpenAI和DeepMind,它们在会议上都很显眼地缺席。可能是由于担心AGI没有被AI社区认真对待,但它们是最有可能在这一领域取得突破的两家公司。这尤其正确,因为OpenAI的既定使命是进行基础的、长期的研究,以创建一个安全的AGI。
尽管没有重大革命性的突破,但很明显AGI正占据着许多研究人员的注意力,这也是AI社区应该更加关注的东西。毕竟,AGI可能提供解决方案,应对威胁人类存续的多种危险。












