专家利用大脑机制克服人工智能技术的重大障碍

来自不同机构的一群人工智能（AI）专家克服了“提高人工智能能力的一个长期存在的重大障碍”。 该团队着眼于人脑，这也是许多人工智能开发的情况。 具体来说，该团队专注于被称为“重放”的人脑记忆机制。

Gido van de Ven 是第一作者，也是博士后研究员。 贝勒大学的首席研究员安德烈亚斯·托利亚斯（Andreas Tolias）和麻省大学阿默斯特分校的哈瓦·西格曼（Hava Siegelmann）也加入了他的行列。 

该研究发表于 自然通讯. 

新方法

研究人员表示，他们提出了一种新方法，可以有效保护深层神经网络免受“灾难性遗忘”的影响。 当神经网络进行新的学习时，它可能会忘记以前学到的东西。 

这个障碍阻碍了许多人工智能进步的发生。 

“一个解决方案是存储以前遇到过的示例，并在学习新东西时重新访问它们。 尽管这种‘重播’或‘排练’可以解决灾难性的遗忘问题，但不断地重新训练所有以前学过的任务效率非常低，而且必须存储的数据量很快就会变得难以管理。”研究人员写道。

人脑  

研究人员从人脑中汲取了灵感，因为人脑能够在不遗忘的情况下构建信息，而人工智能神经网络则不然。 目前的进展是建立在研究人员之前所做的工作的基础上的，其中包括有关大脑中一种被认为负责防止记忆被遗忘的机制的发现。 这种机制是神经活动模式的重放。

根据西格曼的说法，主要的发展来自于“认识到大脑中的重放并不存储数据”，而是“大脑在更高、更抽象的层面上生成了记忆的表征，而不需要生成详细的记忆。”

西格曼获取了这些信息并与她的同事一起开发了一种人工智能重放系统，其中没有存储任何数据。 与人脑的情况一样，人工网络采用它以前见过的东西来生成高级表示。

该方法非常高效，即使只重放一些生成的表示，也会导致旧的记忆被记住，同时新的记忆也被学习。 生成重放可以有效防止灾难性遗忘，其主要好处之一是它允许系统从一种情况推广到另一种情况。

van de Ven 表示：“如果我们的生成重放网络首先学会区分猫和狗，然后区分熊和狐狸，那么它也能区分猫和狐狸，而无需经过专门训练。 值得注意的是，系统学习的越多，它学习新任务的能力就越好。”

“我们提出了一种新的、受大脑启发的重放变体，其中重放由网络自身的上下文调制反馈连接生成的内部或隐藏表示，”该团队写道。 “我们的方法在不存储数据的情况下挑战持续学习基准，实现了最先进的性能，并且它为大脑中的抽象重放提供了一种新颖的模型。”

“我们的方法对重放可能有助于布莱恩记忆巩固的方式做出了一些有趣的预测，”范德文继续说道。 “我们已经在进行一项实验来测试其中一些预测。”