研究人员开发“DeepTrust”工具以提高人工智能的可靠性

人工智能（AI）的安全性和可靠性是该技术的最重要方面之一。它不断被不同领域的顶级专家改进和完善，对于人工智能在整个社会中的全面实施至关重要。

南加州大学的研究人员已经开发出了一种新的工具，能够生成自动指标，以判断人工智能算法在数据和预测方面是否值得信赖。

该研究发表在人工智能前沿杂志上，题为“希望在等待：量化神经网络中的意见和可靠性”。该论文的作者包括明希·程（Mingxi Cheng）、沙欣·纳扎里安（Shahin Nazarian）和保罗·博格丹（Paul Bogdan）等。

神经网络的可靠性

在这个领域中，最大的一项任务是使神经网络生成可靠的预测。在许多情况下，这就是阻碍依赖人工智能的技术全面采用的主要原因。

例如，自动驾驶汽车需要独立行驶并做出准确的决定。它们需要能够在极短的时间内做出这些决定，同时解读和识别道路上的物体。这在技术需要区分速度减慢、其他物体或生物的场景中尤为重要。

其他场景包括自动驾驶汽车在面对另一辆车时的决定，以及最复杂的决定，即自动驾驶汽车需要在它认为的另一辆车、物体或生物之间做出选择。

这意味着我们将极大的信任置于自动驾驶汽车软件的能力中，以便在短短几分之一秒内做出正确的决定。当来自不同传感器的信息相互矛盾时，例如来自摄像头的计算机视觉和激光雷达，情况变得更加困难。

首席作者明希·程决定启动这个项目，因为他认为，“即使人类在某些决策场景中也可能犹豫不决。在存在相互矛盾的信息的情况下，为什么机器不能告诉我们它不知道什么？”

DeepTrust

研究人员创建的工具称为DeepTrust，它能够量化不确定性的程度，据南加州大学米恩希电气和计算机工程系副教授保罗·博格丹说。

该团队花了近两年时间开发DeepTrust，主要使用主观逻辑来评估神经网络。在一个工具工作的例子中，它能够分析2016年总统大选的民意调查，并预测希拉里·克林顿获胜的误差范围更大。

DeepTrust工具还使得测试通常在数百万个数据点上训练的AI算法的可靠性变得更加容易。其他方法是通过独立检查每个数据点来测试准确性，这是一项极其耗时的任务。

根据研究人员的说法，这些神经网络系统的架构更加准确，准确性和可靠性可以同时最大化。

“据我们所知，目前尚没有深度学习、人工智能和机器学习的可靠性量化模型或工具。这是首次尝试，并开辟了新的研究方向，”博格丹说。

博格丹还相信，DeepTrust可以帮助推动人工智能的发展，使其变得“自觉和适应性”。