人工智能与信任曲线

去年初，当我们的团队正在预测未来会发生什么时，大家一致认为人工智能（AI）的外壳即将被揭开。我们终于会看到它能做什么，并希望对其对商业和社会的影响以及如何继续前进有所了解。虽然这不是一个新颖的预测，但其核心是准确的，尽管我们仍然在努力应对人工智能的影响以及如何（或是否）以某种方式控制它。

我们最终会看到苹果、微软和谷歌将人工智能集成到设备中，并将其力量带给更广泛和更大的受众。然后，又有一款聊天机器人在人工智能搜索工具中威胁用户，并声称它监视员工，而另一款建议使用埃尔默的胶水来制作披萨以防止奶酪从上面掉下来。然而，人工智能在商业中的应用案例却大幅增长，市场也随之增长。根据Crunchbase的数据，几乎有一第三的全球风险投资都流向了人工智能相关领域的公司。

但是，即使OpenAI推出了真正令人惊叹的增强推理能力，著名的AI研究人员Yoshua Bengio也敦促采取安全措施来防止“边缘模型”带来的灾难性危害。虽然这项技术将获得两项诺贝尔奖，以表彰其在科学领域的应用，但其中一位获奖者却对拥有比我们更智能的系统，最终会控制我们的担忧表示担忧。

在这个快速发展的领域中，专家技术人员很难跟上，更不用说主流人群了。

而且，人工智能的这些小问题——以及对隐私和不受控制的使用的担忧——只会增加公众的警惕性。

就相信我吧

我们现在处于信任曲线的中间位置，这需要提高公众对人工智能的接受度，同时确保商业和技术社区以负责任的方式行事。第一部分就是现在正在进行的游戏，在公司层面上，随着每一次安全和可靠的部署，正在逐渐增强。我们正在建立我们的证明点，这最终将导致公众信任度的提高。第二部分，然而，更加棘手。

谁来定义和执行人工智能的负责任使用？行业可以创建指南，但如果他们需要被监管呢？如果技术人员难以跟上人工智能的发展，政策制定者是否会被告知，并且在讨论中排除政治议程？当一位人工智能亿万富翁突然想谈论控制时，他是有顿悟了，还是只是想通过刹车来赶上进度呢？

“就相信我吧”不管你是谁，都不会在人工智能领域奏效。

相信但要核实

人们看待生成式人工智能，如ChatGPT，并想知道它是否会成为他们的下一个谷歌？好吧，谷歌搜索的顶部结果现在是由其AI模型Gemini生成的。问题是，你不能在商业规模上依赖它，因为一个简单的问题，如“生肉是否安全食用？”会返回“是，冻结”。你需要检查数据。

公众信任曲线将反映传统搜索的轨迹，随着时间的推移和可靠性的证明而增长。讽刺的是，在我们简化和改进搜索的过程中，我们却退步了。现在，在获得了AI生成的答案后，你必须滚动过去一个长长的赞助链接列表，点击接下来的五个链接，仍然需要核实信息。

当你寻找快速答案时，这是一件很麻烦的事——而且你不能让整个公司都这样做。然而，如果你用成千上万个自己的服务单来丰富你所采集的数据，你就能带来对自己环境的实际知识。算法上，你可以配置下降的幻觉，但仍然保持“相信但要核实”的情况。

把政治留在外面

当谈到监管人工智能时，一些人认为马已经出栏，可能不会被抓住。例如，缺乏真正有效的工具来检查学生是否撰写了论文或使用了GenAI。技术已经远远领先。

监管这件事将非常复杂，老实说，我们将处于薄冰之上。我们知道科技公司比拟议的外部监管者领先了几十年。然而，我们擅长于开辟道路，而不是被阻碍。尽管如此，到头来，可能需要创新者尝试施加治理。谁 else 能做到这一点——并且负责任地做到这一点？

有很多政客希望尝试一下。风险除了缺乏理解之外，还有他们可能有个人和政治议程来推进。他们的重点可能不在于培养人工智能，而在于推进他们最好的政治利益。他们可能会利用公众的恐惧，使用强硬的手段来阻碍其进展。

CHIPS和科学法案是一个健康的政府行动的好例子，它使计算和电子设备的制造设施建设增加了15倍。然而，这是通过两党合作实现的——这是一个越来越稀少的现象。

我们是否配得上？

在接下来的二十年里，将会有大量资金流入人工智能领域。我们需要确保这些资金被负责任地使用，并且人工智能技术被安全地开发和部署。我们需要确保人工智能的发展不会损害人类的价值观和社会的稳定。

我们需要由知情的技术人员来监管这些事情。这种监管的形式可能是一个委员会、标准机构或国际框架——但这仍然需要被看到。人工智能正处于信任曲线上，我们作为一个行业，需要证明我们配得上它。