人工智能与信任的弧线

去年早些时候，当我们的团队预测未来会发生什么时，共识是人工智能（AI）的外壳即将被揭开。我们终于会看到它能做什么，并希望对其对商业和社会的影响以及如何继续前进有所了解。这不是一个新颖的预测，但其核心是准确的，尽管我们仍然在努力应对人工智能的影响以及如何（或是否）以某种方式控制它。

我们最终会看到苹果、微软和谷歌将人工智能构建到设备中，并将其力量带给更广泛和更大的受众。然后，又有一款人工智能驱动的搜索工具中的聊天机器人威胁用户，并声称它监视员工，而另一款则建议在自制披萨中使用艾默的胶水来防止奶酪滑落。尽管如此，人工智能的商业采用用例却增长了 Dramatically，并且市场也随之增长。根据Crunchbase的数据，去年几乎有一第三的全球风险投资流向了人工智能相关领域的公司。

但即使OpenAI带来了真正令人惊叹的增强推理，著名的AI研究人员Yoshua Bengio也敦促采取安全措施来防止“前沿模型”造成灾难性的伤害。尽管该技术在科学领域的应用获得了两项诺贝尔奖，但其中一位获奖者却对拥有“比我们更智能的系统，最终会控制一切”的系统表示担忧。

在这样一个快速发展的领域，专家技术人员很难跟上，更不用说主流人群了。

而那些人工智能的失误——以及对隐私和不受控制的使用的担忧——只会加剧公众的警惕。

只要相信我

我们发现自己处于信任的弧线上，这需要提高公众对人工智能的接受度，同时确保商业和技术社区负责任地行事。第一部分就是现在的游戏正在企业层面上进行，每一次安全和可靠的部署都会使其获得更多动力。我们正在建立我们的证明点，这最终将导致公众信任的增加。第二部分 however，却更加棘手。

谁来定义和执行人工智能的负责任使用？行业可以在需要监管的情况下创建指南吗？如果技术人员难以跟上人工智能，政策制定者是否会被告知，并将他们的政治议程排除在讨论之外？当一个人工智能亿万富翁突然想谈论控制时，他们是否有顿悟，还是只是想减速以跟上？

“只要相信我”是不够的，无论你是谁。

相信但要验证

人们看待生成式人工智能，如ChatGPT，并想知道它是否会成为他们的下一个谷歌？好吧，谷歌搜索的顶部结果现在是由其AI模型Gemini创建的。问题是，当你问一个简单的问题，如“生肉是否安全食用？”时，它会返回“是，冻结”。你需要检查数据。

公众信任的弧线将反映传统搜索的轨迹，随着时间的推移和可靠性的证明而获得。讽刺的是，在我们简化和改进搜索的过程中，我们却退步了。现在，在获得了人工智能生成的答案之后，你必须滚动过去一个长列表的赞助链接，点击下五个并仍然要验证信息。

当你寻找快速答案时，这是一件很麻烦的事情——你不能让整个公司做同样的事情。然而，如果你用成千上万个自己的服务单来丰富你已经挖掘的数据，你就会带来关于你环境的实际知识。算法上，你可以将幻觉配置为向下，但仍然是一个“相信但要验证”的情况。

将政治排除在外

当谈到监管人工智能时，一些人认为马已经出 barn 了，不太可能被抓住。例如，缺乏真正有效的工具来检查学生是否撰写了论文或使用了GenAI。该技术已经领先太远。

监管这将非常复杂，老实说，我们将处于薄冰上。我们知道科技公司在拟议的外部监管者面前领先了几十年。但我们擅长开辟道路，而不是被阻碍。然而，到最后，可能需要创新者来尝试应用治理。谁 else 能够做到这一点 – 负责任地？

有很多政客希望尝试一下。除了缺乏理解之外，还有一个风险，即他们可能有个人和政治议程来推进。他们的重点可能不在于培养人工智能，而是在于做符合他们最佳政治利益的事情。他们可能能够利用公众的恐惧，使用强硬的手段来阻碍其进展。

CHIPS和科学法案是一个很好的例子，展示了健康的政府行动，导致计算和电子设备的制造设施建设增加了15倍。但这是通过两党合作实现的——这在当前时代中越来越罕见。

我们是否配得上？

人工智能领域有大量资金流入，未来二十年中，科技公司将赚取大量利润。赚多少，赚得多快，赚得多安全仍然有待观察。在任何一天，一个人工智能生成的深度伪造视频可能会被传播，显示某个知名人士正在抛接一只濒危鸟类的蛋。公众将会以恐惧做出反应，虽然它可能被揭露为人工智能生成的，但那枚蛋已经不能被放回壳中——伤害已经造成。

我们需要由知情的技术人员来监管此类事情。它将采取什么形式——一个委员会，标准机构，国际框架——仍有待观察。已知的是人工智能处于信任的弧线上，我们作为一个行业，需要证明我们配得上它。