人工智能与对抗技术恐惧症的斗争

当谈到生成式人工智能和大型语言模型，如ChatGPT时，人们对人工智能的热情往往伴随着技术恐惧症。这对于普通大众来说是自然的：他们喜欢新鲜、令人兴奋的事情，但同时也害怕未知的事物。最近，几位著名的科学家也变得自己 techno-sceptics，如果不是 technophobic。这其中包括科学家和工业家要求暂停人工智能研究六个月的案例，或者顶级人工智能科学家 A. Hinton 的怀疑态度等。历史上类似的事件我只能回忆起冷战期间科学界对原子弹和核弹的批评。幸运的是，人类在当时能够比较满意地解决了这些问题。

当然，每个人都有权利质疑当前的人工智能状况：

• 没有人知道为什么大型语言模型能如此有效地工作，以及它们是否有局限性。
• 如果国家在监管方面保持被动态度，坏人可能会制造“人工智能炸弹”，从而带来许多危险。

这些都是合理的担忧，它们加剧了对未知事物的恐惧，即使对于著名的科学家来说也是如此。毕竟，他们也是人类。

然而，人工智能研究是否可以暂时停止？在我看来，不能，因为人工智能是人类对全球社会和日益复杂的物理世界的回应。随着物理和社会复杂性的增加，人工智能和公民的转变是我们从当前的信息社会向知识社会平稳过渡的唯一希望。否则，我们可能会面临灾难性的社会内爆。

解决方案是加深我们对人工智能进步的理解，加速其发展，规范其使用，以最大限度地发挥其积极影响，同时尽量减少已经明显的和其他隐藏的负面影响。人工智能研究可以并且应该变得更加开放、民主、科学和道德。以下是一些为此目的而提出的要点：

• 关于重要的人工智能研究问题，特别是那些具有深远社会影响的问题，第一句话应该由选举产生的议会和政府来决定，而不是由企业或个人科学家决定。
• 应该做出一切努力来促进人工智能在社会和经济进步方面的积极方面的探索，并尽量减少其负面方面。
• 如果采取适当的监管措施，人工智能系统的积极影响可以远远超过其负面影响。技术恐惧症既没有正当理由，也不是解决方案。
• 在我看来，当前最大的威胁来自于这样一个事实：这些人工智能系统可以远程欺骗许多普通人，他们的教育水平较低（或平均），或者调查能力较低。这对民主和任何形式的社会经济进步都可能带来极大的危险。
• 在不久的将来，我们应该对来自大型语言模型和/或 CAN 在非法活动中的使用（例如在大学考试中作弊）构成的重大威胁做出反应，这些威胁相对于相关的刑事可能性来说是相对温和的。
• 人工智能系统对劳动力和市场的影响将在中长期内非常积极。
• 鉴于上述情况，人工智能系统应该：a）被国际法要求注册在“人工智能系统注册表”中，b）通知其用户他们正在与人工智能系统对话或使用人工智能系统的结果。
• 由于人工智能系统具有巨大的社会影响，因此为了最大限度地提高效益和社会经济进步，先进的关键人工智能系统技术应该变得开放。
• 人工智能相关的数据应该（至少部分）民主化，以最大限度地提高效益和社会经济进步。
• 为了补偿人工智能技术冠军由于开放性而可能遭受的利润损失，应该制定适当的强有力的财务补偿计划，以确保人工智能研究和开发的强劲投资（例如，通过技术专利，强制许可计划）。
• 人工智能研究在学术界和工业界之间的平衡应该被重新思考，以最大限度地提高研究产出，同时保持竞争力和对承担的研究和开发风险的奖励。
• 教育实践应该在所有教育水平上被重新审视，以最大限度地发挥人工智能技术的益处，同时创造一批新的创造性和适应性公民和（人工智能）科学家。
• 应该创建和加强适当的人工智能监管/监督/资金机制，以确保上述目标的实现。

这些要点中的几个在我的最近的一本四卷书《人工智能科学与社会》中被详细讨论，特别是在 A 卷（2023 年 5 月重写以涵盖大型语言模型和通用人工智能）和 C 卷中。

书籍参考：

人工智能科学与社会第一部分：人工智能科学与信息技术介绍

人工智能科学与社会第三部分：人工智能科学与社会