伦理与技术：是否需要有人驾驭人工智能？

摘要：对话式人工智能技术的进步需要仔细平衡利益，既要促进创新，又要减轻潜在的有害影响。

对话式人工智能的诱惑

ChatGPT-3 的推出引起了前所未有的关注，每月有超过1亿活跃用户。

消费者和组织都认识到对话式人工智能的进步可以潜在地改变我们个人生活和职业交往的几乎每个方面。ChatGPT-3 的深度学习应用可以生成令人信服的人类对话，取得了令人印象深刻的成果。在最近的测试中，ChatGPT-3 通过了 美国医师执照考试 和 一所著名商学院的MBA考试。

对话式人工智能的商业利益是巨大的，微软已经投资了10亿美元到Open AI，以加速ChatGPT-3的商业应用。微软计划 “增强” 其产品的对话能力，以ChatGPT-3的对话功能为基础。

不理性的热情

但是，在我们让这种变革性的技术超越我们之前，让我们深吸一口气。尽管其潜在的用途不可否认，ChatGPT-3 仍然处于初期阶段，存在许多缺陷。我们的热情可能是过早的。在没有有意义的分析的情况下，未经监管和人工监督的对话式人工智能的采用可能会导致我们进入一个反乌托邦的世界，就像英国小说家奥尔德斯·赫胥黎所预言的那样。过度依赖技术而不了解其社会经济影响可能会产生严重的、尽管是无意的后果，例如就业、教育、包容性和公平性。

毕竟，虽然ChatGPT-3 是一个进步，但其“认知”能力是基于预先存在的数据集，具有内置的偏见，这些偏见可能会被放大，导致一系列潜在的危害。ChatGPT-3 有一个 “黑暗面”，这应该是令人担忧的，并且应该暂停进一步推广这种具有重大后果的技术。

风险还是机会？

需要平衡对话式人工智能应用的风险和其潜在的机会。如果以周密的方式部署，并对人工智能进行有意义的监管，考虑到基于风险的方法和健全的监督，那么对话式人工智能的潜在利益可能会实现。它应该作为 人工智能中心的合作伙伴关系，以丰富工作场所的体验。像所有之前的创新一样，人工智能有可能创造新的技能需求，并使某些工作更加有意义。

立法者的角色是什么？

人工智能技术的民主化意味着公共当局必须在监管其使用方面发挥积极作用。 尽管其能力令人印象深刻，人工智能仍然依赖于人类，无论是使用它还是监管它。 必须有人在驾驶座上掌舵，我们只是不知道他要走哪条路。人工智能监管的势头越来越大，尤其是欧盟的《人工智能法案》草案。随着对话式人工智能（如ChatGPT-3）的潜在普遍采用，欧盟正在推动更严格的监管和治理，以确保采取措施禁止对话式人工智能的特定应用，这些应用被认为侵犯了基本的人权。