道德与技术：人工智能是否需要有人驾驶？

摘要：对话式人工智能技术的进步需要仔细平衡利益，促进创新同时减轻潜在的有害影响。

对话式人工智能的吸引力

ChatGPT-3 的发布引起了前所未有的兴趣，每月拥有超过1亿活跃用户。

消费者和组织都认识到对话式人工智能的进步可以潜在地改变我们个人生活和职业交往的几乎每个方面。ChatGPT-3 先进的深度学习应用生成令人信服的人类对话，结果令人印象深刻。在最近的测试中，ChatGPT-3 通过了 美国医师执照考试 和一所最负盛名的商学院的 MBA考试。

对话式人工智能的商业利益是巨大的，微软投资了10亿美元到Open AI，以加速ChatGPT-3的商业应用。微软计划 “增强” 其产品的对话能力，以ChatGPT-3的功能为基础。

不理性的热情

但在我们让这种变革性技术超越我们之前，让我们深吸一口气。尽管它有潜在的用途，ChatGPT-3 仍然处于初期阶段，承认它有很多不完善之处。我们的热情可能是过早的。在没有有意义的分析和监管的情况下，未经限制地采用对话式人工智能可能会导致一个反乌托邦的世界，这是由英国小说家奥尔德斯·赫胥黎预言的。过度依赖技术而不了解其社会经济影响可能会产生严重的、尽管是无意的后果，例如就业、教育、包容性和公平性。

毕竟，虽然Chat-GPT-3 是一个进步，但其“认知”能力是基于现有的数据集，具有内置的偏见，这些偏见可能会被放大，导致一系列潜在的危害。ChatGPT-3 有一个 “黑暗面”，这应该是令人担忧的，并且应该在进一步推广这种后果如此重大的技术之前按下暂停键。

风险还是机会？

需要平衡对话式人工智能应用的风险和潜在机会。如果以深思熟虑的方式部署，并且具有有意义的监管，考虑到基于风险的方法和健全的监督，那么对话式人工智能的潜在利益可能会实现。它应该被部署为一个 以人为中心的合作，与对话式人工智能应用合作，以丰富工作场所的体验。像所有之前的创新一样，人工智能有潜力创造新的技能需求，并使某些工作更有意义。

立法者的角色是什么？

人工智能技术的民主化意味着公共 当局必须在监管其使用方面发挥积极作用。 与颠覆性创新相关的恐惧是真实的。尽管其能力出众，人工智能仍然依赖于人类，无论是使用它还是监管它。必须有人在驾驶舵上，我们只是不知道他要航向哪里。人工智能监管的势头正在增强，特别是欧盟人工智能法案草案。随着对话式人工智能（如ChatGPT-3）的潜在普遍采用，这种势头正在增长，以确保采取措施 禁止对话式人工智能的特定应用，这些应用被认为侵犯了基本人权。