思想领袖
关于ChatGPT潜在风险的担忧正在增强，但暂停AI开发是否是一个好举动？
虽然埃隆·马斯克和其他全球科技领袖在ChatGPT发布后呼吁暂停AI开发，但一些批评者认为停止开发并不是解决方案。AI倡导者安德鲁·佩里（Andrew Pery），来自智能自动化公司ABBYY，认为暂停开发就像把牙膏重新放回管子里。他在这里告诉我们为什么……
AI应用无处不在，影响着我们生活的几乎每个方面。虽然值得称赞，但现在就制动可能是不切实际的。
确实有合理的担忧，呼吁增加监管监督，以遏制其潜在的有害影响。
最近，意大利数据保护局暂时禁止在全国范围内使用ChatGPT，因为对用于训练模型的个人数据的收集和处理方式以及缺乏保障措施存在隐私问题，尤其是对儿童的回应“绝对不适合他们的年龄和意识”。
欧洲消费者组织（BEUC）正在敦促欧盟调查大型语言模型的潜在有害影响，理由是“人们越来越担心ChatGPT和类似的聊天机器人可能会欺骗和操纵人们。这些AI系统需要更大的公共监督，公共机构必须重新控制它们。”
在美国，人工智能和数字政策中心已向联邦贸易委员会提交投诉，称ChatGPT违反了联邦贸易委员会法第5条（15 USC 45）。投诉的理由是ChatGPT据称未能满足联邦贸易委员会关于AI系统的透明度和可解释性的指导。提到了ChatGPT承认的几种已知的风险，包括侵犯隐私权、生成有害内容和传播虚假信息。
尽管大型语言模型如ChatGPT具有实用性，但研究表明它具有潜在的黑暗面。它被证明会产生错误的答案，因为底层的ChatGPT模型是基于从互联网上获取的大型训练数据集的深度学习算法。与其他聊天机器人不同，ChatGPT使用基于深度学习技术的语言模型，生成类似人类对话的文本，平台“通过一系列猜测得出答案，这也是它可以把错误答案当作完全正确的答案来辩护的原因之一”。
此外，ChatGPT被证明会加剧和放大偏见，导致“歧视性别、种族和少数群体的答案，这是公司试图缓解的”。ChatGPT也可能是恶意行为者利用的宝贵资源，使用户意外地损害他们的隐私，并使他们面临诈骗攻击。
这些担忧促使欧洲议会发表了一份评论，强调了进一步加强欧盟人工智能法案（AIA）草案的必要性，该草案仍在等待批准。评论指出，当前的草案规定主要针对狭义的AI应用，包括特定的高风险AI系统类别，如招聘、信用度、就业、执法和社会服务的资格。然而，欧盟AIA法规草案并不涵盖一般目的AI，如提供更高级认知能力的语言模型，可以“执行广泛的智能任务”。有人呼吁扩大草案规定的范围，以包括一个单独的高风险类别的通用AI系统，要求开发者在将这些系统推向市场之前进行严格的预先合规测试，并持续监测其性能以防止潜在的意外有害输出。
一项特别有用的研究提醒人们欧盟AIA法规的这一空白，即“主要集中在传统的AI模型，而不是我们今天正在见证的新一代”。
它建议监管机构考虑四种策略。
- 要求此类系统的开发者定期报告其风险管理流程的有效性，以减轻有害输出。
- 使用大型语言模型的企业应被要求向客户披露内容是由AI生成的。
- 开发者应遵循正式的分阶段发布流程，作为风险管理框架的一部分，旨在防止潜在的意外有害结果。
- 将责任放在开发者身上，以“从根本上减轻风险”，通过“主动审计训练数据集以发现错误信息”。
一种促成破坏性技术风险的因素是创新者为了获得先发优势而采取的“先发布后修复”的商业模式。虽然OpenAI在ChatGPT的潜在风险方面有一定透明度，但他们已经将其发布用于广泛的商业用途，并将“买家自担风险”的责任放在了用户身上。考虑到对话式AI系统的普遍影响，这种方法可能是不可行的。主动监管和强有力的执行措施必须是处理此类破坏性技术的首要任务。
人工智能已经渗透到我们生活的几乎每个方面，这意味着暂停AI开发可能会带来许多意想不到的障碍和后果。与其突然制动，不如行业和立法者以善意合作，制定根植于透明度、问责制和公平等人本主义价值观的可行监管。通过引用现有的立法，如AIA，私营和公共部门的领导者可以设计出彻底的、全球标准化的政策，以防止恶意使用和减轻不利后果，从而让人工智能保持在改善人类体验的范围内。
