多米尼克博士（Dr Heather Domin）是HCLTech负责任的人工智能和治理办公室的副总裁和负责人，是一位领先的负责任的人工智能专家，负责为全球组织提供人工智能治理和实施方面的建议。
人工智能（AI）部署正在从早期试验阶段转变为完全集成的解决方案，推动生产和企业范围的转型。在此背景下，高管们面临着一个具有挑战性的任务：将人工智能从概念验证转变为日常运营的核心。这一转变需要他们回答新的问题，包括如何负责任地开发、部署和使用人工智能，以建立一个可靠的基础来扩大规模。负责任的人工智能 是关于确保人工智能对人们、组织和社会有益而不是有害的。虽然人们可能认为它会减慢开发周期，但实际上它可以使创新更强大。实施负责任的人工智能可以帮助减少昂贵的失败，实现更快的采用和信任，提供符合监管的系统，并提高可持续性。然而，了解组织如何开发、部署和采用负责任的人工智能对于确保其基础实践和完全集成至关重要。这里我们提供了一个实践指南，关于公司如何做到这一点，确保从最早的设计阶段到部署、监控、风险评估和最终退役都有人类的监督。那些将负责任的人工智能视为事后补救措施的人将面临监管风险、声誉损害和客户信任的侵蚀。相反，那些从一开始就将其融入其中的人更有可能以可持续的方式扩大人工智能，并保持信任和监管的准备就绪。确定将负责任的人工智能整合的五项原则任何负责任的人工智能战略的核心都有一套核心原则，应该指导开发、部署、评估和治理。这些原则的影响将塑造实际的治理、风险管理和合规实践，以保护人们和保护品牌价值。对于大型组织来说，他们必须与团队和外部合作伙伴合作，以确保其集成。因此，有五个关键原则，企业可以采用这些原则来引导其人工智能计划朝着信任、合规和道德结果的方向发展。首先是问责。每个重要的人工智能系统都必须有人负责，从开始到结束。从一个简单的清单开始，自动化以扩大规模，并开始列出人工智能系统、其目的、数据源和所有者。同时，必须有一个计划来处理事情出错的情况。必须知道如何暂停、调查和缓解问题。其次，评估人工智能的公平性及其对人的潜在影响至关重要。不要仅仅依赖技术指标，并且要意识到人工智能结果可能会在不同群体中有所不同，并可能无意中对某些人造成不利影响。这对于招聘、贷款或医疗保健等高风险用例至关重要。尽可能使用数据测试，并包括人类审查和输出原因。第三，安全至关重要。对人工智能系统的威胁继续演变，现在包括提示或代理攻击。解决这些风险并与安全团队合作以模拟这些潜在攻击至关重要。将安全性融入设计中，限制人工智能对其他系统和数据的访问，并在启动后进行持续测试。第四，隐私是一个问题。这一问题超出了初始训练数据，隐私应该在每个阶段得到保护。考虑用户提示、对话日志和人工智能生成的输出中的隐私，因为它们都可能包含私人信息。设计系统以仅收集必要的数据，建立严格的访问和保留规则，并对高风险应用程序进行隐私审查。最后，透明度和提供适应利益相关者的控制至关重要。客户需要知道的信息与人工智能开发者不同。另外，用户应该知道何时与人工智能交互，并了解其限制。内部团队需要清晰的文档来说明人工智能如何构建和如何执行。人工智能系统的透明度促进了共享的监督和对系统能力的信任。了解差异：负责任的人工智能与人工智能治理虽然负责任的人工智能和人工智能治理经常被交替使用，但两者之间存在关键差异。负责任的人工智能是一套整体实践和原则，用于在人工智能的开发、部署和使用过程中做出值得信赖的决定。它专注于使能够实现上述五项原则的功能成为可能，以最小化人工智能的风险并最大化其益处。另一方面，人工智能治理是一套政策、程序和实践，旨在实现积极的结果并降低伤害的可能性。它专注于建立适当的组织和技术控制，以实现负责任和道德的人工智能，通常强调问责和遵守法律和组织政策的合规性。当组织了解到这两者是不同的但又相互关联时，他们更有可能以可持续的方式扩大人工智能，同时保持信任和监管的准备就绪。另外，虽然一些关于责任和治理的行动是由法律要求的，但有些则不是。例如，一些国家对女性在某些国家可以担任的工作岗位有所限制。因此，两者对于全面而平衡的人工智能责任方法都是必要的。灵活治理的重要性随着人工智能的普及，监管机构正在制定超出自愿指南的治理框架。例如，欧盟的人工智能法案 将基于风险的监管置于人工智能治理的中心。该法案根据各种用例对人工智能系统进行分类，承认基于潜在危害的不同风险水平。例如，人工智能招聘筛选器与购物推荐引擎。因此，治理、文档和保障措施应与人工智能的背景和应用相符。其他管辖区也为治理人工智能制定了框架。根据 IAPP 报告 ，新加坡推崇灵活的方法，使用其模型人工智能治理框架，强调测试和透明度而不是严格的命令。韩国的 人工智能基础法案 也将监督与创新空间相结合。在行业内，这种方法也会有所不同。金融服务长期以来一直面临严格的安全和公平标准，而医疗保健人工智能则必须遵守医疗器械法规。消费技术产品也受到隐私和消费者保护法的约束，每个领域都需要根据其风险特征和社会期望量身定制监管。因此，人工智能治理不可能采用一刀切的方法，因为行业和国家领域在危害类型、受影响的利益相关者和法律框架方面存在差异。因此，必须保持灵活性。如何管理自主人工智能随着人工智能进入一个新时代，从狭隘的预测引擎转变为代理人工智能，能够规划、适应和采取自主行动的系统，这带来了新的风险。例如，考虑一个自主的人工智能，它自行执行金融交易或人力资源决策。如果它错误分类交易或做出带有偏见的招聘推荐，业务后果将非常严重，从财务损失到声誉损害、监管处罚和法律责任。在 经济和系统考虑中的代理网络系统 中提出的研究也解释了由新兴的代理网络概念带来的挑战，该概念在多代理、跨境、机器速度市场中运行。它概述了一些初步的、方向性的治理杠杆，包括守护/监督代理和机器可读的政策，强调在资源不均匀的约束下进行包容性采用。因此，治理系统需要对人工智能系统能够在没有人类批准的情况下自主处理的程度设定限制和控制。它们需要建立明确的防护栏，限制访问工具和授权功能，以及允许对特定设计点进行强制性的人类审查。工作流程的所有组件都应经过测试，包括代理之间的连接和交互，因为错误经常发生。每个操作都应记录以实现可追溯性，并应建立控制以在需要时停用系统以管理此风险。负责任的人工智能的未来人工智能提供了前所未有的机会来转变企业的运营、创新、价值交付和负责任的人工智能支持这一点。将负责任的人工智能融入设计、开发和部署中不仅是一种法律风险和风险缓解策略，也保护和增强品牌声誉，赢得客户和客户的信任，并通过展示对道德创新的承诺来解锁市场优势。然而，要解锁其益处，公司必须在整个人工智能系统中嵌入关键的负责任实践，从开始到生命周期的末端。这包括将道德和治理考虑因素融入数据策略、隐私和收集、系统设计、透明度和公平性、部署和监控以及部署后和退役。对于所有参与人工智能开发和部署的人来说，命令是明确的：负责任地构建，主动地治理，预测今天、明天和未来的风险，以确保人工智能在不断变化的世界中成功演进。
