潘杜朗·卡马特博士是 Persistent Systems 的首席技术官，他负责高级技术研究，专注于通过大规模创新解锁业务价值。他是一位经验丰富的技术领导者，帮助客户改善用户体验，优化业务流程，并创建新的数字产品。他对 Persistent 的愿景是成为一个创新强国，锚定一个全球和多元化的创新生态系统，包括学术界和初创企业。
作者: 彭杜兰·卡马特，持久系统公司（Persistent Systems）首席技术官人工智能（AI）在其核心是机器学习(ML)，即机器根据数据输入学习如何提高性能的过程。今天存在的庞大数据量意味着人工智能有了肥沃的土壤来蓬勃发展，在过去的几年里以惊人的速度加速。人工智能的承诺使得技术人员和各行各业的高管们开始创造性地思考其各种应用。从工业革命开始，任何快速的技术进步时期都伴随着同等程度的热情和忧虑。世界广泛网联盟（W3C），一个创建网络开发者行业标准的团体，指出“人们越来越意识到机器学习的应用存在风险并可能导致危害”——包括偏见、隐私、安全、可持续性和整体问责制等领域。“对机器学习采取道德方法的需求很明显，通过民间社会的活动、全球范围内出现的100多套道德人工智能原则以及世界各地政府对人工智能的监管，我们可以看出这一点，”该团体写道。“如果技术与其运作的社会的价值观不一致，它们就有可能破坏这些价值观。”明智选择表面上，很难认为提高速度和输出对业务有害。但是，对于某些行业来说，决策过程中有很多东西是某些人认为不应该交给算法来决定的。让我们看看一些最大的行业，我们可以看到我们在多么容易受到机器错误的影响，以及为什么负责任的人工智能如此重要。银行、金融服务和保险（BFSI）世界经济论坛（WEF）和德勤公司研究了在BFSI公司中部署人工智能的过程，发现“虽然人工智能可以帮助从大量信息中创建有用的商业洞察”，但“人工智能的陌生性”将成为持续的严重风险的来源。“人工智能以非人类的方式推理，”报告中写道。“人工智能系统不遵循人类的逻辑构造，并且在给定相同任务时，其行为与人类行为者大不相同。此外，人工智能系统的自学习性质使其能够在没有人类输入的情况下演变，这可能会根据未知变量导致意外结果。” 人工智能负责人认为，机器学习在自动风险评分、信用和贷款决策等方面存在严重问题，这些决策历史上一直对某些人群有偏见。最近的研究表明，使用人工智能决策引擎的贷款机构更有可能拒绝有色人种的房屋贷款申请——在某些情况下，80%的黑人申请者更有可能被拒绝。医疗保健几年前，美国医学会杂志（JAMA）研究了医疗保健中人工智能的采用，发现挑战很多，包括“不切实际的期望、偏见和不具代表性的数据、对公平和包容性的优先级不够、加剧医疗保健差异的风险、信任度低和不确定的监管环境。” 这并不是对人工智能在医疗保健领域的全力肯定，但医疗保健领域对负责任的人工智能有更高的标准，特别是考虑到其生死攸关的潜力。总体而言，医疗保健专业人员对人工智能的未来持乐观但谨慎的态度，他们选择专注于教育其他从业者关于人工智能在临床环境中的使用，并创建如何负责任地在所有患者都能受益的方式中前进的指南。媒体普华永道估计，到2030年，人工智能将为全球经济增长贡献15.7万亿美元，但根据Salesforce的说法，不到一半（48%）的客户信任公司使用人工智能的道德性，65%的人对人工智能的不道德使用表示担忧。在利润和信任的交叉点上，有媒体公司——早期采用者，拥有巨大的影响力和影响力。并且人们担心人工智能不是“设置并忘记”的应用，这意味着对于媒体公司来说，他们的责任不仅在于内容的制作，还在于内容部署后的持续监控。广告如何被投放和个性化？内容如何到达特定受众，传递什么信息？谁在教人工智能“如何”学习？以及如何在尊重隐私的同时针对特定消费者？这些只是媒体公司在平衡伦理与获得竞争优势时面临的一些问题。对责任的回应负责任的人工智能的发展进展每天都在显现——立法者正在起草法规，消费者正在要求更多的透明度，许多公司已经创建了专门的部门来确保他们的人工智能被适当使用。公司需要一个明确定义的负责任的人工智能框架，涵盖伦理、透明度、问责制、公平性、隐私和安全。随着辩论和改革的继续，麻省理工学院斯隆管理评论和波士顿咨询集团最近的一项联合研究提供了一些简单的总体指导——他们写道，“如果你想成为一名负责任的人工智能领导者，专注于成为一家负责任的公司。” rs 伦理、透明度、问责制、公平性、隐私和安全。随着辩论和改革的继续，麻省理工学院斯隆管理评论和波士顿咨询集团最近的一项联合研究提供了一些简单的总体指导——他们写道，“如果你想成为一名负责任的人工智能领导者，专注于成为一家负责任的公司。”
