Noel Cunningham, 全球设计工作室董事总经理，Nagarro Noel Cunningham 全球设计工作室董事总经理，Nagarro

负责任的设计 – 为什么 AI 必须以人为本

人工智能正在改变我们日常生活中的数字体验。从个性化产品推荐和预测医疗到自动驾驶，甚至是游乐园的排队，人工智能使这些体验变得更便宜、更高效，甚至更愉快。至少，这是它的承诺。但是，我们经常遇到关于所谓的“AI 失败”的头条新闻——用户感到被误导、沮丧或简单地不被理解的时刻。当信任破裂时，人工智能的潜力也会破裂。公众的信任正在减少。为什么？因为大多数系统不是为人类体验而设计的——它们是为速度、规模和利润而设计的。这应该是所有公司在人工智能投资方面倍加关注的原因。为了建立信任，公司需要停下来并问更深层次的问题：我们为什么要建立这个系统？它是否应该被建立？ 简而言之，我们是否设计人工智能来满足人类的需求——还是强迫人类适应机器逻辑？人工智能的信任鸿沟人工智能通常是在孤立的技术环境中开发的，成功的衡量标准是准确性或速度，而不是社会影响或可用性。伦理思考是信任的核心组成部分，但它并没有被自动融入人工智能开发流程中。这种脱节导致了理论上创新但在实践中却失败的系统。例如，加拿大航空的聊天机器人，它自信地向客户提供了错误的丧亲政策信息，只是为了让公司辩称它对聊天机器人所说的话不负责。或者 Meta 的人工智能聊天机器人，它在搜索结果中提供了事实上不正确的陈述。这些例子反映的不仅仅是技术故障；它们暴露了设计人工智能应用程序时缺乏同理心、安全防护和现实世界背景的系统性失败。公众已经注意到了这一点。根据 皮尤研究中心 的说法，59% 的美国人和 55% 的人工智能专家对美国公司负责地开发人工智能没有信心。这是一个我们不能忽视的信任鸿沟。以人为本的设计不是奢侈设计不是人工智能的装饰；它是人工智能行为和被最终用户感知的基础。以人为本的设计始于理解我们设计的对象：他们的目标、沮丧、价值观和现实生活。在设计过程中，必须提出非常具体的问题，以确保技术服务于人类的需求，而不是相反，定义： 我们为谁设计？ 他们的目标、价值观和挑战是什么？ 他们如何在情感和功能上与系统交互？ 产品是否值得信任，并且能做到它声称要做的事情？ 它是否促进了所有不同类型的人的包容性和可访问性？ 这些问题并不是抽象的；它们直接影响人工智能在现实世界中的表现。在医疗保健、安全或教育等高风险环境中，它们可以决定一个系统是否包容和公平，或者是否令人困惑和有害。更好的设计是什么样的设计师通过原型设计、测试和迭代的过程，将人类的需求与机器的能力联系起来，这确保了产品对使用者来说是有意义的。这包括质疑人工智能如何沟通、它自动化什么决策以及它为用户提供多少控制权。以游乐园为例。 人工智能正在被部署 以减少等待时间、个性化体验和管理人群流动。这是一个有前途的用例。但是，成功不仅仅是关于效率；一个设计良好的系统将优先考虑 人类体验，而不仅仅是效率。这意味着透明的信息、直观的界面、明确的选择以及针对具有特殊需求的用户的备用选项（例如没有智能手机的家庭或具有无障碍需求的客人）。这里的机会不仅仅是优化后勤业务以获得利润；它是提升乐趣、减少摩擦并创造出感觉神奇而非机械的共享体验。这是一个设计的机会。测试人类因素在以人为本的人工智能设计中，测试至关重要。理想情况下，应尽早并经常将潜在的最终用户纳入过程，以便识别潜在的盲点。当用户无法理解或信任一个系统时，该系统就失败了，无论其后端多么令人印象深刻。测试还确保了可访问性，这通常在人工智能驱动的体验中被忽视。聊天机器人可能在技术上是功能性的，但如果它不能服务于神经多样性用户或非母语使用者，那么它就不是真正功能性的。包容性设计不仅惠及边缘群体，也加强了任何人和每个人的产品。责任从设计开始政策可以帮助设定界限并防止最坏的结果。因此，像 欧盟人工智能法案 和 人工智能权利蓝图 这样的框架至关重要。但是，合规只是最低限度。设计是我们达到最高标准的方式。公司必须超越清单来构建支持尊严、代理和监督的人工智能系统。这意味着抵制完全自动化人类判断的冲动，而是设计出增强人类判断的工具。负责任的人工智能不会消除人类控制；相反，它会放大人类控制。这项工作不仅仅是技术性的。它需要从第一天开始就由设计师、工程师、政策专家和伦理学家组成的多学科团队共同合作。这意味着要与人共同设计，而不仅仅是为他们设计。设计师在塑造人工智能方面的作用设计师在塑造人工智能的轨迹方面发挥着独特的作用。他们是精通机器的结构化逻辑和人类生活复杂性的翻译者。设计师被训练来识别数据本身无法捕捉的摩擦点、情感线索和社会影响。类似于确保技术服务于人类需求的具体问题，设计师必须倡导不适合训练数据的问题，例如： 这会让某人有什么感受？ 用户是否控制着一切？ 当事情出错时会发生什么？...