负责任的设计 – 为什么 AI 必须以人为本

人工智能正在改变我们日常生活中的数字体验。从个性化产品推荐和预测医疗到自动驾驶，甚至是游乐园的排队，人工智能使这些体验变得更便宜、更高效，甚至更愉快。至少，这是它的承诺。

但是，我们经常遇到关于所谓的“AI 失败”的头条新闻——用户感到被误导、沮丧或简单地不被理解的时刻。当信任破裂时，人工智能的潜力也会破裂。

公众的信任正在减少。为什么？因为大多数系统不是为人类体验而设计的——它们是为速度、规模和利润而设计的。这应该是所有公司在人工智能投资方面倍加关注的原因。

为了建立信任，公司需要停下来并问更深层次的问题：我们为什么要建立这个系统？它是否应该被建立？ 简而言之，我们是否设计人工智能来满足人类的需求——还是强迫人类适应机器逻辑？

人工智能的信任鸿沟

人工智能通常是在孤立的技术环境中开发的，成功的衡量标准是准确性或速度，而不是社会影响或可用性。伦理思考是信任的核心组成部分，但它并没有被自动融入人工智能开发流程中。这种脱节导致了理论上创新但在实践中却失败的系统。

例如，加拿大航空的聊天机器人，它自信地向客户提供了错误的丧亲政策信息，只是为了让公司辩称它对聊天机器人所说的话不负责。或者 Meta 的人工智能聊天机器人，它在搜索结果中提供了事实上不正确的陈述。这些例子反映的不仅仅是技术故障；它们暴露了设计人工智能应用程序时缺乏同理心、安全防护和现实世界背景的系统性失败。

公众已经注意到了这一点。根据 皮尤研究中心 的说法，59% 的美国人和 55% 的人工智能专家对美国公司负责地开发人工智能没有信心。这是一个我们不能忽视的信任鸿沟。

以人为本的设计不是奢侈

设计不是人工智能的装饰；它是人工智能行为和被最终用户感知的基础。以人为本的设计始于理解我们设计的对象：他们的目标、沮丧、价值观和现实生活。

在设计过程中，必须提出非常具体的问题，以确保技术服务于人类的需求，而不是相反，定义：

• 我们为谁设计？
• 他们的目标、价值观和挑战是什么？
• 他们如何在情感和功能上与系统交互？
• 产品是否值得信任，并且能做到它声称要做的事情？
• 它是否促进了所有不同类型的人的包容性和可访问性？

这些问题并不是抽象的；它们直接影响人工智能在现实世界中的表现。在医疗保健、安全或教育等高风险环境中，它们可以决定一个系统是否包容和公平，或者是否令人困惑和有害。

更好的设计是什么样的

设计师通过原型设计、测试和迭代的过程，将人类的需求与机器的能力联系起来，这确保了产品对使用者来说是有意义的。这包括质疑人工智能如何沟通、它自动化什么决策以及它为用户提供多少控制权。

以游乐园为例。 人工智能正在被部署 以减少等待时间、个性化体验和管理人群流动。这是一个有前途的用例。但是，成功不仅仅是关于效率；一个设计良好的系统将优先考虑 人类体验，而不仅仅是效率。这意味着透明的信息、直观的界面、明确的选择以及针对具有特殊需求的用户的备用选项（例如没有智能手机的家庭或具有无障碍需求的客人）。

这里的机会不仅仅是优化后勤业务以获得利润；它是提升乐趣、减少摩擦并创造出感觉神奇而非机械的共享体验。这是一个设计的机会。

测试人类因素

在以人为本的人工智能设计中，测试至关重要。理想情况下，应尽早并经常将潜在的最终用户纳入过程，以便识别潜在的盲点。当用户无法理解或信任一个系统时，该系统就失败了，无论其后端多么令人印象深刻。

测试还确保了可访问性，这通常在人工智能驱动的体验中被忽视。聊天机器人可能在技术上是功能性的，但如果它不能服务于神经多样性用户或非母语使用者，那么它就不是真正功能性的。包容性设计不仅惠及边缘群体，也加强了任何人和每个人的产品。

责任从设计开始

政策可以帮助设定界限并防止最坏的结果。因此，像 欧盟人工智能法案 和 人工智能权利蓝图 这样的框架至关重要。但是，合规只是最低限度。设计是我们达到最高标准的方式。

公司必须超越清单来构建支持尊严、代理和监督的人工智能系统。这意味着抵制完全自动化人类判断的冲动，而是设计出增强人类判断的工具。负责任的人工智能不会消除人类控制；相反，它会放大人类控制。

这项工作不仅仅是技术性的。它需要从第一天开始就由设计师、工程师、政策专家和伦理学家组成的多学科团队共同合作。这意味着要与人共同设计，而不仅仅是为他们设计。

设计师在塑造人工智能方面的作用

设计师在塑造人工智能的轨迹方面发挥着独特的作用。他们是精通机器的结构化逻辑和人类生活复杂性的翻译者。设计师被训练来识别数据本身无法捕捉的摩擦点、情感线索和社会影响。

类似于确保技术服务于人类需求的具体问题，设计师必须倡导不适合训练数据的问题，例如：

• 这会让某人有什么感受？
• 用户是否控制着一切？
• 当事情出错时会发生什么？

设计通常在人工智能流程的最后阶段被引入，以“让它看起来好”。但设计的真正力量是战略性的。它应该从一开始就塑造问题的定义，而不仅仅是界面的外观。

以人为本，而不是以机器为本

人工智能不仅仅是一个技术挑战；它是一个设计挑战。为了应对这一挑战，我们必须从一开始就将人类的价值观放在中心位置。

以人为本的人工智能不是一种奢侈；它是一种必要。它创造了值得信任、可靠、无偏见、可审计和合规的系统。但更重要的是，它构建了有益于最终用户并提升人类生产力和潜力的产品。

我们拥有工具，我们也有责任设计一个技术为人服务的未来，而不是相反。这个未来从设计开始。