设计负责——为什么人工智能必须以人为本

人工智能正在改变我们日常生活的数字体验。从个性化产品推荐、预测性医疗保健，到自动驾驶，甚至游乐园排队，人工智能正在让这些体验变得更便宜、更高效，甚至更令人愉悦。至少，这是人们的期望。

但我们常常会看到所谓“人工智能失败”的新闻头条——用户感到被误导、沮丧，或者根本就不被理解。当信任崩塌时，人工智能真正意义和有效性的潜力也会随之消亡。

公众信任正在逐渐消退。原因何在？因为大多数系统的设计并非以人类体验为中心——它们的设计目标是快速、可扩展和盈利。对于那些正在加倍投资人工智能的各种规模的公司来说，这应该是一个值得担忧的主要问题。

为了建立信任，公司需要停下来并提出更深层次的问题： 我们为什么要建立这个系统？ 它是否应该被建造？ 简而言之，我们设计人工智能是为了满足人类的需求，还是强迫人类适应机器逻辑？

人工智能的信任差距

人工智能往往是在孤立的技术环境中开发的，其成功取决于准确性或速度， 不会 社会影响力或可用性。伦理思维是信任的核心组成部分，但它并没有自动融入人工智能开发流程。这种脱节导致一些系统在理论上可能具有创新性，但在实践中却存在缺陷。

采取 加拿大航空的聊天机器人该公司自信地向客户错误地告知了其丧亲票价政策，但该公司辩称，自己对聊天机器人的言论不负任何责任。或者 Meta 的 AI 聊天机器人，其搜索结果中提供了与事实不符的陈述。这些例子反映的不仅仅是技术故障，还暴露出系统性缺陷，即在设计人工智能应用程序时，未能充分考虑同理心、安全防护措施和现实世界背景。

公众已经注意到了这一点。据 皮尤研究中心59% 的美国人和 55% 的人工智能专家对美国公司负责任地开发人工智能缺乏信心。这是一个不容忽视的信任缺口。

以人为本的设计并非奢侈

设计并非人工智能的花招，而是人工智能行为方式以及终端用户感知方式的基础。以人为本的设计始于理解我们为之设计的人：他们的目标、挫折、价值观和现实生活。

在设计过程中，必须提出非常具体的问题，以确保技术满足人类的需求，而不是相反，定义：

• 我们为谁设计？
• 他们的目标、价值观和挑战是什么？
• 他们在情感上和功能上如何与系统互动？
• 该产品是否值得信赖？它是否能达到其宣传的功能？
• 它是否促进了各类人群的包容性和可及性？

这些并非抽象的问题。它们直接影响着人工智能在实际环境中的表现。而且，在医疗保健、安全或教育等高风险领域，它们能够决定一个系统是包容公平的，还是混乱有害的。

更好的设计是什么样的

设计师通过原型设计、测试和迭代的过程，将人类需求与机器能力联系起来，确保产品对使用者有意义。这包括思考人工智能如何沟通、它能自动执行哪些决策，以及它能为用户提供多少控制权。

以游乐园为例。 人工智能将于今年夏天部署 减少等待时间，提供个性化体验，并管理人流。这是一个很有前景的用例。但成功不仅仅取决于吞吐量。一个设计良好的系统会优先考虑 人类经验而不仅仅是效率。这意味着透明的信息传递、直观的界面、清晰的选项，以及针对有特殊需求的用户（例如没有智能手机的家庭或有无障碍设施需求的客人）的后备选项。

这里的机会不仅在于优化物流业务运营，提升盈利能力；更在于提升愉悦感，减少摩擦，创造充满魔力而非机械感的共享体验。这正是设计的机遇。

测试人为因素

在以人为本的人工智能设计中，测试至关重要。理想情况下，应尽早并经常地让潜在的最终用户参与到设计过程中，以发现潜在的盲点。当用户无法理解或信任一个系统时，无论其后端多么出色，该系统都已失败。

测试还能确保可访问性，而这在人工智能驱动的体验中往往被忽视。一个聊天机器人可能在技术上是可用的，但如果它不能服务于神经多样性用户或非母语人士，那么它就不是真正意义上的功能性机器人。包容性设计不仅能提高利润，还能增强产品的功能，使其更适合所有人。

责任始于设计

政策可以帮助设定界限，防止最糟糕的结果。因此，像 欧盟人工智能法案 和 人工智能权利法案蓝图 是至关重要的步骤。但合规只是底线。设计才是我们达到顶峰的途径。

企业必须超越清单，构建支持尊严、自主权和监督的人工智能系统。这意味着要抵制完全自动化人类判断的冲动，而是设计能够增强人类判断的工具。负责任的人工智能不会消除人类的控制；相反，它会增强人类的控制。

这项工作不仅仅是技术性的。它需要设计师、工程师、政策专家和伦理学家组成的多学科团队从第一天起就齐心协力。这意味着设计 - 人，不仅仅是 HPMC胶囊 他们。

设计师在塑造人工智能中的作用

设计师在塑造人工智能的发展轨迹中扮演着独特的角色。他们是翻译者，精通机器的结构化逻辑和人类生活的复杂性。设计师经过训练，能够识别摩擦点、情感线索和社会影响，而这些是数据本身无法捕捉到的。

与确保技术满足人类需求的具体问题类似，设计师必须提倡那些与训练数据不完全契合的问题，例如：

• 这让人有何感受？
• 用户能控制吗？
• 当出现问题时会发生什么？

设计常常被引入到人工智能流程的末端，只是为了“让它看起来更好”。但设计的真正力量在于战略。它应该首先塑造问题的定义方式，而不仅仅是界面的外观。

以人为本，而非机器为本

人工智能不仅仅是一项技术挑战，更是设计挑战。为了应对这一挑战，我们必须从一开始就以人为本。

以人为本的人工智能并非奢侈品，而是必需品。它能够创建值得信赖、可靠、公正、可审计且合规的系统。更重要的是，它能够构建惠及最终用户的产品，并提升人类的生产力和潜能。

我们拥有工具，也有责任设计一个让科技服务于人类而非人类的未来。这样的未来始于设计。