在GenAI产品中构建“情感基础设施”的三种方法，赢得消费者信任

最近，我与一位潜在投资者进行了交谈，他问我是否知道扩张的最有效秘密是什么。对我来说，这是一个不言自明的问题——情感。然而，投资者却嗤之以鼻，认为逻辑是可扩张的，而情感不是。

尽管我们争论了一段时间，我并没有改变他的想法（或者赢得他的投资）。但我在体育营销领域工作了十多年——你永远不会说服我，逻辑可以填满体育场，而情感才是真正的驱动力。

虽然有些人可能会反驳说，将科技与体育进行比较就像比较苹果和橙子，但我认为科技可以从体育行业中吸取一些教训。因为当谈到许多科技产品时，忽视人类的情感实际上是对我们不利的。这一狭隘的视角导致了社交媒体过去的最糟糕的方面，也是当前关于生成式人工智能的最具破坏性的头条新闻的原因。

如果科技企业家希望在人工智能的承诺和潜力中赢得消费者的信任，我们需要设计具有“情感基础设施”的产品。以下是方法。

使用记忆来支持，而不是剥削

人工智能代理的庞大功能将得益于改进的记忆能力——但这也意味着存储更多的个人数据，不幸的是，用户数据在历史上大多被用来尝试操纵用户进行消费。

然而，具有情感基础设施的人工智能将利用用户数据的记忆来填补用户可能不知道自己缺乏的知识空白。

例如，如果用户询问人工智能代理哪些当地海滩适合带狗，目前大多数代理会提供一个海滩列表，可能还会询问用户是否也对附近的宠物友好型餐厅感兴趣。

然而，具有情感基础设施的人工智能代理将融入情感智能。例如，它将记住狗的疫苗接种是在前一天，并提醒用户将狗带入水中太快可能会导致感染、疲劳或意外副作用。

这样，人工智能代理将表现得更像值得信赖的顾问，他们愿意在简单地遵循命令可能导致不理想的结果时提出异议。这样做也更有可能建立更大的用户信任，导致使用量增加。

通过信任而非目标来建立收入

早期的生成式人工智能采用者已经可以免费使用市场上最大的玩家多年了。这可能会诱使B2C人工智能创业者认为唯一的盈利途径是提供免费产品，然后将数据出售给第三方供应商或通过广告销售赚钱。

但是，如果不以更高的尊重、关怀和责任感对待用户，可能会危及已经岌岌可危的消费者信任。例如，最近有报道称Meta AI的应用程序似乎无意中将非常个人化的查询发布到公共信息流中。

并非所有产品都具有社交元素，但这个例子说明了用户愿意与人工智能代理分享的个人细节水平。考虑到研究表明，聊天机器人在配备个人细节时更能说服人类对话者，在这些平台上进行广告宣传可能会以不道德的方式进行——例如，Meta在青少年用户删除自拍照后为他们提供美容产品广告。

相反，情感基础设施将优化关怀而非点击。这并不一定会损害收入。

人工智能可以通过仅提供真正满足用户需求的广告来使这些体验更加有效：即将到来的坏天气时提供雨衣，新生儿的宠物保险计划，或者在出现感冒症状时提供维生素C补充剂。

但是，真正的关怀不仅仅是准确的定位——就像上面的海滩例子一样，真正的关怀填补了用户不知道自己缺乏的空白。例如，宠物健康跟踪器可能会提醒用户他们的特定品种容易患维生素B12缺乏症，因此建议一种更好地满足他们的狗需求的狗粮品牌。发现这些被忽视的细节是人工智能真正发挥作用并为最终用户带来价值的地方。

大约半数全球消费者愿意分享个人数据，如果这意味着更好的用户体验，但这一比例在美国市场下降到仅15%。人工智能企业家有真正的机会通过情感智能设计改变这种看法。

设计情感防护栏，将人放在首位

情感基础设施最关键的方面是建立保护用户最佳利益的防护栏。这涉及仔细选择可以由人工智能生成的内容类型，清晰地标记人工智能生成的材料，并在用户进入情感风险领域时设计明确的干预措施。

例如，当构建宠物护理应用程序时，我的团队和我决定不使用人工智能来生成任何与健康或营养相关的内容。出现幻觉或错误信息的风险太大，因此我们选择聘请一位专业的兽医来撰写和整理这些文章。显然，这是一个更昂贵的选择，但当生命岌岌可危时，这是一项值得的投资。

这不仅让我们的产品更有可信度，还能让我们的用户和他们的宠物保持安全。这也是消费者想要的——79%的用户同意人工智能的使用应由公司披露。

最后，人工智能公司的最佳利益是设计他们的产品以清晰地传达他们的局限性，并在适当时将用户引导至人类干预。已经有报道称，情绪脆弱的用户由于聊天机器人缺乏足够的防护栏而转向自我伤害或自杀，这些事件导致了诉讼。

尽管我相信人工智能在我们生活中的未来是光明的，但我们必须诚实地面对其当前的弱点，不允许速度和竞争的压力优先于安全。如果我们这样做，我们将失去消费者的信任，而消费者正是我们声称要服务的对象。忽视这种责任将损害整个生态系统。