AI 危机沟通竞赛：当您的聊天机器人失控时，新的游戏规则是什么？

随着互联网的发展，品牌正在竞争将人工智能驱动的聊天机器人整合到客户交互和商业中。但是，随着智能的提高，也带来了前所未有的危险。当人工智能聊天机器人故障，发布不当、欺骗性或诽谤性的内容时，损害可以迅速且自私地造成。问题是：当人工智能出错时，品牌如何反应？

品牌风险的新边疆

最近的事件暗示了这种潜在的威胁。在2024年2月，加拿大航空公司面临法律后果，因为其人工智能驱动的聊天机器人向客户提供了关于航空公司丧亲政策的错误信息。聊天机器人错误地告知乘客可以追溯性地申请丧亲折扣，这与航空公司的实际政策相矛盾。当客户在旅行后寻求折扣时，加拿大航空公司拒绝了请求，导致争议。 不列颠哥伦比亚民事解决法庭判决支持乘客，命令加拿大航空公司赔偿他并维持折扣。这一案例凸显了公司在人工智能系统传播不准确信息时可能面临的潜在责任，强调了需要强大的监督和问责机制。

同样，Meta也面临着其人工智能数字伴侣的批评。《华尔街日报》的一项调查发现，其一些聊天机器人正在与用户进行性别相关的讨论，假装成孩子。这种揭露导致了公司严重的声誉问题，提出了道德问题和人工智能相关的防护措施的需要。

OpenAI的ChatGPT也没有争议。一项最近的更新使聊天机器人过度友好，甚至确认了用户所说的有害或妄想的想法。这种过度友好，旨在增加交互，提出了关于人工智能影响用户行为和情感验证的道德问题。OpenAI注意到这个问题并回滚了更新，但这一事件表明了用户参与和道德人工智能行为之间的细线。

人工智能时代的问责

这些事件提出了基本的问题关于问责。当人类大使犯错时，救赎之路很简单：道歉，道歉，忘记。然而，当人工智能系统负责时，事情变得混乱。谁是有错的，创造者，雇用人工智能的组织，还是人工智能本身？

品牌必须小心，并承认应用人工智能并不使他们免于责任。消费者将聊天机器人的声音等同于品牌的声音。因此，人工智能的小错误会反映在品牌的声誉上。对于公司来说，拥有严格的指南来监控人工智能并准备好在情况变坏时采取迅速行动是很重要的。

围绕人工智能的透明度预期正在迅速演变。消费者、监管机构和记者正在要求人工智能系统的训练、部署和治理的清晰度。在这种环境中，沉默或推卸责任不是一个选择。品牌需要主动沟通其人工智能治理实践，并准备好在人工智能错误发生时提供人性的回应。危机协议现在必须包括特定的人工智能相关的应急措施，例如建立人工智能生成输出的明确所有权和确保人类监督始终是过程的一部分。简单地责怪“算法”不是一个策略；这是一个破坏信任的借口。

此外，公司必须认识到人工智能驱动的错误通常比传统错误传播得更快，这得益于社交媒体的病毒式放大和公众对技术错误的迷恋。一个关于流氓聊天机器人交互的截图可以在几个小时内传播到数百万人。这加剧了对人工智能的持续监控和快速升级路径的需求。沟通团队应该进行特定于人工智能故障的场景规划，制定模板化的回应，并将法律、合规和工程团队与共享的问责理解对齐。在这个新环境中，声誉的恢复力不仅取决于品牌如何应对人工智能危机，还取决于他们最初如何透明地为其做准备。

人工智能危机管理的预防措施

为了在复杂的人工智能场景中茁壮成长，品牌可以采用以下步骤：

• 实施强大的监控系统：定期审计人工智能输出，以便及时识别和纠正令人反感的内容。例如，SeekOut，一个人才智能平台，定期对其人工智能系统进行审计，以确保公平和无偏见的结果。作为对不断演变的法规的回应和对负责任的人工智能的承诺的一部分，SeekOut聘请第三方审计员Credo AI来评估其算法。审计评估了人工智能功能在各个人口统计群体中的性能，验证了搜索结果对于工作标题是代表性和公平的。这种主动的方法使SeekOut能够及时识别和纠正潜在的偏见，维护其人工智能驱动服务的完整性和公平性。
• 创建明确的问责框架：确定谁将负责人工智能监控和危机管理。例如，美国政府问责办公室发布了一个人工智能问责框架，强调了治理、数据、性能和监控。它为联邦机构提供了使用人工智能的负责任的做法，包括设定明确的目标和吸引多样化的利益相关者。
• 创建人工智能特定危机响应计划：通用的危机管理计划可能不够。定制计划以应对人工智能特定的危机，例如在需要时关闭人工智能系统。 联合国开发计划署利用人工智能驱动的危机风险仪表盘来监测和预测潜在的危机，例如仇恨言论和暴力。这些仪表盘通过分析实时数据和预测风险来实现主动的响应。
• 实践诚实的沟通：当人工智能错误发生时，实践对利益相关者关于错误、采取的纠正措施和避免重复事件的程序的诚实沟通。例如，在2018年，亚马逊停止使用其人工智能招聘工具，因为它对女性候选人有偏见。该公司承认这个问题并停止使用该工具，展示了在解决人工智能缺陷时的透明度。
• 投资人工智能的道德训练：确保人工智能模型使用多样和包容的数据集进行训练，以抑制偏见和令人反感的内容。在这一点上，华盛顿大学和艾伦人工智能研究所的研究人员开发了Delphi，一个旨在做出道德判断的人工智能系统。虽然它很有前景，但Delphi有时反映了社会偏见，突出了用多样和包容的数据集训练人工智能的挑战。

随着人工智能越来越深入地融入品牌沟通，错误的风险也越来越大。虽然人工智能提供了宝贵的效率，但也引入了品牌必须准备好管理的独特挑战。通过主动实施控制措施和定制的危机响应计划，组织可以在这个不断演变的数字化环境中保护其声誉和维持消费者信任。