Joe Anderson 是 TaskUs 的咨询和数字转型高级总监，在那里他领导市场战略和创新。他专注于人工智能、客户体验和数字运营的交叉点，并领导 TaskUs 的新型代理人工智能咨询实践。
给孩子买一辆崭新的自行车，自行车会吸引所有的注意力——而不是伴随它的闪亮头盔。但父母们会感激头盔。我担心我们今天很多人在人工智能方面就像孩子一样。我们专注于它的酷炫和速度，而不是我们如何在使用它时保持安全。这很遗憾，因为你不能在没有另一个的情况下获得其中一个的好处。简单地说，没有仔细规划安全的前提下应用人工智能，不仅仅是冒险的——这是直接走向悬崖的道路。什么是人工智能安全性?人工智能安全性涉及一系列步骤。但也许最重要的元素是 何时 采取这些步骤。为了有效，人工智能安全性必须 由设计决定 。这意味着我们在进行测试之前考虑如何防止伤害。我们首先弄清楚如何确保人工智能按照我们的价值观和社会期望运作和生成结果——而不是在获得可怕的结果之后。设计人工智能安全性还包括思考如何使其变得强壮，即使在不利情况下也能可预测地运行。它意味着使人工智能变得透明，这样人工智能做出的决定就可以被理解、审计和无偏见。但这也包括检查人工智能将要运行的世界。我们需要什么样的制度和法律保障，特别是为了遵守适用的政府法规？我也不能过多强调人员的重要性：人工智能的使用将对与之交互的人产生什么影响?安全性设计意味着在我们开始编写第一个提示之前，将人工智能安全性融入所有我们的流程、工作流程和运营中。风险大于顾虑并不是每个人都同意。当他们听到“安全第一”时，一些人听到的是“一步一步地小心翼翼地走，否则你会被甩在后面”。当然，这不是安全第一的意思。这并不意味着要扼杀创新或减缓上市时间。也不意味着会有无休止的试验，最终无法扩大规模。恰恰相反。这意味着了解不将安全性设计到人工智能中的风险。考虑以下几点。 德勤的金融服务中心 预测，通用人工智能可能会导致美国alone的欺诈损失在2027年达到400亿美元，从2023年的123亿美元，复合年增长率为32%。 有偏见的决定。 案例文件 有偏见的医疗保健 是由于人工智能在有偏见的数据上进行训练所致。 不良决定导致更多不良决定。 比人工智能引发的最初不良决定更糟糕的是， 研究表明 这些不良决定可能会成为我们思考和做出未来的决定的依据。 真正的后果。 提供不良医疗建议的人工智能导致了致命的患者结果。引用人工智能的幻觉作为法律先例导致了法律问题。软件错误是由于人工智能助手提供的错误信息导致公司产品和声誉受到损害，并导致广泛的用户不满。 事情即将变得更加有趣。代理人工智能的出现和 快速采用 ，即可以自主运行以根据其做出的决定采取行动的人工智能，将会放大设计人工智能安全性的重要性。一个可以代表您采取行动的代理人工智能可能非常有用。它不仅可以告诉您最佳的航班，还可以为您预订航班。如果您想退货，公司的代理人工智能可以不仅告诉您退货政策和如何申请退货，还可以处理整个交易。很好——只要代理人不产生幻觉或误处理您的财务信息。或者公司的退货政策有误并拒绝有效的退货。很容易看出，当前的人工智能安全风险可能会随着大量人工智能代理运行并做出决定而迅速增加，尤其是当它们不太可能单独运行时。代理人工智能的真正价值将来自于代理人团队的合作，每个代理人处理任务的各个部分，并相互协作以完成工作。那么，你如何在不阻碍创新和扼杀其潜在价值的情况下，通过设计实现人工智能安全性？安全性设计在行动临时的安全检查并不是答案。但是，将安全实践融入人工智能实施的每个阶段是可以的。从数据开始。确保数据被标记、在需要时注释、无偏见和高质量。这对于训练数据尤为重要。使用人类反馈训练您的模型，因为人类的判断对于塑造模型行为至关重要。强化学习与人类反馈（RLHF）和其他类似技术允许注释者对响应进行评分和指导，从而帮助大型语言模型生成与人类价值观和安全标准一致的输出。然后，在发布模型之前，进行压力测试。试图使用对抗性提示、边缘情况和尝试越狱的红队可以暴露漏洞。在问题出现之前解决它们可以确保安全。虽然这种测试可以确保您的AI模型强壮，但要继续监测它们，关注新出现的威胁和可能需要对模型进行的调整。同样，定期监测内容来源和数字交互，以发现欺诈的迹象。关键是使用人工智能-人类混合方法，让人工智能自动处理大量需要监测的数据，而人类则处理审查以执行和确保准确性。应用代理人工智能需要更大的谨慎。基本要求：训练代理人了解其局限性。当它遇到不确定性、伦理困境、新情况或特别高风险的决策时，确保它知道如何寻求帮助。另外，设计代理人的可追溯性。这在代理人与经过验证的用户进行交互时尤为重要，以避免欺诈行为影响代理人的行为。如果代理人似乎运行有效，可能会很诱人将它们释放并让它们按照自己的方式运行。但我们的经验表明，继续监测它们和它们正在完成的任务，以观察错误或意外行为是非常重要的。使用自动检查和人类审查。事实上，人工智能安全的一个基本要素是定期的人类参与。人类应该在需要批判性判断、同理心或细微差别和模糊性时被故意纳入决策或行动中。再次强调，这些都是您在人工智能实施之前就要构建的实践，由设计决定。它们不是在事情出错后才想到的解决方案。它是否有效?我们一直在将人工智能安全第一的理念和“由设计决定”的框架应用于客户，随着通用人工智能的出现和代理人工智能的快速发展。我们发现，与人们担心它会减缓进度相反，它实际上有助于加速进度。代理人工智能有可能将客户支持成本降低25-50%，同时提高客户满意度。但这都取决于信任。使用人工智能的人必须信任它，与人工智能代理或实际人工智能代理交互的客户不能经历任何可能破坏他们对品牌信任的交互。我们不信任不安全的东西。当我们在即将推出的人工智能的每个层面都构建安全性时，我们可以自信地做到这一点。当我们准备扩大规模时，我们可以自信地快速扩大规模。虽然将人工智能安全第一的实践放在行动中似乎令人望而生畏，但您并不孤单。有许多专家可以提供帮助和分享他们的经验和正在学习的知识，以便您可以在不减缓速度的情况下安全地利用人工智能的价值。人工智能的旅程到目前为止非常令人兴奋，随着旅程的加速，我发现它令人振奋。但我也很高兴我戴上了头盔。
像许多人一样，我喜欢好的建议。但有时候，我需要帮助来完成某些事情。下一代AI——主动性AI——将使我们从建议转变为实际行动。它将使采用它的企业取得变革性的飞跃。但是，飞跃到哪里？又是如何变革的？主动性AI可以通过超越简单的任务执行来减少客户支持的成本25-50%，同时显著提高质量和客户满意度。它还可以自主地解决复杂的工作流程和客户交互。例如，当应用于客户支持时，代理不仅仅响应查询，还可以全面地解决从开始到结束的询问，减少人工干预，提高效率。与所有新技术一样，采用主动性AI也带来了挑战。公司必须拥有详细记录的工作流程和深入理解的知识库，并具备强大的知识基础，以便主动性AI可以利用。与生成式AI一样，数据隐私和安全问题需要公司了解它们使用的语言模型（LLM）以及信息如何存储和传递。然而，正确的采纳策略可以确保成功。为了获得最大的收益，公司需要做三件事： 从正确的位置开始 平衡主动性AI与人类专业知识 利用主动性专业网络 虽然现在还处于初期阶段，但我们在与各个行业的客户合作，将主动性AI集成到他们的工作流程和运营中时，以下是我们所学到的内容。不要从小开始——从明智开始也许违反直觉的是，最佳的开始位置是您的最高容量用例。难道这不是冒险吗？如果做得正确的话，不是这样的。事实上，尽管从低容量用例开始可能看起来减少了风险，但它实际上增加了不看到足够的影响来证明投资的风险。从高容量用例开始提供了最大的投资回报率，使公司能够快速实现显著的影响，最大化效率收益，并证明使用AI代理的明确价值。如何减轻从大规模开始的风险？通过最初只实施1%的最大用例量。这使您能够识别和解决潜在问题，同时为更广泛的自动化做好准备。对于零售公司来说，这可能意味着自动化“我的订单在哪里？”或退货处理工作流程。除了监控公司的履约网络外，AI代理还可以验证客户身份，检查实时状态，并更新客户——甚至在订单意外延迟时提供选项。对于退货，代理可以检查公司的退货政策，收集客户关于退货的信息，建议下一步，并完成相关任务，例如打印退货标签，安排取货，发出退款等。退货代理还可以监测滥用模式，并在必要时调整其决策和下一步骤。在公司部署AI代理处理高容量工作流程的样本部分后，必须监控工作流程活动以确定可能需要调整的位置。当代理顺利运行时，公司可以扩大其使用范围，直到最终处理整个工作流程容量。当然，并非所有任务和工作流程都适合使用主动性AI进行完全自动化。事实上，将人类专家与AI代理的整体工作联系起来将产生最佳结果。平衡AI与人类专业知识当公司检查其工作流程和流程以寻找自动化候选项时，它们将找到最适合人类监督或直接行动的实例。主动性AI是一项令人难以置信的、功能强大的创新，但它有局限性。特别是三个：AI代理，如支持它们的LLM，目前不具备一般智能。它们在狭窄、明确定义的领域中表现最佳。因此，虽然人类可能会学习如何执行特定任务并从中抽象出原则，然后将这些原则应用于不同的、无关的任务，但AI目前无法做到这一点。然后，有些工作流程具有极其复杂的决策矩阵，需要大量的经验和基于经验的判断力。例如，零售公司可能需要为直接营销活动创建内容。代理可以处理这个任务——并执行该活动。但是，如果要重新审视一个品牌在多个市场的表达和承诺呢？代理将无法胜任这一任务。它需要对市场趋势、品牌认知、市场间的文化差异以及品牌如何唤起情感的洞察力。最后，依赖于通常“混乱”的人类交流和情感细微差别的工作流程，需要明显的人类元素，如同情心，最好留给人类。可以想到客户服务问题，涉及愤怒的客户，或医疗保健互动，患者的情绪或精神状态可能处于风险之中。但是，我并不是描述一个二元决策过程：将此交给AI代理；其他一切交给人类。在实践中，混合模型效果最佳。虽然需要明确界定AI和人类角色的界限，但即使需要人类专家处理任务时，AI也应该在场，以扩展他们的能力并充分利用他们的专业知识。一般来说，公司应该使用主动性AI处理事务性、可重复的任务，并利用人类专业知识处理高风险互动、情感复杂的场景和需要细致判断的情况。50美元的保修索赔可能会被完全自动化，而5000美元的索赔可能会从人类的情商和品牌敏感的处理中受益。利用主动性网络也许最重要的是，不要独自尝试主动性AI。建立专家合作伙伴网络。新兴的主动性AI平台可以在数字和语音渠道上提供技术。了解客户运营环境的系统集成商和顾问可以为特定客户需求训练主动性模型，然后将其集成到公司的运营中。将这些模型集成到企业系统中需要对复杂工作流程和行业特定挑战有深入的了解。它还需要对工作流程决策点和人类交互最需要或最有益的地方有细致的理解，这样主动性AI就可以成为员工和团队生产力的助力。主动性AI为企业提供了一种强大的方式来提高效率，增强客户体验和推动创新。但是，成功并不是关于匆忙开始，而是关于做出明智的、知情的选择：从正确的位置开始，应用混合的人类/AI模型，并利用正确的网络。因为AI的世界变化如此之快，您不能独自前行。
