在人工智能的钢丝上行走：为什么运营团队需要在影响力和风险之间取得平衡

人工智能正在以如此惊人的速度发展，以至于每一步向前都是进入未知领域。机遇是巨大的，但风险同样巨大。虽然人工智能承诺能够改变行业——从自动化常规任务到通过数据分析提供深入的见解——但它也带来了道德困境、偏见、数据隐私问题，甚至如果实施不当，可能会带来负面的投资回报率（ROI）。

分析师们已经开始预测人工智能的未来将受到风险的影响。

根据2025年Gartner的一份报告《乘风破浪：2025年人工智能趋势》，我们的与人工智能的关系将随着技术的发展和风险的形成而发生变化。例如，该报告预测，企业将开始在其条款和条件中加入与情感人工智能相关的法律保护——预计在未来两年内，医疗保健行业将率先进行这些更新。该报告还指出，到2028年，超过四分之一的所有企业数据泄露将被追溯到某种人工智能代理滥用，无论是内部威胁还是外部恶意行为者。

除了监管和数据安全之外，还有另一个相对隐蔽的风险，风险同样高。并非所有企业都“准备好”采用人工智能，尽管急于部署人工智能可能很诱人，但这样做可能会导致重大财务损失和运营挫折。以数据密集型行业为例，如金融服务。虽然人工智能有可能为运营团队在该行业的决策提供强大的支持，但这只有在这些团队能够信任他们采取的行动时才有效。在2024年的一份报告中，ActiveOps揭示了98%的金融服务领导者在采用人工智能进行数据收集、分析和报告时面临“重大挑战”。即使在部署后，9个中仍然有8个难以获得所需的见解。如果没有结构化的治理、明确的责任和能够解释人工智能驱动的建议的熟练劳动力，这些企业的真正“风险”是，他们的人工智能项目可能会成为负担，而不是资产。在人工智能的钢丝上行走不是关于快速行动，而是关于明智的行动。

高风险，高风险

人工智能有可能改变业务，这是无可否认的，但错误的代价也是如此。虽然企业渴望利用人工智能来提高效率、自动化和实时决策，但风险也正在迅速积累。人工智能治理中的失误、缺乏监督或过度依赖人工智能生成的见解（基于不充分或保管不善的数据），可能会导致从监管罚款到人工智能驱动的安全漏洞、有缺陷的决策和声誉损害等一切后果。随着人工智能模型越来越多地做出——或至少影响——关键业务决策，企业迫切需要在扩大人工智能计划之前优先考虑数据治理。正如麦肯锡所说，企业需要采取“一切、无处不在、同时进行”的思维方式，以确保整个企业的数据可以安全、安全地使用，然后再开发他们的人工智能计划。

这是与人工智能相关的最大的风险之一。自动化和效率的承诺可能很诱人，导致公司在确保数据准备就绪之前就将资源投入人工智能驱动的项目中。许多组织在没有建立健全的数据治理、跨职能合作或内部专业知识的情况下匆忙实施人工智能，导致人工智能模型强化现有的偏见、产生不可靠的输出，最终无法产生令人满意的投资回报率。事实是，人工智能不是“即插即用”的解决方案——它是一项需要规划、结构化监督和能够有效使用它的劳动力的长期战略投资。

建立坚实的基础

根据钢丝走者和商业领袖Marty Wolner的说法，学习走钢丝的最好建议是从小开始：“不要试图在峡谷上走钢丝。从低线开始，随着你建立技能和信心，逐渐增加距离和难度。”他建议企业也是如此：“小胜利可以为更大的挑战做好准备。”

为了使人工智能带来长期、可持续的价值，这些“小胜利”至关重要。虽然许多组织专注于人工智能的技术能力和领先于竞争对手，但真正的挑战在于建立正确的运营框架来支持大规模的人工智能采用。这需要一个三管齐下的方法：健全的治理、持续的学习和对道德人工智能开发的承诺。

治理： 没有结构化的治理框架，人工智能无法有效地运作。没有治理，人工智能计划可能会变得零散、不可靠或直接危险。企业必须建立明确的数据管理、决策透明度和系统监督政策，以确保人工智能驱动的见解可以被信任、解释和审计。监管机构已经在加紧对人工智能治理的期望，像欧盟人工智能法和不断演变的美国法规这样的框架将使公司对人工智能在决策中的使用负责。根据Gartner的说法，人工智能治理平台将在使企业能够管理其人工智能系统的法律、道德和运营性能方面发挥关键作用，确保合规性同时保持敏捷性。现在没有建立人工智能治理的企业可能会面临重大的监管、声誉和财务后果。

人员： 人工智能的有效性取决于使用它的人。虽然企业经常关注技术本身，但劳动力的能力来理解和将人工智能融入日常运营同样至关重要。许多组织陷入了这样的陷阱：假设人工智能会自动改善决策，而实际上，员工需要被训练来解释人工智能生成的见解并有效地使用它们。员工不仅需要适应人工智能驱动的流程，还需要发展批判性思维技能，以便在必要时挑战人工智能输出。没有这些，企业冒着过度依赖人工智能的风险——允许有缺陷的模型不受控制地影响战略决策。培训计划、提升技能的计划和跨职能人工智能教育必须成为优先事项，以确保员工在所有层面都可以与人工智能合作，而不是被人工智能取代或边缘化。

伦理： 如果人工智能要成为长期的商业成功因素，它必须植根于道德原则。算法偏见、数据隐私泄露和不透明的决策过程已经在某些行业中侵蚀了对人工智能的信任。组织需要确保人工智能驱动的决策符合法律和监管标准，并且客户、员工和利益相关者可以信任人工智能驱动的流程。这意味着采取主动措施消除偏见、保护隐私和建立透明运行的人工智能系统。根据世界银行的说法，“人工智能治理是关于创造公平的机会、保护权利和——至关重要的是——建立对技术的信任。”

数据： 在整个运营中拥有一个单一的、整合的数据集对于确定人工智能参与的起点和终点至关重要。了解人工智能已经在哪里使用，了解人工智能在哪里部署，了解如何发现人工智能参与的机会，对于持续的成功至关重要。数据也是衡量人工智能益处的最佳指标——如果企业不了解他们的“起点”并且不衡量人工智能的旅程，他们就无法展示其益处。正如伽利略曾经说过，“衡量可以衡量的东西，对于不能衡量的东西，使其可衡量。”

在人工智能的钢丝上行走是关于准备、冷静和每一步向前寻找平衡。企业如果以谨慎的态度、结构化的数据治理和熟练的劳动力来对待人工智能，将是那些安全过关的人，而那些在没有确保立足点的情况下冲向前方的企业则冒着昂贵的失败风险。