思想领袖

人工智能造成的知识鸿沟,正是新的安全缺口。如何弥补?

mm
将 Unite.AI 添加到您在 Google 上的首选来源

科技公司正在押下一个熟悉的赌注:人工智能能比人类更快、更低成本地完成工作。虽然在许多情况下这可能属实,但人工智能也被当成轻易裁员的借口。

在普华永道今年早些时候发布的一份报告中,56%的CEO表示,迄今尚未从人工智能投资中获得显著的财务收益;只有12%报告人工智能同时带来了成本节约和收入增长。此外,美国国家经济研究局(National Bureau of Economic Research)2月的一项研究发现,近90%的公司表示,人工智能在过去三年里对就业或生产率没有任何影响。这些发现凸显了一个发人深省的事实:许多组织尚未看到人工智能最初承诺的收入和生产率回报,却为了弥补损失,继续裁撤数千名员工。

然而,有件事并没有在财报电话会议上被提起:当你裁掉脑中保存着十年客户关系背景的客户经理,或裁掉掌握组织知识、唯有这些知识才能在缺陷传到客户之前将其发现的质量保证工程师时,你并不是在削减赘肉,而是在拆除承重墙。随之而来的返工成本、客户流失和质量问题,很少出现在那份庆祝裁员的演示文稿中。它们被悄悄计入后续季度,被归咎于市场环境,然后被遗忘。人工智能驱动的重组承诺与实际成效之间的差距真实存在,而且不断扩大,但在许多组织中,它仍完全没有得到承认。

这一循环的真正成本并不集中在一个地方,而是分散到裁员后留下的每支团队。开发人员接手离职工程师的工作,同时还拿到尚不成熟、远不足以弥补人员损失的人工智能工具。产品团队失去了让开发路线图立足于客户现实的背景信息。支持团队不堪重负,答复质量下降,而客户立即就能认出工单回复中由人工智能生成的劣质内容。负担并非集中,而是分散的,这种分散也是它容易在季度报告中被忽略的原因之一。但在这一广泛分散的局面中,IT团队面临着一种独特且更加严重的问题。他们不只是要用更少的资源做更多的事,还要在缺少赋予基础设施一致性的组织知识时,管理匆忙搭建的基础设施。同时,他们还要处理离职同事的离职手续和后任的入职适应,因为公司正在悄悄撤回曾公开庆祝的裁员决定。

随着这一年继续向前,组织努力兑现人工智能的承诺,我们也该认识到:以人工智能带来的效率为名削减人类专业能力,损失的远不止收入。好消息是,我们可以兼得两者的好处。但这需要对人工智能采取更实际、更务实的做法,把人放在战略的中心。

当知识随人离开,我们失去了什么

关键运营知识存在于人身上,并通过人类判断而非系统来运用。当这些人离开,知识也随之离开。无论模型多么先进,人工智能在今天仍无法填补这一空白。

即使人工智能的能力不断扩展,缺乏细致语境的自动化仍会在关键领域制造危险的盲点:

  • 判断和策略:直觉、组织知识和市场意识无法整齐地装进数据集,即使是非结构化数据集也不例外。
  • 语境和态势感知:人类能识别细微差别与意图,并能应对僵化规则可能失效的灰色地带。
  • 同理心和信任:影响重大或情绪强烈的时刻,特别是涉及客户或员工时,需要以人为中心的回应。
  • 监督和问责:必须有人负责识别失误、偏见,或提前防范错误信息。在提供完全错误的信息后,仅仅说一句“你说得对,让我再试一次”是不够的。
  • 组织记忆和系统背景:理解团队为什么以某种方式构建基础设施,或为什么没有这么做,过去尝试过什么,以及存在哪些无人记录的边缘情况。
  • 领导和治理:制定政策、确定风险容忍度并遵守伦理界限,仍然是人类的根本责任。

人工智能可以揭示洞见、推荐行动并加快执行,但无法取代防止灾难的组织记忆,也无法提供在问题失控之前将其发现的问责机制。

明智的组织有哪些不同做法

借助人工智能取得成功的组织,并没有把人排除在外。它们用人工智能简化那些给日常运营增加阻力的重复性、例行流程,从而释放人的时间和其他关键资源,让人们寻找新的创造性方法,为企业带来更大效益。它们把人工智能当作“并肩奔跑”、增强人类能力的工具。以IT运营为例,这些团队已经不堪重负,要用有限资源管理庞大基础设施。人工智能,或许更具体地说是机器学习(ML),可以在这里提供实际价值。人工智能和机器学习可以自动执行过去耗时、让宝贵的领域专家埋头于运营工作的例行任务:补丁研究和测试、工单分类、工作流生成、发现和风险映射。

这些任务构成IT运营的基础,却耗费大量时间。尤其当组织的数字环境不断扩大、漏洞格局发生变化,员工也越来越期望在工作设备上获得良好的数字体验时,更是如此。如果团队因为超负荷而无法做好这些基本工作,也就是管理或监控这些能力和流程,后果会十分严重:停机、未能应用补丁、数据泄露和安全入侵。

相反,如果善用人工智能简化这些领域的工作,就能给IT人员留出时间去做人工智能做不到的事:减少技术债务、改进现有系统和流程、重新设计架构以提升韧性,并保留让关键系统持续运行的组织知识。这不只是效率问题,也是风险缓解,并为长期增长奠定更牢固的基础。

正确采用人工智能

那些从一开始就审慎规划人工智能的应用与采用,同时优先保障其安全、有效使用的组织,已经从人工智能战略中获得更大成果,并将继续受益。优化不是来自裁员。它来自对人的投资、重新设计工作流程,以及培训团队如何最好地使用人工智能。

这并不新鲜。几百年来,技术一直通过代际周期不断进步,而我们每次都倾向于重复相同的错误。我们用力过猛,试图让某项进步成为解决所有问题的灵丹妙药。利用这种绝望、过度承诺并在结果可衡量之前就消失的江湖骗子从来不缺。实际上,人工智能和机器学习能做的是计算机一直在做的事:比人类更快、更准确地完成某些任务。那些找到这些机会,并务实地把人工智能用于并肩合作的人,会很快看到投资回报。具体来说,这意味着:

  • 利用人工智能消除低价值任务,而非高价值的人类判断
  • 设计有人类参与的工作流程,降低重大决策的风险
  • 在人工智能系统失败或产生不确定结果时,明确上报处理路径
  • 明确分配人工智能驱动决策的责任
  • 培训团队审慎检视人工智能的输出,而非盲目接受

做错这件事的真正代价

科技行业目前的大规模裁员循环,随后伴随着悄悄重新招聘,这不是人才的转移,而是风险的转移。组织正用数十年的组织记忆换取几个月的自动化速度,最终由IT领导者承担处理后果的责任。

人工智能确实能带来收益,但当它被用来保留和增强专业能力,而不是取而代之时,这些收益才最有意义。在人工智能时代持续蓬勃发展的公司,不会是裁员最狠或部署人工智能工具最多的公司,而会是审慎运用人工智能自动处理单调工作,并增强人类创造力、协作和专业能力的公司。

因为当下一个系统故障、停机或网络安全事件发生时,你不会希望由机器人或机器来领导系统修复或客户沟通。那时,你会希望那位拥有深厚历史背景和知识的人仍然留在公司,而且你确实需要他。

如果我们想释放人工智能的全部潜力,就必须专注于用它处理单调繁琐的任务,并停止把它当成经营业绩不佳的借口。

伊根·林德纳(Egon Rinderer)在NinjaOne公司担任职务前,拥有超过35年的经验,曾在美国国防部、情报社区和私营部门工作。作为Shift5的前首席技术官和Tanium的前全球副总裁,他专门解决复杂的技术和国家安全挑战。在他的企业领导职责之外,伊根还积极为美国政府提供咨询,支持国防技术创业公司,并指导下一代STEM创新者。