思想领袖

人工智能创造的知识鸿沟是新的安全漏洞。以下是如何弥补它。

mm
将 Unite.AI 添加到您在 Google 上的首选来源

科技公司正在进行一项熟悉的赌注:人工智能可以比人类更快、更便宜地完成工作。虽然在许多情况下,这可能是正确的,但它也被用作裁员的容易按钮。

在普华永道今年早些时候发布的一份报告中,56%的CEO表示,他们尚未从人工智能投资中获得任何显著的财务收益,只有12%的CEO报告称人工智能带来了成本节约和收入增长。另外,国家经济研究局2月的一项研究发现,近90%的公司表示,人工智能在过去三年中对就业或生产率没有任何影响。这一切都凸显了一个令人深思的真相:许多组织尚未看到人工智能最初承诺的收入和生产率回报,而为了弥补损失,他们继续裁员。

但是,这里有件事,财报电话会议没有提到:当你消除拥有十年关系背景的账户经理,或拥有机构知识的QA工程师时,你不是在削减脂肪。你是在削减承重墙。改作成本、客户流失、质量故障等后果很少出现在宣布裁员的同一张幻灯片中。它们被悄悄地吸收到未来的季度中,被归咎于市场条件,并被遗忘。人工智能驱动的重组承诺和实际交付之间的差距是真实的,它正在增长,并且对于许多组织来说,它仍然完全没有被承认。

这一轮裁员的真正成本并不集中在一个地方。它们分散在每个裁员后剩余的团队中。开发人员吸收了离开的工程师的工作量,同时被交付了仍然不成熟的无法弥补失去的人员的AI工具。产品团队失去了使路线图扎根于客户现实的背景。支持组织被拉伸得很薄,响应质量下降,因为客户立即认出“slop”响应他们的票。负担不集中,它是分散的,这种扩散是使其在季度报告中被忽略的原因之一。但在这种更广泛的分散中,IT团队面临着一个独特的和复合的问题。他们不仅要做更多的事情,还要管理在没有机构知识的情况下快速构建的基础设施,同时执行离职同事的离职和新同事的入职,因为公司悄悄地逆转了他们公开庆祝的裁员。

随着我们继续推进这一年,组织致力于实现人工智能的承诺,是时候意识到,当你以人工智能为名义裁员时,会损失的不仅仅是收入。好消息是,你可以同时拥有两全其美。但是,这需要采取更实用、更务实的方法来对待人工智能。这种方法将人类置于策略的中心。

知识走出门时会失去什么

关键的运营知识存在于人们的脑海中,并通过人类的判断力而不是系统来应用。当这些人离开时,这些知识也会随之离开。无论模型多么复杂,人工智能都无法填补这一空白。

即使人工智能能力扩展,缺乏细致背景的自动化也会在关键领域创建危险的盲点:

  • 判断和策略:直觉、机构知识和市场意识不生活在数据集中,即使是非结构化的数据集中。
  • 背景和情况意识:人类可以识别细微差别、意图,并可以在僵化规则可能崩溃的灰色区域中导航。
  • 同理心和信任:高影响力或情感激动的时刻(尤其是涉及客户或员工的时刻)需要以人为中心的回应。
  • 监督和问责:有人必须负责识别故障、偏差或超前地处理错误信息。简单地说“你是对的,让我再试一次”,在提供完全错误的信息后是不够的。
  • 机构记忆和系统背景:理解为什么团队以某种方式构建基础设施(或没有),他们之前尝试过什么,以及没有记录的边缘情况。
  • 领导和治理:定义政策、风险承受能力和坚持道德界限仍然是人类的基本责任。

人工智能可以提供洞察力、推荐行动并加速执行,但它无法取代防止灾难的机构记忆,或提供在灾难发生之前抓住它们的问责。

聪明的组织做得不同

成功的组织并没有从等式中删除人类。他们正在使用人工智能来简化为日常运营添加摩擦的重复过程。解放人类来专门花时间和其他关键资源找到新的创造性方法来推动更大的业务效益。他们正在利用人工智能作为“赛跑”工具,以强制放大。考虑一下IT运营的世界。这些团队已经被拉伸得很薄,管理着广泛的基础设施,手段有限。人工智能,或者更具体地说,机器学习(ML),可以在这里提供真正的价值。人工智能/ML可以自动执行以前耗时的、重复的任务,这些任务会将宝贵的、主题专家埋葬在运营工作中:补丁测试和研究、票据分类、工作流生成、发现和风险映射。

这些任务构成了IT运营的基础,但它们会消耗大量时间(尤其是当组织的数字资产扩大、漏洞景观发生变化、员工越来越期望与他们使用的设备有积极的数字体验时)。当团队由于这些基本功能和流程而失败时,后果很严重:停机、漏补丁、数据泄露、安全漏洞。

另一方面,当你使用人工智能来简化这些领域的工作时,你会给IT人员时间来做人工智能无法做的事情:清除技术债务、改进现有系统和流程、重新设计以提高弹性,并保留使关键系统运行的机构知识。这不仅仅是效率。这是风险缓解。这为长期增长奠定了更坚实的基础。

正确采用人工智能

从开始就采取周密的人工智能应用和采用,同时优先考虑安全、有效的使能,组织将会看到(并将继续看到)他们的人工智能策略的更大成果。优化并不来自于裁员。 它来自于投资于他们,重新设计工作流程,并教育团队如何最好地使用人工智能。

这并不是什么新鲜事。技术已经通过世代循环在几个世纪中不断进步。每次我们都倾向于重复相同的错误。我们过度旋转并试图使特定的进步成为万能的解决方案来解决我们的所有问题。没有缺乏那些会利用这种绝望的江湖骗子,他们会过度承诺并在结果可以衡量之前消失。现实是,人工智能/机器学习可以做计算机一直能做的事情:以比人类更快、更准确的速度执行某些任务。那些找到这些机会并以务实的方式应用人工智能的人将会看到对他们的投资迅速回报。实际上,这意味着:

  • 利用人工智能消除低价值任务,而不是高价值判断
  • 设计人工智能在回路中的工作流程,以使高影响力的决策去风险
  • 定义明确的升级路径,当人工智能系统失败或产生不确定的结果时
  • 分配明确的所有权用于人工智能驱动的决策
  • 培训团队来审查人工智能输出,而不是盲目接受它

错误的真正成本

科技行业目前的裁员循环后面是 悄悄地重新雇佣,这不是人才转变。这是风险转移。组织正在用几十年的机构记忆换取几个月的自动化速度,IT领导者们是那些在管理后果方面承担风险的人。

人工智能提供了真正的收益,但这些收益最有意义的是,当你使用人工智能来保存和放大专业知识,而不是取代它时。那些将在人工智能时代继续蓬勃发展的公司,不是那些裁员最深或部署最多人工智能工具的公司。他们是那些深思熟虑地使用人工智能来自动化单调任务,并增强人类的创造力、协作和专业知识的公司。

因为当下一个系统失败时,或者下一个停机或网络安全事件发生时,你不希望机器人或机器站在系统修复或客户沟通的前沿。那里是你想要(和需要)仍然在建筑物内的人,他们拥有深厚的历史背景和知识。

如果我们想解开人工智能的全部潜力,集中精力利用人工智能来完成单调的任务,并停止使用它作为糟糕的商业表现的借口,这是至关重要的。

伊根·林德纳(Egon Rinderer)在NinjaOne公司担任职务前,拥有超过35年的经验,曾在美国国防部、情报社区和私营部门工作。作为Shift5的前首席技术官和Tanium的全球副总裁,他专门解决复杂的技术和国家安全挑战。在他的企业领导职责之外,伊根还积极为美国政府提供咨询,支持国防技术创业公司,并指导下一代STEM创新者。