Dr. Tony Bader 是 Innovative Solutions 的首席战略官,专注于 AI 治理、数字转型和领导战略。他与全球组织合作,加强快速技术变革时代的决策框架。
人工智能目前正在以大多数高管职业生涯中从未见过的速度发展。新的能力不再是每年出现,而是每季度,甚至每月出现。曾经在边缘尝试人工智能的行业现在正疯狂地将整个工作流程、产品和客户体验重新设计为围绕人工智能。这种加速是不可否认的。然而,在许多领导团队内部,运营节奏仍然非常静态。决策仍然需要经过漫长的线性周期。委员会需要几个月的时间来审查提案。战略文件旨在预测三年到五年的未来,而实际上景观每三周就会发生变化。这里存在一个根本性的脱节:人工智能的速度是实时测量的,而公司治理的速度则是按季度测量的。这种日益扩大的“速度差距”可能是人工智能时代最被低估的风险。现代企业面临的主要威胁不是人工智能会变得有感知能力或超过人类智慧,而是人工智能创新会远远超过负责引导它的机构。真正的治理危机不是技术问题,而是领导瘫痪的危机。无人谈论的瓶颈高管们受到几十年商业理论的影响,习惯于根据仔细研究、结构化比较和迭代审查做出决定。这种“瀑布”方法在战略格局沿着线性、可预测的时间表演变时效果非常好。然而,人工智能并不遵循这些规则。它的演变是指数级的。根据斯坦福大学人工智能研究所(HAI)发布的2024年人工智能指数报告,人工智能系统的技术性能已经超过了人类基准,在图像分类、视觉推理和英语理解方面,同时训练这些模型的成本也在持续下降。这就形成了一个市场环境,即进入门槛每天都在降低,而能力天花板也在同步上升。然而,尽管技术加速发展,人类因素,主要是决策,正在停滞不前。最近的麦肯锡全球人工智能调查强调了一个令人担忧的差异:虽然采用率正在飙升,但许多领导团队却犹豫是否要在大规模上实施必要的风险缓解策略。领导者们正在犹豫。他们担心选择“错误”的基础模型,误解版权风险,或者在一个没有监管的空间中表现得过于激进。但在当前的气候中,延迟已经不再是一个中立的选择。这是一个战略性的负债。无所作为的成本已经超过了实验的成本。传统治理为什么会失灵大多数公司治理结构都是为稳定而设计的,依赖于分层的批准和为渐进式变化而量身定制的决策框架。这些结构就像一辆需要高速行驶的车辆上的制动器。生成模型的演进速度超过了监管机构或内部政策委员会能够跟踪的速度。传统的治理、风险和合规(GRC)团队已经审查了一份特定版本的大型语言模型(LLM)的时间,提供商可能已经发布了两个更新和一个新模态。产品团队可以在一周内使用API构建功能原型。竞争对手可以在内部委员会完成第一次审查周期之前推出人工智能启用的客户服务功能。这并不意味着治理应该消失。这意味着它必须从“门卫”模型演变为“护栏”模型。德勤公司关于“值得信赖的人工智能”框架的行业分析强调了自适应治理的重要性。这是一种领导者将人工智能视为需要持续审查、迭代和监督的动态能力,而不是一次性项目实施的模型。能够实时更新决策节奏的组织在性能方面远远超过那些依赖于僵化、缓慢结构的组织。基于慢速、法医分析的框架无法管理每个季度都在重塑自己的技术。“影子人工智能”的崛起领导缓慢的最危险的后果之一是“影子人工智能”(也称为BYOAI——带来自己的人工智能)的迅速传播。当员工感到官方指导不明确、限制性或过时时,他们不会停止使用人工智能。他们只是将其转入地下。这不是一个理论风险。微软和领英2024年工作趋势指数报告显示,78%的人工智能用户将自己的人工智能工具带到工作中(BYOAI)。关键是,这种趋势遍及所有世代,而不仅仅是Z世代。员工使用未经授权的工具来自动化编码、总结机密PDF报告和草拟客户沟通。虽然这表明了宝贵的员工主动性,但它却造成了治理噩梦: 数据泄露:往往将专有数据输入到不安全的公共模型中进行训练,有效地将商业秘密交给第三方供应商。 质量控制:输出可能会编造事实或与公司标准和品牌声音相冲突。 不可见风险:责任分散在整个组织中,没有集中意识或法律审查。 影子人工智能并不是一个可以通过防火墙解决的技术问题,而是一个需要通过清晰度解决的领导问题。它填补了指导缺失的空白。治理行动太慢时,员工就会完全绕过它。重新定义人工智能风险董事会中经常出现的一个模式是对错误风险的执着。领导者们担心声誉后果、监管不确定性或在试点项目失败时显得愚蠢的恐惧。虽然这些担忧是合理的,但它们是次要的,次于结构性惯性的风险。公司可以从不完美的人工智能试点中恢复过来,但它无法从整个市场周期中恢复过来。根据盖特纳关于生成人工智能战略的报告,到2026年,超过80%的企业将使用生成人工智能API和模型和/或在生产环境中部署GenAI启用的应用程序。早期采用人工智能的竞争对手正在建立复合优势:更快的决策周期、更干净的数据集和更深的运营效率。一旦这种差距扩大,就很难弥补。领导者经常将谨慎解释为安全,但在人工智能时代,过度谨慎就是脆弱。领导者如何适应高管们不需要成为机器学习工程师。然而,他们必须重新设计自己的“操作系统”——决策方式。为了解决速度差异,五个战略转变是必不可少的: 更快的决策周期年度战略必须让位于持续评估。人工智能计划应该每月审查,而不是每年。领导者必须奖励速度、迭代和快速学习,而不是完美规划。18个月的技术路线图时代已经基本结束;它必须被滚动的90天执行冲刺取代。 护栏而非规则僵化的规则扼杀创新并鼓励影子人工智能。相反,员工需要实用的边界。治理应该定义“安全区”:哪些数据分类是允许的?哪些模型被批准用于企业使用?哪些工作流程需要人工审查?护栏使团队能够在安全参数内快速运行,而不是等待许可才能采取步骤。 跨职能权限人工智能不能仅仅放在IT部门。有效的治理需要一个共同的桌面,涉及产品、法律、运营和合规。关键是,这个小组必须拥有真正的决策权,而不是仅仅具有咨询权。 培养知情实验将文化从“避免错误”转变为“小步伐、快速学习”。小型试点和安全沙盒可以在不将组织暴露于系统性风险的情况下创造动力。IBM关于人工智能伦理和治理的分析表明,创建道德和技术“沙盒”可以在模型接触客户数据之前对其进行必要的压力测试。 识读能力,而非仅仅专业知识领导者需要了解能力、局限性和战略影响——而不仅仅是技术架构。最好的人工智能领导者是具有出色判断力的通才,而不是狭隘领域的专家。他们需要了解预测性人工智能和生成性人工智能之间的区别,以及每种人工智能如何应用于他们的业务模型。 未来的高管人工智能改变了公司的运营方式,但它也从根本上改变了领导者必须思考的方式。未来的高管不是拥有所有答案的人,而是能够在不完整的信息下做出高质量决策的人,能够带领团队在不确定性中前进,而不是僵硬的确定性。领导力不再是关于控制的问题。它是关于使组织能够像它依赖的技术一样快速适应。人工智能将继续加速。问题是您的领导团队是否能够跟上它。如果您的治理模型仍然停留在上个十年的步伐中,那么差距很快就会变得太大,无法弥补。