Anand Oswal, 网络安全高级副总裁和总经理，帕洛阿尔托网络公司 Anand Oswal 网络安全高级副总裁和总经理，帕洛阿尔托网络公司

在OT环境中保护AI的使用

随着具有运营技术（OT）的组织开始采用人工智能，安全性需要成为他们战略的前沿。人工智能的集成显著扩大了攻击面——一个已经因IT和OT的融合而扩大的面。大多数OT漏洞源于IT连接，而OT设备通常缺乏内置的安全功能和补丁功能，因此很难保护。人工智能的引入为已经具有挑战性的环境添加了新的复杂性。为了应对这些挑战，安全专业人员必须重新思考他们的方法。保护人工智能的关键在于利用人工智能本身——使用该技术的优势来创建强大的防御。人工智能采用的增长和伴随的安全挑战员工采用人工智能应用程序的速度正在迅速加快，推动各个行业的创新。公司正在利用人工智能来获得竞争优势，员工利用诸如生成式人工智能等工具来简化工作流程和提高生产力。在OT部门，人工智能的潜力是巨大的，它已经在改变运营。例如，人工智能正在赋予制造业和能源行业以力量，使用案例如智能制造和“设备即服务”利用新的工业物联网技术栈，从而从根本上挑战传统的珀杜模型和空气隔离。智能建筑通过使用人工智能来优化能耗、提高工作人员体验和自动执行例行维护任务（如监测暖通空调系统、根据占用情况调整照明和检测管道泄漏）变得更加高效。此外，人工智能驱动的决策正在帮助OT专业人员自动执行复杂的流程，例如根据设备使用模式安排预测性维护、动态调整生产线以优化输出和实时管理库存水平以防止短缺。通过接管这些例行但至关重要的任务，人工智能使OT团队能够专注于更战略性的、更有价值的活动，这些活动推动创新和效率。这已经正在发生，使用案例也正在迅速推出。麻省理工科技评论洞察报告发现，64%的制造商已经开始研究或尝试使用人工智能。事实上，根据盖特纳的说法，到2030年，高达75%的运营决策可能在人工智能启用的应用程序或流程中进行。然而，组织必须牢记，虽然人工智能驱动的应用程序提供了令人惊叹的机会，但它们也带来了新的数据安全问题，并扩大了潜在的攻击面。随着人工智能的采用率飙升，这些系统成为网络攻击的主要目标。人工智能应用程序（如连接的机器）需要从边缘直接到IT和/或云端收集机器遥测数据，这打破了传统的OT模型并增加了威胁面。通常，OT（或影子IT）可以在没有IT安全团队的知识或批准的情况下构建此类技术栈，这使得工业组织面临来自许多未经授权的外部应用程序和资产的威胁。因此，组织需要重新思考他们的安全策略，以保护这些关键资产。人工智能正在被组织越来越多地采用，因为他们意识到其双重潜力：在后端降低成本，同时通过增强的应用程序推动更大的利润。企业现在正在将人工智能组件集成到他们的应用程序栈中，以利用这些好处。然而，这也引入了新的风险，特别是在暴露敏感数据方面，因为人工智能系统依赖于推理和训练数据集。随着人工智能成为业务运营的不可或缺的一部分，保护这些数据集免受潜在威胁对于维护安全性和信任至关重要。使用合适的AI驱动计划保护AI驱动的应用程序人工智能的魔力已经释放出来。没有回头路，这意味着唯一安全的前进方式是采取强有力的方法来保护这些人工智能驱动的应用程序。讽刺的是，解决人工智能相关的安全威胁需要人工智能燃料解决方案。在Palo Alto Networks 和ABI Research的一份报告中，8/10的受访者表示，他们认为人工智能对于应对人工智能驱动的攻击至关重要。人工智能可以帮助人工智能安全的一些方法是：IT和OT安全团队的协作：人工智能正在改变IT和OT安全团队的协作方式，通过为双方提供一个统一的安全数据视图。随着OT环境越来越多地集成IT技术，人工智能有助于弥合这一差距，通过在两个领域应用高级分析。这使得威胁检测更早，攻击映射到MITRE ATT&CK等框架更准确，异常监控更自动化。通过增强沟通和简化常规安全任务，IT和OT团队之间的更强合作使得端到端的人工智能启用的洞察成为可能，从而实现更好的检测和安全性。增强威胁检测和响应：人工智能正在改变制造商发现和响应威胁的方式，特别是在工厂车间的许多设备上应用用户和实体行为分析（UEBA）。人工智能工具使用算法设置正常行为的基准，并快速找到可能表明威胁的异常。标准的IT安全工具可能不理解OT的专用协议，因此这种人工智能功能尤为重要。解决网络安全技能缺口：全球范围内，据估计有400万名网络安全专业人员短缺，根据ISC2的说法。人工智能可以通过自动执行一些团队正在处理的单调任务来提供帮助，并帮助新团队成员处理更高级的安全操作。人工智能自动化还使安全人员能够花时间处理高价值的战略计划。展望未来，几个人工智能创新即将对OT安全产生积极影响： 人工智能数字孪生集成，创建更有效的安全模拟 威胁检测的准确性更高，减少了假阳性数量 评估运营风险的能力更强 当然，保护人工智能也需要遵循任何安全计划的最佳实践，包括为员工投资定期培训和意识，跟上法规和合规性要求，并对OT流程和网络流量进行持续的安全检查。让人工智能变得安全OT和IT的融合已经扩大了可用的网络和数据安全攻击面——人工智能的引入进一步扩大了这一面。随着组织和员工迅速采用人工智能，这项技术带来了机会和新的风险，包括使用未经授权的影子人工智能。鉴于人工智能的不可否认的实用性，它将继续存在，因此其安全影响必须立即解决。为了保护生成式人工智能和人工智能驱动的应用程序的使用，组织必须制定一个全面的安全计划，该计划不仅保护免受潜在威胁，还利用人工智能的能力来加强其防御。上述最佳实践为组织提供了一个框架，以创建或微调一种策略，使他们能够最大限度地发挥人工智能的潜力，同时有效地管理相关风险。