揭示 Shadow AI 的奥秘

各行各业的员工都在越来越多地利用人工智能 (AI) 工具来改变日常运营。无论是营销人员使用 ChatGPT 来撰写营销活动文案，还是软件工程师使用生成式工具编写代码，人工智能都在悄然融入到业务的几乎方方面面。事实上， 麻省理工学院的NANDA项目 调查发现，超过90%的组织机构中，员工都在使用个人聊天机器人账户来辅助日常工作，而且往往缺乏IT监管；然而，只有40%的公司正式订阅了大型语言模型（LLM）工具。这种官方授权和秘密使用人工智能之间的脱节，暴露出一个新的安全盲点： 影子人工智能. 

缺乏监管，敏感数据可能被共享给外部模型，输出结果可能不准确或存在偏差，合规团队也无法了解信息的处理地点和方式。随着员工不断尝试在未经批准的渠道之外使用工具，企业需要重新构想其人工智能管理策略，否则这些风险将持续涌现。对于首席信息官而言，完全禁止人工智能工具并非解决之道，因为这可能会影响企业的竞争力。相反，重点应该放在构建灵活的保障机制上，以平衡创新与负责任的风险管理。

为了在人工智能相关风险面前保持领先，企业应制定促进负责任应用的人工智能政策。这些指导方针应鼓励员工合理使用人工智能，并且任何制定的政策都必须与公司的价值观和风险承受能力保持一致。为了成功实施人工智能项目，企业必须摒弃过时的治理模式和无法检测或追踪企业人工智能使用情况的传统工具。

制定人工智能政策固然重要，但真正的关键在于确保这些政策的设计切实可行、可执行，并与每个企业的创新愿景和合规需求保持一致，同时又不阻碍其发展。

以下是企业可以采取的四个步骤：

1. 确定最佳框架

企业不必从零开始。一些领先的机构已经制定了框架，可以提供宝贵的参考。经济合作与发展组织（OECD）的资源（经合组织），国家标准与技术研究院（NIST）， ISO / IEC可以提供关于安全有效地管理人工智能的指导。此外，政府机构也开始介入。欧盟的新法规（EU这些机构正在围绕透明度、问责制和治理设定预期。这些资源将共同为企业构建和完善自身框架奠定坚实基础，从而指导负责任的AI应用。

2. 提高人工智能的可见性

随着各组织机构制定有效的AI风险管理方案，安全领导者必须深入了解AI在企业内部的实际应用情况。他们应该投资于能够帮助他们了解跨职能部门活动的工具。这些工具可以监控和访问用户行为，并会不遗余力地识别生成式AI的使用地点。这种洞察力对于发现隐性AI使用情况至关重要，并能帮助领导者评估风险并加以应对。

3. 成立人工智能委员会

一旦建立了可视性，安全领导者就可以利用它来制定新的策略。由于人工智能的应用会影响整个业务，因此不应将决策过程孤立起来。首席信息安全官 (CISO) 应考虑成立一个人工智能委员会，汇集来自安全、法律、IT 和高管团队的关键利益相关者。事实上， Gartner公司 报告显示，55% 的组织已经成立了人工智能委员会，而 54% 的组织已经任命了人工智能主管或专门的人工智能负责人来监督战略和实施。

这些跨职能团队可以评估人工智能工具（无论是否获得授权）开始渗透到其业务环境中所带来的风险和机遇。然后，他们可以共同制定新的政策，以满足业务需求并平衡风险。

例如，如果委员会发现某个未经批准使用的热门人工智能工具存在安全隐患，它可以建议禁止使用该工具，同时批准使用更安全的替代方案。这些政策应通过投资安全控制措施和符合合规标准的已批准人工智能平台来强化。随着新技术的出现，委员会还可以引入正式流程，让员工提出工具进行审查，从而帮助组织保持适应性并确保其人工智能战略的合规性。

4. 加强人工智能教育

对员工进行人工智能方面的教育和引导，是确保组织内部对人工智能的认可并抑制隐性人工智能使用的另一个关键环节。即使建立了正确的治理模式，最终的成功也取决于员工对这些模式的理解和接受程度。

在一个 皮尤研究 调查显示，在接受过在职培训的员工中（51%），只有四分之一（24%）表示培训内容与人工智能应用相关。企业应确保设立人工智能培训项目，帮助员工了解可用的机会和功能。技能提升也有助于员工的职业发展，并提高他们对工作的满意度。

人工智能培训项目不应仅仅局限于基本使用和合规性，而应帮助团队理解人工智能的更广泛背景及其在企业生态系统中的运作方式。培训内容应包括：为何负责任地使用人工智能至关重要；现有的政策如何保护企业及其客户；以及如何识别潜在的数据处理或隐私风险。当员工掌握了正确的知识后，他们就能更有能力成为安全创新的积极参与者。

塑造负责任的人工智能的未来 

影子人工智能不会很快消失。随着生成式技术进一步融入日常工作流程，企业面临的挑战只会愈加严峻。领导者们现在面临着一个选择：是将影子人工智能视为无法控制的威胁，还是将其视为在妥善管理下提升效率和生产力的契机？

制定人工智能政策或组建人工智能团队并非一劳永逸。正如人工智能日新月异，组织的战略也必须与时俱进。人工智能可以帮助组织做出更明智的决策，加速创新，并提升各个职能部门的生产力。但要保持这些成果，员工必须了解可用的工具以及如何负责任地使用它们。成功的组织将保持敏捷，积极改进政策，引领变革，而不是被动地追赶变革。