Christopher Morton, Logically首席信息官 Christopher Morton Logically首席信息官

为什么禁止AI会增加安全风险以及机构应该如何应对

在美国，学校区和公共机构正在限制或禁止访问生成性人工智能（GenAI）技术或特定工具。科罗拉多州的博尔德谷学校区最近在学校网络中禁止了ChatGPT，理由是担心滥用、安全和学术诚信。减少安全事件或数据滥用的风险是可以理解的。具有弱保护措施或不明确的隐私承诺的平台，如DeepSeek，需要限制和审查。但是，禁止访问GenAI工具并不能有效减少风险；它通常只是将风险转移到没有监督的环境中。一项由大学委员会进行的调查发现，84%的高中学生报告称他们使用GenAI进行学校作业，即使45%的校长报告称学校至少有一些限制访问AI的规定。同样，IBM的一份报告发现，80%的办公室工人使用AI，但只有22%仅依赖雇主提供的工具。访问政策并不能决定行为。学生可以使用手机上的任何AI工具，或者在家里或公共Wi-Fi网络上使用。他们还可以使用VPN、远程桌面和插件来绕过限制。员工也可以这样做来规避工作场所的控制。机构应该假设，当有使用AI的意愿时，就会有使用AI的方法。当技术以一种方式受到限制，促使使用超出机构可见范围时，影子AI的风险就会增加。没有对输入到提示或模型中保留的数据的监督。任何对安全的控制都立即消失。除了影子AI的风险，禁令还会产生识字差距，使学生完全无法准备好使用将成为他们未来重要组成部分的技术。这些工具越来越多地嵌入搜索引擎、商业平台、生产力套件和个人设备中。皮尤研究中心的一项调查发现，62%的美国成年人表示他们至少每周与AI互动几次。可以肯定，学生和员工无论机构政策如何，都会遇到GenAI系统。在这种环境中，教育是最可靠的保障，用于解决滥用或安全问题，并确保学生和工人都能够负责任地使用将在他们的职业生涯中发挥重要作用的工具。教授负责任和道德的使用方法，可以使用户认识到数据风险并在遇到这些系统时做出明智的决定。教育计划应该关注大型语言模型（LLM）如何处理和保留数据，如何识别幻觉，如何验证AI生成的输出，如何识别钓鱼活动和AI生成的图像等。教导用户要持怀疑态度。AI输出通常以自信和精致的语言呈现，这可能会产生权威性的幻觉。没有训练，用户可能会认为一个格式良好的答案本身就是准确的。在数字内容中产生疑问是抵御深度伪造和AI增强的钓鱼活动的第一道防线。Gartner的一项调查发现，62%的组织去年经历了深度伪造攻击，32%面临了针对AI应用程序的攻击。这些事件的频率和范围预计只会继续增加。公立机构，如学校和地方政府，特别容易受到深度伪造启用的社会工程攻击，因为它们的大部分活动都被记录和公开。可以操纵公共会议的音频片段，并用它们生成令人信服的语音电话。我们已经看到威胁者使用这种方法进行诈骗，例如在敏感交易期间重定向资金。虽然这种情况通常发生在针对性案例中，但从一开始就没有接受过训练的用户，或者不知道这些技术的可能性，处于劣势。在教育之后，机构应该有明确的AI使用和治理政策。这些政策应该定义批准的工具、可接受的用例以及可以输入到哪些模型中的数据。政策需要在各个部门中保持一致，而不是在教室或办公室之间有所不同。明确的期望可以减少模糊性并加强问责制。与其实施全面限制，机构应该寻求塑造技术的实际使用方式。当机构支持一个可访问、安全且功能良好的工具时，它将成为大多数用户的默认选择。随意的影子AI使用会减少，因为有一个直接的替代方案，不需要下载VPN来使用它。机构和组织正在寻找一种方法，以安全的方式提供对大型语言模型（LLM）的访问，确保其数据得到保护，不会被共享或用于训练。正在出现一种新的AI赋能和安全工具类别来实现这一点。这些工具可以提供对多个LLM的访问，同时将机构的数据安全地容器化。零数据保留协议提供了法律框架，以确保机构的数据仍然归公司或机构所有，LLM不能在其上进行训练。此外，如果员工离开机构，任何AI使用、工作流程或数据仍然归机构所有。技术防护措施也可以在功能级别应用。机构可能允许学生或员工在批准的LLM中提出一般问题，同时禁用文件上传、文档共享或其他高风险功能。这些配置保留了生产力优势，而不会打开未受控制的数据暴露的大门。更高级的工具可以在数据到达模型之前自动匿名化敏感信息。例如，通过用中性占位符替换患者姓名或标识符，医生和护士可以在不暴露受保护数据的情况下使用GenAI。其他工具集成了数据丢失防护控制，检测和阻止社会安全号码、财务账户数据或其他受监管信息在提示中提交。建立在教育基础上的明确政策和技术防护措施，构成了最好的防御，尤其是在技术变化如此之快的环境中。GenAI的发展速度超过了大多数公共机构——以及它们的预算——能够适应。试图阻止每个新模型的出现是不现实的，因为在一个平台受到限制之前，另一个平台已经获得了关注。接受过训练的用户可以在工具和版本之间适应。在AI启用的环境中，安全取决于承认GenAI已经融入日常生活的现实。没有办法把精灵重新放回瓶子里。全面禁令可能表明谨慎，但它们通常用不可见的、不可管理的风险换取了可见的、可管理的风险。教一个人如何负责任地使用AI，他们将为未来做好准备。