Ginny Spicer, Threat Analyst, Netcraft

治理缺口：为什么人工智能监管总是滞后

创新以机器速度演进，而治理以人类速度移动。随着人工智能的采用呈指数级增长，监管却滞后，这是技术进步的常见现象。全球各国政府和其他实体都在争相监管人工智能，但碎片化和不均匀的方法层出不穷。部分挑战在于，没有所谓的非政治性技术设计。有许多法规和提议，从欧盟的《人工智能法案》到美国的监管沙盒，每个都有其自己的哲学。虽然人工智能治理本质上滞后于创新，但真正的挑战是在这种滞后中负责地管理安全和政策。缺口的性质：创新优先，监督滞后监管滞后是技术进步的必然产物。例如，亨利·福特在开发T型车时，并没有主要关注高速公路安全和道路规则。历史上，监管模式总是跟随创新；最近的例子包括数据隐私、区块链和社交媒体。人工智能的快速演进超过了政策形成和执行的速度。换句话说，马车在马前。部分挑战在于，政策制定者经常对伤害做出反应，而不是预测风险，这就产生了反应性治理的循环。问题不在于滞后本身，而在于缺乏适应性机制来跟上新出现的威胁模型，以及缺乏愿意为安全而牺牲竞争优势的意愿。这是一个“向下竞争”的情景；我们为了局部的竞争优势而牺牲了集体的安全。全球人工智能治理的拼缝代表了碎片化的哲学世界上现有的主要人工智能治理方法差异很大。在欧盟，去年推出的《人工智能法案》是非常以道德和风险为基础的。人工智能的使用根据风险水平进行评估，一些被认为是不可接受的，因此被禁止。相比之下，美国采取了更多的监管沙盒模型，强调创新灵活性。有些人可能将其描述为创新豁免，而批评者可能称之为空白支票。还有《广岛过程》，它包含了全球协调的意图，但跟进有限；每个G7国家仍然专注于国内人工智能主导地位。在美国，这个问题基本上被留给了各州，这实际上确保了缺乏有效的监管。联邦政府有时之所以这样做，是因为它可能是如此无效的。各州正在创建新的沙盒来吸引科技公司和投资，但不太可能在州级别有任何有意义的监管；只有例外情况。英国在脱欧后一直在国内和国际上努力确立自己作为一个独立的实体。通过放松管制和政府的“提升计划”，监管沙盒的引入并不令人惊讶。英国政府希望英国成为人工智能超级大国，以获得内部和外部的政治优势和稳定。欧盟更注重消费者安全，但也注重其共同市场的实力。这是有道理的，考虑到欧盟在拼缝监管方面的历史。共同遵守、规范和跨境商业是使欧盟成为其现状的关键因素。他们仍然需要监管沙盒，但每个成员国必须在同一日期运作一个沙盒。这些只是几个这样的法规，但可以说是最突出的。关键点是存在断裂的框架，缺乏共享的定义、执行机制和跨境互操作性。这为攻击者留下了漏洞。协议的政治性没有人工智能监管可以真正是中立的；每个设计选择、防护栏和监管都反映了潜在的政府或企业利益。人工智能监管已经成为一种地缘政治工具；国家使用它来获得经济或战略优势。芯片出口管制是当前的一个例子；它们作为间接的人工智能监管。迄今为止，唯一有效引入的监管是故意阻碍市场。人工智能霸权的全球竞争使得治理成为竞争的手段，而不是合作安全的手段。没有边界的安全，但有边界的治理这里的主要棘手问题是人工智能威胁超越边界，而监管仍然被限制在边界内。今天快速演进的威胁包括对人工智能系统的攻击和使用人工智能系统的攻击。这些威胁跨越管辖权，但监管仍然被隔离。安全被困在一个角落，而威胁却遍布整个互联网。我们已经开始看到全球威胁者利用弱安全控制滥用合法的人工智能工具。例如，恶意活动已经被发现使用人工智能网站创建工具，这些工具更像网站克隆器，可以轻松滥用来创建钓鱼基础设施。这些工具被用于冒充从流行社交媒体服务到国家警察机构的登录页面。直到治理框架反映人工智能的无边界结构，防御者将仍然受到碎片化法律的限制。从反应性监管到主动防御监管滞后是不可避免的，但停滞不是。我们需要具有适应性和预测性的治理，具有能够随着技术演进的框架；这是一种从反应性监管到主动防御的转变。理想情况下，这将包括： 开发共享的国际人工智能风险分类标准。 在标准制定中扩大参与范围，超越主要政府和企业。互联网治理一直试图（以不同程度的成功）使用多利益相关者模型而不是多边模型。虽然不完美，但它对使互联网成为每个人的工具并最小化审查和政治关闭产生了巨大的影响。 在治理中促进思想多样性。 建立事件报告和透明度机制。缺乏监管通常也意味着缺乏报告要求。目前不太可能在监管沙盒内的错误或设计选择中要求告知公众损害的情况。 虽然治理缺口永远不会消失，但合作、透明和包容的框架可以防止它成为全球安全的永久漏洞。