欧盟人工智能法案草案的失败之处

一份针对欧盟《人工智能法案》草案的新法律批评，对拟议的法规提出了广泛的批评，认为大部分文件是从1980年代的消费者法规中“拼凑”而来的；实际上，它们促进了欧洲的人工智能环境的放松，而不是将该行业置于统一的监管之下；此外，提案中规定的未来监管人工智能框架“缺乏意义和影响”。

这篇题为《揭开欧盟人工智能法案草案的神秘面纱》的论文是伦敦大学学院和奈梅亨的拉德伯德大学研究人员的合作成果。该论文的链接可在此处找到。

这篇论文增加了对拟议实施（而非意图）人工智能监管框架的负面意见，包括一位草案法规的贡献者在四月份的说法，即拟议的指南“温和、短视、故意含糊”，并将欧洲委员会的文件描述为“假道德”的支持者。

操纵性人工智能系统

这篇论文认为，人工智能法案中关于“操纵性系统”的限制因“伤害”的定义模糊和自相矛盾而受到限制，评论说“[一个]怀疑论者可能会觉得委员会更感兴趣的是禁令的修辞价值，而不是实际效果”。

草案法规概述了两个被禁止的做法：

(a) 在市场上放置、投入服务或使用部署潜意识技术的AI系统，以超出个人意识的范围，实质性地歪曲个人行为，并可能对个人或他人造成身体或心理伤害；

(b) 在市场上放置、投入服务或使用部署利用特定人群弱点的AI系统，例如年龄、身体或精神残疾，以实质性地歪曲该人群的个人行为，并可能对个人或他人造成身体或心理伤害；

研究人员认为，这些限制并没有解决AI服务或软件是否成功实现其自身目标的问题，而只是考虑到最终用户是否在此过程中受到“伤害”。他们还指出，草案中的伤害定义仅限于个人用户，而不是近年来人工智能争议中可以合理推断出的集体或社会伤害，例如剑桥分析公司事件。

论文观察到“在现实生活中，伤害可能会在没有单一事件触发严重性阈值的情况下积累，使得证明变得困难”。

有害人工智能系统允许，但不适用于欧盟消费

人工智能法案提议禁止在公共场所由执法机构使用的“实时”生物识别系统。虽然一些公众持怀疑态度，认为提案为反恐、人口贩卖和欧洲逮捕令的例外做出了让步，但研究人员指出，什么也不能阻止供应商将违反生物识别系统出售给压迫性政权。

论文指出，这已经是历史上的做法，如2020年国际特赦组织的一份报告所揭露的那样。

它进一步指出，人工智能法案中关于“实时”生物识别系统的规定是武断的，并排除了离线分析系统，例如后期处理抗议活动的视频录像。

此外，提案没有提供任何机制来限制与执法无关的生物识别系统，这些系统被懒散地推迟到了通用数据保护条例；而通用数据保护条例本身“要求每个被扫描的人提供高质量的个人同意，这实际上是不可能实现的”。

人工智能法案这一部分的措辞也受到研究人员的批评。草案规定，需要事先获得授权才能部署生物识别系统用于主管当局的“个人使用”——但没有澄清“个人使用”在此背景下的含义。论文指出，争议的许可可能是“主题的”，并且可能与广泛的组织、目的和地点有关。

此外，草案法规没有规定透明度机制来监测发出的授权数量和类型，使得公众审查变得困难。

将监管外包给“和谐标准”

研究表明，人工智能法案中最重要的实体实际上在草案法规中没有被提及：欧洲标准化委员会（CEN）和欧洲电工标准化委员会（CENELEC）——这是欧洲标准化组织（ESO）中可以被欧洲委员会授权制定和谐标准的三个组织之一，这些标准在许多情况下将成为某些人工智能服务和部署的监管框架。

这实际上意味着人工智能生产者可以选择遵循竞争性而不是互补性的法规标准，而不是满足人工智能法案中概述的基本要求。这使得提供者可以在2024-5年法规生效时更灵活地解释拟议的法规。

论文的研究人员还指出，标准化机构之间的工业游说将在未来几年重新定义这些“基本标准”，并建议“理想”的法规应该从更高的道德水平和立法清晰度开始，以应对这一不可避免的减弱过程。

合理化情绪识别系统的谬误

人工智能法案中规定禁止部署情绪识别和分类系统——这些框架可能不一定能够识别个人，但声称能够了解他们的感受或根据性别、种族、经济和社会标志等进行分类。

研究人员认为，这一条款是无意义的，因为通用数据保护条例已经要求这些系统的提供者向用户提供有关这些系统使用的明确信息，以便用户可以选择退出（这可能涉及不使用在线服务或不进入已知存在此类系统的区域）。

更重要的是，该论文声称这一条款合理化了一种已经被揭穿的技术，并将FACS风格的表情识别系统描述为近似于早期工业时代的偏见性社会分类方法的耻辱历史，例如颅相学。

“那些声称能够检测情绪的人使用过于简单、值得怀疑的分类法；错误地假设在不同文化和背景下具有普遍性；并且有可能‘将我们带回到分析面部结构的性格特征的偏见时代’。法案关于情绪识别和生物识别分类的规定似乎不足以减轻这些风险。”

过于谦逊的提议

除了这些之外，研究人员还指出了人工智能法案在监管深度伪造、缺乏人工智能系统碳排放监督、与其他框架的监管重复以及对可起诉的法律实体的不充分定义等方面的其他缺陷。

他们敦促立法者和民间活动家采取行动解决所确定的问题，并进一步指出，即使他们对草案法规进行了广泛的分析，也不得不省略许多其他问题领域，因为篇幅所限。

尽管如此，这篇论文赞扬了人工智能法案尝试引入人工智能系统的横向监管体系，引用了其许多“合理的元素”，例如创建风险评估级别的等级制度，致力于引入禁令，并提出了一份系统提供者需要贡献的公共数据库，以便获得欧洲合法性，尽管注意到这最后一个要求可能会引发法律困境。