思想领袖
是的,欧盟《人工智能法案》涵盖智能体式人工智能——具体内容如下

要点代理式人工智能已经属于欧盟《人工智能法案》的适用范围,因为它符合人工智能系统的定义。
查看更多
- 代理式人工智能已经属于欧盟《人工智能法案》的适用范围,因为它符合人工智能系统的定义。
- 《人工智能法案》规范的是技术做什么以及它产生的风险,而不是点名具体技术。
- 反对《人工智能法案》的科技巨头游说推动自我监管,这实质上等同于监管俘获。
目前有一种广为流传的说法,认为智能体式人工智能和人工智能智能体处于监管空白之中,欧盟《人工智能法案》无力对其进行监管。我们在挪威颇具公信力的新闻媒体(Morgenbladet和Dagensnæringsliv)上读到过这种说法,顶尖学者(University of Oslo)也曾重复这一观点。我们认为这些说法存在两个根本性问题……而且我们认为,它们源于恐惧,而非事实。
第一,欧盟《人工智能法案》确实对智能体式人工智能进行监管。
第二,这类说法会削弱现有法规。它们强化了一种观念:人工智能公司更有能力管理自身系统带来的风险。这是一个常见论点,会导致监管俘获。
作为挪威标准组织国家人工智能委员会的指定成员,我们与《人工智能法案》有着相当密切的合作。我们还参与了制定协调标准的欧洲委员会工作;这些标准面向高风险人工智能系统的提供者,旨在帮助企业满足《人工智能法案》的法律要求。
智能体式人工智能在欧盟《人工智能法案》下受到多方面监管
欧盟委员会发布了多个通俗易懂的常见问题解答,涉及“智能体”和“智能体式人工智能”,并已明确指出:是的,它们属于该法规的适用范围,原因很简单——它们符合对人工智能系统的广义定义(《人工智能法案如何涵盖人工智能智能体?》|《人工智能法案服务台》)。以下是更多例子:
- 智能体式人工智能通常基于大型语言模型构建,而大型语言模型受到通用人工智能模型相关法规的监管。
- 智能体式人工智能系统与人类互动时,也会触发该法规的透明度要求。
- 如果某个人工智能模型被归类为具有系统性风险,其提供者就必须满足额外要求。其中包括对模型能力进行评估,评估内容还包括其自主性和智能体功能。
《人工智能法案》没有提到“智能体”一词,这是因为它并不针对特定技术类型进行监管。相反,它监管的是技术的设计用途,以及这些功能带来的风险。
《人工智能法案》旨在保护我们的基本权利
许多要求加强监管的人对《人工智能法案》的批评,源于一个结构性难题:不可能彻底消除所有风险。但国际监管框架本就不可能预见未来的每一种风险。
相反,《人工智能法案》着眼于人工智能系统可能带来的风险,这些风险可能影响健康、安全和基本权利——这一点在第一条的第一句话中就已写明。
我们在这第一句话中没有强调的内容同样至关重要:《人工智能法案》以市场为导向。它应当鼓励人工智能的应用,也应当支持创新。换言之,《人工智能法案》支持人工智能的发展。在这一背景下,某些应用和领域受到监管。
某些领域已被预先归类为高风险领域
一些例子包括用于以下领域的人工智能系统:
- 招聘
- 基本服务的分配
- 医疗器械
- 集成于关键基础设施、且安全至关重要的系统。
人工智能系统(无论是否具有智能体功能)的提供者,如果其系统可能影响我们的权利,就必须建立全面的风险管理体系,其中包括评估用户可能如何滥用该人工智能系统。
监管俘获:提供者提议自我监管
如果听取 Anthropic、OpenAI 和 Meta 的说法,以及挪威国内讨论中的某些声音,人们可能会觉得,人工智能和智能体式人工智能过于复杂,超出了《人工智能法案》的应对能力。对欧盟来说,它们过于先进;危险性也太高,除了公司自身,无人能够对其进行监管。
面对全球最有影响力的科技公司,我们应保持谨慎。这些公司曾大力游说,要求以宽松得多的方式实施《人工智能法案》,如今却声称该法规不足以监管它们最强大的系统。它们提出的解决方案是由自己来“监管”自己。
这是监管俘获的典型机制:法律和法规逐渐被原本应受其监管的实体塑造,并以此谋取自身利益。
美国提供了一个明确的例子(《开启超级智能时代》——白宫)。《白宫超级智能协议》是一项与 X、Meta、Anthropic、OpenAI 和 Google 的领导人达成的“自愿协议”,这些公司承诺进行自我监管。文件指出,在某个假设的未来时点,法律或许才会适用:“随着时间推移,将这些措施纳入法律或法规或许是合适的。随着时间推移。或许。或许可以考虑制定法规。
不过,目前美国民众被期待相信这些大型科技公司会自我监管。
与美国不同,欧洲有一部具有约束力的法律:《人工智能法案》。
然而,监管俘获仍然是一种风险,其中也包括公众对这部法律的信心遭到侵蚀。因为,如果科技巨头能让人们相信《人工智能法案》不够完善,我们就不会再支持执行这部法律。声称智能体人工智能过于先进、聪明或危险,以至于《人工智能法案》无法应对,这类说法会削弱我们对监管的支持。
一旦监管俘获形成,就很难扭转。
我们也担心,某些人工智能系统可能造成难以预见的后果。正因如此,我们需要风险管理程序——《人工智能法案》也对此作出了要求。(Muller博士参与的委员会即将完成风险管理协调标准18228的制定。)
欧盟《人工智能法案》并不完美,而且很可能还需要进一步完善。然而,把智能体人工智能描绘成欧盟《人工智能法案》管辖范围之外的领域,只会加剧不确定性,而不会提升安全性。














