欧洲和英国的深度伪造法规提案出乎意料地有限

分析 对于那些希望2022年成为深度伪造图像受到更严格法律管辖的年份的活动家来说，早期指标是不吉利的。

上周四，欧洲议会 批准 了数字服务法案（DSA，预计将于2023年生效）的修正案，涉及深度伪造的传播。这些修改涉及两个部分，均与在线广告有关：第1709号修正案关于第30条，以及对第63条的相关修正案。

第一个提议添加了一条全新的第30a条，题为 深度伪造，内容如下：

‘如果一个非常大的在线平台意识到一段内容是生成或操纵的图像、音频或视频内容，类似于现有的个人、物体、地点或其他实体或事件，并且虚假地显得真实或真实（深度伪造），则提供者应以一种方式标记该内容，以告知该内容是非真实的，并且对于服务的接收者清晰可见。’

第二个添加了文本到现有的第63条，该条主要关注增加大型广告平台的透明度。相关文本如下：

‘此外，非常大的在线平台应标记任何已知的深度伪造视频、音频或其他文件。’

实际上，立法似乎正在为“合法深度伪造”的日益增长的做法做准备，在这种情况下，已经获得许可并为面部替换在促销或广告材料中获得权利——例如，俄罗斯电信公司Telefon的 许可使用 布鲁斯·威利斯的身份在最近的广告活动中。

犹豫立法

到目前为止，DSA似乎没有解决活动家对深度伪造技术使用的担忧，因为它们 最常被使用 ——用于重新制作色情视频。它也不解决深度伪造在电影和电视中的使用将需要向观众披露的程度，就像在广告中一样，至少在欧盟，从2023年开始。

DSA的批准过程现在转移到与欧盟成员国的谈判，以及更广泛的数字市场法（DMA）的范围内。

欧洲警察局2020年12月的 报告 人工智能的恶意使用和滥用 断言，欧盟解决特定的当前深度伪造技术（例如 DeepFaceLive）将是一个错误，这可能导致欧盟法律不断地跟上最新的框架或方法。

报告指出：

‘特别是，这些政策应该是技术中立的，以便在长期内有效，并避免由于深度伪造的创建和滥用背后的技术的演变而需要定期审查和更换。 ‘

‘然而，这些措施也应避免阻碍GAN的积极应用。’

上述引用的最后一句关于 生成对抗网络（GAN）的评论，总体上表明了欧洲和北美对应用可能会阻碍新兴人工智能研究领域的法律的犹豫，该领域已经被认为是 落后于亚洲（其更教条的国家已经能够 快速推进深度伪造立法）。

例如，2018年英国人工智能领域的 报告 强调了几次允许人工智能发展在英国受到阻碍的风险，其标题为 英国的人工智能：准备好了、愿意并且能够吗？。去年四月，英国也成为第一个 允许 自动驾驶汽车在高速公路上行驶的国家。

美国同样热衷；在美国，布鲁金斯学会 敦促 美国需要增加人工智能立法，批评立法者对机器学习技术的影响采取“等待和观察”的态度

除了DSA对解决围绕深度伪造的社会（而非政治）问题的态度不够积极之外，欧盟 拟议的人工智能监管框架 于2021年4月发布，立即受到批评，因为它也在回避这个话题。

英国的深度伪造法规不足

对于反对深度伪造的活动家来说，例如作家海伦·莫特，她 在2021年 因被非自愿地出现在色情深度伪造视频中而开展了新的英国立法运动，今天由英国议会数字、文化、媒体和体育委员会发布的报告 批评 英国政府未能在 在线安全法案草案 中解决深度伪造问题。

报告援引当前法案对深度伪造滥用的法律补救措施“不明确且不切实际”，并建议拟议的立法并未解决人工智能辅助色情视频和图像操纵技术的“合法但有害”地位：

‘我们建议政府积极解决那些从技术上来说是合法的内容类型的问题，例如儿童虐待序列中的微妙部分，例如面包屑和在线暴力，以及针对女性和女孩的科技启用“裸体化”，通过立法或将其纳入有害内容的职责范围内。’

英国目前适用的法律仅限于“真实”图像的传播，例如报复色情的案例，其中，例如，机密和私人露骨材料被前伴侣公开分享。如果一个迫害者制作和公开深度伪造材料，将他们的“目标”的身份叠加到色情内容上，他们只能被起诉，如果他们直接骚扰目标，将材料直接发送给他们，或者根据版权相关立法。

在第一种情况下，新深度伪造内容聚集关注和观众的便利性几乎不可避免地意味着受害者将被关心的朋友或无关的第三方告知，而不是由伪造者告知，这使得伪造者能够保护自己，而他们的作品仍然“到达目标”。

在第二种情况下，起诉只有在未经处理的第三方色情视频（受害者的身份后来被叠加到该视频中）是专业制作并在英国版权领域合法保护时才有可能（即使合适的视频可以从世界任何地方的合法管辖区获取）。来自任何管辖区的“业余”视频缺乏明确的版权地位，而伪造者专门拍摄的用于叠加受害者身份的定制视频（讽刺的是）在符合其他法律的条件下受到版权法保护。

落后

2021年12月，英国法律委员会 提议 将仇恨言论法扩展到包括性别敌意，但没有提议将深度伪造纳入这一类别，尽管世界各地有多个例子（尤其是在 印度）使用该技术针对女政治家和女权主义者。女性 压倒性地 成为非法深度伪造内容的目标，无论伪造者的动机是社会（即意图羞辱、去平台化和削弱）还是单纯的猎奇（即色情）。

2021年3月，位于伊利诺伊州的国家法律评论 批评 英国的法律框架“目前完全不适合处理深度伪造”，甚至缺乏保护个人肖像的基本法律机制。

美国的深度伪造法律

相比之下，美国在某种程度上保护其公民的“公众形象权”，尽管不是在联邦层面（目前，这些法规存在于 美国大约一半的州，法律机制差异很大）。

虽然美国在深度伪造立法方面的表现优于英国，但美国只能自夸其零散的、州级别的覆盖范围，似乎更关心的是解决该技术的 政治操纵潜力，而不是其对私人个人的影响。

2019年，德克萨斯州 禁止 创建或传播 政治 深度伪造，德克萨斯州参议院法案751（SB751），省略了关于深度伪造色情的任何声明。同年，弗吉尼亚州在现有的 法律 中添加了一个修正案，关于 非法分发或出售他人图像，添加了一个广泛涵盖的术语 ‘虚假创建的视频图像或静态图像’。

2020年， 加利福尼亚州通过了 加利福尼亚州议会法案602（AB 602），禁止生成或传播色情深度伪造。该法案没有终止条款，但有三年制的追诉时效，并附有一个单独的条款涵盖政治深度伪造。

2020年底，纽约州通过了 参议院法案S5959D，不仅禁止创建和/或重新发布色情深度伪造，还积极保护用户的公众形象权，以深度伪造、CGI或其他任何手段，甚至在死亡后（如果相关人员在死亡时是纽约州居民），以防止对其形象的滥用。

最后，马里兰州已修改其关于儿童色情的法律，以包括和刑事化对深度伪造的使用，尽管没有解决深度伪造对成年目标的影响。

等待“深度伪造门”

历史表明，新技术可能造成的损害必须成为一个国家的个人问题，才能加速其立法反应。最近，一名埃及青少年女孩 因被勒索深度伪造色情而自杀 的事件，在西方媒体上几乎没有被报道，而2021年披露的盗窃案，涉及使用 深度伪造声音 从阿联酋窃取3500万美元，也代表了一件“遥远的事件”，不太可能加速参议院的行动，或促使尚未制定深度伪造立法的45个州采取行动。

如果美国在深度伪造技术的滥用方面采取更团结的立场，广泛的立法可能会影响电信和数据基础设施及存储的治理方面，导致其全球商业伙伴迅速跟进。欧洲采用通用数据保护条例（GDPR）并没有最终“转移到”北美的数据收集和保留政策，这并不意味着欧盟不能通过对深度伪造色情的生成、存储和保留采取更坚定的立场，从而对其交易的不太合规的国家施加影响力。

但在这些主要国家集团中，必须先发生一些事情；我们仍然在等待：当局对儿童性虐待材料进行的大规模网络抓捕；使用音频和/或视频深度伪造技术欺骗一位美国公司高管，将大量资金误导；或者美国版的日益增长的使用深度伪造来针对更父权制国家的女性（如果美国文化真的能够反映这些事件，这是值得怀疑的）。这些都是令人不愿意的事情，好的避免方法是不要把头埋在沙子里，或等待“引发事件”。

一个中心问题是，欧盟目前正在回避它，即通过将立法力量集中在想要推广其合法深度伪造的广告公司上，深度伪造仍然 难以算法识别；大多数每月在arXiv上发布的检测方法都依赖于水印、区块链验证或以某种方式改变我们目前使用的视频基础设施——这些解决方案意味着对视频作为“真相”代理的概念进行根本性的法律修订。

另一个问题是，主要的西方国家在某种意义上是正确的，不应对单个有问题的技术线做出冲动的反应，而这只是众多新的人工智能技术之一，其中许多技术对社会和行业有着巨大的好处，并且可能会在某种程度上受到热情的禁止和监管的影响，特别是如果对一个重大事件和随后的强烈抗议做出反应的话。

然而，可能是个好主意，加快我们迈向对深度伪造监管的缓慢而有时漫无目的的步伐，并在中间地带、按照自己的方式，提前解决潜在的问题，而不是被后续事件迫使做出更不周全的反应。

* 被告被指控勒索；埃及没有关于深度伪造色情的法律。

首次发布于2022年1月24日。