欧洲和英国的 Deepfake 监管提案出人意料地有限

分析 对于希望 2022 年深度造假图像受到更严格法律管辖的活动人士来说，早期的迹象并不乐观。

上周四欧洲议会 批准 《数字服务法》修正案（DSA，将于 2023 年生效），关于深度伪造品的传播。这些修改涉及两个部分的深度造假问题，每个部分都与在线广告直接相关：与第 1709 条有关的第 30 号修正案和第 63 条的相关修正案。

第一篇提出了一篇全新的文章 30a名为 深假货，其内容如下：

“当一个非常大型的在线平台意识到某个内容是生成或操纵的图像、音频或视频内容，并且与现有的人物、物体、地点或其他实体或事件明显相似，并让人误以为是真实的或真实的（深度伪造），则提供商应以一种告知内容不真实的方式标记该内容，并且让服务接收者能够清楚地看到。”

第二条在现有第63条的基础上增加了文本，该条本身主要涉及提高大型广告平台的透明度。 相关文字如下：

“此外，大型在线平台应该标记任何已知的深度伪造视频、音频或其他文件。”

实际上，这项立法似乎正在为日益增多的“合法深度伪造”行为做准备，在这种情况下，许可 被授予 以及在促销或广告材料中使用换脸技术的权利——例如俄罗斯电信公司 Telefon 的 许可使用 在最近的广告宣传中，布鲁斯·威利斯的身份被曝光。

立法犹豫不决

到目前为止，DSA 似乎并没有解决活动人士对使用深度造假技术的担忧，因为这些技术 最常用的 – 重播色情影片。它也没有说明从 2023 年起，电影和电视中即将使用的 Deepfakes 需要在何种程度上向观众免责，就像广告中的 Deepfakes 一样，至少在欧盟是这样。

DSA 的批准程序现在正在与欧盟成员国进行谈判，以及更广泛的数字市场法案 (DMA).

欧洲刑警组织 2020 年 XNUMX 月 报告 人工智能的恶意使用和滥用 声称欧盟解决当前特定的深度伪造技术（例如 深脸直播），这可能导致欧盟法律不断追赶最新的框架或方法。

这个 报告 声明：

“特别是，这些政策应该与技术无关，以便从长远来看有效，并避免随着深度造假背后的技术的发展而必须定期审查和更换这些政策。”

“尽管如此，这些措施也应该避免阻碍 GAN 的积极应用。”

上面引用中的结束语，关于 生成对抗网络 （GAN）广泛地体现了欧洲和北美对适用法律的犹豫不决，这些法律可能会阻碍已经被认为是新兴人工智能研究领域的 落后于亚洲 （其更多的说教国家已被 能够快速推进深度造假立法).

例如，2018 报告 英国上议院人工智能特别委员会的报告多次强调，胆怯可能会阻碍国家人工智能的发展，其标题就是一个例子： 英国的人工智能：准备好、愿意并且有能力吗？。 去年XNUMX月，英国也成为第一个 为部署开绿灯 高速公路上的自动驾驶汽车。

美国的热情同样不减。 在美国，布鲁金斯学会 敦促 美国需要加强人工智能立法，严厉批评立法者对机器学习技术影响的“观望”立场

除了 DSA 对解决 Deepfake 的社会（而非政治）担忧采取平淡无奇的做法外，欧盟的 拟议的人工智能监管框架，于 2021 年 XNUMX 月发布， 立即受到批评 为了自己回避这个话题。

英国的 Deepfake 监管力度不够

对于作家海伦·莫特（Helen Mort）等反深造假运动人士来说，这又是一个失望。 显着竞选 英国议会数字、文化、媒体和体育委员会今天发布的一份报告显示，在未经同意的情况下出现在色情深度伪造视频中，英国将于 2021 年制定新的立法 批评 英国政府未能解决深度造假问题 在线安全法案草案.

该法案草案目前针对深度伪造滥用的法律补救措施“不明确且不切实际”， 报告 表明拟议的立法对于解决人工智能辅助色情视频和图像处理技术的“合法但有害”地位毫无作用：

“我们建议政府积极处理技术上合法的内容类型，例如儿童虐待序列中的阴险部分（如面包屑）以及针对妇女和女孩的网络暴力类型（如技术支持的女性‘裸体化’和深度伪造色情内容），通过主要立法或作为注意义务所涵盖的有害内容类型将其纳入范围。”

英国现行适用法律仅限于传播“真实”图像，例如报复性色情，例如前任伴侣公开分享机密且私密的露骨内容。如果迫害者制作并发布深度伪造内容，将其“目标”身份叠加到色情内容中，则只有在直接向目标发送此类内容并进行骚扰的情况下，或根据版权相关法律，他们才会被起诉。

在第一种情况下，新的深度伪造内容很容易获得关注和观众，这几乎不可避免地意味着受害者将从关心的朋友或不相关的第三方获得信息，而不是从深度伪造他们的人那里获得信息，从而使此类材料的病毒式传播保护了深度伪造者，他们的工作仍然“达到目标”。

在后一种情况下，只有在未经篡改的第三方色情视频（受害者身份随后被叠加到其中）由专业人士制作并受英国版权法保护的情况下，起诉才有可能（即使合适的视频可以从世界上任何司法管辖区自由获取）。任何司法管辖区的“业余”视频都缺乏明确的版权地位，而深度伪造者专门拍摄并叠加受害者身份的定制视频（讽刺的是）本身就受到版权法的保护，只要它符合其他法律规定。

曲线背后

2021 年 XNUMX 月，英国法律委员会 建议 将仇恨言论法扩展到涵盖基于性别的敌意，但并未提议将深度造假纳入这一类别，尽管世界各地有多个此类使用的例子（尤其是在印度）该技术被武器化以对付女性政治家和女性活动家。 女人是 压倒性 非法深造假内容的目标，无论造假者的动机是明显的社交动机（即羞辱、去平台和剥夺权力的意图）还是纯粹的好色之徒（即色情）。

2021 年 XNUMX 月，伊利诺伊州国家法律评论 批评英国的法律框架 目前，该法律“完全不足以应对深度伪造”，甚至缺乏保护人物肖像的基本法律机制。

美国的 Deepfake 法律

相比之下，美国确实在一定程度上保护其公民的“公开权”，尽管不是在联邦层面（目前，此类法规存在于 大约一半 美国各州的法律机制差异很大）。

尽管美国在深度伪造立法方面的表现比英国有所改善，但美国只能夸耀其在每个州的零星覆盖范围，并且似乎决心解决该技术的问题 政治操纵的可能性 在最终讨论它对个人的影响之前。

2019 年德克萨斯州 取缔 的创造或传播 政治 Deepfakes，德克萨斯州参议院第 751 号法案（SB751），省略任何有关深度伪造色情内容的声明。 同年，弗吉尼亚州增加了 修正案 到 现行法律 关于 非法传播或出售他人的图像，附加广泛包含的术语 “虚假制作的视频或静态图像”.

2020 年，加利福尼亚州颁布 加州议会条例草案“602 (AB 602）禁止生成或传播色情深度假货。 该法案没有日落条款，但有三年的时效，并附有一项涵盖政治深度造假的单独条款。

2020 年底，纽约州通过 参议院法案 S5959D，这不仅禁止制作和/或重新发布色情深度伪造作品，而且还积极保护用户在 计算机生成的 通过 Deepfakes、CGI 或任何其他方式进行相似，即使是在死后（如果该人死时是纽约居民）。

最后，马里兰州修改了有关儿童色情的法律，将深度伪造的使用纳入并将之定为犯罪，但并未解决深度伪造对成年人目标的影响。

等待“DeepfakeGate”

历史表明，新技术可能造成的损害必须成为 个人 一个国家，以加快其立法反应。 最近的 埃及一名少女死亡 据称，她被自己的深度伪造色情内容勒索，但西方媒体*对此的报道有限，而有关阿拉伯联合酋长国 35 万美元失窃案的曝光， 2021年曝光，也代表着一个“遥远的事件”，不太可能加速参议院的进程，或者激起尚未颁布深度伪造立法的剩余 45 个州的愤怒。

如果美国在滥用深度伪造技术方面采取更加统一的阵线，广泛的立法可能会影响电信和数据基础设施及存储的治理，导致其全球商业伙伴迅速被迫做出追赶性政策调整。欧洲采用的《通用数据保护条例》（GDPR）最终并未“跨越”到北美的数据收集和保留政策，但这并不意味着欧盟无法对其贸易往来中合规性较差的国家施加影响力——前提是欧盟在深度伪造色情内容的生成、存储和保留方面采取更坚定的立法立场。

但首先必须在“原爆点”发生一些事情，在这些领先的国家群体中的一个；我们仍在等待它：当局在暗网上收集大量的CSAM；使用基于音频和/或视频的深度伪造技术进行大规模抢劫，以欺骗 美国人 公司董事误导大量资金； 或者在美国，在更多的父权制国家中，越来越多地使用深度假货来伤害女性（如果美国文化确实能够反映这些事件，这是值得怀疑的）。 这些都是难以希望的事情，也是值得避免的好事 任何其他方法 而不是把头埋在沙子里，或者等待“煽动性”事件的发生。

欧盟目前正在通过将其立法实力用于广告公司来回避这一核心问题。 想 为了宣传他们聪明且合法的深度赝品，深度赝品仍然存在吗？ 很难通过算法发现arXiv 每月涌现的大量检测方法大多依赖于水印、基于区块链的验证，或以某种方式改变我们目前用于自由消费视频的整个基础设施——这些解决方案意味着对视频作为“真相”代理的概念进行彻底的法律修正。其余方法通常被流行的开源深度伪造存储库的持续发展所超越。

另一个问题是，从某种意义上说，西方主要国家没有对一系列新人工智能技术中的任何一个问题做出下意识的反应，这是非常正确的，其中许多技术有望给社会和工业带来巨大利益，并且如果为了应对重大事件和随之而来的强烈抗议，认真开始对图像合成系统进行急躁的禁止和监管，其中许多可能会以某种方式受到不利影响。

然而，至少加快我们对深度伪造品监管的缓慢且有时漫无目的的步伐，并以我们自己的方式解决中间地带的潜在问题，而不是被强迫，这可能是一个好主意。后来发生的事件变成了未经考虑的回应。

* 被指控的肇事者被指控犯有敲诈勒索罪； 埃及没有法律涵盖深度造假色情内容。

首次发布于 24 年 2022 月 XNUMX 日。