欧洲和英国的 Deepfake 监管提案出人意料地有限

信号分析 对于希望 2022 年深度造假图像受到更严格法律管辖的活动人士来说，早期的迹象并不乐观。

上周四欧洲议会 批准 《数字服务法》修正案（DSA，将于 2023 年生效），关于深度伪造品的传播。这些修改涉及两个部分的深度造假问题，每个部分都与在线广告直接相关：与第 1709 条有关的第 30 号修正案和第 63 条的相关修正案。

第一篇提出了一篇全新的文章 30a名为 深假货，其内容如下：

“当一个非常大的在线平台意识到某条内容是生成或操纵的图像、音频或视频内容，该内容与现有的人、物体、地点或其他实体或事件非常相似，并且对一个人来说错误地显得真实或真实时（深度造假），提供商应以某种方式标记内容，告知内容不真实且服务接收者清晰可见。

第二条在现有第63条的基础上增加了文本，该条本身主要涉及提高大型广告平台的透明度。 相关文字如下：

“此外，非常大的在线平台应该标记任何已知的深度造假视频、音频或其他文件。”

实际上，这项立法似乎是在为日益增长的“合法深度假货”做法做准备，而这种做法已获得许可。 被授予 以及宣传或广告材料中换脸的权利——例如俄罗斯电信公司 Telefon 的 许可使用 布鲁斯·威利斯在最近的一次广告活动中的身份。

立法犹豫不决

到目前为止，DSA 似乎并没有解决活动人士对使用深度造假技术的担忧，因为这些技术 最常用的 – 重播色情影片。它也没有说明从 2023 年起，电影和电视中即将使用的 Deepfakes 需要在何种程度上向观众免责，就像广告中的 Deepfakes 一样，至少在欧盟是这样。

DSA 的批准程序现在正在与欧盟成员国进行谈判，以及更广泛的数字市场法案 (DMA).

欧洲刑警组织 2020 年 XNUMX 月 报告 人工智能的恶意使用和滥用 声称欧盟解决当前特定的深度伪造技术（例如 深脸直播），这可能导致欧盟法律不断追赶最新的框架或方法。

这个 报告 声明：

“特别是，这些政策应该与技术无关，以便从长远来看有效，并避免随着深度造假背后的技术的发展而必须定期审查和更换这些政策。”

“尽管如此，此类措施也应避免阻碍 GAN 的积极应用。”

上面引用中的结束语，关于 生成对抗网络 （GAN）广泛地体现了欧洲和北美对适用法律的犹豫不决，这些法律可能会阻碍已经被认为是新兴人工智能研究领域的 落后于亚洲 （其更多的说教国家已被 能够快速推进深度造假立法).

例如，2018 报告 英国上议院人工智能特别委员会多次强调了因胆怯而阻碍国家人工智能发展的风险，其标题就是例证： 英国的人工智能：准备好、愿意并且有能力吗？。 去年XNUMX月，英国也成为第一个 为部署开绿灯 高速公路上的自动驾驶汽车。

美国的热情同样不减。 在美国，布鲁金斯学会 敦促 美国需要加强人工智能立法，痛斥立法者对机器学习技术影响的“观望”立场

除了 DSA 在解决有关深度造假的社会（而非政治）担忧方面采取平庸的做法外，欧盟 拟议的人工智能监管框架，于 2021 年 XNUMX 月发布， 立即受到批评 为了自己回避这个话题。

英国的 Deepfake 监管力度不够

对于作家海伦·莫特（Helen Mort）等反深造假运动人士来说，这又是一个失望。 显着竞选 英国议会数字、文化、媒体和体育委员会今天发布的一份报告称，在未经同意的情况下，在色情深度假视频中描绘内容后，英国将在 2021 年制定新立法 批评 英国政府未能解决深度造假问题 在线安全法案草案.

该法案草案目前针对深度造假滥用的法律补救措施“不明确且不切实际”， 报告 表明拟议的立法无助于解决人工智能辅助色情视频和图像处理技术的“合法但有害”状况：

“[我们]建议政府积极应对技术上合法的内容类型，例如虐待儿童序列中的阴险部分，例如面包屑导航，以及针对妇女和女孩的网络暴力类型，例如利用技术对妇女进行“裸体”和深度伪造色情内容，通过主要立法将其纳入范围或作为注意义务涵盖的有害内容类型。

英国目前适用的法律仅限于传播“真实”图像，例如复仇色情案件，其中，例如，前伴侣公开分享机密和私人露骨材料。 如果迫害者实施并公开将其“目标”身份叠加到色情内容中的深度造假材料，他们只有通过将材料指向目标来直接骚扰目标，或根据版权相关立法才能受到起诉。

在第一种情况下，新的深度伪造内容很容易吸引注意力和观众，这几乎不可避免地意味着受害者将由相关的朋友或无关的第三方而不是深度伪造者告知受害者，从而使此类材料的病毒式传播能够保护受害者。 Deepfaker，他的工作仍然“达到了目标”。

在后一种情况下，只有在未经修改的第三方色情视频（受害者的身份随后叠加到其中）是专业制作并受英国版权领域合法保护的情况下，起诉才可能可行（即使合适的视频可以自由来源）世界上任何法律管辖区）。 来自任何司法管辖区的“业余”视频都缺乏明确的版权地位，而深度伪造者专门拍摄的将受害者叠加到其中的定制视频（讽刺的是）本身就受到版权法的保护，只要它符合其他法律。

曲线背后

2021 年 XNUMX 月 英国法律委员会 建议 将仇恨言论法扩展到涵盖基于性别的敌意，但并未提议将深度造假纳入这一类别，尽管世界各地有多个此类使用的例子（尤其是在印度）该技术被武器化以对付女性政治家和女性活动家。 女人是 压倒性 非法深造假内容的目标，无论造假者的动机是明显的社交动机（即羞辱、去平台和剥夺权力的意图）还是纯粹的好色之徒（即色情）。

2021 年 XNUMX 月，伊利诺伊州国家法律评论 挑战英国的法律框架 “目前完全不足以应对深度造假”，甚至缺乏保护个人肖像的基本法律机制。

美国的 Deepfake 法律

相比之下，美国确实在一定程度上保护其公民的“公开权”，尽管不是在联邦层面（目前，此类法规存在于美国） 大约一半 美国各州的法律机制差异很大）。

尽管英国在深度造假立法方面的表现有所改善，但美国只能吹嘘每个州的零星覆盖范围，并且似乎决心解决该技术的问题 政治操纵的可能性 在最终讨论它对个人的影响之前。

2019 年德克萨斯州 取缔 的创造或传播 政治 Deepfakes，德克萨斯州参议院第 751 号法案（SB751），省略任何有关深度伪造色情内容的声明。 同年，弗吉尼亚州增加了 修正案 到 现行法律 关于 非法传播或出售他人的图像，附加广泛包含的术语 “错误创建的视频或静态图像”.

2020 年，加利福尼亚州颁布 加州议会条例草案“602 (AB 602）禁止生成或传播色情深度假货。 该法案没有日落条款，但有三年的时效，并附有一项涵盖政治深度造假的单独条款。

2020 年底，纽约州通过 参议院法案 S5959D，不仅禁止创建和/或重新发布色情深度假货，而且积极保护用户的公开权 计算机生成的 通过 Deepfakes、CGI 或任何其他方式进行相似，即使是在死后（如果该人死时是纽约居民）。

最后，马里兰州修改了有关儿童色情的法律，将深度伪造的使用纳入并将之定为犯罪，但并未解决深度伪造对成年人目标的影响。

等待“DeepfakeGate”

历史表明，新技术可能造成的损害必须成为 个人 一个国家，以加快其立法反应。 最近的 埃及一名少女死亡 据称，她被自己的深度伪造色情内容勒索，但西方媒体*对此的报道有限，而有关阿拉伯联合酋长国 35 万美元失窃案的曝光， 2021年曝光，也代表了一个“遥远的事件”，不太可能加速参议院的进程，也不会在剩下的 45 个尚未颁布 Deepfake 立法的州引发大火。

如果美国在滥用深度造假技术方面采取更加统一的战线，广泛的立法可能会影响电信和数据基础设施和存储的治理方面，导致全球商业伙伴迅速追赶政策变化。 欧洲采用 GDPR 最终并未与北美数据收集和保留政策“交叉”，这一事实并不意味着欧盟无法同样获得对与其进行贸易的不太合规的国家的影响力 — — 如果它采取了对深度伪造色情内容的生成、存储和保留采取更加坚定的立法立场。

但首先必须在这些领先国家集团之一的“归零地”发生一些事情； 我们仍在等待：当局在暗网中大量收集 CSAM； 使用基于音频和/或视频的深度伪造技术来欺骗他人的重大抢劫案 美国人 公司董事误导大量资金； 或者在美国，在更多的父权制国家中，越来越多地使用深度假货来伤害女性（如果美国文化确实能够反映这些事件，这是值得怀疑的）。 这些都是难以希望的事情，也是值得避免的好事 任何其他方法 而不是把头埋在沙子里，或者等待“煽动性”事件发生。

欧盟目前正在通过将其立法实力用于广告公司来回避这一核心问题。 想 为了宣传他们聪明且合法的深度赝品，深度赝品仍然存在吗？ 很难通过算法发现; arXiv 每月出现的大部分检测方法都依赖于水印、基于区块链的验证，或者以某种方式改变我们目前用于自由消费视频的整个基础设施——这些解决方案意味着对视频概念进行彻底的法律修订。视频作为“真相”的代表。 其余的通常会被流行的开源 Deepfake 存储库的持续进步所超越。

另一个问题是，从某种意义上说，西方主要国家没有对一系列新人工智能技术中的任何一个问题做出下意识的反应，这是非常正确的，其中许多技术有望给社会和工业带来巨大利益，并且如果为了应对重大事件和随之而来的强烈抗议，认真开始对图像合成系统进行急躁的禁止和监管，其中许多可能会以某种方式受到不利影响。

然而，至少加快我们对深度伪造品监管的缓慢且有时漫无目的的步伐，并以我们自己的方式解决中间地带的潜在问题，而不是被强迫，这可能是一个好主意。后来发生的事件变成了未经考虑的回应。

* 被指控的肇事者被指控犯有敲诈勒索罪； 埃及没有法律涵盖深度造假色情内容。

首次发布于 24 年 2022 月 XNUMX 日。