人工智能
欧洲和英国的Deepfake监管提案令人惊讶地有限
分析 对于希望2022年成为深度伪造图像受到更严格法律管辖的活动家来说，早期指标并不乐观。
上周四，欧洲议会 批准 了数字服务法（DSA ，预计将于2023年生效）的修正案，涉及深度伪造的传播。这些修正案在两个部分解决了深度伪造问题，两个部分都直接与在线广告有关：第1709条修正案涉及第30条，以及对第63条的相关修正案。
第一个提议添加了一条全新的第30a条，题为深度伪造，内容如下：
‘如果一个非常大的在线平台意识到一段内容是生成或操纵的图像、音频或视频内容，显著地类似于现有的个人、物体、地点或其他实体或事件，并且虚假地出现在一个人面前，似乎是真实或真实的（深度伪造），提供者应以一种方式标记内容，以告知内容是非真实的，并且对于服务的接收者清晰可见。 ‘
第二个添加了文本到现有的第63条，该条主要关注增加大型广告平台的透明度。相关文本如下：
‘此外，非常大的在线平台应标记任何已知的深度伪造视频、音频或其他文件。 ‘
实际上，立法似乎正在为“合法深度伪造”的日益增长的做法做准备，在这种做法中，已经获得许可并为促销或广告材料中的面部替换获得了权利——例如，俄罗斯电信公司Telefon的许可使用布鲁斯·威利斯的身份在最近的广告活动中。
犹豫不决的立法
到目前为止，DSA似乎没有解决活动家对深度伪造技术的使用的担忧，因为它们被最常用——用于重新录制色情视频。它也不解决深度伪造在电影和电视中的使用范围，或者需要以与广告中深度伪造相同的方式向观众披露，在欧盟，至少从2023年开始。
DSA的批准过程现在转移到与欧盟成员国的谈判，以及更广泛的数字市场法（DMA）。
欧洲警察局2020年12月的报告 人工智能的恶意使用和滥用 断言，欧盟解决特定的当前深度伪造技术（例如 DeepFaceLive ）将是一个错误，这可能导致欧盟法律不断地跟上最新的框架或方法。
该报告指出：
‘特别是，这些政策应该是技术中立的，以便在长期内有效，并避免由于深度伪造的创建和滥用背后的技术的发展而需要定期审查和更换这些政策。 ‘
‘然而，这些措施也应避免阻碍生成对抗网络（GANs）的积极应用。 ‘
上述引用的最后一句话，关于生成对抗网络（GANs），广泛地表明了欧洲和北美犹豫不决地应用可能会阻碍人工智能研究领域发展的法律，尤其是该领域已经被认为落后于亚洲 （亚洲的教条国家已经能够快速跟进深度伪造立法）。
例如，2018年英国上议院人工智能专门委员会的一份报告 多次强调了让胆怯阻碍人工智能在英国的发展的风险，这在报告的标题中得到了体现： 英国的人工智能：准备好了、愿意并且能够吗？。 去年四月，英国也成为第一个允许 自动驾驶汽车在高速公路上行驶的国家。
美国也不甘落后；在美国，布鲁金斯学会已经敦促 增加美国人工智能的立法，批评立法者对机器学习技术的影响采取“等待观察”的态度
除了DSA对解决围绕深度伪造的社会（而不是政治）问题的方法令人失望外，欧盟于2021年4月提出的人工智能监管框架 也受到批评，指责其在深度伪造问题上回避。
英国对深度伪造的监管不足
对于反对深度伪造的活动家，如作者海伦·莫特（Helen Mort），她在2021年积极倡导 新的英国立法，在被非自愿地描绘在色情深度伪造视频中后，英国议会数字、文化、媒体和体育委员会今天发表的一份报告批评 英国政府未能在在线安全法案草案 中解决深度伪造问题。
报告引用了草案目前的法律补救措施对深度伪造滥用的“不清楚和不切实际”，建议拟议的立法并没有解决人工智能辅助色情视频和图像操纵技术的“合法但有害”的地位：
‘我们建议政府积极解决技术上合法的内容类型，例如儿童虐待序列中的微妙部分，例如面包屑和针对妇女和女孩的在线暴力，例如技术启用的“裸体化”妇女和深度伪造色情内容，通过将它们纳入范围，或者通过主要立法或作为有害内容的职责来覆盖。 ‘
英国目前适用的法律仅限于“真实”图像的传播，例如报复色情的案例，其中，例如，机密和私人的明确材料被前任公开分享。如果一个迫害者制作和公开深度伪造材料，将他们的“目标”的身份置于色情内容中，他们只能被起诉，如果他们直接骚扰目标，或者在版权相关立法下。
在第一种情况下，新深度伪造内容迅速传播和吸引观众的便利性几乎不可避免地意味着受害者将被告知有关的朋友或无关的第三方，而不是由制作深度伪造的人，这使得深度伪造者能够保护自己，他们的作品仍然“到达目标”。
在第二种情况下，起诉只有在未经处理的第三方色情视频（稍后将受害者的身份叠加到其中）在英国版权领域下获得专业保护时才有可能（即使合适的视频可以从世界任何地方的法律管辖区免费获取）。来自任何司法管辖区的“业余”视频缺乏明确的版权地位，而深度伪造者专门为叠加受害者而拍摄的定制视频（具有讽刺意味的是）只要符合其他法律，就受版权法保护。
落后
2021年12月，英国法律委员会提议 将仇恨言论法扩大到包括性别敌意，但没有提议将深度伪造纳入这一类别，尽管世界各地有多个例子（尤其是在印度）使用该技术针对女政客和女权活动家。女性是非法深度伪造内容 的主要目标，无论伪造者的动机是社会性的（即意图羞辱、去平台化和剥夺权力）还是单纯的猎奇（即色情）的性质。
2021年3月，位于伊利诺伊州的国家法律评论批评 英国的法律框架“目前完全不适合处理深度伪造”，甚至缺乏保护一个人的相似度的基本法律机制。
深度伪造法律在美国
相比之下，美国在某种程度上保护其公民的“公开权”，尽管不是在联邦层面（目前，这些法规存在于美国各州中，法律机制差异很大）。
虽然美国在深度伪造立法方面的表现优于英国，但美国只能自豪地宣称其在大约半数州都有零星的法律覆盖，而且似乎决心优先解决该技术的政治操纵潜力，然后最终解决其对私人个人的影响。
2019年，德克萨斯州禁止 创作或传播政治 深度伪造，德克萨斯州参议院第751号法案（SB751），并未提及深度伪造色情内容。同年，弗吉尼亚州对现有法律的修正案 进行了修改，将“伪造的视频图像或静止图像”一词添加到现有的“非法分发或出售他人图像”中。
2020年，加利福尼亚州通过了加利福尼亚州议会法案602（AB 602），禁止生成或传播色情深度伪造。该法案没有终止条款，但有三年制的法定限制期，并附有一个单独的条款涵盖政治深度伪造。
2020年底，纽约州通过了参议院法案S5959D，不仅禁止创建和/或重新发布色情深度伪造，还积极保护用户的公开权，在深度伪造、CGI或其他任何手段方面，即使在死亡后（如果相关人员在死亡时是纽约州居民），也保护了计算机生成的相似度。
最后，马里兰州已经修改了其关于儿童色情的法律，以包括和刑事化使用深度伪造，尽管没有解决深度伪造对成年目标的影响。
等待“深度伪造门”
历史表明，新技术可能造成的损害必须变得个人化，以便加快一个国家的立法反应。最近，一名埃及青少年女孩 因被深度伪造色情内容勒索而自杀的事件，在西方媒体上几乎没有受到关注，而2021年披露的深度伪造语音 使得阿联酋盗窃了3500万美元，也代表了一件“遥远的事件”，不太可能加快参议院的行动，或者在其他45个尚未制定深度伪造立法的州点燃火焰。
如果美国在深度伪造技术的滥用方面采取更团结的立场，广泛的立法可能会影响电信和数据基础设施以及存储的治理方面，从而导致其商业伙伴在世界各地迅速跟进政策变化。欧盟的GDPR在北美的数据收集和保留政策方面没有“交叉”并不意味着欧盟不能在深度伪造色情内容的生成、存储和保留方面对其交易的不太合规的国家施加影响力——如果欧盟采取了更有承诺的立场。
但是，首先必须在这些领先国家集团中的一国发生某些事情；我们仍在等待：当局对CSAM的大规模暗网收获；使用音频和/或视频深度伪造技术欺骗一位美国公司董事将大量资金误导；或者美国版的日益增长的使用深度伪造来伤害女性的事件（如果美国文化真的能够反映这些事件，这是值得怀疑的）。这些都是令人不愿看到的事情，好的方法是通过任何其他方法避免它们，而不是把头埋在沙子里，或者等待“引发事件”。
一个中心问题是，欧盟目前正在回避深度伪造问题，而是将其立法力量集中在想要推广其合法深度伪造的广告公司上，深度伪造仍然难以算法识别；大多数每月在arXiv上发布的检测方法都依赖于水印、区块链验证或以某种方式改变我们目前使用的视频基础设施——这些解决方案意味着对视频作为“真相”代理的概念进行根本性的法律修订。其余的通常被深度伪造的热门开源存储库的持续进步所超越。
另一个问题是，主要的西方国家在某种意义上是正确的，不要对新的人工智能技术中一个有问题的线索做出急促的反应，许多技术都承诺为社会和行业带来巨大的利益，并且可能会在某种程度上受到深度伪造系统合成的限制，如果对深度伪造的监管开始变得严格起来。
然而，也许加快我们缓慢而有时漫无目的地走向深度伪造监管的步伐，并在中间地带、按照自己的方式解决潜在问题，而不是被后续事件迫使做出更不周到的反应，这将是一个好主意。
* 指控的肇事者被指控勒索；埃及没有关于深度伪造色情内容的法律。
首次发表于2022年1月24日。
