欧州と英国のディープフェイク規制案は驚くほど限定的

分析 2022年がディープフェイク画像がより厳格な法の範囲内に入る年になるかもしれないと期待している活動家にとって、初期の指標は期待できるものではない。

先週の木曜日、欧州議会 批准 デジタルサービス法改正（DSA、2023年に発効予定）、ディープフェイクの普及に関して。この修正では、第 1709 条に関する修正 30 条と、関連する第 63 条の修正という、オンライン広告に直接関連する XNUMX つのセクションにわたってディープフェイクに対処しています。

最初のものは全く新しい記事を提案します 30a、題し ディープフェイク、これは読みます：

「非常に大規模なオンライン プラットフォームが、コンテンツの一部が、既存の人物、物体、場所、その他の実体や出来事に明らかに似ており、人には本物または真実であるように誤って見える、生成または操作された画像、音声、またはビデオ コンテンツであることを認識した場合」 (ディープフェイク)、プロバイダーは、コンテンツが本物ではないことを通知し、サービスの受信者に明確に見える方法でコンテンツにラベルを付けるものとします。

63 番目の条項は、既存の第 XNUMX 条に文言を追加するもので、この条項自体は主に大規模な広告プラットフォームの透明性の向上に関係しています。 関連するテキストは次のようになります。

「さらに、非常に大規模なオンライン プラットフォームでは、既知のディープ フェイク ビデオ、オーディオ、その他のファイルにラベルを付ける必要があります。」

事実上、この法律は、許可を得た「合法的なディープフェイク」の増加に備えているようだ。 付与された ロシアの通信会社 Telefon のような、プロモーションまたは広告素材での顔の交換のために確保された権利 ライセンスされた使用 最近の広告キャンペーンにおけるブルース・ウィリスのアイデンティティ。

立法への躊躇

DSA は今のところ、ディープフェイク技術の使用に対する活動家の懸念に現状では対処していないようだ。 最も一般的に使用される – ポルノビデオを再キャストする。また、少なくともEUでは2023年から、広告におけるディープフェイクと同様に、映画やテレビでの保留中のディープフェイクの使用を視聴者にどの程度まで否認する必要があるかについても言及していない。

DSA の批准プロセスは現在、より広範なデジタル市場法の適用範囲とともに EU 加盟国との交渉に移行します (DMA).

ユーロポールの 2020 年 XNUMX 月 レポート 人工知能の悪意のある使用と悪用 EUが現在の特定のディープフェイク技術（例えば、 ディープフェイスライブ）、その結果、EU 法が常に最新の枠組みや手法に追いつくことになる可能性があります。

　 レポート 述べました：

「特に、長期的に効果を発揮し、ディープフェイクの作成と悪用の背後にあるテクノロジーが進化するにつれてポリシーを定期的に見直して置き換える必要を避けるために、これらのポリシーはテクノロジーに依存しないものである必要があります。」

「それでも、そのような措置は、GAN の積極的な応用を妨げることも避けるべきです。」

上記の引用文の結論としては、 生成的敵対的ネットワーク (GANs) は、すでに認識されている新興 AI 研究分野の妨げとなる可能性のある法律の適用に対するヨーロッパと北米の躊躇を広く特徴づけています。 アジアに遅れを取る （より教訓的な国々は ディープフェイク法案を迅速に制定できる).

たとえば、2018 年 レポート 英国貴族院人工知能特別委員会の論文は、そのタイトルに例示されているように、国内の AI 開発を臆病なままにしておくことのリスクを何度も強調しています。 英国における AI: 準備ができており、意欲があり、能力があるか?。 昨年XNUMX月、英国もまた、 導入にゴーサインが出る 高速道路での自動運転車。

アメリカも同様に熱心です。 米国では、ブルッキングス研究所が 促された 米国におけるAI関連法整備の必要性、機械学習技術の影響について「様子見」の立場をとっている議員らを非難

ディープフェイクに関する（政治的ではなく）社会的懸念への対処に対する DSA の無味乾燥なアプローチに加えて、EU の AIに関する規制枠組みの提案、2021年XNUMX月発売、 即座に批判にさらされた それ自体が話題を回避するためです。

英国におけるディープフェイク規制の不十分さ

著者のヘレン・モートのような反ディープフェイク活動家にとってはさらなる失望として、 目立つようにキャンペーンを行った 英国議会のデジタル・文化・メディア・スポーツ委員会が本日発表した報告書は、ポルノディープフェイクビデオに同意なく描写されたことを受けて、2021年の英国の新法案に向けた法案を提出すると発表した。 批判する ディープフェイクへの対応を怠った英国政府 オンライン安全法案の草案.

法案の現在のディープフェイク悪用に対する法的救済は「不明確で非現実的」であると述べ、 レポート 提案されている法案は、AI 支援によるポルノ ビデオおよび画像操作技術の「合法だが有害」な状況に対処するためには何もしていないことを示唆しています。

「[私たちは]政府に対し、パンくずリストなどの児童虐待シーケンスの陰湿な部分や、テクノロジーを利用した女性の「ヌード」やディープフェイクポルノなどの女性や少女に対するオンライン暴力など、技術的に合法である種類のコンテンツに積極的に取り組むことを推奨します、主な法律を通じて、または注意義務の対象となる有害なコンテンツの種類としてそれらを範囲に含めることによって。

英国で現在適用される法律は、リベンジポルノ事件などの「本物の」画像の配布に限定されており、たとえば、機密で私的な露骨な素材が元パートナーによって公に共有される場合が挙げられる。 迫害者が「ターゲット」の身元をポルノコンテンツに重ね合わせるディープフェイク素材を実行し公開した場合、その素材をターゲットに向けて直接嫌がらせをした場合、または著作権関連法に基づいてのみ訴追される可能性がある。

最初のケースでは、新しいディープフェイク コンテンツが容易に注目を集め、視聴者が集まるということは、被害者がディープフェイクを作成した本人ではなく、関係する友人や無関係の第三者から情報を得るということをほぼ必然的に意味し、そのようなコンテンツのバイラル性が保護を可能にします。ディープフェイカー、その作品は今も「目標に到達している」。

後者の場合、（たとえ適切なビデオが自由にソースされているとしても）英国の著作権ドメインの下で合法的に保護されている、修正されていないサードパーティのポルノビデオ（後で被害者の身元がスーパーインポーズされる）が作成された場合にのみ、訴追が可能となる可能性が高い。世界中の法的管轄権）。 どの管轄地域の「アマチュア」ビデオにも明確な著作権のステータスはなく、ディープフェイカーが被害者を重ね合わせるためにわざわざ撮影した特注のビデオは、他の法律に準拠している限り、（皮肉なことに）それ自体が著作権法で保護されます。

カーブの後ろ

2021 年 XNUMX 月に英国法委員会 提案された ヘイトスピーチ法を性別に基づく敵意を対象とするよう拡張することを提案したが、世界中でそのような使用例が複数あるにもかかわらず、ディープフェイクをこのカテゴリーに含めることは提案しなかった（特にインドでは）女性政治家や女性活動家に対して武器として利用されているテクノロジー。 女性は 圧倒的に 違法なディープフェイク コンテンツのターゲット。偽者の動機が明らかに社会的 (つまり、屈辱、脱プラットフォーム、権限を剥奪する意図) であるか、単純に性的 (つまり ポルノ的) なものであるか。

2021 年 XNUMX 月にイリノイ州を拠点とする国家法見直しが行われる 英国の法的枠組みを課題に採用した 「現時点ではディープフェイクに対処するにはまったく不十分」であり、人の肖像を保護する基本的な法的メカニズムさえも欠如している。

米国のディープフェイク法

対照的に、米国は連邦レベルではないものの、国民の「パブリシティの権利」をある程度保護している（現在、そのような法令は連邦政府に存在している）。 約半分 法的メカニズムは大きく異なる）。

ディープフェイク法案に関しては英国の実績よりは改善しているものの、米国は州ごとに散発的な報道しか誇っておらず、この技術の問題に取り組む決意をしているようだ。 政治的操作の可能性 最終的には個人への影響を検討する前に。

2019年のテキサス州 不法 の作成または普及 政治的 ディープフェイク、テキサス上院法案 751 (SB751）、ディープフェイクポルノに関する記述は省略されています。 同年、バージニア州は、 改正 〜に 既存の法律 に対する 他人の画像の違法な配布または販売、広義の用語を追加 「不正に作成された動画または静止画」.

2020年にカリフォルニア州が制定した カリフォルニア州議会法案 602 (AB 602）ポルノディープフェイクの生成または配布を禁止します。 この法案には日没条項はありませんが、XNUMX年の時効があり、政治的ディープフェイクを対象とする別の条項が付いています。

2020年末にニューヨーク州が可決されました 上院法案 S5959Dこれは、ポルノディープフェイクの作成および/または再公開を違法にするだけでなく、 コンピューターで生成 ディープフェイク、CGI、またはその他の手段による肖像。たとえ死後であっても（当該人物が死亡時にニューヨークの居住者であった場合）。

ついにメリーランド州は、 修正された 児童ポルノに関する法律はディープフェイクの使用を包含し犯罪化するものだが、成人をターゲットにしたディープフェイクの影響には触れていない。

「ディープフェイクゲート」を待っています

歴史が示しているように、新しいテクノロジーが引き起こす可能性のある損害は、次のようなものになるはずです。 個人的な 立法対応を迅速化するために国家に要請する。 ごく最近のこと エジプトでXNUMX代の少女が死亡 自分自身のディープフェイクポルノで脅迫されていたとされる人物は、西側メディア*で限定的に報道されている一方、アラブ首長国連邦での35万ドルの盗難に関する暴露は行われなかった。 2021年に発覚した、また、上院の審議を加速したり、まだディープフェイク法案を制定していない残りの45州に火をつける可能性が低い「遠い出来事」を表している。

米国がディープフェイク技術の悪用に関してより統一戦線を採用した場合、広範な法律が通信、データインフラストラクチャとストレージのガバナンス面に影響を与える可能性が高く、世界中のビジネスパートナーに課せられる急速な政策変更につながる可能性があります。 欧州による GDPR の採用が最終的に北米のデータ収集および保持政策に「クロスオーバー」しなかったという事実は、EU が貿易相手国に対して同様に準拠性の低い国々に対して影響力を得ることができないという意味ではありません。ディープフェイクポルノの生成、保存、保持に関して、より積極的な立法的立場を確立する。

しかし、これらの主要国のグループのXNUMXつで、まず「グラウンドゼロ」で何かが起こらなければなりません。 そして私たちは今もそれを待っています。当局によるダークネットへの膨大な CSAM の大量収集です。 音声および/またはビデオベースのディープフェイク技術を使用して人をだます大規模な強盗 アメリカ 会社の取締役が多額の資金を誤って流した。 あるいは、より家父長制の国で女性を犠牲にするためにディープフェイクの使用が増えているのと同じようなアメリカの行為（実際、米国の文化が本当にこれらの出来事を反映するように装備されているかどうかは疑問ですが）。 これらは望むのは難しいことであり、避けるのは良いことです 他の方法でも 砂の中に頭を突っ込んだり、「扇動的な」出来事を待ったりするよりも。

一つの中心的な問題は、EUが現在、立法力を広告会社に向けることで回避しようとしている問題である。 欲しいです 彼らの巧妙で合法的なディープフェイクを宣伝するために、ディープフェイクは残るということです アルゴリズム的に特定するのは困難; arXiv で毎月表面化する多数の検出方法のほとんどは、透かし入れ、ブロックチェーンベースの検証、またはビデオを自由に利用するために現在使用しているインフラストラクチャ全体を何らかの方法で変更することに依存しています。これは、ビデオの概念の抜本的な法改正を意味するソリューションです。 「真実」の代理としてのビデオ。 残りのリポジトリは、人気のあるオープンソースのディープフェイク リポジトリの継続的な進歩によって常に追い抜かれています。

さらなる問題は、主要な西側諸国が、多数の新しい AI テクノロジー（その多くは社会や産業に計り知れない利益を約束している）の中の XNUMX つの問題のある要素に対して便宜的な反応を示さないということは、ある意味では非常に正しいことです。重大な出来事とその後の抗議に応じて、画像合成システムの無謀な禁止と規制が本格的に始まった場合、その多くは何らかの形で悪影響を受ける可能性があります。

しかし、ディープフェイクの規制に向けて私たちが行っているゆっくりとした、そして時には目的のない歩みを少なくとも加速させ、強制されるのではなく、中間的な立場で、そして私たち自身のやり方で潜在的な問題に対処することは良い考えかもしれません。後の出来事はあまり考慮されていない対応に変わります。

* 加害者とされる者は恐喝の罪で起訴されている。 エジプトにはディープフェイクポルノをカバーする法律はない。

初版は24年2022月XNUMX日。