Andersonの視点
欧州と英国におけるディープフェイク規制提案は驚くほど限定的である

要点EUのディープフェイク規制は広告を対象としているが、非同意のポルノは完全に無視している。
もっと見る
- EUのディープフェイク規制は広告を対象としているが、非同意のポルノは完全に無視している。
- 英国法では、被害者が作成者から直接嫌がらせを受けない限り、ディープフェイクポルノを起訴できない。
- カリフォルニア州やニューヨーク州などの米国の州はディープフェイクポルノを禁止しているが、ほとんどの州には依然として法律がない。
分析 2022年こそディープフェイク画像がより厳しい法的規制の対象となると期待する活動家にとって、初期の兆候は芳しくない。
先週木曜日、欧州議会はディープフェイクの流布に関するデジタルサービス法の修正案を承認した(DSA、2023年施行予定)。修正はオンライン広告に直接関係する二つの箇所でディープフェイクを扱う。第30条に関する修正案1709と、第63条に関する関連修正案である。
前者は第30a条という新条項を提案し、表題をディープフェイクとして次のように定める。
「非常に大規模なオンラインプラットフォームが、コンテンツが生成・操作された画像、音声、動画で、実在する人物、物体、場所、その他の実体や出来事に著しく似ており、人に本物または真実だと誤認させるもの(ディープフェイク)であると知った場合、提供者は、その内容が本物でないことを知らせ、サービスの受領者に明瞭に見える形でラベルを付けなければならない。」
後者は主に大規模広告プラットフォームの透明性向上を扱う既存の第63条に文言を追加する。該当部分は次の通りである。
「加えて、非常に大規模なオンラインプラットフォームは、ディープフェイクと判明している動画、音声、その他のファイルにラベルを付けるべきである。」
事実上、この法律は、宣伝・広告素材での顔交換について許可を得て権利も確保した「正当なディープフェイク」の普及に備えているようだ。ロシアの通信会社Telefonが最近の広告でブルース・ウィリスのアイデンティティを許諾を受けて利用した例がこれに当たる。
立法へのためらい
これまでのところDSAは、ディープフェイク技術が最も一般的に使われる用途、すなわちポルノ動画の出演者の顔の差し替えについて活動家が抱く懸念に応えていないように見える。また、映画やテレビで今後使われるディープフェイクを、少なくともEUで2023年から広告に求められるのと同様に、どこまで視聴者へ告知する必要があるかという点も扱っていない。
DSAの批准過程は今後、より広い範囲を扱うデジタル市場法(DMA)とともに、EU加盟国との交渉に移る。
ユーロポールの2020年12月の報告書人工知能の悪意ある利用と濫用は、EUがDeepFaceLiveのような特定の現行技術を対象とするのは誤りだとした。EU法が最新のフレームワークや方法を常に追いかけることになりかねないからだ。
報告書は次のように述べる。
「特に、これらの政策は長期的に有効であり、ディープフェイクの作成・濫用を支える技術の進化に応じて定期的に見直して置き換える必要がないよう、技術に中立的でなければならない。」
「それでも、そのような措置はGANの有益な応用を妨げることも避けなければならない。」
この引用の最後の敵対的生成ネットワーク(GAN)への言及は、すでにアジアに後れを取っていると見られる新興AI研究分野を縛る法律の適用に、欧州と北米がためらっていることを広く表している。アジアのより指示的な国家ではディープフェイク立法を迅速に進められている。
例えば英国上院の人工知能特別委員会による2018年の報告書は、過度の慎重さが国内のAI開発を遅らせる危険を何度も強調している。表題の英国のAI:準備、意欲、能力はあるか?にもそれが表れる。昨年4月には、英国は高速道路での自動運転車の運行を承認した最初の国にもなった。
米国も熱意で劣らない。米ブルッキングス研究所はAI立法を増やす必要性を訴え、機械学習技術の影響に「様子見」の姿勢を取る議員を批判している。
ディープフェイクに関する政治的ではなく社会的な懸念へのDSAの弱い対応に加え、2021年4月に公表されたEUのAI規制枠組み案も、この問題を避けているとして直ちに批判された。
英国の乏しいディープフェイク規制
本人の同意なくポルノのディープフェイク動画に使われた後、2021年に新たな英国法を求め積極的に運動した作家ヘレン・モートら反ディープフェイク活動家にとって、さらに失望する材料がある。本日公表された英国議会のデジタル・文化・メディア・スポーツ委員会の報告書は、政府がディープフェイクに対処していないと批判した。対象はオンライン安全法案の草案だ。
報告書は草案のディープフェイク濫用に対する法的救済を「不明瞭で実用的でない」と呼び、AIを使うポルノ動画・画像の操作技術の「合法だが有害」な状態に提案法が何も対処していないとする。
「[我々は]政府が、形式上合法なコンテンツの種類に積極的に対処することを勧告する。例えば、児童虐待の一連のコンテンツ中の陰湿な部分である、手掛かりを小出しにする行為(breadcrumbing)や、技術で女性の画像を『裸にする』行為、ディープフェイク・ポルノなど女性や少女へのオンライン暴力がある。これらを基本法、または注意義務の対象となる有害コンテンツの種類として範囲に含めるべきだ。」
現行の英国法が対象にするのは「実際の」画像の流布である。例えば、元交際相手が秘密の私的で露骨な性的素材を公開するリベンジポルノがある。加害者が標的のアイデンティティをポルノに重ねたディープフェイクを作り公表しても、本人に素材を直接送って嫌がらせをする場合か、著作権関連法に基づく場合でしか起訴できない。
前者の場合、新しいディープフェイクが容易に注目や視聴者を集めるため、被害者はほぼ必然的に、作成者ではなく心配する友人や無関係の第三者から知らされる。拡散性が作成者を守る一方、その作品はなお「標的に届く」。
後者の場合、後から被害者のアイデンティティを重ねる未加工の第三者のポルノ動画が、専門的に制作され英国の著作権で正当に保護されている場合に限り、起訴できる可能性が高い。適切な動画を世界のどの適法な法域からでも自由に入手できるとしても同様だ。どの法域の「アマチュア」動画にも明確な著作権上の地位がない。作成者が被害者を重ねるために特別に撮影した動画は、他の法律を守る限り、皮肉にもそれ自体が著作権法で保護される。
後手に回る対応
2021年12月、英国法律委員会は性別に基づく敵意を含むようヘイトスピーチ法を広げることを提案した。しかしディープフェイクをこの範囲に入れる提案はしなかった。とりわけインドなど世界各地で女性政治家や活動家への武器として使われている例が多数あるにもかかわらず、である。不正なディープフェイクの標的は圧倒的に女性であり、動機が屈辱、プラットフォームからの排除、権力の剥奪といった公然たる社会的目的でも、単に好色的、すなわち色情的な目的でも同様だ。
2021年3月、イリノイ州のNational Law Reviewは英国の法的枠組みを、その時点でディープフェイクへの対処に「全く不十分」と批判し、個人の姿を保護する基本的な法的仕組みすらないとした。
米国のディープフェイク法
対照的に、米国は市民のアイデンティティの商業利用を管理するパブリシティ権をある程度保護している。ただし連邦法ではなく、現在こうした法令があるのは米国の州の約半数で、法的仕組みには大きな差がある。
英国の対応よりは改善されているが、米国でも州ごとの散発的な保護しかなく、技術の政治的操作への可能性を先に扱い、私人への影響はその後に回そうとしているようだ。
2019年にテキサス州はテキサス上院法案751により、政治的ディープフェイクの作成・流布を違法にした(SB751)。ディープフェイク・ポルノへの言及はない。同年、バージニア州は改正により、他人の画像の違法な流布・販売を扱う既存法に、「偽って作成された動画画像または静止画像」という広い用語を加えた。
2020年、カリフォルニア州は州下院法案602(AB 602)を施行し、ディープフェイク・ポルノの生成・流布を禁じた。自動失効条項はないが、時効は3年で、政治的ディープフェイクを扱う別条項も付随する。
2020年末、ニューヨーク州は上院法案S5959Dを可決した。ディープフェイク・ポルノの作成・再公開を禁じるだけでなく、ディープフェイク、CGIその他の手段によるコンピューター生成の姿についてパブリシティ権を積極的に保護する。死亡時にニューヨーク州民であれば、死後も保護される。
最後にメリーランド州は児童ポルノに関する法を改正し、ディープフェイクの利用を含め犯罪化したが、大人の標的への影響は扱っていない。
「DeepfakeGate」を待ちながら
歴史を見ると、新技術の被害が国家にとって身近なものになって初めて立法の対応が速まる。自分のディープフェイク・ポルノで脅迫されていたとされるエジプトの十代の少女の最近の死は、西側メディアで限られた報道しかされなかった*。アラブ首長国連邦での3500万ドルの窃盗も、2021年に明るみに出たが「遠い出来事」であり、上院を急がせたり、まだディープフェイク法を作っていない残る45州を動かしたりしそうにない。
米国がディープフェイク濫用に統一した対応を取れば、広範な法が通信、データ基盤、保存の管理に影響し、世界中の取引相手にも迅速な追随政策を迫るだろう。欧州のGDPR導入が最終的に北米のデータ収集・保持政策に移らなかったからといって、EUがディープフェイク・ポルノの生成、保存、保持についてより明確な立法姿勢を取ったとき、遵守の弱い貿易相手国への影響力を得られないとは限らない。
しかしまず、こうした主要国群の一つで「現場」の出来事が必要だ。私たちはなお、当局がダークネットで児童性的虐待資料(CSAM)を大量に押収すること、音声・動画ディープフェイクで米国の企業経営者をだまして巨額の資金を誤送金させる大事件、または家父長制の強い国々で女性を攻撃するディープフェイクが増えている状況に対応する米国版の事件を待っている。米国文化が本当に同様の事件を反映できるかは疑わしい。望むのは難しい出来事であり、頭を砂に埋めたり「発火点」となる事件を待ったりせず、他のどんな方法でも回避すべきだ。
EUが、巧妙で正当なディープフェイクを宣伝したい広告企業へ立法の力を向けることで避けている核心の一つは、ディープフェイクがなおアルゴリズムで見抜きにくいことだ。毎月arXivに出る多数の検出法は、透かし、ブロックチェーン検証、あるいは自由に動画を見るための現行基盤全体の何らかの変更に依存する。これは動画を「真実」の代理と見る考えの根本的な法的見直しを意味する。それ以外の方法は、人気のオープンソース・ディープフェイク開発の進歩に日常的に追い越されている。
もう一つの問題は、多数の新AI技術のうち一つの問題ある分野に西側主要国が反射的に対応しないことには、ある意味で理由がある点だ。多くの技術は社会・産業に大きな利益を約束し、大事件とその後の抗議を受けて画像合成システムへの拙速な禁止・規制が本格化すれば、そうした技術の多くが何らかの悪影響を受けうる。
それでも、ディープフェイク規制への遅く時に目的を欠く歩みを少なくとも速め、後の事件に押されて熟慮の足りない反応をするより、自分たちの条件で中間地点の潜在的問題に対処する方がよいだろう。
* 容疑者らは脅迫罪で訴追されている。エジプトにディープフェイク・ポルノを対象とする法律はない。
初出:2022年1月24日。












