中国はディープフェイクとその他のAI合成システムの規制強化を提案

中国のサイバースペース管理局（CAC）は、ディープフェイク、バーチャルリアリティシーン、テキスト生成、オーディオ、その他のAIメディア合成のサブセクターを含むAI支援合成システムを規制するための新しい規制案を提案しました。この分野では、中国は毎月大量の学術論文と革新的な研究プロジェクトを生み出しています。

CACの公式サイトの投稿（Google翻訳、元のページ）では、提案された義務を概説し、影響を受けるサービスを「ディープ合成サービスプロバイダー」として特定し、市民に提案された草案についてのコメントを求めています。コメントの提出期限は2月28日です。

ディープフェイクだけではない

提案された規制は、ディープフェイクの作成と拡散への潜在的な影響について報告されていますが、文書はアルゴリズムが生成できるすべてのタイプのコンテンツに対する包括的な管轄を試みています。コンテンツは、広く理解されている「メディア」の意味で解釈できます。

第2条では、6つのセクターにわたる規制の範囲を宣言しています。

(1) テキストコンテンツの生成または編集のための技術、たとえば章の生成、テキストスタイルの変換、質問と答えの対話;

(2) 音声コンテンツの生成または編集のための技術、たとえばテキストから音声、音声変換、音声属性編集;

(3) 非音声コンテンツの生成または編集のための技術、たとえば音楽生成、シーンサウンド編集;

(4) 顔生成、顔置換、キャラクタ属性編集、顔操作、ジェスチャ操作、その他の画像およびビデオコンテンツのバイオメトリック特徴を生成または編集するための技術;

(5) 画像およびビデオコンテンツの非生物特徴を編集するための技術、たとえば画像強化、画像復元;

(6) 仮想シーンを生成または編集するための技術、たとえば3D再構築。

ディープフェイク規制

中国は2019年末に、AIを使用した偽ニュースの拡散を犯罪化しました。その時、CACはディープフェイク技術の潜在的な影響について懸念を表明し、多くの人々は中国政府が最終的にディープフェイク技術を全面禁止するだろうと考えるようになりました。

しかし、これは中国がメディア生成、AI、そして政治の歴史上で最も政治的に、文化的に重要な発展の一つを公式に放棄することを意味します。また、中国はグローバルなオープンな科学的協力を犠牲にして、ディープフェイク技術の利点から自身を隔離することになります。

したがって、中国はディープフェイク技術を禁止するのではなく、むしろその技術を管理しようとしているようです。多くの人々は、この技術が最終的に「ポルノ加速器」段階から脱却し、エンターテイメントを含むさまざまな有用なユースケースで利用されるようになるだろうと考えています。

NeRFが含まれる

第2.6条では、仮想シーンの生成または編集、たとえば3D再構築について述べています。これはディープフェイクの擬似より新しい技術であり、Neural Radiance Fields（NeRF）の出現により、過去2年間で最も注目されている技術です。NeRFでは、写真測量法を使用して、機械学習モデルの潜在的な空間でシーン全体を合成します。

しかし、NeRFは急速にテーブルや環境のウォークスルーからフルボディビデオの生成へと進化しています。中国の研究者は、この分野でいくつかの重要な革新を達成しています。

中国のST-NeRFの動作。

NeRFは2020年の発表以来多くの新しい研究を生み出してきましたが、VRまたはARシステムへの実装や、ビジュアルエフェクトパイプラインへの適合性についてはまだ多くの課題と技術的ボトルネックがあります。NeRFが人間の完全な容貌を再構築および編集する能力はまだ、過去2年間にニュースヘッドラインで特徴付けられた標準的なアイデンティティ変換ディープフェイク機能を含んでいません。

オーディオディープフェイクは優先事項か？

第2条のリストの順序が、中国が最も管理し規制したいディープ合成技術を示すものであると仮定すると、これはテキストベースのAI生成偽ニュースが第一の関心事であり、音声合成がビデオディープフェイクよりも影響力の点で優先されることを示唆しています。

これは、ディープフェイクビデオがポルノに関連しない犯罪で使用されたことがないという事実と一致しています。一方、ディープフェイクオーディオは、2019年にイギリスで、2021年にアラブ首長国連邦で、少なくとも2つの重大な金融犯罪で活用されたと考えられています。

新しい規制案では、機械学習システムを使用して個人のアイデンティティを利用したいユーザーは、当人から書面による許可を得る必要があります。また、合成メディアには、コンテンツが改変されたか完全に作成されたことを消費者に理解させるための「目立つ」ロゴまたはウォーターマーク、またはその他の手段を表示する必要があります。ただし、オーディオディープフェイクの場合、これがどのように実現できるかは不明です。

登録

草案が承認された場合、ディープ合成サービスプロバイダーは、既存の「インターネット情報サービスアルゴリズム推奨管理規定」に従って、関連するアプリケーションを国家に登録し、必要な提出手続きに従う必要があります。ディープ合成プロバイダーはまた、監督および検査において自由に協力し、要求に応じて必要な技術およびデータのサポートおよび支援を提供する必要があります。

さらに、プロバイダーは苦情のためのユーザーフレンドリーポータルを設立し、苦情の処理の予想される時間枠を公開し、「デマを否定するメカニズム」を提供する必要があります。ただし、提案ではこの実施についての詳細は提供されていません。

違反は、10,000から100,000元（約1,600ドルから16,000ドル）の罰金につながる可能性があり、違反会社を民事および刑事訴訟の対象とする可能性があります。

* 翻訳はGoogle翻訳を使用しています。詳細は記事の先頭を参照してください。

初出は2022年1月28日です。