中国、ディープフェイクやその他のAI合成システムに対する規制強化を提案

中国サイバースペース局 (CAC) は、ディープフェイク、仮想現実シーン、テキスト生成、オーディオ、および AI メディア合成のその他のサブセクターを含む AI 支援合成システムを管理する一連の新しい規制草案を提案しました。中国では毎月、膨大な数の学術論文や革新的な研究プロジェクトが生み出されています。

投稿（Google翻訳、原文） こちら）CACの公式サイトでは、提案された義務を定め、影響を受けるサービスを「深層合成サービスプロバイダー」として特徴づけ、28月XNUMX日の期限で提案草案にコメントを投稿することで市民に参加を呼びかけている。

ディープフェイクだけではない

提案された規制は、ディープフェイクの作成と普及に対する潜在的な影響という観点から報告されているが、この文書は、広義に解釈できるあらゆる種類のコンテンツを生成するアルゴリズムの能力に関する包括的な範囲を試みている。 「メディア」の。

第 2 条では、XNUMX つの分野*にわたる規制の予想範囲を宣言しています。

(1) 章の生成、テキストスタイルの変換、質疑応答などのテキストコンテンツを生成または編集するための技術。

(2) テキスト読み上げ、音声変換、音声属性編集などの音声コンテンツを生成または編集する技術。

(3) 音楽生成やシーンサウンド編集などの非音声コンテンツを生成または編集する技術。

(4) 顔生成、顔置換、文字属性編集、顔操作、ジェスチャー操作、その他の画像やビデオコンテンツ内の顔などの生体特徴を生成または編集する技術。

(5) 画像強調や画像復元など、画像やビデオ コンテンツ内の非生物学的特徴を編集する技術。

(6) 3D再構成などの仮想シーンを生成・編集する技術。

ディープフェイク規制

中国、フェイクニュース拡散のためのAI利用を犯罪化 2019の終わりに、そのとき、CACはディープフェイク技術の潜在的な影響について懸念を表明し、多くの人が中国政府が最終的にディープフェイク技術を完全に禁止するだろうと考えるようになりました。

しかし、これは中国がメディア生成、AI、さらには政治の歴史の中で最も政治的、文化的に重要な発展のXNUMXつを正式に放棄し、世界的でオープンな科学協力の恩恵から自らを断つことを伴うことになる。

したがって、中国は現在、潜在的に不正なテクノロジーを禁止するのではなく、制御することを実験することを決意しているようだ。このテクノロジーは最終的には中国から流出すると多くの人が信じている。 ポルノアクセラレータフェーズ そして、特にエンターテインメントにおいて、合法的かつ悪用可能な一連のユースケースに組み込まれます。

NeRF を含む

記事 2.6 では、3D 再構成などの仮想シーンの生成または編集について説明しています。これは、ディープフェイクのなりすましよりも初期のテクノロジーであり、ニューラル ラディアンス フィールドの出現により、過去 XNUMX 年間で最も注目を集めた技術です (ナーフ)、写真測量を使用して、機械学習モデルの探索可能な潜在空間内のシーン全体を合成します。

しかし、NeRF はモデルのタブローや環境のウォークスルーから全身ビデオの生成へと急速にその範囲を拡大しており、中国の研究者らの進歩により、 いくつかの大きな革新 この点において。

中国の ST-NeRF の動作を確認してください。

NeRF は 2020 年の発表以来、新しい研究を次々と生み出してきましたが、VR または AR システムでの実装、または視覚効果パイプラインでの適合性には、依然として多くの顕著な課題と通過すべき技術的ボトルネックが残っています。 完全な人間の人相を再構成および編集する NeRF の能力の向上には、過去 XNUMX 年間のニュースの見出しを特徴づけてきた標準的なアイデンティティ変換ディープフェイク機能はまだ組み込まれていません。

音声ディープフェイクが優先ですか?

第 2 条のリストの順序を、中国が管理と規制に最も懸念している深層合成技術を示すものと解釈する場合、これは、テキストベースの AI 生成のフェイクニュースが主な懸念事項であり、ビデオよりも音声合成が優先されていることを示唆するでしょう。ディープフェイクの潜在的な影響について。

もしそうなら、これはディープフェイクビデオがポルノに関係のない犯罪にまだ使用されていないという事実と一致する（アジアは ディープフェイクポルノを犯罪化することに躊躇しない）、一方、英国ではディープフェイク音声が少なくとも XNUMX つの主要な金融犯罪で有効なテクノロジーであると想定されています。 in 2019, アラブ首長国連邦 2021インチ

新しい規制草案では、機械学習システムの使用を通じて個人のアイデンティティを悪用したいユーザーは、その個人から書面による許可を得ることが義務付けられている。 さらに、合成メディアには、コンテンツが変更されているか完全に捏造されていることを素材を消費する人に理解させることができる、ある種の「目立つ」ロゴや透かし、またはその他の手段を表示する必要があります。 オーディオディープフェイクの場合にこれをどのように実現できるかは完全には明らかではありません。

登録

この草案が批准されれば、深層合成サービスプロバイダーは、インターネット情報サービスのアルゴリズム勧告の管理に関する既存の規定に従って、関連する出願を国家に登録し、必要なすべての出願手続きに従うことが義務付けられることになる。 深層合成プロバイダーはまた、監督と検査に関して自由に協力し、要求に応じて「必要な技術的およびデータのサポートと支援」を提供することも求められる。

さらに、そのようなプロバイダーは、苦情のためのユーザーフレンドリーなポータルを確立し、そのような苦情の処理に予想される期限を公表する必要があるほか、「噂を反駁するメカニズム」を提供する必要があるが、提案には詳細が記載されていない。これの実装に関して。

違反行為があれば、10,000万～100,000万元（1,600ドル～16,000万XNUMXドル）の罰金が科せられるほか、違反企業は民事訴訟および刑事訴訟にさらされる可能性がある。

* Google 翻訳による翻訳。記事冒頭のリンクを参照してください。

初版は28年2022月XNUMX日。