Andersonの視点

全面反発:AIを耐え難い汚染源とみなす集団

Martin Anderson
Unite.AI を Google の優先ソースに追加
AI-generated image, Z-Image Turbo via Krita Diffusion AI + Photoshop 2023 (no-AI): 'Interior. Photo of two burly US military guards, standing sentry with large automatic rifles, outside a huge and complex bank vault door, stock image. The bank vault door is made of thick steel and seems impenetrable'
要点ゼロトレランス(一切の使用を認めない)AI禁止策は、技術が遍在し、しばしば検知不可能である性質から、実践的な不可能性に直面している。
もっと見る
  • ゼロトレランス(一切の使用を認めない)AI禁止策は、技術が遍在し、しばしば検知不可能である性質から、実践的な不可能性に直面している。
  • Bandcampやコミコンなどの組織は、不確実な経済状況と著作権環境の中、法的措置に先立つ予防策として禁止措置を実施している。
  • 企業によるChatGPT禁止は、主にトレーニングデータに関する倫理的懸念ではなく、知的財産のセキュリティへの懸念に起因している。

AIをめぐる法律面・倫理面の懸念や利用者の反発が高まる中、AI生成コンテンツに対する「ゼロトレランス」は、ますます魅力的な選択肢になっている。だが、このようにAIから離脱することは現実に可能なのだろうか。

 

論評  ソーシャルメディアや各種オンライン掲示板を使う人なら、最近、コミュニティやフォーラム、専門団体が生成AIの利用を全面的に禁止する例が増えていると気づいているかもしれない。その経済的影響は、2023年に現在の懸念のきっかけとなる抗議を始めた芸術家や作家の枠を超えて広がっている。

AI革命の法的・経済的帰結が依然として不透明な中、組織は利用者と社内の法律顧問の双方から圧力を受け、全体像が見えるよりはるか前に方針を決めざるを得ない。導入が遅れると競争上不利になりかねないという見方が広まりつつあることも、状況を複雑にしている。

瘴気のように広がるAI

禁止するという決定は政治的なものであり、結果を伴う。しかし、禁止を実行する能力には、政治面と実務面の両方に落とし穴がある。人々が本当に求めるものを禁じてきた歴史は、よく言っても成功と失敗の入り交じったものだからだ。さらに、誰も望まないものを根絶するのでさえ、長期にわたる継続的な取り組みが必要になる。

ラッダイト運動の歴史はしばしば誤解されており、その影がつきまとう中、わずかなAIの痕跡も到底容認できないとするコミュニティや組織は、AI禁止を発表したり論じたりする際、防御的な語り口になりがちだ。

アーミッシュがここ数世紀にわたって経験してきたように、本当に大きな影響を及ぼす技術から距離を置く姿勢を保ち続けるのは難しい。例えば厳密に言えば、ヴィーガニズムの規則に従う人は、従来のセルロイドフィルムで撮影された映画を見ることも、検査を X線で受けることさえできない。同様に、フッ化物添加を採用している国や都市で、それを避けるのも難しい場合がある。

事実上、広く普及して人気を得た技術は「大気」のような現象になり、増え続ける団体や組織が今まさに引こうとしている境界には、簡単には収まらない。

法整備に先立つ措置

先に述べたように、AIの侵食に対する最初の戦いは、生成AIの中で最も決定論的でなく、解釈の幅が最も大きい娯楽の分野で起きた。米国の映画俳優組合・テレビラジオ芸能人連盟(SAG-AFTRA)は2023年、組合員の権利保護を求めて闘い、最終的に、いくつかの重要な譲歩を勝ち取ることができた。

その後、AIをめぐって同じほど決定的な勝利はほとんどなく、さまざまな分野で法的な明確さを求める闘いは、まだ始まったばかりだ。例えば、ディープフェイクをめぐる新たな法律の大半は、特に英国や米国のものも、AIを、本人の同意のない画像など、より広い犯罪類型の一部として扱っているにすぎない。画像が本物か偽物かは問わない。

SAG-AFTRAの勝利に続き、ほかの種類の芸術家の作品利用をめぐる一連の訴訟が絶えず進行している。その間、不満を抱く多くの当事者集団は、独自のルールによって将来の法的承認を先取りしている。

AIを一切容認しない姿勢の論理と制約をさらに考える前に、こうした方針が実際に導入されている例を見てみよう。

AIに対するゼロトレランスの禁止措置

異議の調べ

つい今月、Bandcampは主要なオンライン音楽プラットフォームとして初めて、AIコンテンツを全面禁止した。禁止を発表した声明には、「全体または相当部分がAIによって生成された音楽や音声は、Bandcampでは認められない」とも記されている。

ほぼすべての同種の規制と同様、この制限も、広く拡散したAIシステムによる前述の「瘴気」の影響のため、多少の余地を残さざるを得ない。発表の別の箇所では、禁止の対象は*、「見たところ全体が生成AIによって、あるいは生成AIに大きく依存して作られたと思われる音楽」だとされている。これは実務的な限定だ。大半の分野では、少なくとも一部の生成AIコンテンツが、人にも、絶えず進歩するAI検出業界の技術にも、完全に人間が作ったように見えることがあるからだ。

事実上、これが新たに導入される多くのゼロトレランス方針のひな型となっている。難しい状況下では、AIが使われていると知らなかったことが、弁明になるというわけだ。

AIが作った楽曲がスウェーデンのチャートを席巻した出来事の後、同国の音楽業界団体IFPI Swedenは、AI生成楽曲をチャートに含めることを禁止した。ただし、いつもどおり但し書きがあり、団体は*、「私たちの規則では、楽曲が主に AIで生成されている場合、トップリストに入る権利はない」と述べた。

ここでも、AIの全面禁止を望むことが非現実的だと認められている。禁止は暗黙かつ全面的だが、実施は事実上不可能なのだ。

コミック界への波及

この1年、生成AIコンテンツの禁止の波が、米国をはじめとするコミックのコンベンションを席巻してきた。2024年にAI制作アートの商用利用を制限したサンディエゴ・コミコンは、今月、AIコンテンツを全面的に禁止すると発表した。芸術家の抗議を受けた対応だと報じられている。

同様に、ニューヨーク・コミコンは昨年10月、AI生成の商品やコンテンツの販売を全面禁止した。公式サイトでは次のように述べている*。

「生成AIのツールまたはアルゴリズムを使って、全体または相当部分が作られた製品、素材、コンテンツ(『AI生成物』)、あるいはAI生成の要素を組み込んだものは、ニューヨーク・コミコンで購入可能な状態で提供してはならない。これには、視覚芸術作品、画像、グラフィック、アニメーションおよび/または素材などが含まれるが、それらに限定されない。」

ここでも「相当部分」という言い回しは、今日、作品の創作上の来歴をすべて特定する難しさを認めざるを得ないことを示している。これは、サンディエゴの後のAIコンテンツ全面禁止よりも、当初のAI出力の商業化の禁止に近い。それでもこの方法は、多くの場合、AIコンテンツから発表・販売の場を奪ううえでかなり効果的だ。ただし、そのような作品が、商用プラットフォームへつなぐ材料として使われる可能性は残る。

さらに、ファンXソルトレイクのコミック・コンベンションは昨年9月、AIコンテンツをより明確に禁止した。創設者兼プロデューサーのダン・ファーは、次のように述べている。

「お客さんが作品を買う際、生成AIが使われたと気づかなければ、その作品に多額のお金を払うかもしれない。実際には、そこまで価値のあるものではないと知らないままに。」

反ソーシャル

多くのオンラインコミュニティも、AI生成コンテンツにゼロトレランスを採用している。これは実際、AIを容認しない姿勢が一般利用者の目に最も触れやすい側面の一つであり、こうした禁止が増えたことが、この話題に私が注目するきっかけになった。

Facebookに見られる典型的な反AIの規則。出典:https://www.facebook.com/groups/1416546745305397/posts/3754074121552636/

Facebookに見られる典型的な反AIの規則。 出典

Redditは特に大きな影響を受けている。AI制作の画像やアート、文章による表現形式、例えば小説やプログラムの投稿が大量に押し寄せ、限られた人間のモデレーターの処理能力を超えたため、大規模なサブレディットの管理者が、そうしたものをすべて禁止することが多い。

非常に早い例は2022年のr/Duneで、AI画像があふれる中、約25万人のファンがAI生成アートを全面的に禁止することに投票した。当時、管理者は次のように述べている。

「多くの作品が見ていて楽しく、技術も確かに魅力的であることは認めます。しかし厳密には、手間の少ないコンテンツに該当します。特に、今後優先していきたいオリジナルの『人間が作った』アートと比べれば、そう言えます。」

それ以降、r/legoからr/DataHoarderに至る多くのサブレディットが、AIを一部でも使って作られたコンテンツは、見つけ次第削除すると同様に宣言している。ただし、いつものように、少なくとも見分けがつく場合の話だ。

同種の禁止はFacebookでも頻繁に見られる。しかしFacebookの親会社Metaは世界の最先端のAI開発企業の一つであるのに対し、Redditは、継続的な人間由来データの供給源として激しい争奪の対象となり、求められている。そのため、Facebookでのこうした禁止は、比較的論争になりにくい。

意外にも、AIに関する世論の動きにMetaが追いつくまでには時間がかかる。例えば1年前、同社は利用者の反発を受け、AIエージェントがさまざまなタイムラインへ投稿する実験から、大きく後退した。

ChatGPTによる情報流出を防ぐ禁止措置

「絶対的な」AI禁止の中でも独特な類型が、企業や機密性の高い環境で頻繁に見られるChatGPTの使用禁止だ。この意味では、ClaudeやGeminiなど、クラウド上で動作しAPIを通じて利用する言語モデルにも、ほぼ同じことが当てはまる。

ただし、これらの禁止を通常動機づけるのは、学習データの搾取に関するリベラルな懸念ではない。利用者とのチャットで開示された企業の機密の知的財産を、OpenAIが結局は保存・処理し、さらには利用するのではないかという恐れだ。

法務部門は、ChatGPTのようなプラットフォームを社内で禁じることを支持し、あるいは自ら提案するかもしれない。同時に、公開ウェブデータを使って商用システムを学習させることが、企業や顧客に将来の法的責任を生む可能性も検討するだろう。特に、OpenAIなどを相手取った進行中の訴訟が重大な判決につながった場合は、そうだ。

ChatGPTの禁止†の例には、2023年にApple (AAPL )、Amazon (AMZN )、Spotify、Wells Fargoなど数多くの企業で起きた反応的な禁止の波がある。同じ年のCiscoの調査では、回答組織の27%が同種の禁止を導入していると分かった。対象はChatGPTだけではなく、生成AI全般の使用だった。

2024年の別の調査では、大手製薬企業20社の65%が、従業員によるChatGPTの使用を禁止していた。

ここで挙げた企業のすべてではないにしても、その多くが、自社の利益によりかなう形でAIの恩恵を得ようとする可能性が高いことは明らかだ。また多くは、社内用の別のAI製品を維持・開発している可能性が高い。あるいは、OpenAIよりも強い知的財産保護を提供する商用API製品を開発しているかもしれない。

AIを強く推進する多くの政府も、ChatGPTを禁止している。キューバや北朝鮮などは、こうした禁止を行う国として意外ではないが、現在AI革命の先導役と見なされる中国も、政府レベルでChatGPTを禁じている。おそらく、国産の代替サービスを優先するためだろう。

結論:ゼロトレランスについて

AIの「絶対的な」禁止へ向かう動きについての懸念の一つは、AIコンテンツの特定の難しさに加え、妥協のない禁止が実際に有効なのかという点だ。そもそもゼロトレランスとは何で、何を達成でき、どれほど限られた状況で目的を果たせるのかは、誤解されやすい。

例えば、この言葉とおそらく最も強く結びついているニューヨーク市は、1970年代と1980年代の犯罪にまみれたどん底から、立ち直ることができた。その背景には、割れ窓の心理学的理論の、段階的かつ継続的な適用があった。この理論は、地域が貧しいか裕福かにかかわらず、たった一枚の割れた窓があるだけで、さらに多くの窓が割られ、やがて別の、より深刻な犯罪の増加につながりやすいとする。最初の割れた窓が放置され続ければ、当局が見ていないか、気にしていないと受け取られるためだ。

したがって、窓を割るという犯罪の「芽」に対するゼロトレランスには、より広い予防効果があると考えられている。「犯罪のエントロピー」が足がかりを得ること自体を防げるからだ。このように、ごみや割れ窓など、解決に多額の費用がかからない小さな問題に対処すれば、本来もっと費用がかかったはずの大きな問題は、おのずと収まるというわけだ。

しかし、この理論を実行すると、極端な権威主義、さらにはファシズムのように見えることがある。ときには人種差別的だと批判されることもある。

クリックして再生。ジョン・フォードが唯一制作した訓練映画『OSS – Undercover Training』の一場面。第二次世界大戦期の枢軸国文化を模した設定で、執拗とも見えるゼロトレランスを示している。 出典

一方、一般の人々はゼロトレランスを、「厳しいが必要な」措置と同一視しがちだ。例えば、多くの国が未成年者への加害に対して定める、妥協のない罰則がそうだ。つまり、公共の利益のための明確な規則を、ほとんど議論や妥協の余地のない、処罰を伴う法律にしたものと捉えられている。

実際のゼロトレランスは、公の場では実際の舞台裏よりも多くの資源が存在するように見せることで、限られた予算で都市再生を実現するために設計された。AIという魔神を瓶に戻す用途に、特に適した事例ではない。

現実には、生成AIはすでにきわめて広く浸透しており、その先の段階で手にする、AIとは無縁に見えるデータも、何らかの形ですでにAIの影響を受けているかもしれない。それは、例えばAIで強化されたコーデックかもしれない。自分で作成し、YouTubeにアップロードして、お気に入りのソーシャルメディアに投稿した本物の動画でも、そうしたコーデックが使われている可能性がある。AIが本当に文化的な「気体」のようになるなら、明確な境界線や「AI禁止」といった二者択一の解決策には収まらなくなりそうだ。

 

*強調は筆者による。

† この文脈では、特定の製品だけを指すのではなく、この種類の大規模言語モデルを代表するものと考えられる。

初出:2026年1月29日木曜日

機械学習のライターで、人間画像合成の専門家です。Metaphysic.ai の研究コンテンツ部門の元責任者で、DNEG の Brahma.ai に統合されるまで勤務していました。
ウェブサイト: martinanderson.ai
連絡先: martin@martinanderson.ai