全面的反動：將AI視為不可容忍的污染物的團體

AI生成コンテンツをめぐる法的・倫理的懸念や利用者の反発が強まる中、「ゼロトレランス」は魅力的な選択肢になりつつある。しかしAIから完全に離脱することは現実的なのだろうか。

意見 SNSやオンライン掲示板を使う人なら、生成AIを全面禁止するコミュニティ、フォーラム、専門団体が増えていることに気づくだろう。影響は、2023年に抗議の火をつけた芸術家や作家を越えて経済全体へ広がった。

AI革命の法的・経済的帰結が不明なまま、組織は利用者と社内法務の双方から圧力を受け、全体像が見える前に方針を決めざるを得ない。一方で採用が遅れれば競争上不利になるという恐れもある。

瘴気のように広がるAI

禁止するという決定は政治的で結果を伴うが、実際に禁止できるかには政治と運用の両面で落とし穴がある。人々が欲しがる物を禁じた歴史は成功ばかりではなく、誰も望まない物の根絶でさえ長期的努力が必要だ。

ラッダイト運動への誤解に悩まされるため、AIの痕跡を一切認めない団体は、防御的な口調で禁止を発表しがちだ。だがアーミッシュが何世紀も経験したように、社会へ深く浸透する技術から孤立し続けるのは難しい。

厳密に言えば、完全菜食主義者は伝統的セルロイドで撮影された映画を見ることも、X線検査を受けることもできない。水道水フッ化物添加を採用する地域で個人だけ離脱するのも難しい。広く普及した技術は「大気」のようになり、団体が引こうとする境界を容易に越える。

法律が追いつく前の対策

AI侵入との最初の戦いは、生成AIの中でも解釈の余地が大きい娯楽産業で起きた。SAG-AFTRAは2023年に会員の権利保護を求め、重要な譲歩を勝ち取った。

それ以来、同程度に決定的な勝利は少ない。ディープフェイクをめぐる英米の法制度も、多くはAIを非同意画像など広い犯罪類型の一部として扱う。芸術家の作品利用をめぐる訴訟が進む間、影響を受ける集団は地域ルールで将来の法的承認を先取りしている。

AIゼロトレランスの具体例

異議を唱える音楽プラットフォーム

Bandcampは今月、主要オンライン音楽プラットフォームとして初めてAIコンテンツを全面禁止し、「全体または相当部分がAI生成の音楽・音声は認めない」と発表した。

ただし「全体または大きく依存して作られたように見える」音楽を対象にするという現実的な限定もある。生成AI作品の一部は人にも検出器にも完全に人間制作に見えるためだ。多くのゼロトレランス方針は、判別できないAI利用は処罰しようがないという同じ限界を抱える。

AI生成曲がスウェーデンのチャートを席巻した後、IFPI Swedenも「主としてAI生成なら上位リストへ入れない」と定めた。全面禁止の意思は明確でも実装は完全にはできない。

コミック大会の禁止

米国を中心にコミック大会でも禁止が広がった。San Diego Comic-Conは2024年に商用利用を制限し、今月は芸術家の抗議を受けAIコンテンツを全面禁止した。

New York Comic Conも昨年10月、全体または「相当部分」が生成AIで作られた商品・素材・コンテンツの販売を禁止した。「相当部分」という表現は、作品の創作経路全体を見分ける難しさを認めている。完全排除ではなくても、販売場所を失わせることで多くのAI作品を効果的に締め出す。

FanX Salt Lakeはさらに明確に禁止し、創設者Dan Farrは、生成AI利用を知らずに作品へ高額を払う購入者は本来ほど価値のない物を買う恐れがあると説明した。

オンラインコミュニティ

多くのオンラインコミュニティもAI生成コンテンツを認めない。頻発する禁止こそ、この問題に注目するきっかけになった。

Facebookで見られる典型的な反AI規則。 出典

Redditでは、大規模サブレディットの管理者がAI画像、芸術、フィクション、プログラムなどを一律禁止することがある。投稿がフォーラムを埋め、人間のモデレーターの処理能力を超えたためだ。

早い例は2022年のr/Duneで、約25万人のファンが大量のAI画像を受けてAIアート禁止を決めた。管理者は技術の面白さを認めながら、人間の原作に比べ低労力コンテンツに当たり、人間制作を優先したいと述べた。その後r/legoやr/DataHoarderなども、AIが一部でも使われたと判別できる投稿は削除するとした。

Facebookにも同様の規則は多いが、親会社Metaが世界有数のAI開発企業である一方、Redditは継続的な人間データ源として争奪の対象であるため、Facebook上の禁止は比較的議論になりにくい。Meta自身も利用者の反発を受け、AIエージェントをタイムラインへ投稿させる実験から撤退した。

ChatGPTからの情報流出を防ぐ禁止

企業や機密環境でChatGPTを禁じる動きは、絶対的禁止の別種の例だ。ClaudeやGeminiなどクラウドAPI型LLMにも同じ懸念が当てはまる。

この禁止は学習データ搾取への倫理的懸念より、顧客との会話で開示された機密IPをOpenAIが保存・処理・利用する恐れから生まれることが多い。法務部門は同時に、公開ウェブ資料で学習した商用システムが将来の訴訟責任を企業や顧客へ及ぼすかも検討する。

2023年にはApple (AAPL )、Amazon (AMZN )、Spotify、Wells Fargoなどが利用を禁止した。同年のCisco調査では27%の組織がChatGPTだけでなく生成AI全般を禁じていた。2024年の別調査では大手製薬20社の65%が従業員のChatGPT利用を禁止していた。

ただし多くの企業は自社に有利な形でAIを使い、内部モデルやOpenAIよりIP保護の強い商用APIを開発すると考えられる。AI推進国の政府もChatGPTを禁じる。キューバや北朝鮮に加え、AI革命を主導するとされる中国も政府レベルで禁じ、自国製の代替を優先している。

結論：ゼロトレランスは何を達成できるか

絶対禁止には、AI利用を見分ける難しさに加え、妥協のない禁止が本当に有効かという問題がある。「ゼロトレランス」が何を意味し、どんな限られた条件で目的を達成できるのかは誤解されやすい。

この言葉と強く結びつくNew York Cityは、1970～80年代の犯罪状況から「割れ窓理論」を段階的かつ継続的に適用して再生したとされる。最初の割れ窓を放置すれば当局が見ていないという信号になり、より多くの破壊や重大犯罪につながるため、小さな問題を直して犯罪の連鎖を防ぐという考えだ。

しかし徹底すれば、この理論は極端な権威主義、さらにはファシズムのようにも見え、人種差別的だとの批判もある。

John Fordが唯一制作した訓練映画『OSS – Undercover Training』にある、第二次大戦の枢軸文化を模した文脈での執拗なゼロトレランスの例。

一般には、未成年への加害を禁じる法律のような「厳しいが必要な」公共ルールと同一視される。しかし本来の都市政策としてのゼロトレランスは、実際より大きな公共資源があるよう示しながら、少ない予算で再生を進める考えだった。AIを再び瓶へ戻す用途とは合わない。

生成AIはすでに広く浸透し、AIを使っていないように見える下流データも影響を受けている可能性がある。自分で撮影してYouTubeへ投稿した真正な動画でさえ、AI強化コーデックを通っているかもしれない。AIが文化的な「気体」になるなら、明確な境界や単純な二択の「AI禁止」をすり抜け続けるだろう。

2026年1月29日初出。