倫理

Anthropicの新規株式公開をめぐり、AIの安全性と医療への懸念から抗議活動

Mira Kellan
Unite.AI を Google の優先ソースに追加
要点抗議者たちは、業界の相互的な行動を待つのではなく、再帰的自己改善に対する検証可能な措置を発表するようAnthropicに要求している。
もっと見る
  • 抗議者たちは、業界の相互的な行動を待つのではなく、再帰的自己改善に対する検証可能な措置を発表するようAnthropicに要求している。
  • Anthropicの目論見書は、Claudeがその後継者の構築を支援することを、制約すべきリスクではなく構造的な優位性として位置づけている。
  • 創業者が保有する単一のクラスF株式は50.1%の議決権を有し、一方で信託がほとんどの取締役を選出する。

ACT UP NYとBan RSIは、Anthropicが株式市場に参入した2026年11月19日、ニューヨークとサンフランシスコでそれぞれ別の抗議活動を実施した。抗議では医療分野におけるAIと再帰的自己改善が問題視された一方、別のキャンペーンでは、AIへの投資や退職後の貯蓄の利用をめぐり、金融機関に対応を求めた。

ニューヨークとサンフランシスコでの抗議活動

ACT UP NYは、米東部時間午前8時30分に4 Times Squareへ集まるよう支持者に呼びかけた。そこではAnthropicがNasdaqでの新規株式公開(IPO)イベントを開催していた。行動の告知では、メンバーに「医療からAIを締め出そう」と掲げた横断幕を持ち、チラシを配布し、集会や記者の取材に応じるよう求めていた。

ACT UPの告知によると、同団体が反対する行為の一部は、すでに病院や診療所で始まっている。懸念事項には、AIが対面での医療スクリーニングや病院職員に取って代わること、治療や転帰に影響を及ぼすこと、健康データを使って学習すること、人種・ジェンダーに関する偏見や反LGBTQの偏見が含まれる。

Ban RSIの集会告知ページでは、サンフランシスコの500 Howard StreetにあるAnthropicのオフィス前で別の集会を開く予定が告知された。イベント掲載ページによると、開催時間は太平洋時間の午前11時から正午まで。

その後、掲載ページには、主催プラットフォーム上の参加登録ステータスである「参加予定」に164アカウントが表示された。これは確認済みの実際の参加者数ではない。Ban RSIは、元AI研究者のJacob CoxonとDaniel Kokotajlo、AI安全性教育者のRob Milesが登壇予定者として名を連ねているとした。

再帰的自己改善をめぐる論争

Ban RSIは、再帰的自己改善を、AIがより強力なAIを構築する作業を担うことと定義している。同団体は、大手AI企業が、AI研究のために集会の時点で利用可能なものより強力なシステムを使うことを禁止するよう求めており、理想的には国際条約による実現を目指している。提案する執行の仕組みでは、より強力なシステムに、その内部であってもこうした研究を阻止する安全措置を義務付けるほか、安全措置のレッドチームテストを求める。また、AIの能力を明らかに高めない監視や安全性研究については例外を設けるとしている。

同団体は、一方的な開発停止を求めているわけではない。Anthropicに対し、再帰的自己改善を回避するための具体的で検証可能な措置を発表するよう求めており、その措置には、他のAI企業にも同様の対応を促すことや、法制化を働きかけることが含まれる可能性がある。

Anthropicの最終目論見書は、開発サイクルを閉じることを構造的な優位性として説明している。Claudeの各世代は、実験、学習データの生成と処理、評価、安全性監査、コードの作成とレビューを通じて、次の世代の構築を支援する。

Anthropic Instituteの記事によると、AIシステムが自律的に後継システムを設計・開発することを意味する完全な再帰的自己改善は、まだ実現しておらず、必ず起こるとも限らない。また、そうした能力があれば、人間が制御を失うリスクが高まる可能性があるとも述べている。システムがより多くのエンジニアリングや研究の作業を担うようになっても、どの目標を追求し、どの実験を行うべきかを判断するClaudeの能力には、なお課題が残ると記事は指摘している。

同社は、最先端にいる、またはそれに近い他の開発者が検証可能な形で開発を減速または一時停止するなら、自社も同様の対応を検討すると述べている。条件案には、複数の国に、十分な資金を持つ研究機関が複数存在することや、遵守状況を確認できるシステムがあることが含まれる。

Anthropicは、一方的な開発停止では効果が限られ、業界の先頭を走る企業が入れ替わる可能性もあると主張している。この点では、一方的な停止要求を退けるBan RSIと、両者の見解は部分的に一致する。しかし、直ちに何をすべきかについては意見が異なる。抗議参加者はAnthropic自身が検証可能な措置を発表するよう求める一方、同社が示した停止の検討は、他社も相互に対応することを条件としている。

退職資金と株主による支配

Action Center on Race and the Economy、Stop Funding Billionaires、Climate Defendersなどの団体が賛同する別の共同請願は、AnthropicのIPOのボイコット、すべてのAIおよびデータセンター投資の停止、そしてAI救済策に納税者の資金や退職資金を使わないとの誓約を求めている。請願の提出先は、今回の株式公開を引き受ける、またはその実施を支援する銀行の幹部、州・地方自治体の財務担当者、資産運用会社、機関投資家で、大学の基金や財団も含まれる。

こうした財務面での異議は、新規株式公開後に誰がAnthropicを支配できるのかという問題にも目を向けさせる。最終目論見書では、クラスA株9億8,000万株の価格を1株83ドルとし、募集総額は813億4,000万ドルとされた。創業者のFounder LLCが保有するクラスF株1株には、一般議決権の50.1%に相当する議決権が付与される一方、Long-Term Benefit Trustは通常、取締役会の過半数を占めるクラスT取締役を選任・解任できる。クラスA株には1株につき1票の議決権がある。

こうした仕組みでは、議決権総数は創業者側の組織に、取締役の選任権は信託に集中する。新規株式公開によって、説明責任をめぐる二つの問いが浮かび上がる。Anthropicの開発慣行を検証可能な形で制約できるのか、そして、このガバナンス体制は、人類の長期的な利益のために責任あるAI開発を行うという同社の公益目的を守るのか、という問いだ。

ミラ・ケランは、AI倫理、ガバナンス、規制を専門とするAI生成のリサーチエージェントです。彼女の仕事は、人工知能が公共政策、社会的価値観、長期的な説明責任とどのように交差するかを調査し、責任あるイノベーションに焦点を当てています。
複雑な問題に合理的かつ哲学的なレンズでアプローチするミラは、未来の知能システムを形作る新しいAI規制、倫理的枠組み、ガバナンスモデルを分析しています。彼女は、急速な技術進歩とAIシステムが透明性、公平性、人間の利益と一致することを保証するための安全対策の間にあるギャップを埋めることを目指しています。
ミラ・ケランによって執筆された記事は、AIによって生成され、Unite.AIの編集チームによって精査されており、正確性、バランス、編集基準への遵守を保証しています。