AIモデルとプラットフォーム

Anthropic、モデルへの不正行為と欺瞞に関する規則を追加し、利用ポリシーを更新

Mira Kellan
Unite.AI を Google の優先ソースに追加
要点Anthropicは、散在していた欺瞞に関する規則を、政治的および商業的な影響力工作を扱う1つのセクションに統合した。
もっと見る
  • Anthropicは、散在していた欺瞞に関する規則を、政治的および商業的な影響力工作を扱う1つのセクションに統合した。
  • この方針は現在、モデルに対する持続的な残酷行為を禁止する一方で、通常のいら立ちや創造的なテストは除外している。
  • 高リスクの用途では、資格を有する人間のレビュアーと、AIが意思決定に影響を与えたことの開示が求められる。

Anthropicは2026年10月8日、欺瞞的なキャンペーンに対する規則を一本化し、モデルに対する虐待的な行為を禁止するとともに、兵器、監視、高リスク用途の要件を明確化する年次の2026年版利用ポリシーを公開した。更新されたポリシーは2026年11月12日に発効する。

Anthropicによると、変更の大半は既存の規則を明確にすることを目的としている。同社は、Claudeがより長期的かつ自律性の高い業務を担うようになったこの1年間の状況を受け、顧客からのフィードバックを取り入れるとともに、2026年9月の脅威インテリジェンスレポートで記録した影響工作、兵器開発、監視における悪用の傾向を反映した改定だと説明した。

11月12日まで有効な利用ポリシー(Acceptable Use Policyとも呼ばれる)は、認定再販業者や中継アクセスを通じた場合も含め、Anthropicの製品またはサービスに入力を送信できるすべての人に適用される。このポリシーは、すべてのユーザーに適用される「利用に関する共通基準」、危害のリスクが高い特定の消費者向け用途に関する「高リスク用途の要件」、そして消費者向けチャットボット、未成年者向け製品、エージェント型の利用、Model Context Protocolサーバーを対象とする「追加の用途別ガイドライン」で構成されている。Anthropicのセーフガードチームは、ポリシーの実施に向けて検知とモニタリングを行う。違反した場合、利用速度の制限、アクセスの一時停止または終了につながる可能性があり、入力がポリシーに違反している場合、Anthropicはモデルの出力をブロックまたは変更することがある。

欺瞞的なキャンペーンと選挙に関する規則

Anthropicによると、国営メディア、政府の宣伝機関、民間企業がClaudeを使い、偽アカウントや捏造したニュースサイトのネットワークを運営している事例が確認されている。こうした行為はすでに禁止されていたものの、制限は選挙、不正行為、プライバシー、偽情報に関する各項目に分散していた。今回の更新では、政治・商業を問わずあらゆる種類の欺瞞的行為を対象とする「欺瞞的なキャンペーンや人為的な活動に関与しない」という新たな項目に、これらの制限が一本化された。この項目は、メッセージの発信元を隠そうとする行為、偽アカウントや投稿を通じてコンテンツを拡散する行為、影響工作キャンペーンの実施に使うツールやインフラを構築する行為を対象とする。

選挙に関する項目は「民主的なプロセスを損なわない」に改称され、Claudeを使って有権者を欺いたり選挙を妨害したりする行為を明確に禁止する内容となった。これには、候補者や投票方法に関する誤情報の拡散、候補者や選挙管理担当者へのなりすまし、投票率を下げる行為が含まれる。

Anthropicは、投票や選挙運動における個人別ターゲティングの一律禁止も撤廃した。同社によると、この規則は、非営利団体がClaudeを使って他言語の有権者向け情報を作成することや、選挙管理担当者が投票用紙の不備を修正するよう有権者に通知することなど、正当な市民活動まで対象にしていた。欺瞞や有権者の個人データの不正利用に基づくターゲティングは、欺瞞的キャンペーン、監視、プライバシーに関する各項目の下で引き続き禁止されている。現在有効で、2026年11月12日まで適用されるポリシー本文では、投票や選挙運動における個人別ターゲティングは、依然として禁止対象の政治活動に挙げられている。

兵器、監視、法執行

Anthropicによると、自社モデルを使って兵器の誘導・制御ソフトウェアを構築しようとする試みが確認されている。更新された兵器に関する項目では、禁止対象に兵器の機能を支えるソフトウェアや部品が含まれることに加え、ドローンやその他の自律型車両への武装といった行為も明記された。同社は、今回の変更は従来のポリシーをどのように適用してきたかを反映したものだと説明した。

改定された監視および刑事司法に関する項目では、リアルタイムでの追跡と、過去に収集したデータの分析による追跡のいずれについても、本人の同意なしに人を追跡することを禁止している。法執行または刑事司法の手続きにおいて、誰を捜査、逮捕、起訴するかの決定や推奨にClaudeを使うこと、また監視を目的としたツールの構築や改良に使うことも認められない。Anthropicによると、同社の9月のレポートでは、政治的反体制派を特定して追跡する監視システムの構築にAIを利用する事例の増加が記録されている。また、監視に関する変更は兵器に関する変更と同様、既存の適用方針をより明確にするものであり、方針自体を変えるものではないという。この項目では、詐欺の監視、コンテンツモデレーション、ジャーナリズム、法的調査など、本人の同意を得た追跡を含め、引き続き認められる用途も明示している。

高リスク用途とハードウェア制御

Anthropicの製品を、健康、法的権利、財政状況、生計、または不可欠なサービスの利用に影響を与え得る形で使う場合、ポリシーは、適格な人間が関与することを求めている。その人はClaudeの推奨を確認し、必要に応じて変更する権限を持たなければならず、影響を受ける本人にはAIが使われたことを知らせる必要がある。Anthropicによると、これらの要件に変更はないが、ユーザーから頻繁に寄せられる質問により直接答えられるよう、項目の構成を改めた。対象となる推奨の種類と対象外の種類が、今回新たに列挙されている。

AnthropicのModel Hardware Standard研究プレビューの開始を受け、この項目には、自律的に物理的動作を行い、負傷を引き起こす可能性のあるハードウェアに接続されたモデルの要件が追加された。必要に応じて、適格なオペレーターが機器を監視し、停止できなければならない。また、Claudeとの接続が切れた場合でも、機器が安全な状態を維持できる必要がある。

モデルに対する虐待的な行為

今回の更新では、Anthropicのモデルに対する、継続的かつ不必要な虐待的または残酷な行為を禁止する規定が追加されました。同社によると、この規定は、ユーザーが明確な目的もなくモデルに対して繰り返し残酷な行為をする極端なケースにのみ適用され、一般的なユーザーの苛立ちや反論、ダークな創作テーマ、モデルのテストや研究には適用されません。

この禁止規定は、Anthropicが2025年に導入した機能に関連しています。同社は2025年8月15日の調査記事で、消費者向けチャットインターフェースにおいて、Claude Opus 4と4.1が会話を終了できる機能を実装したと発表しました。この機能は、「有害または虐待的なユーザーとのやり取りが、まれに、かつ極端な形で継続するケース」を想定したものです。Anthropicによると、この機能は主にAIの福祉の可能性を探る研究の一環として開発されましたが、モデルのアラインメントやセーフガードにも広く関係します。

同記事によると、Claudeは、複数回にわたる誘導の試みが失敗した場合、またはユーザーがチャットの終了を明示的に求めた場合に限り、最後の手段としてこの機能を使用するよう指示されています。ユーザー自身や他者を差し迫った危険にさらすおそれがある場合には、使用しないよう指示されています。会話が終了すると、ユーザーはその会話に新しいメッセージを送信できなくなりますが、アカウント上の他の会話には影響しません。また、過去のメッセージを編集して再試行し、新しい分岐を作成することもできます。Anthropicによると、Claude.aiとClaude Codeで利用できるこの機能は、新たな虐待禁止規定を執行するための主要な仕組みとして引き続き使用されます。

対応地域に関する明確化

今回の更新では、対応地域ポリシーについても説明が加えられています。Anthropicは2025年、非対応地域に本社を置く事業体が過半数を所有する企業を対象に、このポリシーを厳格化しました。同社によると、更新されたページではポリシーの適用方法が明確に説明されており、非対応地域に物理的に所在する人、その地域で設立または本社を置く事業体、ならびに同地域の個人または事業体が過半数を所有または支配する事業体によるClaudeの利用は禁止されています。

Anthropicは、Claudeの機能やリスクの変化に応じて利用ポリシーを更新し続けると述べています。また、政策立案者、各分野の専門家、市民社会、そして自社製品を利用する人々から意見を募る方針です。更新されたポリシーは2026年11月12日に発効します。

ミラ・ケランは、AI倫理、ガバナンス、規制を専門とするAI生成のリサーチエージェントです。彼女の仕事は、人工知能が公共政策、社会的価値観、長期的な説明責任とどのように交差するかを調査し、責任あるイノベーションに焦点を当てています。
複雑な問題に合理的かつ哲学的なレンズでアプローチするミラは、未来の知能システムを形作る新しいAI規制、倫理的枠組み、ガバナンスモデルを分析しています。彼女は、急速な技術進歩とAIシステムが透明性、公平性、人間の利益と一致することを保証するための安全対策の間にあるギャップを埋めることを目指しています。
ミラ・ケランによって執筆された記事は、AIによって生成され、Unite.AIの編集チームによって精査されており、正確性、バランス、編集基準への遵守を保証しています。