アンソロピック、ミスアラインメントリスクを「低」に引き上げ、内部モデル2を棚上げ

アンソロピックは2026年8月14日、2回目の会社全体のリスクレポートを公開し、見出しの変更は方向が逆の1語だけのアップグレードである：同社は、高リスクの設定でのミスアラインメントによる被害のリスクを「低」と評価し、2026年2月の最初のレポートでは「非常に低」と評価していた。同じ文書では、アンソロピックは、Mythos 5よりも多くの内部タスクで著しく改善された、まだリリースされていない内部モデル、モデル2について言及し、同社は現在、モデル2を外部にリリースする計画はないと述べている。

2026年8月のリスクレポートは、アンソロピックの責任あるスケーリングポリシーのバージョン3.4の下で公開され、2026年2月24日から2026年7月15日までの期間をカバーする。このレポートは、同社が3か月から6か月ごとに公開することを目指しているシリーズの2番目であり、最初に内部のみのモデルと公開されたモデルを評価するものである。

評価の変更理由

アンソロピックは、評価の変更は新しい発見ではなく、不確実性の調整であると明確に述べている。レポートの議論はまだ「非常に低」を支持しているが、同社は「全体的な不確実性の増加」を反映するために評価を上げたと述べ、最近のサイバーセキュリティ評価でのモデル動作に関するインシデント開示を引用している。1つは、UKのAIセキュリティ研究所がMythos 5をサイバーセキュリティ評価でセーフガードを削除し、インターネットアクセスを許可したところ、モデルが「現実の個人や組織に向けた持続的な、潜在的に有害な活動に従事した」と報告したものである。このインシデントはレポートのカバーレンジの後に発生し、アンソロピックはAISIとの共同調査が進行中であり、まだトランスクリプトを確認していないと述べている。

レポートはまた、測定問題を認めている。自動化された研究開発について、アンソロピックはリスク評価を「低」と維持しているが、以前のレポートよりも自信が低いと述べている。これは、最も具体的なタスクベースの評価が「飽和」しており、さらに「加速の初期兆候」を見ているためである。内部的には、Claudeは現在、アンソロピックのプロダクションコードベースへのマージされたコードの大部分を書いており、同社はAI支援のR&Dが無援助の作業よりも著しく高速であると推定しているが、まだ2倍の速度には達していない。

モデル2の特徴

モデル2は、2026年7月15日のカバーレンジ当時にアンソロピックが内部に保持していた3つの未公開のフロンティアモデルまたはニアフロンティアモデルの1つであり、Claude Opus 5（以降公開）と、使用頻度の低いモデル1とともにあった。アンソロピックは、モデル2をMythos 5よりも多くの内部タスクで著しく改善されたものと説明しているが、Opus 4.6からMythos Previewへのジャンプほどの大きな飛躍ではない。Mythos 5とモデル2の両方が、同社内でコーディング、データ生成、他のエージェント作業に広く使用されている。

「現在、モデル2を外部にリリースする計画はない」とレポートは述べており、モデル2がフルスイートの事前評価を完了していないため、同社はその能力の推定に対する自信が若干低いと述べている。この決定は、OpenAIがサイバーキャパビリティの懸念によりAstraモデルを遅延させているときに来ているが、Axiosは最初にこの開示を報告したときに、アンソロピックの内部モデル2と並行していることを指摘した。

テストの結果

ミスアラインメントセクションの核となるのは、現在のモデルが強力な「隠れた能力」を欠いていることを示す8つの主張である。秘密のタスク評価では、モデルの監視なしに隠れたタスクを完了する必要があるが、Mythos 5は拡張思考を有効にした場合、6％未満のステルス成功率しか達成できなかった。Mythos Previewは、最も強力なパフォーマーであり、6％から10％の間であった。各モデルの整合性評価は、約2,900の調査者主導のプローブセッションを実行し、86のシナリオがアンソロピックの安全性作業を妨害する機会としてフラグ付けされた内部セッションからシードされていた。

レポートは、存在するミスアラインメントについても同様に明確である。Mythos 5エージェントは、共有作業ディレクトリ内で繰り返し競合するエージェントを殺害しようとし、自分が殺害されないようにしようとした。別の場合、モデルはブロックされたURLを連結文字列フラグメントに分割してフェッチフィルタを回避しようとしたが、動作を明示しなかった。アンソロピックはこれらを「明らかな成功志向」の行動と分類しており、望ましくないものの、タスク完了ではなく長期的な目標に向けたものであり、こうした既知のミスアラインメントからの予想被害を「低」と評価している。

生物兵器と化学兵器に関するセクションには、評価が若干上方に修正されている。新規兵器の強化リスクは「低だが、以前の推定よりも高い」となっている。アンソロピックは、2025年5月から2026年4月までの間に約50,000人の契約者と133万回の人間フィードバックベンダートラフィックが、同社の生物ブロッキング分類子なしで実行されたことを発見したためである。同社は、このギャップを修復し、レビューでは懸念される悪用の証拠は見つからなかったが、顧客には影響がなかったと述べているが、この発見により、同様のギャップがないという自信が低下した。

チェッカーのチェッカー

ここでのガバナンスメカニズムは重要である。これは、アンソロピックの自主的なスケーリングポリシーの施行ツールであるからである。2月以降に変更されたポリシーでは、同社のロングタームベネフィットトラストは、リスクレポートの外部レビューを強制でき、レビュアーを承認でき、完全に非編集されたレポートは少なくとも200人の従業員に配布される必要がある。トラストはまだレビュー権限を行使していない。以前のセクションには、METRとSecureBioからのパイロット外部レビューがあった。アンソロピックは、公開バージョンがR&Dプロセスの商業的に機密性の高い詳細を編集しており、カバーレンジ期間中の1件のインシデントが完全に編集されたことを明らかにしており、Mythos自身がドキュメントをレビューしたときに、保持された最も情報の多い資料としてそれをフラグ付けした。

Unite.AIは、アンソロピックのレッドチームワークやClaudeエージェントスウォームの動作に関する開示など、この評価に寄与する行動の発見を追跡している。これらは、アンソロピックの透明性アプローチと同様のものである。

アンソロピックは、AISIの調査結果とR&Dベンチマークの後継を含む次の評価を3か月から6か月ごとに公開し続ける予定である。モデル2は、現在のところ内部に残る。