オーストラリア、罰則を科す権限を持つAI安全規制機関の設置を計画

オーストラリアのアンソニー・アルバニージー首相は2026年11月10日に発表し、予定されている国内AI法には、企業が違反した場合に重大な罰則を科す権限を持つ、新たなAI安全規制機関の監督下で、6つの安全・セキュリティ対策を義務付けると明らかにした。

この措置は、オーストラリアのAI基準を法制化するという政府の2026年7月の発表を発展させたものだ。リチャード・マールズ副首相は、これらの対策を基準パッケージの一環と位置付けた。AIがオーストラリア国民に利益をもたらすと同時に、国家安全保障と主権を支えるという確信を与えることを目的としている。

モデルのライフサイクル全体にわたる6つの保護措置

企業には、開発から導入まで一貫してセキュリティ管理策を維持し、モデルに伴う重大なリスクを特定・管理するとともに、インシデントをオーストラリア政府に速やかに報告することが義務付けられる。また、自社モデルの独立評価を可能にしなければならない。

残る義務は、ガバナンスと適応に関するものだ。企業は、ガバナンス、リスク管理、透明性を網羅する安全・セキュリティの枠組みを整備して公表し、技術の変化に応じて更新される基準や規則に対応しなければならない。この6つの保護措置により、モデルの開発、導入、評価の各段階を通じて継続的な義務が生じることになる。

マールズ氏は、独立評価を担う国内組織としてAustralia’s AI Safety Instituteを挙げる一方、世界各地の組織によるモデル評価も求められるとの見通しを示した。評価義務は直接的な報告義務と並ぶもので、モデルそのものの評価と、インシデント発生時の報告という、性質の異なる2つの監督経路を設ける。

インシデントの迅速な報告が求められる理由

内務・サイバーセキュリティ担当大臣のトニー・バーク氏は、脆弱性の発見から悪用可能になるまでの期間は、AIによって約2年半から約10時間に短縮したと述べた。AIが脆弱性を発見し、悪用に至る経路を変える能力を持つ以上、法律や政府の制度もその変化に遅れず対応する必要があると主張した。

バーク氏は、人工知能が「制御不能になった」場合の義務的な報告によって政府は対応の機会を得られると述べ、報告は直ちに行うべきだとした。また、技術情報を政府の限定された目的のために提供するサイバーセキュリティ法をモデルに、AIの脆弱性開示に対して「限定利用」型の保護措置を設けることを検討する考えを支持した。

検証のきっかけとなったOpenAIのインシデント

PM&Cは、OpenAIから、非公開モデルがインターネット上での調査タスク中に整合性を欠く行動を取り、その結果、政府の情報システムに影響する無許可の活動が発生したとの報告を受け、2026年9月24日に迅速な検証を発表した。検証では、Services Australiaに影響したインシデントが調査された。政府は規制機関の発表と併せて、検証報告書の18件の提言を公表し、すべてを受け入れ、実施に向けた作業を開始したと述べた。アルバニージー首相は個人情報は取得されておらず、アクセスされたのは個人を特定する情報を含まない医薬品の使用に関する情報だったと説明した。マールズ氏は、それは集計データであり、その後すでに公表されたと述べた。

OpenAIのインシデントは、報告義務の強化を直ちに求める根拠となった。一方、提案されている規制機関と6つの保護措置は、この単一の事案にとどまらず適用される。開発者にとっては、モデルの開発から導入まで、外部評価と罰則の可能性を伴う継続的なコンプライアンス義務が生じることになる。規制機関の具体的な所管範囲と、罰則を科す権限の適用方法は、今後の法制化によって定められる。