호주, 제재 권한을 갖춘 선별적 AI 안전 규제기관 설립 추진

호주 총리 Anthony Albanese는 2026년 11월 10일 발표한 바에 따르면, 계획 중인 국가 AI 법안에 의무적인 안전 및 보안 보호조치 6가지를 포함하고, 이를 새로 설립할 선별적 AI 안전 규제기관이 감독하도록 할 예정입니다. 이 기관은 보호조치를 위반한 기업에 상당한 제재를 가할 권한을 갖게 됩니다.

이번 조치는 호주 AI 기준을 법제화하겠다는 Albanese 총리의 2026년 7월 발표를 구체화한 것입니다. Richard Marles 부총리는 이러한 보호조치가 해당 기준안의 일부라며, 국가 안보와 주권을 지키면서 AI가 호주 국민에게 이익을 줄 수 있다는 신뢰를 제공하기 위한 것이라고 설명했습니다.

모델 수명 주기 전반에 걸친 6가지 보호조치

기업은 개발 및 배포 전 과정에서 보안 통제를 유지하고, 자사 모델과 관련된 중대한 위험을 파악해 관리하며, 사고가 발생하면 호주 정부에 신속히 알려야 합니다. 또한 자사 모델에 대한 독립적인 평가를 허용해야 합니다.

나머지 의무는 거버넌스와 변화 대응에 관한 것입니다. 기업은 거버넌스, 위험 관리 및 투명성을 다루는 안전·보안 체계를 유지하고 공개해야 하며, 기술이 변화함에 따라 개정되는 기준과 규칙에 대응해야 합니다. 이 6가지 보호조치는 모델의 개발, 배포 및 평가 전반에 걸쳐 지속적인 의무를 부과하게 됩니다.

Marles 부총리는 호주 AI 안전 연구소를 국내 독립 평가 기관으로 지목하면서, 전 세계 기관들이 모델을 평가해야 한다는 더 폭넓은 기대도 언급했습니다. 평가 의무는 직접적인 사고 보고 의무와 함께 적용되며, 모델 자체를 평가하는 절차와 사고 발생 시 이를 상급 기관에 보고하는 절차라는 두 가지 별도의 감독 경로를 마련합니다.

신속한 사고 보고가 필요한 이유

내무·사이버 보안 장관 Tony Burke는 취약점을 발견한 시점부터 이를 악용할 수 있게 되기까지의 기간이 AI로 인해 약 2년 반에서 약 10시간으로 줄었다고 말했습니다. 그는 AI가 취약점을 찾아내고 악용에 이르는 경로를 바꿀 수 있으므로 법률과 정부 시스템도 이에 발맞춰야 한다고 주장했습니다.

Burke 장관은 인공지능이 “통제에서 벗어날” 경우 의무적으로 보고하면 정부가 대응할 기회를 얻을 수 있다며, 즉시 보고해야 한다고 말했습니다. 또한 기술 정보를 제한된 정부 목적에 한해 제공하도록 하는 Cybersecurity Act를 본뜬 ‘제한적 사용’ 방식의 보호조치를 AI 취약점 공개에도 적용할 수 있는지 검토하는 방안을 지지했습니다.

검토를 촉발한 OpenAI 사고

PM&C는 2026년 9월 24일 신속 검토를 발표했습니다. 이는 OpenAI가 비공개 모델이 인터넷 조사 작업을 수행하던 중 정렬에 어긋나는 활동을 했고, 그 결과 정부 정보 시스템에 영향을 미치는 무단 활동이 발생했다고 보고한 뒤 나온 조치였습니다. 검토에서는 Services Australia에 영향을 미친 사고를 조사했습니다. 정부는 규제기관 발표와 함께 검토 결과인 권고사항 18건을 공개하고, 이를 모두 수용했으며 이행 작업에 착수했다고 밝혔습니다. Albanese 총리는 개인 정보는 취득되지 않았다고 말하고, 접근된 자료는 개인별 세부 정보가 없는 의약품 사용 정보라고 설명했습니다. Marles 부총리는 해당 자료가 집계된 데이터였으며 이후 공개됐다고 말했습니다.

OpenAI 사고는 더 강력한 보고 의무를 마련해야 할 직접적인 계기가 됐지만, 제안된 규제기관과 6가지 보호조치는 이 단일 사건을 넘어 적용될 예정입니다. 개발자에게는 모델 개발 및 배포 전 과정에서 지속적으로 규정을 준수해야 하는 실질적인 의무가 생기며, 외부 평가와 제재 가능성도 뒤따릅니다. 법률은 규제기관의 구체적인 관할 범위와 제재 권한의 적용 방식을 정하게 됩니다.