Miliband, UN 안보리에게 AI 창립자들의 경고에 대한 행동을 촉구

영국 외무장관 Ed Miliband는 2026년 9월 23일 United Nations Security Council에 인공지능 창립자들의 경고에 대해 정부가 함께 행동해야 한다고 말하며, 안전 테스트, AI 기업의 투명성, 국가 회복력이라는 의제를 제시했습니다. Foreign, Commonwealth & Development Office가 회의록을 발표했습니다, 이는 뉴욕 유엔에서 전달된 그대로 같은 날 공개되었습니다.

UN Meetings Coverage는 안보리 제10,228차 회의로, “인공지능과 국제 안보”라는 주제로 진행된 오후 세션을 기록했습니다. Miliband는 세션 주최자와 전문가 연설자들에게 감사의 뜻을 전하며, 그들이 밝히는 기여를 했다고 말했습니다.

창립자들의 경고와 정부의 의무

Miliband는 이사회에 인공지능이 의심할 여지 없이 세상을 더 나은 방향으로 변화시킬 힘을 가지고 있으며, 이는 회의에 참석한 모든 국가의 일상 생활에서 확인된다고 말했습니다. 그러나 그는 기술 창립자들이 이제 정부에 강력한 경고를 전달하고 있다고 강조했습니다. 그들은 인공지능이 해를 끼칠 가능성을 우려하며, 재앙을 방지하기 위해 오직 그들만에게 맡길 수 없다고 말하고 있습니다.

그는 정부가 이러한 경고를 무시할 수 없으며, 창립자들의 우려가 옳다고 말했습니다. 정부는 시민에 대한 책임을 포기할 수 없으며, 사기업에게 정부의 가장 기본적인 의무인 공공 보호를 넘겨줄 수 없다고 강조했습니다.

Miliband는 안보리가 당시 가장 중대한 공동 과제를 해결하기 위해 설립되었으며, 이제 그 의무는 정부가 협력하고 산업계와 함께 대표하는 국민의 이익을 위해 행동해야 한다고 말했습니다. 그는 영국 정부가 이를 실천할 의지를 가지고 있다고 밝혔습니다.

안전, 투명성 및 회복력

Miliband는 세 가지 작업 영역을 제시했습니다. 첫 번째는 안전이어야 한다고 강조했으며, 최첨단 AI 모델이 철저히 테스트되도록 노력하고, 모델 개발에 대한 보증 시스템을 구축해 정부가 모델의 안전성을 신뢰할 수 있도록 해야 한다고 말했습니다.

두 번째는 투명성이라고 그는 말했습니다. 모델을 개발하는 기업들을 방치할 수 없으며, 정부는 AI 기업들의 활동을 이해하고 평가할 수 있는 가시성을 확보해야 합니다. Miliband는 주요 AI 기업들이 이러한 가시성을 제공하겠다고 약속했으며, 이는 정부와 기업이 반드시 이행해야 할 제안이라고 설명했습니다.

세 번째는 회복력이라고 그는 말했습니다. AI 기반 사건의 영향을 줄이기 위해 방어력을 강화해야 합니다. 모든 모델이 테스트되더라도, 정부는 AI 오용에 대비해야 합니다. 여기에는 사이버 방어 강화, 핵심 인프라 보호, 금융 시스템 강화가 포함되며, 동시에 AI가 가져올 생활·업무 변화에 대처하고 조정하도록 국민을 지원하면서 그 혜택을 활용해야 합니다.

AI 보안 연구소와 G20 의장국

Miliband는 영국이 이 과정에서 전폭적으로 역할을 할 것이라고 말했습니다. 그는 영국이 최초의 AI 보안 연구소를 설립했으며, 이는 미국 및 AI 안전 분야의 선도 연구소와 긴밀히 협력하면서 전문 지식, 테스트 역량 및 연구를 공유한다고 설명했습니다.

이 기관은 스스로를 과학·혁신·기술부 산하의 연구 조직으로 설명하며, 주요 AI 시스템을 공개 전에 테스트하고 Inspect와 같은 평가 도구를 오픈소스화합니다. 이 연구소는 사이버 악용, 안전장치, 정렬, 제어, 자율성, 인간 영향 및 사회 회복력을 포괄하며, 회계연도당 6,600만 파운드의 자금 지원, 100명 이상의 기술 직원, 주요 AI 모델에 대한 사전 배포 접근권을 보유하고 있다고 밝힙니다.

또한 9월 23일, Cabinet Office가 발표했습니다 Dr Jade Leung이 AI 보안 연구소 부의장 및 정부 AI 태스크포스의 보안 고문이 될 것이라고. 그녀는 개인 사정으로 2026년 9월 말에 총리 AI 자문관 및 연구소 최고기술책임자(CTO) 전임 직무에서 물러날 예정이며, 추후 새로운 AI 자문관이 총리에게 임명될 것입니다. Leung은 또한 Stanford University의 Hoover Institution에서 Distinguished Visiting Fellow(특별 방문 연구원)으로 파트타임 직책을 맡게 됩니다.

Miliband는 또한 2026년 9월 22일에 총리 Andy Burnham이 제시한 바와 같이 영국이 2027년 G20 의장국 기간 동안 AI를 핵심에 둘 것이며, 정부, 산업, 연구자 및 시민사회가 이 문제에 대해 협력해 온 기록을 바탕으로 할 것이라고 말했다. 총리실이 발표했다 9월 22일에 영국이 주최하는 G20 정상회의가 2027년 11월 맨체스터에서 열릴 것이며, 2026년 12월 마이애미에서 열린 G20 정상회의 이후 영국이 미국으로부터 의장을 인계받을 것이라고 밝혔다. 같은 보도자료는 영국과 미국의 AI 및 자율성 파트너십을 발표했으며, 이는 국방부의 Rapid AI Delivery Taskforce와 미국 국방부 전자전 및 인공지능 사무국을 연결해 신뢰할 수 있고 상호 운용 가능한 역량 제공을 가속화하고 해상로와 공역을 포함한 핵심 국가 인프라를 보호하는 데 도움이 될 것이라고 전했다. 이 파트너십은 이미 AUKUS를 통해 개발 중인 차세대 기술을 기반으로 한다고 밝혔다.

글로벌 표준 및 최종 호소

Miliband는 단일한 글로벌 원칙 및 표준을 합의하기 위한 작업을 강조했으며, 이는 투명성과 접근성을 보장해 대비 태세를 강화하고 AI 개발이 안전하도록 할 것이라고 말했다. 이전 연설자의 발언을 인용하며, 그는 AI의 잠재력을 전 세계 남반구와 북반구 모두가 활용해야 한다고 강조했으며, 일자리의 미래, 아동 보호, 사이버 보안, 생물 안보, 국가 안보 및 금융 안정성 등 다양한 문제에 걸쳐야 한다고 덧붙였다.

2026년 9월 21일, UN 사무총장 António Guterres가 성명을 발표했다 핀란드 대통령과 노르웨이 총리가 제안한 최전선 인공지능 모델 통제 촉구를 환영했다. 이 이니셔티브는 UN 회원국들에게 기존 국제 메커니즘을 기반으로 하고, 기준을 설정하고 검증을 가능하게 하며, 역량 임계치를 초과할 경우 국가들을 소집할 수 있는 국제 기관 설립을 탐색할 것을 촉구한다. Guterres는 또한 독립 국제 과학 패널이 발표한 AI 안전 및 인간 통제 상실 위험에 관한 주제별 보고서를 환영했으며, 최전선 AI 연구소와 AI 안전 연구소를 포함한 외부 전문가들이 패널과 협력하도록 격려했다.

Miliband는 진보와 안전 사이에 선택이 있다는 생각을 거부하며 마무리했다. 그는 혁신과 AI의 혜택은 사람들이 적절한 안전 장치가 마련되어 있다는 신뢰를 가질 때만 실현될 수 있으며, 정부는 AI가 안전하고 신뢰할 수 있으며 성장 촉진, 질병 치료 및 사람들의 삶의 기회를 변화시키는 잠재력을 계속 발전시키는 동시에 보안과 안전을 확보하기 위해 필요한 모든 조치를 취해야 한다고 강조했다. “우리는 경고를 받지 않았다고 말할 수 없습니다,”라고 그는 말했다. “우리는 경고를 받았습니다.” 정부는 창업자들의 경고에 행동으로 옮겨야 하며, 이를 함께 실천해야 한다.