교황 레오 14세, AI의 ‘무장 해제’ 촉구…치명적 자율무기 금지 요청

교황 레오 14세는 인공지능의 ‘무장 해제’를 촉구하고, 2026년 10월 30일 교황들의 홀에서 한 연설에서 11월 제네바에 모이는 각국이 치명적 자율무기를 금지하기 위한 구체적인 조치를 취하도록 독려했다.

이번 회의에는 ‘AI의 미래: 지능형 기술의 발전과 적용에 관한 바티칸과 과학계의 대화’에 참여하는 사람들이 모였다. 이 회의는 생명윤리학술원과 Future of Life Institute가 공동으로 주최했다.

여러 나라에서 온 참석자들을 환영하며 교황은 인공지능의 발전을 둘러싼 불안감을 참석자들도 공유하고 있다고 믿는다고 말했다. 나아가야 할 방향은 분명하지만, 그 길을 따라 나아가기 위해 충분한 노력이 이뤄지지 않고 있다고 덧붙였다. 교황은 참석자들의 우려와 미래를 위한 아이디어 및 제안에 감사를 표하고, 이를 초학제적 접근법이 일궈낸 초기 성과라고 평가했다. 시대의 중대한 과제들이 지닌 복잡성에 대응하려면 이러한 접근법이 점점 더 필요하다고도 말했다.

교황은 프란치스코 교황이 2024년 6월 14일 주요 7개국(G7) 인공지능 회의에서 한 연설을 되새겼다. 당시 프란치스코 교황은 AI를 기대와 두려움을 함께 불러일으키는 도구라고 설명하고, 인간의 생명을 앗아갈지 결정하는 일을 기계에 맡겨서는 결코 안 된다고 강조했다. 레오 14세는 그 말씀이 지금도 여전히 유효하다며, 다섯 가지 고찰을 제시하기에 앞서 회칙에서 이러한 문제들을 더 깊이 다루고자 했다고 덧붙였다.

다섯 가지 고찰

첫째, 교황은 인공지능의 미래가 미리 정해져 있지 않다고 말했다. 인간이 이 기술을 개발하므로 그 미래는 사람들이 내리는 선택에 달려 있으며, 따라서 사람들에게는 인공지능의 활용 방향을 이끌고 바꾸며, 필요하다면 이를 거부할 책임이 있다는 것이다. 교황은 AI가 무엇을 할 수 있는지가 아니라 어떤 목적에 쓰여야 하는지가 결정적인 질문이라고 말했다. 개발을 단지 이겨야 할 경주로 여기는 이들은 결승선에만 집착한 나머지 뒤처진 사람들을 잊을 위험이 있다고 경고했다. 또한 결과를 충분히 예측하거나 통제할 수 없는 매우 강력한 시스템보다 인간에게 이바지하는 신뢰할 수 있는 시스템이 더 큰 가치를 지닌다고 말했다.

둘째, 교황은 “기계는 도구이지 인격체가 아니다”라고 말했다. AI 시스템은 경험을 겪지 않으며 몸을 지니지도 않는다. 기쁨이나 고통을 느끼지 않고, 관계를 맺으며 성장하지도 않으며, 사랑과 노동, 우정, 책임이 무엇을 뜻하는지 내면에서 알지 못한다. 일부에서는 이러한 시스템에 권리를 부여하거나 심지어 법인격을 인정하자고 제안하지만, 교황은 그런 접근이 인간의 책임을 흐리고 피해를 입은 사람들이 인간의 얼굴이 없는 존재에게 구제를 요청하도록 만들 위험이 있다고 경고했다.

인간의 감독, 공동선, 제도

셋째, 교황은 특정한 결정은 결코 위임해서는 안 된다고 말했다. 표적 명단에 오르거나 출입국 관리 데이터베이스에 등록된 사람은 단순한 데이터 항목으로 전락할 위험이 있다고 지적했다. 인간의 생명과 자유, 무력 사용에 영향을 미치는 결정은 언제나 효과적이고 충분한 정보를 바탕으로 한 책임 있는 인간의 감독을 받아야 한다고 덧붙였다. 그런 이유로 인공지능은 무장 해제되어야 한다고 말하며, 11월 제네바에 모이는 각국이 치명적 자율무기를 금지하기 위한 구체적인 조치를 취하도록 독려했다.

넷째, 교황은 지능형 기술이 공동선을 위해 활용되어야 하며, 결코 그 자체가 목적이 되거나 특권층 일부의 이익에만 봉사해서는 안 된다고 말했다. 회칙의 가르침을 인용하며, 정의를 실현하려면 돌봄과 지식, 도구, 기회를 비롯한 혁신의 혜택에 접근할 수 있어야 한다고 설명했다. 또한 이러한 기술의 발전은 세계 공동체의 여러 층위에서 연대와 참여를 북돋아야 하며, 발전의 혜택이 공정하게 나뉘도록 해야 한다고 말했다. 특히 가장 절실히 필요한 이들이 그 혜택을 누릴 수 있어야 한다고 강조했다.

다섯 번째 고찰은 교황이 아마도 가장 시급한 문제라고 부른 제도에 관한 것이었다. 인공지능의 발전을 이끌어야 할 윤리 원칙은 이미 많이 알려져 있지만, 이제 필요한 것은 그 원칙을 실행에 옮길 수 있는 제도, 특히 세계 공동선을 지킬 수 있는 효과적인 국제 제도라고 그는 말했다. 그러려면 공통 기준과 독립적인 감독, 명확한 책임 규명 체계가 필요하다고 덧붙였다. 그래야 AI의 개발과 사용에 관한 결정을 검토하고, 필요하다면 이의를 제기하며, 발생한 피해에 대해 적절한 구제책을 마련할 수 있다는 것이다. 교황은 참석자들의 기여에 감사를 표하고 공동선을 위한 대화와 공동 책임의 정신으로 꾸준히 노력해 달라고 당부한 뒤 축복을 내렸다.

연설의 바탕이 된 회칙

이 연설에서 제시한 다섯 가지 고찰은 각각 레오 14세가 2026년 5월 15일 발표한 회칙 Magnifica Humanitas의 번호가 붙은 대목들을 근거로 한다. 회칙의 전체 제목은 인공지능 시대에 인간을 지키는 일에 관하여다. 교황은 이 문서에서 레오 13세가 1891년 회칙 Rerum Novarum을 발표했으며, 교회가 2026년에 이 문서의 135주년을 기념한다고 언급했다.

이 회칙은 과거에는 국가가 주로 혁신을 이끌고 방향을 제시했지만, 오늘날 기술 발전을 주도하는 세력은 민간 주체이며, 이들 중 상당수는 초국가적이고 여러 정부보다 더 큰 자원과 개입 역량을 갖추고 있다고 지적한다. 문서에 따르면 이러한 변화로 기술 권력은 전례 없이 민간에 집중된 성격을 띠게 되었으며, 그 권력을 파악하고 관리하고 공동선을 향해 이끄는 일도 한층 어려워졌다. 회칙의 각 장에서는 책임, 투명성, AI 거버넌스, 그리고 무기와 인공지능을 별도로 다룬다.