사상 리더
기업이 가치 기반 AI 거버넌스를 채택해야 하는 이유

핵심 포인트가치 기반 AI 거버넌스 프레임워크는 기업이 각 관할권마다 시스템을 재구축하지 않고도 세계적으로 운영할 수 있게 합니다.
더 보기
- 가치 기반 AI 거버넌스 프레임워크는 기업이 각 관할권마다 시스템을 재구축하지 않고도 세계적으로 운영할 수 있게 합니다.
- 책임성과 공정성 같은 여섯 가지 핵심 가치를 채택하면 대중의 신뢰를 구축하고 최고 수준의 윤리 기준을 충족시킵니다.
- 강력한 AI 거버넌스는 여러 지역에서 시장 진입을 가속화하고 위험을 줄여줌으로써 비즈니스 가치를 창출합니다.
2025년 9월 유엔의 모든 회원국이 국제 AI 거버넌스를 논의하기 위해 처음으로 모였다. 이 가운데 많은 국가가 2월 델리 AI 임팩트 서밋에도 대표를 보냈다. 이 행사로 AI 거버넌스에 초점을 맞춘 두 개의 새 기구가 출범했지만, 기껏해야 상징적인 성공이었다.
유엔의 새 메커니즘은 합의를 이끌어내도록 설계됐다. 따라서 AI의 군사적 활용처럼 논쟁적인 분야는 피하며, 명확한 재원이나 결정을 강제할 집행 권한도 부족하다. 경험 많은 관찰자에게는 놀라운 일이 아니다. 오늘날 유엔은 신속하게 움직이거나 모든 주체가 결정을 따르도록 할 능력이 부족해, 이 틀에서 실질적인 변화를 이루기 어렵다.
이는 오랫동안 이어진 양상과 맞닿아 있다. AI 규제에 대한 합의를 만들려는 산발적인 노력이 수년간 이어졌지만, 중요한 국제 협약은 체결되지 않았다. 그 결과 생긴 공백 속에서 개별 국가와 국가 블록은 자체 규칙을 만들 수밖에 없었다. 그러나 AI가 널리 도입되고 대중의 신뢰를 얻으며 지속적인 사회적·경제적 이익을 제공하려면 효과적인 거버넌스가 필수다
임시방편과 반복되는 보완
AI 시스템을 개발하고 운영하는 글로벌 기업에는 공통으로 합의된 거버넌스 메커니즘의 부재가 문제다. 이들은 전 세계에 시스템을 도입하려 하지만, 정확히 같은 규칙을 적용하는 두 관할권은 없다. 따라서 먼저 시스템을 위한 일반적인 거버넌스 체계를 만든 다음, 사업을 하는 모든 국가에서 현지 법규를 준수하도록 그 체계를 처음부터 다시 구축해야 한다. 이 방식은 막대한 추가 업무를 만들고 AI 사업의 비용과 지연 위험을 높이며, 글로벌 기업이 규모의 경제를 실현하고 각지의 사용자에게 효과적인 도구를 제공할 능력을 약화시킨다.
그러나 대안은 있다. 접근법을 간소화하려는 기업에는 지역별 공통 윤리 원칙을 반영하고 어디서나 개인의 자유·사생활·안전을 높은 기준으로 보호하는 AI 거버넌스 체계를 구축하는 것이 최선일 수 있다. 이는 AI 기업이 자사 기술에 대한 대중의 신뢰를 높이고 고객 기반을 강화하며 AI가 사회에 줄 잠재적 혜택을 실현하는 강력한 방법이다.
AI 거버넌스의 여섯 가지 핵심 가치
가치에 기반한 AI 거버넌스에 관심 있는 조직에는 우리가 따르는 여섯 가지 핵심 가치를 제안한다. 책임성, 설명 가능성, 투명성, 공정성, 보안, 그리고 결정에 이의를 제기할 수 있는 가능성이다.
이 가치들은 AI 시스템 생애주기의 모든 주요 영역을 다루고, 이미 여러 국제·국가 AI 표준에 명시돼 있기 때문에 선택했다. 국제표준화기구의 ISO/IEC 42001 표준과 영국 정부 AI 활용 지침서가 그 예다.
먼저 책임성이란 AI 생애주기의 각 단계에서 누가 무엇을 책임지는지 아는 것이다. 책임 소재가 분명하지 않으면 어떤 개인이나 팀도 최종 책임을 지지 않아 중요한 통제 조치가 빠질 수 있다. 조직은 AI 시스템과 핵심 단계에 대해 최고 AI 책임자 같은 고위 책임자를 실명으로 지정해야 한다. 또한 위험 기반 거버넌스 모델을 적용하고 외부 업체의 도구를 내부 개발 도구만큼 엄격하게 검토해야 한다. 이는 자체 시스템을 이해하는 만큼 공급업체의 계약 조건, 제약, 법적 책임도 잘 이해해야 한다는 뜻이다.
경제협력개발기구(OECD)는 AI 책임성 강화를 위한 지침에서 이를 잘 설명한다. 조직에 “AI 위험 관리 절차를 더 넓은 조직 거버넌스에 통합하는 메커니즘을 마련하고, 조직 내부와 AI 가치사슬 전체에 걸쳐 위험 관리 문화를 조성”할 것을 권고한다.
다음은 설명 가능성이다. 조직은 AI 시스템이 어떻게 결정에 이르는지 보여줄 수 있어야 한다. 이를 위해 의사결정을 문서화하고 추적하는 메커니즘과 함께 시스템 설계, 학습 데이터, 의사결정 과정에 대한 명확한 기록이 필요하다. 이러한 요소를 종합하면 팀은 시스템의 탄생부터 배포까지 정보의 출처와 흐름을 이해할 수 있다.
공정성은 AI 시스템이 공정한 결과를 내고 기존 편향을 재현하거나 증폭하지 않도록 하는 데 초점을 둔다. 의도적인 점검이 없으면 시스템이 편향된 결과로 피해를 줄 수 있으며, 채용·의료·형사사법처럼 영향이 큰 분야에서 특히 문제가 된다. 이를 줄이려면 편향 탐지 조치를 도입하고 관련 집단의 결과를 정기적으로 검토하며 현지의 차별 금지 요건을 수용할 거버넌스 체계를 설계해야 한다. 실제로는 시스템이 마주칠 가능성이 있는 가장 높은 법적 기준을 충족하도록 구축해야 한다는 뜻이다. 여기에는 영국의 Equality Act 2010과 EU 기본권 헌장 등에 따른 의무도 포함된다.
투명성은 사용자와 규제기관 모두에게 명확한 정보를 제공한다. 사람들은 AI가 언제 사용되는지, 의사결정에서 어떤 역할을 하는지, 어떤 데이터를 토대로 작동하는지 알아야 한다. 실용적인 출발점은 모델 카드 같은 내부 도구의 지원을 받아 AI 시스템의 문서를 표준화하는 것이다. 모델 카드는 머신러닝 모델과 함께 제공되는 짧은 문서로, 의도된 사용 맥락과 성능 평가 절차의 세부 내용, 기타 관련 정보를 설명한다. 투명성이 없으면 사용자는 불공정한 결과에 이의를 제기할 수 없고 규제기관은 효과적으로 개입할 수 없으며 유해한 영향이 은폐될 수 있다.
보안은 AI 시스템을 무단 접근, 조작, 의도하지 않은 동작으로부터 보호하는 것이다. 보안이 취약하면 조직과 사용자, 이들의 데이터가 위험에 노출돼 금전적 손실과 평판 피해가 발생할 수 있다. 조직은 성능과 정확도의 임계값을 정하고 현실적인 조건에서 스트레스 테스트를 수행하며 취약점을 찾는 레드팀 테스트를 포함해야 한다.
마지막으로 이의 제기 가능성은 AI 기반 결정에 문제를 제기하거나 불복할 명확하고 접근하기 쉬운 경로를 보장한다. 이런 경로가 없으면 영향을 받는 사용자는 구제 수단이 없고, 문제가 끝내 드러나지 않거나 해결되지 않을 수 있다. 조직은 사용 지점에 신고 채널을 제공하고 고위 책임자에게 불만 처리를 맡기며 필요할 때 시스템을 일시 중지하거나 검토·업데이트할 수 있도록 해야 한다.
가치 기반 체계의 이점은 무엇인가?
가치에 기반한 AI 거버넌스를 채택할 이유는 크게 두 가지다. 첫째, AI 시스템을 개발하고 도입하는 주체는 그 영향을 받는 사람과 조직에 윤리적 책임이 있다. 둘째, AI가 약속한 혜택을 실제로 실현하는 데 더 효과적인 방법이다.
기업이든 개인이든 AI 시스템 사용자는 개발자가 개인정보를 오용하거나 불필요한 위험에 노출시키지 않을 것이라고 암묵적으로 믿는다. 조직이 이 신뢰를 깨면 사용자를 유지하기가 매우 어려워진다. 결국 사람들은 두 조건을 모두 충족해야만 시스템 도입을 받아들인다. 시스템을 신뢰해야 하고, 시스템이 제공하는 분명한 혜택도 볼 수 있어야 한다. 그렇지 않으면 사회적·경제적 분열이 심해지고 기술이 제공하는 많은 기회를 놓치게 된다.
반대로 거버넌스 요건이 느슨한 지역을 포함해 모든 곳에서 가치 기반 체계를 적용하는 기업은 고객과 투자자, 규제기관에 기본적인 규정 준수보다 높은 기준을 스스로 적용하고 있음을 보여줄 수 있다. 이는 신뢰와 참여, 궁극적으로 사업의 성공으로 이어진다.
강력한 AI 거버넌스는 규정 준수 부담이 아니라 가치를 만든다. 기업이 신제품을 더 빨리 출시하고 위험 노출을 줄이며 여러 시장으로 솔루션을 자신 있게 확장하도록 돕는다.
맥킨지의 『AI 현황』 보고서는 다음과 같이 밝혔다: “CEO의 AI 거버넌스 감독은… 조직이 자체 보고한, 생성형 AI 사용이 순이익에 미친 더 큰 영향과 가장 강한 상관관계를 보이는 요소 중 하나다.” 이는 이러한 접근의 상업적 이점을 뒷받침한다. 그런 의미에서 AI 시스템에 강력한 윤리 체계를 통합하는 일은 자신의 이익을 현명하게 추구하는 방식이다.
그 모든 이유를 떠나, 이는 그 자체로 옳은 일이다. 우리는 첨단 기술이 사람과 사회를 섬겨야 하며 그 반대여서는 안 된다는 원칙을 중심으로 글로벌 윤리 AI 정책을 만들었다. 이는 경제적 진보와 사회적 과제 해결을 결합하려는 인간 중심 혁신 모델인 사회 5.0의 더 넓은 비전을 반영한다.
AI 같은 신기술이 더 행복하고 조화로운 사회에 기여하려면 강력한 윤리적 토대 위에 서야 한다. 그 출발점은 조직이 충족해야 하는 기준뿐 아니라 스스로 달성하고 싶은 기준에도 주목하는 것이다.












