기업이 왜 AI 거버넌스를 위한 가치 기반 접근법을 따라야 하는가

2025년 9월, 유엔 회원국 모두가 국제 AI 거버넌스를 논의하기 위해 처음으로 모였으며, 많은 국가들이 2월에 델리의 AI 임팩트 サミット에 다시 참가했다. 이 행사는 두 개의 새로운 AI 거버넌스 중심 기관을 설립하는 것으로 끝났지만, 이는 상징적인 성공에 불과했다.

유엔의 새로운 메커니즘은 합의를 얻기 위해 설계되었지만, 군사적 AI 사용과 같은 논란이 있는 영역을 피하고, 명확한 자금 조달源과 집행력의 부족으로 인해 실질적인 변화를 가져오기에는 어려운 환경이다. 이는 경험있는 관찰자에게는 놀라운 일이 아니다. 현재 유엔은 빠르게 움직이거나 의결에 대한 보편적인 준수를 보장할 수 없기 때문에, 실제 변화를 일으키기에는 어려운 환경이다.

이것은 잘 확립된 패턴에 부합한다. AI 규제에 대한 합의를 구축하기 위한 산산이 흩어진 시도가 여러 년 동안 있었음에도 불구하고, 아직까지는 중요한 국제 협정이 없으며, 이는 각 국가와 블록이 자체 규칙을 개발하도록 강요하는 공백을 남겼다. 그러나 AI의 효과적인 거버넌스는 그것이 널리 채택되고, 공중으로부터 신뢰를 얻으며, 지속적인 사회적 및 경제적 이익을 제공하는 방식으로 사용되기를 원한다면, 이는 매우 중요하다.

Make Do and Mend

전 세계적으로 AI 시스템을 구축하고 운영하는 글로벌 기업들에게, 이러한 공통의 합의된 거버넌스 메커니즘의 부족은 문제가 된다. 그들은 전 세계적으로 AI 시스템을 배포하고 싶지만, 두 개의 관할 구역이 동일한 규칙 세트를 준수하는 경우는 없다. 따라서 그들은 대신에 시스템을 둘러싼 일반적인 거버넌스 프레임워크를 만들고, 운영하는 모든 국가에서 그것을 다시 지어야 한다. 이는 엄청난 양의 추가 작업을 생성하고, AI 이니셔티브를 더 비용이 많이 들고 지연되게 만들며, 글로벌 기업이 경제적 규모의 이점을 실현하고 모든 사용자에게 효과적인 도구를 공유하는 능력을 약화시킨다.

그러나 대안이 있다. 스트림라이닝된 접근법을 찾고 있는 기업들에게, 가장 좋은 선택은 다양한 지역에서 공통의 윤리 원칙을 고려하여 AI 거버넌스 프레임워크를 구축하는 것이다. 이를 통해 개인의 자유, 사생활, 보안을 보호하는 높은 표준을 모든 곳에서 충족할 수 있다. 이 기술은 AI 비즈니스들이 공중의 신뢰를 높이고, 고객 기반을 강화하며, 사회에 대한 AI의 잠재적인 이점을 활용하는 강력한 방법을 제공한다.

Six Key Values for AI Governance

AI 거버넌스에 대한 가치 기반 접근법을 채택하고자 하는 모든 조직에게, 나는 우리가 따르는 6개의 핵심 가치를 사용하는 것을 제안한다. 즉, 책임성, 설명 가능성, 투명성, 공정성, 보안, 그리고 이의 제기 가능성이다.

우리는 이러한 가치를 선택했다. 왜냐하면它们은 AI 시스템의 전 생명주기에서 주요 영역을 모두 다루고 있으며, 이미 다양한 국제 및 국가 표준에서 규정되어 있기 때문이다. 예를 들어, 국제 표준화 기구의 ISO/IEC 42001과 영국 정부의 AI 플레이북이 있다.

まず, 책임성은 AI 생명주기의 모든 단계에서 누가 무엇에 책임이 있는지 아는 것을 의미한다. 명확한 소유권이 없으면, 중요한 통제를 생략할 수 있다. 조직은 AI 시스템과 주요 단계에 대한 책임자와 위험 기반 거버넌스 모델을 할당해야 하며, 제3자 도구에 대한 동일한 검토를 내부에서 개발된 도구에 적용해야 한다. 이는 공급자 약관, 제한 사항, 책임을 잘 이해하는 것을 의미한다.

경제 협력 개발 기구(OECD)는 AI에서 책임성 향상을 위한 지침에서 이를 잘 포착했다. 여기서 조직이 “AI 위험 관리 프로세스를 더广い 조직 거버넌스로 통합하는 메커니즘을 만들고, 조직 내 및 전체 AI 가치 사슬에서 위험 관리 문화를 조성”하도록 권고한다.

다음은 설명 가능성이다. 조직은 AI 시스템이 어떻게 결정을 내리는지 보여줄 수 있어야 한다. 이는 결정-making을 문서화하고 추적하는 메커니즘과 함께, 시스템 설계, 훈련 데이터, 결정 프로세스에 대한 명확한 기록이 필요하다. 이러한 모든 것을 함께하면 팀이 시스템의 시작부터 배포까지의 정보 계보를 이해할 수 있다.

공정성은 AI 시스템이 공정한 결과를 생성하고 기존의 편향을 복제하거나 증폭하지 않는 것을 의미한다. 고의적인 검사를 하지 않으면, 시스템은 편향된 결과를 생성하여 피해를 줄 수 있다. 특히 채용, 의료, 형사 사법과 같은 고影响 영역에서 이는 특히 문제가 된다. 이를 완화하기 위해, 조직은 편향 탐지 측정을 구현하고, 관련 그룹에서 출력을 정기적으로 검토하고, 지역 비차별 요구 사항을 수용할 수 있는 거버넌스 프레임워크를 설계해야 한다. 실제로 이는 영국의 평등법 2010과 EU의 기본권 헌장과 같은 법률의最高 표준을 충족하는 시스템을 구축하는 것을 의미한다.

투명성은 사용자와 규제 기관 모두에게 명확성을 제공하는 것을 의미한다. 사람들은 AI가 사용되고 있는지, 결정-making에서 어떤 역할을 하는지, 어떤 데이터가 기반인지 이해해야 한다. 실제적인 출발점은 AI 시스템에서 문서화를 표준화하는 것이며, 모델 카드와 같은 내부 도구를 지원하는 것이다. 모델 카드는 기계 학습 모델과 함께 제공되는 짧은 문서로, 모델이 사용되도록 의도된 컨텍스트, 성능 평가 절차의 세부 사항, 기타 관련 정보를 설명한다. 투명성 없이, 사용자는 불공정한 결과를 이의제기할 수 없으며, 규제 기관은 효과적으로 개입할 수 없으며, 유해한 영향은 묻혀질 수 있다.

보안은 AI 시스템을 비인가된 접근, 조작, 또는 예기치 않은 행동으로부터 보호하는 것을 의미한다. 보안이 약하면, AI는 조직, 사용자, 및 데이터를 위험에 노출시킬 수 있으며, 금전적 및 평판상의 피해를 초래할 수 있다. 조직은 성능 및 정확성 임계값을 정의하고, 현실적인 조건에서 시스템을 스트레스 테스트하고, 취약점을 식별하기 위한 적색 팀 테스트를 포함해야 한다.

마지막으로, 이의 제기 가능성은 사람들이 AI 기반 결정에 대해 이의를 제기하거나 항의할 수 있는 명확한 방법을 제공하는 것을 의미한다. 이를 통해 영향을 받는 사용자는 문제가 해결되지 않거나 표면화되지 않는다. 조직은 사용 지점에서 보고 채널을 제공하고, 고위 관리자를 할당하여 불만을 처리하고, 시스템을 일시 중지, 검토, 또는 업데이트할 수 있어야 한다.

가치 기반 프레임워크의 이점은 무엇인가?

이 가치 기반 접근법을 채택하는 두 가지 강력한 이유가 있다. 첫째, AI 시스템을 구축하고 배포하는 사람들은 영향을 받는 사람들과 조직에 대한 윤리적 책임을 가지고 있으며, 둘째, 이는 실제로 AI의 약속된 이점을 실현하는 더 효과적인 방법이다.

AI 시스템의 사용자, 즉 기업 및 개인은 암시적으로 시스템의 제작자가 개인 데이터를 남용하거나 불필요한 위험에 노출시키지 않을 것이라는 것을 믿고 있다. 조직이 이러한 신뢰를 깨뜨리면, 사용자를 유지하기가 매우 어려워진다. 궁극적으로, 사람們이 AI 시스템을 신뢰하고, 그들이 제공하는 명확한 이점을 볼 수 없으면, 그들의 도입에 동의하지 않을 것이다. 이는 더 많은 사회적 및 경제적 분열을 초래할 것이며, 우리는 이 기술이 제공하는 많은 기회를 놓치게 될 것이다.

반면에, 모든 곳에서 가치 기반 프레임워크를 적용하는 기업, 특히 규제 요구 사항이 완화된 지역에서, 고객, 투자자, 및 규제 기관에 대해 기본적인 준수를 요구하는 것보다 더 높은 표준을 지키고 있음을 보여줄 수 있다. 이는 신뢰, 참여, 궁극적으로 비즈니스 성공을 구축한다.

강력한 AI 거버넌스는 부담이 아니라 가치 창조자이다. 이는 비즈니스들이 새로운 제품을 더 빠르게 시장에 출시하고, 위험 노출을 줄이며, 여러 시장에서 자신감을 가지고 솔루션을 확장할 수 있도록 한다.

McKinsey의 ‘AI의 상태’ 보고서는 AI 거버넌스의 CEO의 감독은 조직의 제네릭 AI 사용으로 인한 하위 라인 영향과 가장 관련이 있다고 밝혔다. 이는 이러한 접근법의 상업적 이점을 강조한다. 실제로, AI 시스템에 강력한 윤리적 프레임워크를 구축하는 것은 계몽된 이기주의를 대표한다.

그 외에도, 이것은 단순히 옳은 일이다. 우리는 더 나은 기술을 사람들과 사회를 위해, 그 반대가 아닌, 서비스하도록 구축해야 한다는 원칙을 중심으로 글로벌 윤리 AI 정책을 구축했다. 이는 사회 5.0의 더 넓은 비전을 반영한다. 즉, 경제적 발전과 사회적 도전의 해결을 결합하는 인간 중심의 혁신 모델이다.

AI와 같은 새로운 기술이 더 행복하고 조화로운 사회를 조성하기 위해서는, 그것은 강력한 윤리적 기초 위에 구축되어야 한다. 이는 단순히 규제 기관이 요구하는 표준에만 집중하는 것이 아니라, 조직이 달성하고자 하는 표준에 집중하는 것으로부터 시작된다.