인터뷰

스타브로스 가디니스, 버클리 로스쿨 교수이자 『Corporate Ordering』 저자 – 인터뷰 시리즈

Antoine Tardif
Unite.AI를 Google의 선호 소스에 추가
Stavros Gadinis, George R. Johnson Professor of Law at UC Berkeley School of Law
핵심 포인트기업의 명령은 규제 기관이 행동하기 전에 기업이 규칙을 작성하고 스스로를 감시하는 방식을 설명합니다.
더 보기
  • 기업의 명령은 규제 기관이 행동하기 전에 기업이 규칙을 작성하고 스스로를 감시하는 방식을 설명합니다.
  • AI 안전 평가는 경영진이 자체 외부 검토자를 고용하고 해고할 수 있을 때 독립성을 결여합니다.
  • 출시를 한 번도 지연시키지 않은 안전 프레임워크는 홍보와 구별할 수 없습니다.

스타브로스 가디니스는 UC 버클리 로스쿨의 조지 R. 존슨 법학 교수다. 그의 연구는 기업 지배구조와 금융 규제, 그리고 기업이 의사결정을 내리고 이를 감독하는 데 사용하는 내부 시스템을 살펴본다. 학계에 들어오기 전에는 유럽에서 기업법 변호사로 일했다.

케임브리지 대학 출판부에서 출간한 그의 신간 『기업 질서: 기업은 사회적 갈등을 어떻게 헤쳐 나가는가』는 공적 규칙이 확립되지 않은 상황에서 기업이 어떻게 지배구조 시스템을 발전시키는지 살펴본다. 차량 공유, 기후 지속가능성, 인공지능과 관련된 사례를 통해 기업이 규칙을 만들고 권한을 행사하며 스스로의 행위를 감독하는 방식을 다룬다.

유럽에서 기업법 실무를 하고 버클리 로스쿨에서 기업 지배구조와 금융 규제를 연구하셨습니다. 이러한 배경은 교수님의 사고에 어떤 영향을 주었으며, 『Corporate Ordering』을 쓰게 된 계기는 무엇인가요?

유럽에서 기업법 변호사로 경력을 시작한 뒤, 버클리에서 여러 해 동안 기업 지배구조와 금융 규제를 연구했습니다. 단일 정부가 책임을 맡지 않는 상황에서 규칙이 국경을 넘어 어떻게 확산되는지도 살펴봤습니다. 우리는 흔히 기업 세계와 규제 세계를 서로 대립하는 것으로 생각합니다. 한쪽은 신속한 의사결정과 큰 수익을 추구하고, 다른 쪽은 관료적 절차와 공익을 중시한다고 여기는 것이죠. 실무와 연구를 모두 경험하면서 둘 사이의 경계가 생각보다 훨씬 모호하다는 것을 알게 됐습니다.

이 책은 직원과 고객, 지역사회, 정부가 저마다 다른 것을 원하는 논란의 소지가 큰 의사결정을 기업이 어떻게 다루는지에 관해 법무 책임자와 고위 임원들과 나눈 대화에서 출발했습니다. 특히 인상적이었던 점은 그들의 방식이 훌륭한 규제기관의 방식과 매우 비슷하다는 것이었습니다. 이들은 영향을 받는 사람들에게 다가가 정보를 모으고, 자신들의 선택을 공개적으로 설명하며, 그 선택이 타당한지 확인할 장치를 마련합니다. 이런 방식은 규제기관만의 관행도, 기업만의 관행도 아닙니다. 다른 이들에게 권한을 행사하는 모든 기관에서 건전한 의사결정을 가능하게 하는 원칙입니다. 『Corporate Ordering』은 이러한 작동 체계를 설명하고, 어디서 효과를 발휘하며 어디서 실패하는지 보여주려는 저의 시도입니다.

‘기업 질서’란 무엇이며, 규제가 기술의 발전을 따라잡지 못한 상황에서 AI 기업이 기술 관련 규칙을 정하는 방식을 이해하는 데 어떻게 도움이 되나요?

기업 질서란 법이 기업에 무엇을 해야 할지 정해주기 전에 논쟁의 여지가 있는 의사결정을 내리기 위해 기업이 구축하는 내부 지배구조 체계입니다. 국가의 여러 부문과 맞닿아 있는 세 가지 기능으로 이루어집니다. 규칙 제정은 기업이 자체 원칙을 만드는 방식입니다. 집행은 그 원칙을 구체적인 의사결정에 적용하는 방식입니다. 감독은 원칙을 제대로 이행했는지 확인하고, 이행하지 못한 경우 이를 파악하는 방식입니다.

AI 기업에서는 이 세 가지 기능이 모두 나타납니다. 최첨단 AI 연구소는 헌장과 모델 사양, 안전 프레임워크를 작성하는데, 이는 규칙 제정에 해당합니다. 모델을 출시할 준비가 됐는지, 어떤 요청을 거부할지, 누가 접근할 수 있을지를 정하는 것은 집행입니다. 레드팀 평가와 외부 평가, 사고 보고를 의뢰하는 것은 감독입니다. 책에서 저는 주요 연구소 전반에 걸쳐 이러한 기능을 살펴봅니다. 서로 다른 점은 분명히 있지만, 각 기업이 모든 요소가 필요한 이유를 깨달아가면서 뚜렷한 수렴 현상도 나타납니다.

자주 오해되는 부분이 하나 있어 분명히 짚고 싶습니다. 기업 질서는 규제에 반대하는 주장이 아닙니다. 규제가 무엇을 바탕으로 만들어지는지를 설명하는 것입니다. 입법자들이 행동에 나설 때는 기업이 먼저 발전시킨 개념을 차용합니다. 핵심은 그 초안이 차용할 만한 수준으로 충분히 신중하게 작성됐는지 여부입니다.

책에서는 차량 공유, 기후 지속가능성, AI 거버넌스를 살펴봅니다. 앞의 두 분야에서 얻은 교훈 가운데 AI에 가장 유용한 것은 무엇이며, AI는 어떤 점에서 근본적으로 다른 과제를 제시하나요?

차량 공유와 기후 분야의 교훈은 기업이 법의 초안을 작성하는 경우가 매우 흔하다는 것입니다. 우버와 리프트는 각 주에 관련 규정이 마련되기 전에 보험 및 안전 보고 관행을 발전시켰고, 기업의 탄소 회계 상당 부분은 기업들이 만드는 데 기여한 기준인 온실가스 프로토콜(GHG Protocol)에 따라 이루어집니다. 이후 규제기관은 이러한 관행을 승인하거나 보완하고, 법으로 제정하기도 했습니다. 규제는 좀처럼 아무것도 없는 상태에서 시작되지 않습니다. 기업이 자신의 선택을 더 깊이 고민하고 영향을 받는 당사자를 더 많이 고려할수록, 그 선택이 규제에 반영되어 유지될 가능성도 커집니다.

AI는 두 가지 점에서 다릅니다. 첫째는 속도입니다. 규제기관은 업계보다 한발 늦는 경우가 많지만, AI 분야에서는 그 격차가 훨씬 큽니다. 규제기관은 기준과 내부 절차를 개발하는 일을 기업에 의존해야 하며, 자체적인 노력은 감독과 검증, 집행에 집중해야 합니다. 그렇다고 규제기관의 역할이 줄어드는 것은 아닙니다. 역할이 달라지는 것입니다. 경영진과의 이해충돌이 가장 큰 지점인 만큼, 공권력은 검증에서 가장 중요한 역할을 합니다. 둘째는 영향 범위입니다. AI는 일상생활의 거의 모든 부분에 영향을 미치며, 국가 전체에 중요한 투자 분야가 됐습니다. 시스템적 위험이 초래할 결과는 외면하기 어려울 뿐 아니라 가늠하기도 어렵습니다.

AI 기업이 자체적으로 외부 안전 평가자를 선정하고 보수를 지급하는 경우, 해당 감독이 실질적인 독립성을 갖도록 하는 안전장치는 무엇인가요?

이러한 이해충돌은 재무제표 감사에서 흔히 볼 수 있으며, 기업법에는 이를 관리할 수 있는 수단이 이미 마련돼 있다. 첫 번째는 평가자를 누가 선임하고 해임하느냐는 문제다. 평가자와의 관계는 회사와 다른 금전적 이해관계가 전혀 없는 사외이사들이 맡아야 한다. 이는 CEO나 CFO가 아니라 감사위원회가 외부감사인을 감독하는 것과 마찬가지다. 경영진은 평가 결과가 불편하다는 이유로 평가자를 해임할 수 없어야 한다.

두 번째는 접근권과 발표권이다. 평가자는 자신이 요청한 자료를 볼 수 있어야 하며, 회사가 거부권을 행사하지 못하도록 평가 결과를 발표할 권리도 가져야 한다. 적어도 의미 있는 요약본은 발표할 수 있어야 한다. 평가에 실질적인 힘을 부여하는 것은 평판상의 위험이다. 세 번째는 공통된 평가 기준이다. 그래야 기업마다 평가의 의미가 같아지고, 평가자들이 관대한 평가로 경쟁하는 일을 막을 수 있다. 네 번째는 내부고발자 보호이며, 실행 가능한 정보를 제공한 경우에는 보상도 제공해야 한다. 회사 내부에 있는 사람들이 평가가 조작됐다는 사실을 가장 먼저 알아차리는 경우가 많기 때문이다.

외부 평가자가 주요 모델 출시 직전에 심각한 안전 문제를 발견했다고 가정해 보겠습니다. 그 결과를 누구에게 전달해야 하며, 출시를 연기하거나 배포를 중단할 권한은 누구에게 있어야 할까요?

평가 결과는 이사회에 직접 전달해야 하며, 이상적으로는 안전을 담당하는 사외이사 위원회에 전달해야 한다. 출시를 추진하는 경영진을 통해서만 전달해서는 안 된다. 경영진은 의견을 제시할 수 있고, 또 그래야 하지만, 결과를 걸러내는 역할을 해서는 안 된다. 배포를 연기하거나 중단할 권한은 이사회에 있어야 한다. 막대한 이해관계가 걸려 있고 이해관계가 충돌하며 명백한 정답이 없는 이런 결정이야말로 이사회가 내리도록 존재하는 결정이기 때문이다.

하지만 더 중요한 점은 결정이 명시적으로 내려지고 문서화되어야 하며, 누가 그 결정을 내렸는지 추적할 수 있어야 한다는 것이다. 우려가 제기됐는데도 이사회가 출시를 진행한다면, 기록에는 이사회가 무엇을 알고 있었고 무엇을 고려했으며 왜 위험을 감수할 만하다고 판단했는지가 드러나야 한다. 이러한 문서 기록은 법적 책임을 물을 수 있는 여건을 조성하고, 적어도 평판에 타격을 줄 수 있으며, 사람들이 결정을 내릴 때 한 번 더 생각하게 한다. 법원은 소프트웨어의 설계 선택이 사용자에게 미치는 결과를 점점 더 인정하고 있다. 진지한 노력을 기울였다는 사실을 문서로 입증할 수 있는 회사는 이를 입증할 수 없는 회사와 법적으로 전혀 다른 위치에 놓인다.

안전 우려가 매출 목표나 경쟁 압박과 충돌할 때, 신뢰할 수 있는 이사회의 의사결정 절차는 어떤 모습이어야 할까요?

신뢰할 수 있는 절차는 충분한 정보에 근거한 절차이며, 그 과정은 기록으로 남는다. 이사회는 출시 지연에 따른 비용, 안전 우려의 성격과 발생 가능성, 위험을 완화할 방안에 관한 구체적인 정보를 검토해야 한다. 시험이 충분했는지 확인하고, 그렇지 않았다면 추가 시험을 의뢰하거나 외부 평가를 요청해야 한다. 실제로 불확실성이 남아 있다면 출시와 보류 사이에 선택할 수 있는 방안도 있다. 예를 들어 제한적으로 출시하거나, 단계적으로 배포하거나, 샌드박스 환경에서 운영하면 회사가 확정적인 결정을 내리기 전에 더 많은 정보를 얻을 수 있다. 이사회가 어떤 결정을 내리든, 이후 회사가 모델의 안전성에 관해 대중에게 밝히는 내용은 정확해야 한다. 현재 소송 위험의 상당 부분이 바로 이 지점에 놓여 있다.

그런 다음 이사회는 무엇을 결정했는지, 또 왜 그렇게 결정했는지 기록으로 남겨야 한다. 시간이 지나면 이러한 기록은 선례의 축적이 되어 다음번 어려운 결정은 이전 결정에 비추어 평가되고, 회사를 검토하는 사람은 회사가 내세운 원칙이 실제로 의사결정에 구속력을 발휘하는지 확인할 수 있다. Microsoft는 이러한 의사결정 기록을 만들기 시작했으며, 나는 이것이 AI 거버넌스에서 가장 과소평가된 수단 가운데 하나라고 생각한다. 경쟁 압박은 현실이며, 이사회가 합리적으로 출시를 진행하기로 결정할 수도 있다. 하지만 아무런 판단 없이 상황에 떠밀려 결정해서는 안 된다.

귀하의 연구는 이사회의 의사결정을 평가하는 기준으로 ‘사회적 경영판단’을 제안합니다. 잠재적인 공공 피해를 이유로 수익성 있는 제품 출시를 미루는 AI 기업에는 이 기준을 어떻게 적용할 수 있을까요?

현행 기업법에 따르면 수익성 있는 제품의 출시를 미루는 이사회는 이미 충분히 보호받는다. 법원은 이사의 경영판단을 존중하며, 오늘의 이익을 줄여 내일의 피해를 피하는 결정은 그 원칙에 충분히 부합한다. 더 어려운 질문은 그 반대의 경우, 즉 이사회가 공공 피해를 진지하게 고려하기는 했는지다.

사회적 경영판단은 이사회가 잠재적인 공공 피해를 다른 경영 위험과 마찬가지로 평가하도록 요구한다. 가능한 경우 구체적이고 측정할 수 있는 명확한 지표를 사용해야 한다. 핵심은 결과가 아니라 절차와 실사다. 적절한 정보를 수집하고, 영향을 받는 사람들의 의견을 들으며, 판단 근거를 기록한 이사회는 제품 출시를 미루든 진행하든 존중받을 만한 판단을 내린 것이다. 이런 일을 전혀 하지 않은 이사회는 그렇지 않다. 따라서 질문에서 말씀하신 사례에서 출시를 미룬 것 자체는 쟁점이 아니다. 쟁점은 이사회가 어떻게 그 결정에 이르렀는지 입증할 수 있는지, 그리고 같은 사실관계에서 다시 같은 결정을 내릴 것인지다.

AI 기업들은 안전 프레임워크와 자발적 약속을 발표하지만, 그러한 정책이 개별 의사결정에 어떤 영향을 미치는지는 독자들이 좀처럼 확인하기 어렵습니다. 실효성 있는 거버넌스와 홍보용 행사를 구분하려면 어떤 증거가 필요할까요?

기업이 프레임워크를 발표하면, 대중은 그 프레임워크가 구체적인 의사결정에 실제로 적용되는지, 아니면 회사가 끝내 실천에 옮기지 않는 수사에 그치는지 궁금해하는 경우가 많습니다. 해답은 특정한 종류의 정보 공개에 있습니다. 원칙을 더 많이 표명하는 대신, 기업은 실제로 어떤 선택을 했고 프레임워크가 그 선택에 어떤 영향을 미쳤는지, 어떤 출시를 연기했는지, 어떤 기능의 제공을 보류했는지, 어떤 위험 임계치가 발동됐으며 그 뒤에 어떤 일이 있었는지를 밝혀야 합니다.

가장 분명한 증거는 기업에 대가를 치르게 한 결정입니다. 결과를 바꾼 적도, 출시를 연기한 적도, 매출에 손실을 초래하면서까지 적용된 적도 없는 프레임워크는 홍보 활동과 구별하기 어렵습니다. 이런 정보 공개는 검증할 수 있을 만큼 구체적이어야 하며, 가장 중대한 사안은 공개적으로 검증 결과를 밝힐 권위가 있는 제3자가 확인해야 합니다.

기업의 자율 규제는 어디에서 한계에 부딪힐까요? 허용 가능한 AI 위험에 관한 어떤 결정에 공적 규칙이나 민주적 감독이 필요할까요?

가장 중요한 한계는 감독이 제대로 이뤄지지 않을 때 드러납니다. 선의를 지닌 책임감 있는 기업이라도 중대한 위기에 직면할 수 있으며, 그런 순간에는 이해 상충이 커집니다. 직원들은 자신의 일자리나 보너스에 불이익을 줄 수 있는 정보를 숨길 수 있습니다. 경영진은 대중의 비판을 피하려고 나쁜 소식을 감출 수 있습니다. 소송에 대한 두려움 때문에 기업이 솔직하게 공개하지 못할 수도 있습니다. 과거 기업 위기에서 중요한 정보는 대개 경영진이 통제할 수 없는 사람들, 즉 외부 감사인과 검토자, 피해 당사자, 또는 독립적인 제보 채널을 이용한 내부 고발자에게서 나왔습니다.

공적 규칙이 가장 중요한 역할을 하는 지점이 바로 여기입니다. 법률은 규칙 제정 단계에서 기여할 수 있는 바가 비교적 적습니다. 법률이 핵심 개념을 기업에서 가져오는 경향이 있기 때문입니다. 자발적으로 정보를 공개하지 않는 기업까지 대상으로 삼으면 정보 공개 측면에서는 더 큰 역할을 할 수 있습니다. 그리고 독립적인 검토를 의무화하고, 내부 고발자를 보호하며, 외부 점검에 실질적인 권한을 부여할 때 검증 측면에서 가장 큰 역할을 합니다.

또 다른 한계는 공동 대응이 필요하다는 점입니다. 개별 기업이 할 수 있는 일은 자기 자신을 멈추는 것뿐입니다. 경쟁사까지 멈추게 할 수는 없습니다. 최첨단 기술 개발을 늦출지 여부를 포함해 재앙적 위험에 관한 결정은 국내외 기업과 정부 간의 공조를 필요로 합니다. 제가 가능성 있다고 보는 모델 중 하나는 지속가능성 공시 분야의 ISSB와 같은 국제 표준 제정 기구입니다. 정부로부터 독립적이면서도 정부 대표가 포함된 이사회의 감독을 받는 기구입니다. 이러한 작업에는 기업 내부의 질서 형성이 필수적입니다. 모델을 통제하는 일은 모델을 만드는 기업 안에서 이뤄지기 때문입니다. 그러나 기업의 노력만으로는 이 일을 해낼 수 없습니다.

오늘날 빠르게 성장하는 AI 기업의 이사회에 조언한다면 어떤 세 가지 거버넌스 변화를 우선시하시겠습니까? 그리고 1년 뒤 그 변화가 효과가 있었는지 판단하기 위해 어떤 증거를 살펴보시겠습니까?

첫째, 규칙 제정 과정에서 의견을 수렴하는 일입니다. 안전 프레임워크나 사용 정책을 채택하거나 개정하기 전에 회사는 영향을 받는 사람들(사용자, 시민사회, 분야별 전문가)과 협의하고, 어떤 의견을 들었으며 이에 어떻게 대응했는지 공개해야 합니다. 둘째, 정기적인 책임 보고입니다. 이사회와 경영진이 프레임워크에 따라 내린 어려운 결정을 매년 보고하고, 검증할 수 있을 만큼 충분히 상세히 밝혀야 합니다. 셋째, 외부 감시자를 두는 일입니다. 독립 이사가 고용하고 그들에게 보고하는 감시자에게 전면적인 접근 권한과 공개할 권리를 보장해야 합니다.

1년 뒤에는 각 조치가 실제로 효력을 발휘했다는 증거를 찾겠습니다. 의견 수렴의 경우, 회사가 들은 의견 때문에 바뀐 규칙이 적어도 하나는 있어야 합니다. 보고의 경우, 회사가 공개하고 싶지 않았을 결정, 즉 매출이나 시간의 손실을 초래한 결정까지 공개되어야 합니다. 감시자의 경우, 회사가 원치 않았던 조사 결과와 이사회가 그 결과에 어떻게 대응했는지를 보여주는 기록이 있어야 합니다. 1년이 지난 뒤에도 공개된 내용이 모두 좋은 소식뿐이라면, 그 변화는 효과가 없었던 것입니다.

훌륭한 인터뷰에 감사드립니다. 책을 살펴보고 구매 방법을 알아보고 싶은 독자는 기업의 질서 형성 공식 웹사이트를 방문하시기 바랍니다.

앙투안은 Unite.AI의 비전 있는 리더이자 창립 파트너로, AI와 로봇공학의 미래를 만들어 가고 발전시키는 데 변함없는 열정을 쏟고 있습니다. 여러 기업을 창업한 그는 AI가 전기만큼 사회를 크게 변화시킬 것이라고 믿으며, 혁신적인 기술과 범용 인공지능(AGI)의 잠재력에 관해 자주 열정적으로 이야기합니다.

미래학자로서 이러한 혁신이 세상을 어떻게 바꿀지 탐구하는 데 전념하고 있습니다. 또한 미래를 새롭게 정의하고 산업 전반을 변화시키는 첨단 기술에 대한 투자에 초점을 맞춘 플랫폼인 Securities.io의 설립자입니다.