사상 리더
신경망에서 과실책임으로: AI가 실패하면 누가 책임지는가?

핵심 포인트AI의 불투명성은 주의의무와 인과관계와 같은 과실의 핵심 요소를 복잡하게 만들어 책임 공백을 초래합니다.
더 보기
- AI의 불투명성은 주의의무와 인과관계와 같은 과실의 핵심 요소를 복잡하게 만들어 책임 공백을 초래합니다.
- 법원은 기존 제조물책임 법리를 AI에 적용할 수 있으나, 고도의 기술적 증거를 요구할 수 있습니다.
- 엄격책임 체계는 AI로 인한 피해가 예견 가능하나 인과관계가 불투명한 경우 공정하게 위험을 분배할 수 있습니다.
이 글은 인공지능이 일으킨 피해를 둘러싼 법적 문제와 신경망이 현실에서 제대로 작동하지 않을 때 누가 책임을 질 수 있는지를 살펴봅니다.
인공지능(AI)은 연구실을 넘어 법정, 진료 현장, 자동차, 증권거래소로 들어왔습니다. 신경망은 질병을 진단하고 대출을 승인하며, 오랫동안 인간의 영역으로 여겨지던 업무를 점점 더 많이 수행합니다. 하지만 이런 시스템이 현실에서 실패하면 심각하고 때로는 치명적인 결과가 발생합니다.
저는 캐나다 온타리오주에서 인적 손해 사건의 원고를 대리하는 변호사이자, 현재 경영학 박사(DBA) 학위 후보자로서 비즈니스·법·기술의 접점을 연구하고 있습니다. 그런 저에게 다음과 같은 간단한 질문이 점점 더 자주 들어옵니다. AI가 피해를 일으키면 누구에게 책임이 있을까요?
실제로 답은 더 복잡합니다. AI는 과실, 인과관계, 예견 가능성에 관한 법리에 난제를 제기하며, 기계의 판단에 법이 어떻게 대응해야 하는지 근본적인 질문을 던집니다.
고위험 의사결정에서 확대되는 AI의 역할
AI는 더 이상 낮은 숙련도를 요구하는 업무의 자동화나 기계학습 플랫폼에만 국한되지 않습니다. 이제 의료, 금융, 고용, 교통, 경찰 활동, 법률 분석에서도 결정을 내립니다.
오늘날 AI 모델은 대개 심층 신경망으로 구성됩니다. 대규모 데이터셋에서 복잡한 패턴을 찾아내지만, 그 작동 방식은 개발자에게도 상당 부분 불투명합니다. 학자들은 AI 시스템이 예측 불가능성과 자율성을 법의 영역에 도입한다고 지적했습니다. 이 영역은 과거 예견 가능성과 의도에 의해 엄격하게 규율되었습니다. 여기서 혁신과 책임 규명 사이의 충돌이 생깁니다.
법체계는 발생한 피해의 책임을 인간에게 귀속시키지만, AI는 데이터셋을 만드는 기술자, 시스템 개발자, 도입·운영 주체, 최종 사용자에게 책임을 분산시킵니다. 책임의 소재가 흐려지는 것입니다.
책임의 공백: 피해의 책임을 쉽게 특정할 수 없을 때
법학자들은 AI 거버넌스에서 새롭게 나타나는 “책임의 공백”을 점점 더 자주 언급합니다. 전통적인 불법행위법에서는 다음 요소를 확인해야 합니다.
- 주의의무
- 주의의무 위반
- 인과관계
- 손해
AI는 각 요소의 판단을 복잡하게 만듭니다. 예를 들어 개발자는 도입 후 모델이 어떻게 행동할지 모를 수 있고, 조직은 제3자의 기계학습 시스템을 사용할 수 있습니다. 최종 사용자는 출력이 결정되는 과정을 알기 어렵습니다.
한 학술 연구는 AI가 반자율적으로 작동하거나 기계학습 같은 과정을 통해 자율적으로 적응할 경우 과실 입증이 더 어려워진다고 지적했습니다. 이처럼 책임이 나뉘면 인간의 행위를 전제로 하는 법리가 도전을 받습니다.
인적 손해 소송에서 법원은 전통적으로 피고가 당시 상황에 비추어 합리적으로 행동했는지 살핍니다. 하지만 의사결정의 일부를 확률적 모델에 맡긴 경우, 그 합리성을 어떻게 평가해야 할까요?
신경망과 설명 가능성의 문제
딥러닝 시스템은 흔히 “블랙박스”처럼 작동합니다. 내부 의사결정 과정은 전문가도 쉽게 해석할 수 없습니다. 이런 설명 가능성의 부족은 중대한 법적 의미를 갖습니다.
의료 AI가 암을 오진했다면 어디에 과실이 있을까요? 다음 사항이 관련될 수 있습니다.
- 모델을 어떻게 훈련했는지
- 훈련 데이터에 편향이 있었는지
- 검증 절차가 충분했는지
- 의료진이 자동 생성된 출력에 지나치게 의존했는지
법학 문헌은 AI로 인한 피해의 책임을 귀속할 때 인과적 책임, 역할에 따른 책임, 법적 배상책임을 구분하도록 권고합니다.
다만 실제 책임은 다음과 같은 일련의 관계자에게까지 미칠 수 있습니다.
- 데이터 제공자
- 소프트웨어 개발자
- 모델 훈련 담당자
- 시스템 도입·운영 주체
- AI 출력을 사용하는 조직
- AI 권고에 의존하는 전문가
AI는 책임을 없애는 것이 아니라 재분배합니다.
자율주행차에서 얻는 교훈: AI 책임의 사례 연구
자율주행차 소송은 법원이 AI 관련 피해를 어떻게 다룰지 미리 엿볼 수 있게 합니다. 법원은 과실과 제조물책임에 관한 전통적 원칙을, 상해를 일으키는 신기술에도 적용해 왔습니다. 최근 사건에서는 배심원단이 인간 운전자와 자동운전 시스템을 개발한 기술기업 사이에 책임을 배분하기 시작했습니다.
법률 논평가들은 설계 결함, 제조 결함, 경고의무 위반 등 기존 제조물책임 법리가 AI를 활용하는 시스템에도 관련된다고 제안했습니다.
그러나 자율주행차는 현재 법적 틀의 한계도 드러냅니다. 책임은 차량 제조사에 있어야 할까요? 소프트웨어 개발자일까요? 인간 운용자일까요? 아니면 알고리즘 훈련에 쓰인 데이터일까요?
일부 학자들은 제조물책임 원칙을 유추 적용하면 개발·공급·사용 과정의 앞단과 뒷단에 있는 주체들의 책임을 효과적으로 구분할 수 있다고 제안했습니다.
원고의 관점에서 이 사건들은 법원이 신기술에도 전통적 원칙을 적용할 수 있음을 보여줍니다. 다만 그러려면 매우 높은 수준의 전문가 증거와 기술적 지식이 필요합니다.
엄격책임과 과실책임: 경쟁하는 법적 이론
핵심 논쟁은 기존 과실책임 체계를 AI 시스템에 적용할 수 있는지입니다. 일부 학자들은 엄격책임 제도를 지지하며, 매우 복잡한 기술 환경에서 피해자가 과실을 입증할 부담을 져서는 안 된다고 주장합니다.
엄격책임은 피해를 예견할 수 있지만 피할 수 없는 경우, AI가 대규모로 도입되는 경우, 위험이 사회 전체에 분산되는 경우에 특히 유용할 수 있습니다. 기술적 인과관계를 입증하기 어려운 경우에도 마찬가지입니다.
반면 과실책임에 관한 법이 기술 변화에 적응할 수 있다는 주장도 있습니다. 비교법 연구는 기존 법리를 토대로 발전시킬 것을 주장했습니다. 기존 법리에는 안정화 효과가 내재하며, 새로운 피해에 점진적으로 적응할 수 있기 때문입니다.
엄격책임과 과실책임은 혁신, 공정성, 위험과 비용의 배분에 관한 정책적 선택을 보여줍니다.
혁신을 일으키는 사람이 기술적 위험을 책임져야 할까요? 아니면 사회 전체가 진보의 비용을 널리 나누어 부담해야 할까요?
비즈니스 관점: 위험 배분과 보험
기업의 관점에서 AI 책임은 법률뿐 아니라 위험관리의 문제이기도 합니다. AI를 도입하는 조직은 계약에 따른 위험 배분, 전문직 배상책임보험, 사이버위험 보험 보장, 손해배상 약정, 규제 준수 체계에 주목하기 시작했습니다.
보험시장은 AI에 관한 책임을 확립하는 데 중요한 역할을 할 수 있습니다. 일부 연구는 AI로 인한 특정 피해의 경우, 보험과 불법행위법을 결합한 혼합형 보상제도가 궁극적으로 가장 적절한 해결책이 될 수 있다고 시사합니다.
운영상 의사결정에 AI를 통합하는 기업은 디지털 전환에서 소송 위험을 고려해야 합니다. 이를 소홀히 하면 평판 손상, 규제 제재, 민사책임에 노출될 수 있습니다.
윤리적 책임과 법적 책임
법적 책임과 윤리적 책임은 일치하지 않는 경우가 많습니다. AI 거버넌스 논의에는 다음 원칙이 포함됩니다.
- 공정성
- 투명성
- 책무성
- 설명 가능성
하지만 윤리적 고려에서 법적 의무가 자동으로 발생하는 것은 아닙니다.
최근 연구는 여러 주체가 관여하는 AI 생태계에서 책임을 배분하는 개념적 틀과, 설계 결정을 법적 결과에 연결하는 증거 규칙을 제안합니다. 따라서 혁신을 촉진하려는 법체계는 신기술의 피해자도 고려해야 합니다. 이런 균형 잡기가 AI 거버넌스의 미래를 형성할 것입니다.
인공지능 시대 과실책임의 미래
AI는 의사결정 권한이 언제나 식별 가능한 인간에게 있다는 전제에 도전합니다. 그러나 법적 책임은 궁극적으로 인간에게 남습니다.
가까운 미래에 법원이 AI 시스템에 법인격을 인정할 가능성은 낮습니다. 대신 AI를 개발하고 도입하며 이익을 얻는 사람들이 책임을 지게 될 것으로 예상됩니다.
AI의 자율성이 커지면서 다음과 같은 여러 규율을 결합한 혼합형 모델이 발전할 수 있습니다.
- 과실책임 원칙
- 제조물책임 법리
- 규제기관의 감독
- 보험에 기초한 보상제도
AI는 커먼로의 개념을 대체하는 대신 법원에 그 개념을 명확히 하도록 요구할 뿐일 수 있습니다. 원고의 관점에서 질문은 무엇이 일어났는지입니다.
누가 위험을 만들었는가? 그 위험이 사람들에게 피해를 주지 않도록 가장 잘 막을 수 있는 이는 누구인가?
입법기관이 포괄적인 AI 책임 제도를 마련할 때까지 법원은 기존 법리를 신기술에 적용할 것입니다. 신경망은 새로운 것일 수 있습니다. 과실은 새로운 것이 아닙니다.











