인신상해 법에서 AI의 다음 과제는 책임성

AI의 활용 사례 중 일부는 비교적 무해하지만, 다른 사례는 큰 논란을 일으킬 수 있습니다. 그리고 이 기술이 아직 초기 단계이기 때문에, 법률 산업에서의 광범위한 채택은 후자에 해당한다고 주장할 수 있습니다.

AI가 법률 실무에서 차지하는 역할에 대한 우려는 여전히 널리 퍼져 있습니다, 특히 그 결과가 법률 분석이나 고객 결과에 영향을 미칠 때 더욱 그렇습니다. 변호사들이 사고를 기계에 맡긴다는 우려와, 도구가 만든 중요한 증거가 판사나 배심원에 의해 오해될 수 있다는 우려가 있습니다. 공정성, 투명성, 적법 절차를 핵심 원칙으로 삼는 사법 시스템에서 AI가 정당한 역할을 할 수 있을까요?

그럼에도 불구하고, AI는 이미 문서 검토, 연구, 요약 및 초안 작성 등 법률 업무에 실용적인 용도로 활용되고 있습니다. 그리고 이는 사라지지 않을 것으로 보입니다: 약 41 percent의 로펌이 현재 AI 도구를 사용하고 있으며, 그 비율은 계속 증가할 전망입니다.

인신상해 변호사로서 저는 로펌에서 AI 사용으로 인해 규제 공백이 법적 기준보다 훨씬 빠르게 나타나는 것을 보고 있습니다. 기존의 전문 규칙은 변호사가 자신의 업무에 대해 책임을 지도록 하지만, 공개, 감사 가능성, 공급업체 책임, 데이터 보존 및 필요한 인간 검토 수준과 같은 AI 고유의 모든 질문을 반드시 해결해 주지는 않습니다.

책임성 정의

책임성은 AI가 제기하는 가장 어려운 질문 중 하나입니다: AI가 실수를 저지를 경우 누가 법적 책임을 지게 될까요?

악명 높게도, 2023년 사건 Mata vs. Avianca에서 원고 측 변호인들은 ChatGPT를 사용해 법적 인용을 만들었습니다. 그러나 챗봇은 허구의 사례를 만들어내어 존재하지 않는 판례를 판사에게 공식적으로 제출했습니다. 이 사태는 여러 면에서 불가피했지만, 중요한 원칙을 확립하는 계기가 되었습니다: AI는 변호사를 도울 수는 있지만, 변호사의 업무 정확성을 검증하는 전문적 의무를 대체할 수는 없습니다.

하지만 인신상해 소송에서는 책임성 문제가 법적 인용을 넘어섭니다. 이 분야의 사건들은 민감하고 복잡한 경우가 많아, 작은 실수라도 사건이 법정에 도달하기 전부터 합의 협상이나 소송 전략에 큰 영향을 미칠 수 있습니다.

예를 들어, AI 도구가 수백 페이지에 달하는 의료 기록을 요약하여 연대기적 사건 기록으로 압축한다고 가정해 보겠습니다. 그러나 초기의 중요한 부상이 묻혀버릴 경우, 이러한 누락은 변호사와 고객의 요구에 영향을 미치며, 증언 과정에서야 비로소 드러날 수 있습니다.

AI의 실수가 식별하기 어려운 경우도 많습니다. 허위 인용은 명백하고 식별 가능한 오류이지만, AI 시스템이 기존의 의료 상태를 간과하거나, 증인의 의견을 잘못 요약하거나, 향후 치료 비용을 잘못 계산하는 경우—이러한 오류는 합리적으로 보일 수 있어 눈에 띄지 않을 수 있습니다.

편향은 더욱 감지하기 어렵습니다. 예를 들어, 과거에 편향된 데이터를 기반으로 학습된 평가 시스템은 특정 인구 집단과 연관된 청구를 체계적으로 저평가할 수 있습니다.

AI를 신중하게 활용하기

AI는 방대한 문서를 검토하고, 의료 기록을 분석하며, 심지어 법적 청구서를 초안 작성할 수 있습니다. 적절히 활용한다면 이러한 기능은 불필요한 행정 업무를 줄이고 변호사가 고객에게 조언하고 법적 전략을 개발하는 데 더 많은 시간을 할애하도록 도와줍니다.

하지만 모든 업무를 AI에 맡겨서는 안 되며, 인신상해 사건은 결코 단순하지 않습니다. 상충되는 증인 진술, 변화하는 의료 증거, 신뢰성 문제, 그리고 인간의 판단이 법적 선례만큼이나 중요한 협상이 얽혀 있습니다. 과거 데이터를 통해 AI가 합의 패턴을 파악할 수는 있지만, 특정 원고, 증인 또는 사실이 재판에서 어떻게 받아들여질지를 변호사가 평가하는 것을 대체할 수는 없습니다.

따라서 가장 큰 위험은 변호사들이 권위적이고 객관적으로 보이는 AI의 결과에 부당한 신뢰를 두는 것입니다. AI는 틀릴 수 있고, 맥락을 인식하지 못하며, 인간 판단을 대체할 수 없습니다.

유사한 우려가 보험 부문에서도 나타나고 있습니다. AI를 이용해 청구를 검토하는 건강 보험 회사에 대한 반발을 생각해 보십시오. 사람들은 실제 인간이 판단을 내리고 사례를 검토했다는 보장을 원합니다. 비록 AI가 업무량을 경감하고 속도를 높였더라도 말이죠.

법률도 마찬가지이며, AI가 반복적인 작업을 얼마나 도와주든, 선택적으로 사용하고 명확한 한계와 의미 있는 인간 감독이 필요함을 인식해야 합니다. 다행히도 대부분의 변호사들이 이 방향으로 나아가고 있는 것으로 보입니다: 약 83%의 법률 전문가가 AI를 활용해 법률 자문을 제공하는 것이 부적절하다고 말합니다.

규제 프레임워크

본질적으로 규제는 AI가 어떻게 사용되는지, 그리고 어디에서 사용되는 것이 적절한지를 목표로 해야 합니다.

생성형 AI가 법원 제출 서류나 문서를 작성하는 데 사용된다면, 변호사는 이를 고객에게 전달하거나 법원에 제출하기 전에 모든 법적 분석, 인용 및 손해액을 직접 검증하도록 법적으로 요구되어야 합니다.

인간 검토는 권고적인 최선 실천이 아니라 필수 단계여야 합니다. 결과물이 중요할수록 검토는 더욱 엄격해야 합니다. AI가 생성하고 고객이나 법원을 대상으로 하는 모든 법적 인용, 손해액 계산, 의료 연대기 또는 사실 주장 등은 의미 있는 변호사의 검증 없이는 절대 전달되어서는 안 됩니다.

이를 위반하여 예를 들어 허위 정보를 법원에 제출한 것이 적발될 경우, 심각한 직업적 제재가 가해져야 합니다.

또한 로펌은 AI 사용에 대한 감사 가능한 기록을 생성하고 유지해야 합니다. AI가 의료 기록 검토, 청구서 초안 작성, 혹은 증언 요약을 돕는 경우, 변호사는 어떤 도구가 사용됐는지, 어떤 정보를 처리했는지, 그리고 최종 문서를 검토·승인한 변호사가 누구인지 식별할 수 있어야 합니다. 책임성을 중시하는 시스템을 구축하여 실수가 소송 중 문제가 되기 전에 수정될 수 있도록 해야 합니다.

마지막으로 데이터 보호 문제가 있습니다. 인신상해 사건은 방대한 의료 기록, 고용 이력, 재무 서류 및 기타 기밀 고객 정보를 포함하는 경우가 많습니다. 이러한 데이터를 AI 시스템에 투입하면 데이터 보존, 무단 접근, 그리고 제3자 AI 제공업체에 제출된 정보가 향후 모델 학습에 사용될 수 있는지 여부와 같은 새로운 위험이 발생합니다.

기존의 비밀 유지 조치도 변호사에게 이러한 위험을 고려하도록 요구하고 있습니다. 규제 당국은 공급업체의 주의 의무, 보존 정책, 학습 데이터 사용 및 접근 통제에 대한 최소 기대치를 정의함으로써 한층 더 나아가야 합니다.

최종 고찰

AI가 소송에 점점 더 많이 활용됨에 따라, 업계는 기회와 도전 과제 모두에 직면하고 있습니다. 이 기술은 변호사에게 보다 중요한 업무에 집중할 시간을 제공할 수 있지만, 투명성과 사용 및 공개에 대한 신중한 프레임워크가 없으면 사법 시스템에 대한 신뢰를 약화시키고 법정 절차에 편향을 심어줄 위험이 있습니다.

AI 자체가 이제 재판을 받고 있는 것처럼 보입니다. 그러나 AI가 증언대에 서기 전에, 무엇이 법적으로 허용되고 무엇이 허용되지 않는지를 규정하는 구체적인 규제가 필요합니다. 투명성과 책임성에 대한 명확한 기준을 마련함으로써만 고객과 법원이 AI가 사법 정의, 공정성 및 평등이라는 원칙을 훼손하지 않으면서 소송을 개선하고 있다는 확신을 가질 수 있습니다.