브래드포드 뉴먼, 북미 무역기밀 실무 책임자 – 인터뷰 시리즈

브래드포드 뉴먼은 무역기밀과 인공지능 관련 문제에 전문가입니다. 그는 미국 변호사 협회(American Bar Association)의 인공지능 하위위원회 의장입니다. 2019년 데일리 저널(Daily Journal (DJCO ))에 의해 캘리포니아 최고의 20대 인공지능 변호사 중 한 명으로 선정되었습니다. 그는 2018년에 미국 하원에서 논의된 인공지능 관련 법안을 제안했습니다. 그는 또한 알고리즘 공정성을 보장하기 위한 인공지능 감시 및 기업 지배 구조 모범 사례를 개발했습니다.

인공지능에 대한 관심이 처음 어떻게 시작되었나요?

저는 오랫동안 세계 최고의 인공지능 제품과 기술을 개발하는 기업들을 대표해 왔습니다. 저의 관심은 항상 기계 학습의 법적 및 기술적 측면을 이해하고, 인공지능이 어떻게 발전하는지 관찰하는 것이었습니다. 저는 다양한 분야에서 인공지능의 적용이 가능하다는 점에 매료됩니다.

인공지능의 합리적인 규제를 주장하고, 특히 공중 보건을 보호하는 규제에 대해 어떤 주요 우려가 있나요?

저는 인류가 가장 심오한 혁신을 경험하고 있는 초기 단계에 있다고 믿습니다. 인공지능은 우리의 삶의 모든 측면에 영향을 미칠 수 있습니다. 인공지능의 많은 응용 분야는 우리의 삶의 질과 우리의 종족의 수명을 긍정적으로影响할 것입니다.

현재, 컴퓨터 과학 및 기계 학습의 관점에서, 인간은 여전히 과정에 깊이 관여하고 있습니다. 알고리즘을 코딩하고, 훈련 데이터 세트를 이해하고, 결과를 처리하고, 부족함을 인식하고, 기술을 제품화하는 데人类의 참여가 필요합니다.

그러나 우리는 두 가지 주요 전선에서 시간 경쟁을 하고 있습니다. 첫째, “블랙 박스” 문제입니다. 인공지능의 복잡성이 증가함에 따라, 인간의 이해와 참여는 감소할 것입니다. 둘째, 인공지능의 사용은 정부와 사적 이익에 의해 증가할 것입니다.

저의 우려는 인공지능이 서구 민주주의의 개인 자유와 자유에 반하는 방식으로 사용될 수 있다는 것입니다.

이러한 우려를 어떻게 해결할 수 있나요?

사회는 인공지능이 무엇을 할 수 있는지 결정하는 것이 아니라, 무엇을 금지하거나 부분적으로 제한해야 하는지 결정해야 할 때입니다.

첫째, 우리는 알고리즘의 출력에 의해 완전히 결정될 수 없는 결정들을 명확하게 식별해야 합니다. 즉, 데이터가 완전히 무偏见이고 투명하고 정확하더라도, 인공지능을 사용하여 예측 또는 실질적인 결정에 대한 금지 조치를 명확하게 정의해야 합니다.

이것은 수학적 확실성을 추구하는 세계에서 직관에 반하는 것일 수 있지만, 인공지능 “비행 금지 구역”을 설정하는 것이 우리가 소중히 여기는 자유를 보존하는 데 필수적입니다.

둘째, 인공지능 분석을 기반으로 하는 다른 결정에 대해서는, 인공지능을 사용하여 결정하는 것을 완전히 금지하지는 않지만, 인간의 참여가 필요합니다.

인공지능 관련 법안을 제안한 적이 있습니다. 이에 대해 설명해 주시겠습니까?

인공지능 데이터 보호법은 인공지능의 투명성을 높이고, 공중의 신뢰를 구축하며, 노동 시장에 미치는 영향을 해결하고, 공중 보건과 안전을 보호하기 위한 것입니다.

이 법안에는 몇 가지 핵심 구성 요소가 있습니다. 예를 들어, 인공지능을 사용하여 고용이나 의료 치료를 거부하는 결정과 같은 특정 결정에 대해 인공지능을 단독으로 사용하는 것을 금지합니다. 또한 인공지능에 관한 새로운 연방 기관인 인공지능 위원회를 설립하고, 인공지능 책임자를 임명하도록 요구합니다.

인공지능 감시 및 기업 지배 구조 모범 사례를 개발했습니다. 현재 인공지능 시스템에서 공정성 또는 편향성과 관련된 문제는 무엇입니까?

이 주제는 학자들의 집중적인 검토를 받았으며, 현재 미국 정부 기관들의 관심을 받고 있습니다. 대부분의 경우, 원인은 훈련 데이터 세트의 결함 또는 테스트 환경에 대한 이해와 투명성의 부족에 있습니다. 이것은 고위 경영층의 기술적 이해와 상황 인식의 부족으로 인해 더욱 복잡해집니다.

이러한 기술적 이해와 상황 인식의 부족은重大한 책임 문제입니다. 저는 이미 인공지능 편향 사례를 찾고 있는 beberapa著名한 원고 측 변호사들과 이야기했습니다.

딥 러닝은 “블랙 박스” 문제를 겪습니다. 인공지능의 출력이 어떻게 생성되었는지 알 수 없습니다. 이것이 주요 문제라고 생각합니까?

네, 그렇습니다. 알고리즘과 신경망이 발전하고, 인간의 참여가 감소함에 따라, 우리는 중요한 기능과 출력의 요소를 더 이상 이해할 수 없는 지점에 이를 위험이 있습니다.

코로나19로 인해 전 세계적으로 인공지능 기반 국가 감시 시스템이 도입되었습니다. 이러한 감시의 잠재적 남용에 대해 얼마나 우려스럽습니까?

개인 권리와 자유의 관점에서 이러한 위험을 무시하거나轻視하는 것은 어리석고, 사실상 무책임한 것입니다. 접촉자 추적은 전염병의 중간에서 합리적인 조치일 수 있으며, 인공지능 기반 얼굴 인식은 인간이 혼자서 수행할 수 없는 효과적인 수단을 제공합니다. 그러나 우리는 이러한 시스템의 남용을 금지하고, 효과적인 감시 및 집행 메커니즘을 마련해야 합니다. 그렇지 않으면, 우리는 국가에 우리의 기본적 자유와 개인 정보를 대량으로 양도하고 있습니다. 한번 양도된 이러한 기본적 권리는 다시 회복되지 않을 것입니다.

인공지능의 자유를 보존하기 위해 “비행 금지 구역”을 설정해야 한다고 이전에 말했습니다. 이러한 우려는 무엇입니까?

인공지능을 논의할 때, 우리는 항상 인공지능의 본질적인 목적을 고려해야 합니다. 즉, 큰 데이터 세트에서 예측 분석을 생성하여 인간을 분류하고 결정하는 것입니다. 다음으로, 우리는 결정권자들이 누구인지, 무엇을 결정하는지, 그리고 무엇을 기반으로 결정하는지 살펴야 합니다.

결정권자들이 우리의 건강, 생계, 그리고 자유에 가장 큰 영향을 미치는 사람들인 경우(즉, 고용주, 집주인, 의사, 보험 제공자, 법 집행 기관 등), 서구 자유 민주주의에서 인공지능만으로 결정할 수 없는 결정들이 있어야 한다는 것을 알 수 있습니다.

많은 결정은 명백하게 인공지능만으로는 결정할 수 없습니다(예: 범죄를 저지르기 전에 누군가를 투옥하는 것). 그러나 인공지능이 우리의 삶의 모든 측면에 침투함에 따라, 더 복잡한 경우가 많이 있습니다. 예를 들어, 알고리즘이 사회 미디어에서 휴가 사진을 올리는 사람들이 평균 3.5년 더 일찍 퇴사하거나 해고될 가능성이 높다는 것을 정확하게 예측한다면, 이러한 사람들을 승진이나 임금 인상을 거부해야 합니까? 알고리즘이 비디오 게임을 2시간 이상 하는 청소년들이 4년제 대학을 졸업할 가능성이 낮다는 것을 정확하게 결정한다면, 이러한 학생들을 입학을 거부해야 합니까? 아시아 여성들이 60대에 코로나19 관련 증상을 보여 입원한 경우, 아프리카계 미국인 남성들보다 더 높은 생존율을 보인다면, 여성에게 우선적인 의료 치료를 제공해야 합니까?

이러한 단순화된 예는 인공지능만으로 결정할 경우, 우리의 개인 권리와 자유에 대한 우리의 관점과矛盾하는 결정의 몇 가지 예입니다.

인공지능에 대해 추가로 공유하고 싶은 내용이 있나요?

저는 베이커 맥켄지(Baker McKenzie)의 국제적인 인공지능 실무를 이끌면서, 인공지능이 발전하는 풍경을 보는 것이 매우 흥미롭습니다. 저희 고객들은 인공지능에 대한 모든 것에 대한 지침을 원합니다. 즉, 계약 협상, 내부 감시 설정, 편향성 주장을 피하는 것, 그리고 새로운 규제 틀을 이해하는 것 등입니다.

회사는 올바른 일을 하고 싶지만, 인공지능과 기계 학습에 대한 전문 지식과 이해를 가진 법률 사무소는 매우 적습니다. 인공지능과 법을 모두 아는 사람들에게는, 고객에게真正한 가치를 제공할 수 있는 흥미로운 시기입니다.

인공지능과 관련된 주요 사회적 우려에 대한 훌륭한 답변에 감사드립니다. 브래드포드 뉴먼에 대해 더 알고 싶은 독자는 여기를 클릭하세요.