윤리

백악관의 AI 시대 권리장전이 미국과 세계에 갖는 의미

Antoine Tardif
Unite.AI를 Google의 선호 소스에 추가
핵심 포인트백악관 AI 권리장전은 구속력이 없으며 미국 정부 정책을 구성하지 않습니다.
더 보기
  • 백악관 AI 권리장전은 구속력이 없으며 미국 정부 정책을 구성하지 않습니다.
  • 설명 가능한 AI는 딥러닝의 블랙박스 문제로 인해 규정 준수에 필수적입니다.
  • 이 법안은 투명성과 공공 보호를 우선시함으로써 중국의 접근 방식과 대조를 이룹니다.

백악관 과학기술정책국(OSTP)은 최근 「AI 시대 권리장전의 청사진: 자동화 시스템이 미국 국민을 위해 일하도록 만들기」라는 백서를 발표했습니다. OSTP가 AI가 이끄는 세계를 위한 권리장전을 개발하는 절차를 시작한다고 발표한 지 1년 만에 나온 틀입니다.

이 권리장전의 서문은 백악관이 AI가 사회에 초래하는 임박한 위협을 이해하고 있음을 보여줍니다. 서문은 다음과 같습니다.

“오늘날 민주주의가 직면한 큰 과제 중 하나는 기술, 데이터, 자동화 시스템이 미국 국민의 권리를 위협하는 방식으로 사용된다는 점입니다. 이러한 도구는 너무 자주 기회를 제한하고 핵심 자원이나 서비스에 대한 접근을 막는 데 쓰입니다. 이 문제들은 충분히 문서화되어 있습니다. 미국과 세계 각지에서 환자 진료를 돕도록 만들어진 시스템이 안전하지 않거나 효과가 없거나 편향된 것으로 드러났습니다. 채용과 신용 결정에 쓰이는 알고리즘은 기존의 바람직하지 않은 불평등을 반영하고 재생산하거나 새롭고 해로운 편향과 차별을 내포하는 것으로 밝혀졌습니다. 통제되지 않는 소셜미디어 데이터 수집은 사람들의 기회를 위협하고 사생활을 침해하거나 활동을 광범위하게 추적하는 데 쓰였으며, 당사자가 알거나 동의하지 않은 경우가 많았습니다.”

이 권리장전과 그 틀이 AI의 미래에 어떤 의미를 가질지는 아직 지켜봐야 합니다. 분명한 것은 새로운 발전이 점점 더 빠른 지수적 속도로 나타난다는 점입니다. 한때 불가능해 보였던 즉각적인 언어 번역은 현실이 되었고, OpenAI와 유명한 플랫폼 GPT-3가 이끄는 자연어 이해(NLU)의 혁명도 진행되고 있습니다.

이후 Stable Diffusion이라는 기술을 통한 즉각적인 이미지 생성을 보게 되었으며, 이 기술은 곧 대중적인 소비자 제품이 될 수 있습니다. 사용자는 상상할 수 있는 어떤 요청이든 입력하고, AI는 마법처럼 그 요청에 맞는 이미지를 생성합니다.

지수적 성장과 수확 가속의 법칙을 고려하면 AI가 일상의 모든 측면을 장악하는 때가 곧 올 것입니다. 이를 이해하고 패러다임 전환을 활용하는 개인과 기업은 이익을 얻을 것입니다. 그러나 사회의 상당수는 AI의 악의적인 결과와 의도하지 않은 결과 모두의 피해자가 될 수 있습니다.

AI 권리장전은 자동화 시스템의 구축, 배포, 관리에서 시민의 권리를 보호하고 민주적 가치를 증진하는 정책과 관행의 개발을 지원하려 합니다. 이것이 중국의 접근법과 어떻게 비교될지는 지켜봐야 하지만, AI 환경을 바꿀 잠재력이 있으며 호주, 캐나다, EU 같은 동맹이 채택할 가능성도 있습니다.

다만 이 AI 권리장전은 구속력이 없고 미국 정부 정책을 구성하지 않습니다. 기존의 법률, 규정, 정책 또는 국제 문서를 대체하거나 수정하거나 그 해석을 지시하지도 않습니다. 따라서 백서의 정책을 따를지는 기업과 정부의 판단에 달려 있습니다.

권리장전은 AI 시대 미국 국민을 보호하기 위해 자동화 시스템의 설계, 사용, 배포를 이끌 다섯 가지 원칙을 제시합니다. 아래에서 이를 설명합니다.

1. 안전하고 효과적인 시스템

남용되는 AI 시스템, 특히 딥러닝에 의존하는 시스템은 사회에 명백하고 현존하는 위험을 안깁니다. 다음 원칙은 이 문제를 다루려는 시도입니다.

“안전하지 않거나 효과가 없는 시스템으로부터 보호받아야 합니다. 자동화 시스템은 다양한 공동체, 이해관계자, 분야별 전문가와 협의하여 우려, 위험, 잠재적 영향을 파악하며 개발해야 합니다. 배포 전 시험, 위험 파악과 완화, 지속적인 모니터링을 거쳐야 하며, 이는 의도한 용도에 따른 안전성과 효과, 의도한 용도 밖의 위험한 결과까지 완화하는지, 분야별 기준을 준수하는지를 입증해야 합니다. 보호 조치에는 시스템을 배포하지 않거나 사용에서 철회할 가능성도 포함되어야 합니다. 본인이나 공동체의 안전을 위협하려는 의도 또는 합리적으로 예측 가능한 가능성을 두고 설계해서는 안 됩니다. 의도하지 않았지만 예측 가능한 사용이나 영향으로 생기는 피해로부터 적극적으로 보호하도록 설계해야 합니다. 시스템 설계·개발·배포에서 부적절하거나 관련 없는 데이터 사용 및 재사용에 따른 누적 피해로부터 보호받아야 합니다. 시스템이 안전하고 효과적임을 확인하는 독립적 평가와 보고를 수행하고, 잠재적 피해를 줄이기 위한 조치도 보고하며, 가능한 경우 결과를 공개해야 합니다.”

2. 알고리즘 차별로부터의 보호

이 정책들은 기업이 개인에게 가하는 남용과 관련해 제대로 거론되지 않는 주요 문제들을 다룹니다.

AI로 직원을 채용할 때 흔한 문제는 딥러닝 시스템이 편향된 데이터로 학습해 채용 결론을 내린다는 것입니다. 과거의 잘못된 채용 관행이 채용 담당자의 성별 또는 인종 차별로 이어질 수 있습니다. 한 연구는 학습 데이터에서 성별 정보를 제거하기가 어렵다는 점을 보여주었습니다.

정부의 편향된 데이터가 낳는 또 다른 핵심 문제는 부당한 수감의 위험이며, 더 나아가 소수집단에 더 긴 형량을 제시하는 범죄 예측 알고리즘도 문제입니다.

“알고리즘의 차별을 받아서는 안 되며 시스템은 공평하게 사용되고 설계되어야 합니다. 알고리즘 차별은 자동화 시스템이 인종, 피부색, 민족, 성별(임신, 출산과 관련 건강 상태, 성 정체성, 인터섹스 상태, 성적 지향 포함), 종교, 나이, 출신 국가, 장애, 재향군인 지위, 유전 정보 또는 다른 법적 보호 분류를 이유로 부당하게 다르게 대우하거나 사람들에게 불리한 영향을 주는 데 기여할 때 발생합니다. 상황에 따라 법적 보호를 위반할 수 있습니다. 설계자, 개발자, 배포자는 개인과 공동체를 보호하고 시스템을 공평하게 사용·설계할 적극적이고 지속적인 조치를 취해야 합니다. 여기에는 설계 단계의 사전 공평성 평가, 대표성 있는 데이터, 인구통계적 특성의 대리변수로부터의 보호, 설계·개발에서 장애인 접근성 확보, 배포 전과 지속적인 격차 시험·완화, 명확한 조직적 감독이 포함되어야 합니다. 격차 시험 결과와 완화 정보를 포함하는 알고리즘 영향 평가 형태의 독립적 평가 및 쉬운 언어의 보고를 수행하고, 가능한 경우 이를 공개하여 보호 조치를 확인해야 합니다.”

미국이 AI에 매우 투명한 접근을 취했다는 점에 주목해야 합니다. 이는 일반 대중을 보호하려는 정책으로, 중국의 AI 접근법과 뚜렷하게 대비됩니다.

3. 데이터 사생활 보호

이 데이터 보호 원칙은 가장 광범위한 인구집단에 영향을 미칠 가능성이 큽니다. 전반부는 특히 인터넷에서의 데이터 수집을 다루는 것으로 보이며, 이는 소셜미디어 플랫폼에서 알려진 문제입니다. 같은 데이터가 광고를 판매하거나, 더 나쁘게는 여론을 조작하고 선거에 영향을 주는 데 쓰일 수 있습니다.

“기본적으로 내장된 보호 조치로 데이터 남용 관행으로부터 보호받아야 하며 본인의 데이터 사용에 결정권을 가져야 합니다. 이러한 보호가 기본값으로 포함되는 설계 선택을 통해 사생활 침해로부터 보호받아야 합니다. 데이터 수집은 합리적 기대에 부합하고 특정 맥락에 꼭 필요한 데이터만 수집해야 합니다. 설계자, 개발자, 배포자는 적절한 방법으로 가능한 최대한 본인의 허락을 구하고 수집·사용·접근·전송·삭제에 관한 결정을 존중해야 합니다. 불가능한 경우 설계 단계에 사생활 보호를 반영하는 대체 조치를 사용해야 합니다. 사용자 선택을 숨기거나 사생활을 침해하는 기본값으로 부담을 주는 사용자 경험과 설계 결정을 사용해서는 안 됩니다. 동의는 적절하고 의미 있게 제공될 수 있을 때만 수집의 근거가 되어야 합니다. 동의 요청은 짧고 쉬운 언어로 이해 가능해야 하며 수집과 구체적 사용 맥락에 결정권을 주어야 합니다. 광범위한 데이터 사용에 관한 현행의 이해하기 어려운 고지·선택 관행은 바뀌어야 합니다.”

데이터 보호 원칙의 후반부는 정부와 기업의 감시를 다루는 것으로 보입니다.

현재 기업은 직원을 감시하고 몰래 추적할 수 있습니다. 일부는 작업장 안전을 개선하기위해서이고, COVID-19 대유행 때는 마스크 착용을 강제하기 위해서였습니다. 그러나 대부분은 업무시간이 어떻게 쓰이는지를 확인하기 위한 것입니다. 많은 직원이 허용할 만한 수준을 넘어 감시와 통제를 받는다고 느낍니다.

“건강, 일, 교육, 형사사법, 금융 등 민감한 영역의 데이터와 추론 및 청소년 관련 데이터에 대한 강화된 보호와 제한은 본인을 최우선으로 해야 합니다. 민감한 영역에서 데이터와 관련 추론은 필요한 기능에만 사용되고 윤리적 검토와 사용 금지로 보호받아야 합니다. 본인과 공동체는 통제되지 않는 감시로부터 자유로워야 합니다. 감시 기술은 배포 전 잠재적 피해 평가와 범위 제한을 최소한 포함하는 강화된 감독을 받아 사생활과 시민적 자유를 보호해야 합니다. 권리, 기회 또는 접근을 제한할 가능성이 있는 감시 기술을 교육, 직장, 주거 또는 다른 맥락에서 지속적 감시·모니터링에 사용해서는 안 됩니다. 가능한 경우 본인의 데이터 결정이 존중되었음을 확인하고 감시 기술이 권리, 기회, 접근에 미칠 잠재적 영향을 평가하는 보고서에 접근할 수 있어야 합니다.”

한편 AI는 사람들의 사생활을 보호하는 데 유익하게 쓰일 수 있습니다.

4. 고지와 설명

이는 기업이 AI 윤리 자문위원회를 설치하고 설명 가능한 AI의 개발을 촉진해야 한다는 행동 촉구가 되어야 합니다. 모델이 실수했을 때 설명 가능한 AI가 필요하며, 작동 원리를 이해하면 문제를 쉽게 진단할 수 있습니다.

설명 가능한 AI는 데이터 사용 방식과 AI 결정 이유를 투명하게 공유할 수도 있게 합니다. 설명 가능한 AI가 없으면 딥러닝의 블랙박스 문제 때문에 이 정책을 준수할 수 없습니다.

이 시스템을 개선하는 기업은 딥러닝 알고리즘이 왜 특정 결정을 내렸는지 그 이면의 미묘한 차이와 복잡성을 이해함으로써도 이익을 얻습니다.

“자동화 시스템이 쓰인다는 사실과 본인에게 영향을 주는 결과에 어떻게, 왜 기여하는지 알아야 합니다. 설계자, 개발자, 배포자는 전반적인 작동과 자동화의 역할을 명확하게 설명하는, 일반적으로 접근 가능한 쉬운 언어의 문서를 제공해야 합니다. 시스템 사용 고지, 책임지는 개인이나 조직, 명확하고 제때 제공되며 접근 가능한 결과 설명도 포함해야 합니다. 고지는 최신으로 유지하고 영향을 받는 사람에게 중요한 사용 사례나 핵심 기능 변경을 알려야 합니다. 시스템이 결과를 결정하는 유일한 입력이 아닌 경우에도 결과가 어떻게, 왜 결정되었는지 알아야 합니다. 본인과 운영자, 시스템을 이해해야 하는 다른 사람에게 기술적으로 타당하고 의미 있으며 유용한 설명을 제공하고 맥락에 따른 위험 수준에 맞춰야 합니다. 시스템의 쉬운 언어 요약과 고지·설명의 명확성 및 품질 평가를 담은 보고서는 가능한 경우 공개해야 합니다.”

5. 인간 대안, 검토와 대체 절차

앞의 대부분 원칙과 달리 이 원칙은 정부기관이나 정부를 대신해 일하는 민영화 기관에 가장 적합합니다.

AI 윤리위원회와 설명 가능한 AI가 있더라도 생명이 걸린 상황에서는 인간의 검토로 돌아가는 것이 중요합니다. 오류 가능성은 늘 있으며 요청에 따라 사람이 사건을 검토하면 AI가 엉뚱한 사람을 감옥에 보내는 상황을 피할 수도 있습니다.

사법·형사 제도는 소외된 사회 구성원에게 회복할 수 없는 피해를 줄 가능성이 가장 크므로 이 원칙에 특히 주목해야 합니다.

“적절한 경우 사용을 거부하고 겪는 문제를 신속하게 검토하고 해결할 사람에게 접근할 수 있어야 합니다. 적절한 경우 자동화 시스템 대신 인간 대안을 선택할 수 있어야 합니다. 적절성은 맥락에 따른 합리적 기대에 바탕을 두고 폭넓은 접근성과 특히 유해한 영향으로부터의 보호에 초점을 맞춰야 합니다. 법률이 인간 또는 다른 대안을 요구할 수도 있습니다. 시스템이 실패하거나 오류를 내거나 영향에 항소·이의를 제기하려는 경우, 대체 절차와 문제 상향 보고를 통해 시기적절한 인간 검토와 구제를 받을 수 있어야 합니다. 인간 검토와 대체 절차는 접근 가능하고 공평하며 효과적이고 유지되어야 하고 적절한 운영자 교육이 따라야 하며 대중에게 부당한 부담을 주어서는 안 됩니다. 형사제도, 고용, 교육, 건강 등을 포함한 민감한 영역의 시스템은 목적에 맞춰지고 실질적 감독 접근을 제공하며 상호작용하는 모든 사람의 교육과 불리하거나 위험이 큰 결정에 대한 인간 검토를 포함해야 합니다. 이러한 인간 관리 절차와 적시성, 접근성, 결과, 효과성 평가를 담은 보고서는 가능한 경우 공개해야 합니다.”

요약

OSTP는 사회에 필요한 안전 절차를 통합하면서도 머신러닝 개발의 진전을 막을 가혹한 정책을 도입하지 않는 틀을 만들려 했다는 점에서 인정받아야 합니다.

원칙을 제시한 뒤 문서는 논의된 문제에 대한 기술적 부록, 각 원칙의 세부 내용과 실행을 위해 나아갈 최선의 방법을 제공합니다.

현명한 사업주와 기업은 이 문서를 연구해야 합니다. 이 정책들을 가능한 한 빨리 적용하는 것은 이익이 될 수 있기 때문입니다.

문서의 다음 인용처럼 설명 가능한 AI의 중요성은 계속 커질 것입니다.

“연방정부 전반에서 기관들은 설명 가능한 AI 시스템을 연구하고 지원하고 있습니다. NIST는 AI 시스템 설명 가능성의 기초 연구를 수행합니다. 다학제 연구팀은 설명 가능한 AI의 핵심 원칙을 실행할 측정 방법과 모범 관행을 개발하려 합니다. 국방고등연구계획국(DARPA)의 설명 가능한 인공지능 프로그램은 높은 학습 성능(예측 정확도)을 유지하면서 더 설명 가능한 모델을 만드는 머신러닝 기법을 개발하고, 인간 사용자가 새로운 세대의 AI 동반자를 이해하고 적절하게 신뢰하며 효과적으로 관리하도록 하는 것이 목표입니다. 국립과학재단의 AI 공정성 프로그램 역시 설명 가능한 AI의 연구 기반에 특별한 관심을 포함합니다.”

결국 여기 제시된 원칙이 새로운 표준이 된다는 점을 간과해서는 안 됩니다.

앙투안은 Unite.AI의 비전 있는 리더이자 창립 파트너로, AI와 로봇공학의 미래를 만들어 가고 발전시키는 데 변함없는 열정을 쏟고 있습니다. 여러 기업을 창업한 그는 AI가 전기만큼 사회를 크게 변화시킬 것이라고 믿으며, 혁신적인 기술과 범용 인공지능(AGI)의 잠재력에 관해 자주 열정적으로 이야기합니다.

미래학자로서 이러한 혁신이 세상을 어떻게 바꿀지 탐구하는 데 전념하고 있습니다. 또한 미래를 새롭게 정의하고 산업 전반을 변화시키는 첨단 기술에 대한 투자에 초점을 맞춘 플랫폼인 Securities.io의 설립자입니다.