백악관의 AI 인권 조례는 미국과 세계에 무엇을 의미하는가

백악관 과학 기술 정책국(OSTP)은 최근 “AI 인권 조례의 청사진: 자동화 시스템을 미국 국민을 위해 작동하게 하는 것”이라는 백서를 발표했다. 이 프레임워크는 OSTP가 “AI 파워 세계를 위한 인권 조례” 개발 프로세스의 시작을 발표한 지 1년 후에 발표되었다.

이 법안의 서문은 백악관이 AI가 사회에 미치는 임박한 위협을 이해하고 있음을 분명히 보여준다. 서문에는 다음과 같이 명시되어 있다.

“민주주의에 대한 오늘날의伟大한 도전 중 하나는 기술, 데이터 및 자동화 시스템을 사용하여 미국 대중의 권리를 위협하는 방식이다. 이러한 도구는 너무 souvent 사용되어 기회를 제한하고 중요한 자원이나 서비스에 대한 접근을 방해한다. 이러한 문제는 잘 문서화되어 있다. 미국과 전 세계에서 환자 치료를 도와주는 시스템은 안전하지 않거나, 효과가 없거나, 편향된 것으로 입증되었다. 고용 및 신용 결정을 위한 알고리즘은 기존의 원치 않는 불균형이나 새로운 유해한 편향 및 차별을 반영하고 재생산하는 것으로 밝혀졌다. 사회 미디어 데이터 수집은 사람들의 기회를 위협하거나, 개인 정보를 침해하거나, 종종 그들의 지식이나 동의 없이 활동을 광범위하게 추적하는 데 사용되었다.”

이 인권 조례와 제안된 프레임워크가 AI의 미래를 위해 무엇을 의미할지는まだ 보이지 않는다. 우리가 알 수 있는 것은 새로운 개발이 빠르게 등장하고 있다는 것이다. 한때 불가능하다고 여겨졌던 즉시 언어 번역은 이제 현실이 되었으며,同時에 오픈AI와 그 유명한 플랫폼 GPT-3를 통해 자연어 이해(NLU) 혁명이 진행되고 있다.

그 이후 우리는 Stable Diffusion이라는 기술을 통해 이미지의 즉시 생성을 보았으며, 이는 곧 주류 소비자 제품이 될 수 있다. 본질적으로 이 기술을 사용하면 사용자가 상상할 수 있는任何 쿼리를 입력할 수 있으며, AI는 쿼리와 일치하는 이미지를 생성한다.

지수적 성장과 가속도 법칙을 고려할 때, 곧 AI가 일상 생활의 모든 측면을 지배할 때가 올 것이다. 이 패러다임 전환을 알고 利用하는 개인과 기업은 이익을 얻을 것이다. 그러나 사회의 큰 부분은 AI의 악의적이고 의도하지 않은 결과의 희생자가 될 수 있다.

AI 인권 조례는 자동화 시스템의 구축, 배치 및 관리에서 시민권을 보호하고 민주적 가치를 촉진하는 정책 및 관행을 지원하기 위한 것이다. 이 법안이 중국의 접근 방식과 비교되는 것은まだ 보이지 않는다. 그러나 이 인권 조례는 AI 풍경을 변화시키는 잠재력을 가지고 있으며, 오스트레일리아, 캐나다, EU와 같은 동맹국에 의해 채택될 가능성이 있다.

그러나 AI 인권 조례는 비강제적이며 미국 정부의 정책을 구성하지 않는다. 기존의 법률, 규정, 정책 또는 국제 기구의 해석을 변경하거나 수정하지 않는다. 이는 기업과 정부가 이 백서에 제시된 정책을 준수할 책임이 있다는 것을 의미한다.

이 법안은 자동화 시스템의 설계, 사용 및 배치에 대한 5가지 원칙을 식별했다. 이 원칙들은 AI 시대에 미국 대중을 보호하기 위해 자동화 시스템의 설계, 사용 및 배치에 대한 지침으로 작용해야 한다. 아래에서 이 5가지 원칙을 설명한다.

1. 안전하고 효과적인 시스템

부정적인 AI 시스템, 특히 深層 학습에 의존하는 시스템에 대한 명백한 현재의 위협이 있다. 이러한 원칙은 이러한 위협을 해결하려고 시도한다.

“당신은 안전하지 않거나 효과적인 시스템으로부터 보호되어야 한다. 자동화 시스템은 다양한 커뮤니티, 이해 관계자 및 분야 전문가와의 협의를 통해 시스템의 문제, 위험 및 잠재적인 영향을 식별하기 위해 개발되어야 한다. 시스템은 배포 전 테스트, 위험 식별 및 완화, 및 지속적인 모니터링을 통해 안전하고 효과적인지 확인해야 한다. 이러한 보호 조치의 결과는 시스템을 배포하지 않거나 사용 중지하는可能性을 포함해야 한다. 자동화 시스템은 당신이나 당신의 커뮤니티의 안전을 위협하거나 위험을 증가시키는 의도 또는 합리적으로 예상 가능한 가능성을 갖지 않아야 한다. 당신은 자동화 시스템의 의도하지 않은 사용 또는 영향으로부터의 피해로부터 보호되어야 한다. 자동화 시스템은 당신에게 불필요하거나 관련 없는 데이터 사용으로부터 보호되어야 한다. 시스템이 안전하고 효과적인지 확인하기 위한 독립적인 평가 및 보고가 수행되어야 하며, 이러한 결과는 공개되어야 한다.”

2. 알고리즘 차별 보호

이 정책은 기업이 개인을 악용하는 문제를 해결한다.

AI 시스템을 사용하여 직원을 고용할 때 일반적인 문제는 深層 학습 시스템이 편향된 데이터를 사용하여 고용 결정을 내린다는 것이다. 이는 과거의 부정적인 고용 관행이 성별 또는 인종 차별로 이어질 수 있다. 한 연구에서는 훈련 데이터를 성별화하는 것이 얼마나 어려운지 보여주었다.

또 다른 핵심 문제는 정부의 편향된 데이터로 인한 잘못된 구금 또는 심지어 더 나쁨은 범죄 예측 알고리즘의 위험이다.

“당신은 알고리즘과 시스템에 의한 차별에 직면하지 않아야 한다. 알고리즘 차별은 자동화 시스템이 법률에 의해 보호되는 분류에 근거하여 사람들을 불리하게 대우하거나 영향을 미치는 경우 발생한다. 이러한 차별은 법률적 보호를 위반할 수 있다. 자동화 시스템의 설계자, 개발자 및 배포자는 개인과 커뮤니티를 알고리즘 차별로부터 보호하기 위한积極的な 조치를 취해야 하며, 시스템을 공정하게 설계하고 사용해야 한다. 이러한 보호에는 시스템 설계의 일부로서 적극적인 평등 평가, 대표적인 데이터의 사용, dân tộc 특징의 프록시에 대한 보호, 장애인 접근성 보장, 배포 전 및 지속적인 불균형 테스트 및 완화, 및 명확한 조직적 감독이 포함된다. 알고리즘 영향 평가를 포함하여 공평성 및 차별 테스트 결과와 완화 정보를 포함하는 평범한 언어 보고서가 수행되어야 하며, 이러한 보호를 확인하기 위해 공개되어야 한다.”

미국은 AI에 대해 매우 투명한 접근 방식을 취하고 있으며, 이는 중국이 취한 접근 방식과는 명확한 대조를 이룬다.

3. 데이터 개인 정보 보호

이 데이터 개인 정보 보호 원칙은 가장 많은 인구에게 영향을 미칠 가능성이 있다. 첫 번째 절은 데이터 수집, 특히 인터넷을 통해 수집된 데이터에 관한 것이다. 이 데이터는 광고를 판매하거나, 더 나쁨은 공공의 감정을 조작하고 선거를左右하는 데 사용될 수 있다.

“당신은 데이터 개인 정보 보호를 악용하는 관행으로부터 보호되어야 한다. 당신은 디자인 선택을 통해 개인 정보 보호를 보장하는 보호가 포함되어야 한다. 데이터 수집은 합리적인 기대에 따라야 하며, 특정 상황에 필요한 데이터만 수집되어야 한다. 자동화 시스템의 설계자, 개발자 및 배포자는 데이터 수집, 사용, 접근, 전송 및 삭제에 대한 당신의 허가를 구해야 하며, 당신의 결정에 따라 데이터를 사용해야 한다. 시스템은 사용자 경험 및 디자인 결정으로 사용자 선택을 모호하게 하거나 개인 정보를 침해하는 기본 설정을 부담하지 않아야 한다. 동의는 데이터 수집을 정당화하는 경우에만 사용되어야 하며, 동의 요청은 간결하고 평범한 언어로 되어야 하며, 데이터 수집 및 사용의 특정 상황에 대한 당신의 통제를 제공해야 한다.”

이 원칙의 두 번째 절은 정부와 기업의 감시와 관련이 있다.

현재 기업은 직원을 감시하고 감시할 수 있으며, 이는 작업장 안전을 개선하거나, COVID-19 팬데믹期间에는 마스크 착용을 강제하기 위한 것일 수 있다. 그러나 대부분의 경우 직원들은 허용되는 것보다 더 많이 감시되고 통제되는 것으로 느낀다.

“민감한 도메인, 건강, 작업, 교육, 형사 사법, 및 금융과 관련된 데이터 및 추론에 대한 강화된 보호 및 제한이 당신을 먼저 고려해야 한다. 민감한 도메인에서 데이터와 관련된 추론은 필요한 기능에만 사용되어야 하며, 당신은 윤리적 검토와 사용 금지에 의해 보호되어야 한다. 당신과 당신의 커뮤니티는 검사되지 않은 감시로부터 자유로워야 하며, 감시 기술은 개인 정보 및 시민의 자유를 보호하기 위한 강화된 감독을 받아야 한다. 지속적인 감시 및 모니터링은 교육, 작업, 주택 또는 다른 상황에서 사용되어서는 안 된다. 언제든지 가능하다면 당신은 데이터 결정이 존중되었음을 확인하는 보고서에 접근할 수 있어야 하며, 감시 기술이 당신의 권리, 기회 또는 접근에 미치는 잠재적인 영향을 평가해야 한다.”

AI는 개인 정보 보호를 보호하기 위해 사용될 수 있다.

4. 통지 및 설명

이것은 기업이 AI 윤리 자문위원회를 배치하고, 설명 가능한 AI의 개발을 가속화할 것을 촉구하는 호출이다. 설명 가능한 AI는 AI 모델이 오류를 발생시킬 경우에 필요하며, AI가 어떻게 작동하는지 이해하면 문제를 쉽게 진단할 수 있다.

설명 가능한 AI는 또한 데이터가 어떻게 사용되는지와 왜 AI가 특정 결정을 내렸는지에 대한 정보를 투명하게 공유하는 데 허용한다. 설명 가능한 AI가 없으면 이러한 정책을 준수하는 것이 불가능하다.

이 시스템을 개선하는 기업은 또한 깊은 학습 알고리즘이 특정 결정을 내린 이유 뒤에 있는 비결과 복잡성을 이해하는 데 긍정적인 이점을 얻을 수 있다.

“당신은 자동화 시스템이 사용되고 있음을 알고, 자동화 시스템이 당신에게 영향을 미치는 결과에 기여하는 방식을 이해해야 한다. 자동화 시스템의 설계자, 개발자 및 배포자는 일반적으로 접근 가능한 평범한 언어 문서를 제공해야 하며, 자동화 시스템의 전체 기능과 자동화가 하는 역할에 대한 명확한 설명을 포함해야 한다. 이러한 문서는 최신 상태로 유지되어야 하며, 시스템에 영향을 받는 사람들은 중요한 사용 사례 또는 주요 기능 변경에 대해 통보되어야 한다. 당신은 자동화 시스템에 의해 결정된 결과를 알고, 자동화 시스템이 결과를 결정하는 데 어떻게 기여하는지 이해해야 한다. 자동화 시스템은 기술적으로 유효하고, 당신에게 의미가 있으며, 시스템을 이해해야 하는 운영자 또는 다른 사람에게 유용한 설명을 제공해야 한다. 이러한 설명은 위험 수준에 따라 조정되어야 한다. 자동화 시스템에 대한 요약 정보를 포함하는 보고서가 수행되어야 하며, 이러한 자동화 시스템의 명확성 및 품질에 대한 평가가 포함되어야 한다.”

5. 인간 대안, 고려, 및 대체

이 원칙은 대부분 정부 기관 또는 정부를 대신하여 일하는 민간 기관에 적용된다.

AI 윤리 委員會와 설명 가능한 AI가 있더라도, 생명이 걸린 경우에는 인간의 검토에 의존하는 것이 중요하다. 오류의 가능성이 항상 있으며, 요청에 따라 인간이 사례를 검토할 수 있다면, 예를 들어 AI가 잘못된 사람을 감옥에 보내는 것을 피할 수 있다.

사법 및 형사 시스템은 사회의 약자에게 가장 큰 피해를 줄 수 있으므로 이 원칙에特別한 주의를 기울여야 한다.

“당신은 적절한 경우에 자동화 시스템을 선택적으로 사용하지 않으며, 문제를 신속하게 고려하고 해결할 수 있는 사람에게 접근할 수 있어야 한다. 당신은 자동화 시스템을 인간 대안으로 대체할 수 있어야 한다. 적절성은 특정 상황에서 합리적인 기대에 따라 결정되어야 하며, 광범위한 접근성을 보장하고 공중을 특히 유해한 영향으로부터 보호하는 데 중점을 두어야 한다. 일부 경우에는 법률에 의해 인간 또는 다른 대안이 필요할 수 있다. 당신은 자동화 시스템이 실패하거나, 오류를 발생시키거나, 당신이 영향을 받는 경우에 대한 적절한 문제 해결 및 에스컬레이션 프로세스에 대한 인간적인 고려와 접근을 가져야 한다. 인간적인 고려와 대체는 접근 가능하고, 공정하고, 효과적이며, 유지되어야 하며, 적절한 운영자 훈련을 동반해야 하며, 공중에게 부당한 부담을 가하지 않아야 한다. 민감한 도메인, 형사 사법, 고용, 교육, 건강과 같은 자동화 시스템은 목적에 맞게 설계되어야 하며, 의미 있는 감독에 대한 접근을 제공해야 하며, 시스템과 상호 작용하는 사람들을 위한 훈련을 포함해야 하며, 부정적인 결정에 대한 인간적인 고려를 포함해야 한다. 이러한 인간적인 거버넌스 프로세스에 대한 설명과 접근성, 결과, 효과에 대한 평가를 포함하는 보고서가 공개되어야 한다.”

요약

OSTP는 사회에 필요한 안전 프로토콜을 도입하면서도 기계 학습 개발의 진행을 방해할 수 있는 강력한 정책을 도입하지 않으려는 시도를 인정받아야 한다.

이 원칙이 설명된 후, 법안은 논의된 문제에 대한 기술적 보완 및 각 원칙과 이러한 원칙을 구현하기 위한 최선의 방법에 대한 자세한 정보를 제공한다.

지능적인 사업주와 기업은 이 법안을 연구해야 하며, 이러한 정책을 가능한 한 빨리 구현하는 것은 유리할 것이다.

설명 가능한 AI는 계속해서 중요성을 가지며, 법안에서 볼 수 있다.

“전체 연방 정부에서 기관들은 설명 가능한 AI 시스템에 대한 연구를 수행하고 지원하고 있다. NIST는 AI 시스템의 설명 가능성에 대한 근본적인 연구를 수행하고 있다. 다학제적인 연구 팀은 설명 가능한 AI의 핵심 원칙을 지원하기 위한 측정 방법과 최선의 관행을 개발하기 위해 노력하고 있다. DARPA는 설명 가능한 인공 지능에 대한 프로그램을 가지고 있으며, 높은 학습 성능(예측 정확도)을 유지하면서 더 설명 가능한 모델을 생성하는 기계 학습 기술의 모음인 스위트를 생성하는 것을 목표로 한다. 국립 과학 재단의 공平성에 대한 AI 프로그램에는 설명 가능한 AI에 대한 연구 기초에 대한 특정 관심이 포함된다.”

이 원칙이 언급된 대로 궁극적으로 새로운 표준이 될 것이라는 점은 간과되어서는 안 된다.