๊ท์
EU ์ธ๊ณต ์ง๋ฅ๋ฒ ์ด์์ ์คํจ
EU의 인공 지능법 초안에 대한 새로운 법적 비판은 4월에 공개된 제안된 규정에 대해 광범위한 비판을 제기하며, 문서의 대부분은 1980년대 소비자 규정에서 거의 적용되지 않는 내용으로 구성되어 있다고 결론지었습니다. 또한 이 규정은 유럽에서 인공 지능 환경을 규제하는 것보다 규제를 완화하는 방향으로 나아가고 있으며, 다른 비판 중에서 제안된 규정은 합리적인 의미와 영향이 없는 인공 지능 규제 프레임워크를 제시한다고 주장합니다.
제목은 EU 인공 지능법 초안의 신화이며, UCL 런던과 네덜란드 나이메헌의 라드바우드 대학교의 연구자들 간의 협력입니다.
이 논문은 제안된 규정의 구현(의도가 아닌)에 대한 부정적인 의견이 증가하고 있는 상황에서 추가적인 의견을 제시합니다. 이는 4월에 한 기고자가 제안된 가이드라인이 “미온적이고, 짧은 시야를 가지고 있으며, 고의적으로 모호하다”고 주장했으며, 유럽 위원회의 문서를 “인공 지능 윤리의 위장”이라고 특징지었습니다.
조작적 인공 지능 시스템
새로운 논문은 인공 지능법이 제안하는 ‘조작적 시스템’에 대한 제한은 ‘해석’의 모호하고矛盾된 정의로 인해 제한적이라고 주장합니다. “[진실한 사람들은 유럽 위원회가 실제 효과보다 금지의 수사적 가치에 더 관심이 있을 수 있다고 생각할 수 있습니다.”
제안된 규정은 두 가지 금지된 관행을 제시합니다:
(a) 一个人의 의식 밖에서 잠재적으로 물리적 또는 심리적 피해를 일으킬 수 있는 방식으로 사람의 행동을 물리적으로歪曲시키는 하위 의식 기술을 사용하는 인공 지능 시스템을 시장에 출시하거나 서비스에 제공하거나 사용하는 것;
(b) 나이, 신체 또는 정신적 장애로 인해 특정 그룹의 사람들의 취약점을 이용하여 그룹의 사람들의 행동을 물리적으로歪曲시키는 인공 지능 시스템을 시장에 출시하거나 서비스에 제공하거나 사용하는 것;
연구자들은 이러한 제한이 인공 지능 제공자의 서비스 또는 소프트웨어가 자신의 목표를 달성하는지 여부를 해결하지 않고, 사용자가 ‘해석’을 겪는지 여부만 해결한다고 주장합니다. 또한 초안의 해석 정의는 개인 사용자에 국한되어 있으며, 최근 몇 년간의 인공 지능 기반 논쟁에서 합리적으로 추론할 수 있는 집단적 또는 사회적 해석을 고려하지 않는다고 주장합니다.
논문은 “실제 상황에서 해석은 단일 이벤트가 심각성의 임계값을 초과하지 않아도 누적될 수 있으며, 이는 증명을 어렵게 합니다”라고 관찰합니다.
유해한 인공 지능 시스템 허용, 그러나 EU 소비를 위해 아님
인공 지능법은 공공 장소에서 법 집행 기관에 의한 생체 인식 시스템의 실시간 사용을 금지하도록 제안합니다. 일부 공공의 회의가 제안된 예외를 목표로 하는 반테러, 아동 인신매매, 유럽 체포 영장의 추적으로 향한 것으로 지적된 반면, 연구자들은 또한 공급업체가 반대하는 생체 인식 시스템을 압제적 정권에 판매하는 것을 막을 수 있는 NOTHING이 없다고 지적합니다.
이 논문은 2020년 국제 아멘스티 보고서에서 이미 역사적인 관행으로 밝혀졌다고 지적합니다.
또한 인공 지능법의 ‘실시간’ 생체 인식 시스템에 대한 명세가 임의적이며, 오프라인 분석 시스템, 즉 시위 사건의 비디오 녹화 후 처리를 제외한다고 주장합니다.
또한 제안된 규정은 법 집행과 관련되지 않은 생체 인식 시스템에 대한 제한 메커니즘을 제공하지 않으며, 이는 게으르게 GDPR로 넘겨진다고 지적합니다. 또한 GDPR 자체는 각 스캔된 사람마다 높은 품질의 개인 동의를 요구하는 것을 실제로 이행하기 어렵게 합니다.
이 섹션의 인공 지능법의 단어 또한 연구자들의 비판을 받습니다. 초안은 이러한 시스템의 ‘개인 사용’에 대한 사전 승인이 필요하다고 규정하지만, ‘개인 사용’이란 이 контек스트에서 무엇을 의미하는지 명확하게 규정하지 않습니다. 논문은 논쟁적인 영장이 주제, 목적, 장소와 관련하여 광범위할 수 있다고 지적합니다.
さらに, 초안 규정은 승인된 수와 유형에 대한 투명성 메커니즘을 규정하지 않아 공공의 검토가 문제가 됩니다.
규제의 아웃소싱을 ‘조화된 표준’으로
연구는 인공 지능법에서 가장 중요한实体는 실제로 초안 규정에서 언급되지 않는다는 점을 지적합니다. CEN(유럽 표준화 위원회)와 CENELEC(유럽 전기 표준화 위원회)은 유럽 표준화 기구(ESO) 중 두 개이며, 유럽 위원회는 이들에 의해 조화된 표준을 제정하도록 지시할 수 있습니다. 이러한 표준은 인공 지능 서비스 및 배포의 특정 유형에 대한 규제 프레임워크가 됩니다.
이로 인해 인공 지능 생산자는 제안된 규정을 완화하여 해석할 수 있습니다. 연구자들은 이러한 ‘필수 표준’이 산업 로비 활동을 통해 개입되는 과정에서 상당히 재정의될 가능성이 있다고 주장합니다. 따라서 이상적인 규정은 이러한 마모 과정을 고려하여 높은 윤리 수준과 입법적 명확성을 시작해야 합니다.
감정 인식 시스템의 허구
인공 지능법은 감정 인식 및 분류 시스템의 배치를 금지하는 규정을 포함합니다. 이러한 프레임워크는 개인을 식별할 필요는 없지만, 개인이 무엇을 느끼는지 이해하거나 성별, 민족, 기타 경제적 및 사회적 지표에 따라 분류할 수 있다고 주장합니다.
연구자들은 이 조항이 무의미하다고 주장합니다. GDPR는 이미 이러한 시스템의 제공자가 사용자에게 이러한 시스템의 사용에 대한 명확한 정보를 제공하도록 의무화하고 있습니다. 사용자는 이를 통해 서비스를 사용하지 않거나 이러한 시스템이 존재하는 영역에 들어가지 않음으로써 선택할 수 있습니다.
더욱 중요한 것은, 이 조항이 이미 논박된 기술을 정당화한다는 것입니다. 논문은 FACS 스타일의 감정 인식 시스템을 초기 산업 시대의 사회적 분류를 위한 거의 사만주의적 접근 방식과 함께 부끄러운 역사와 함께 특징지었습니다.
‘감정을 감지하는 사람들은 단순화되고, 의문스러운 분류법을 사용하며, 문화와 컨텍스트에 대한 보편성을 잘못 가정하며, ‘顔의 구조에서 성格 특성을 분석’하는 phrenological 과거로 돌아갈 수 있습니다. 감정 인식 및 생체 인식 분류에 대한 법의 규정은 이러한 위험을 완화하기에 불충분합니다.’
수정된 제안
연구자들은 인공 지능법의 다른 약점에 대해 논의합니다. 인공 지능 시스템의 심층 가짜에 대한 규제, 인공 지능 시스템의 탄소 배출에 대한 감독 부족, 규제 감독의 중복, 起訴 가능한 법적 实体의 불충분한 정의 등이 있습니다.
연구자들은 입법자들과 시민 운동가들이 이러한 문제를 해결하기 위해 행동할 것을 촉구합니다. 또한 연구자들은 자신의 광범위한 규정 해석에도 불구하고, 많은 다른 문제를 생략해야 했으며, 이는 공간의 부족으로 인한 것이라고 주장합니다.
그러나 논문은 인공 지능 시스템의 수평적 규제 시스템을 도입하려는 법의 선구적인 시도를赞扬하며, 많은 ‘합리적인 요소’를 지적합니다. 예를 들어, 위험 평가 수준의 계층 구조를 만들고, 금지 규정을 도입하는 의지를 가지고 있으며, 공급업체가 유럽의 합법성을 얻기 위해 기여해야 하는 공공 데이터베이스를 제안합니다. 그러나 이러한 요소는 법적 논란을 일으킬 가능성이 있습니다.
