EU 인공 지능법 초안의 실패

유럽 연합의 인공 지능법 초안에 대한 새로운 법적 비판은 4월에 발표된 제안된 규정에 대해 광범위한 비판을 제기하며, 문서의 대부분이 1980년대 소비자 규정에서 거의 적용되지 않는 내용으로 구성되어 있다고 결론지었습니다. 또한 이 규정은 유럽에서 인공 지능 환경을 규제하는 대신 규제를 완화하는 것을 촉진하며, 제안된 규정은 ‘작성된’ 내용이 아닌 ‘실제적인’ 내용이 부족하다고 주장합니다.

연구는 UCL 런던과 네덜란드 니메헌의 라드바우드 대학의 연구자들 간의 협력입니다.

이 연구는 제안된 규정의 구현(의도는 아니지만)에 대한 부정적인 의견을 추가합니다. 예를 들어, 4월에 한 기사에서 규정 초안의 한 기여자가 제안된 지침이 ‘미지근하고, 짧은 시야를 가지고 있으며, 의도적으로 모호하다’고 주장했습니다. 이는 유럽 위원회의 문서를 ‘가짜 윤리’를 주장하는 것으로 특징지었습니다.

조작적인 인공 지능 시스템

이 연구는 인공 지능법이 제안하는 ‘조작적인 시스템’에 대한 제한이 모호하고矛盾된 ‘해석’의 정의로 인해 제한적이라고 주장합니다. ‘[조작적인 시스템에 대한 규제의] 실질적인 효과보다 규제의 수사적 가치에 더 관심이 있는 것처럼 보인다’고 말합니다.

초안 규정은 두 가지 금지된 관행을 제시합니다.

(a) 一个人의 의식 밖에서 잠재적인 기술을 사용하여 사람의 행동을 물리적 또는 심리적으로 해칠 수 있는 인공 지능 시스템을 시장에 내놓거나 사용하는 것;

(b) 특정 사람의 취약점을 이용하여 물리적 또는 심리적으로 해칠 수 있는 인공 지능 시스템을 시장에 내놓거나 사용하는 것;

연구자들은 이러한 제한이 인공 지능 제공업체의 서비스나 소프트웨어가 자신의 목표를 달성하는지 여부를 다루지 않는다고 주장합니다. 또한 초안의 해석 정의는 개인 사용자에게만 국한되어 있으며, 최근 몇 년간 인공 지능 기반 논쟁에서 합리적으로 추론할 수 있는 집단적 또는 사회적 해를 다루지 않는다고 주장합니다.

유럽 연합 소비를 위한 유해한 인공 지능 시스템

인공 지능법은 법 집행 기관에 의한 공공 장소에서 실시간 생체 인식 시스템을 금지하도록 제안합니다. 일부 공공의 회의는 테러 방지, 아동 인신매매, 유럽 체포 영장의 경우 예외를 두고 있습니다. 그러나 연구자들은 이 제안이 생체 인식 시스템을 제공업체가 압제적 정권에 판매하는 것을 방지하지 않는다고 주장합니다.

이 연구는 2020년 앰네스티 국제의 보고서에서 이미 이러한 관행이 역사적으로 드러났음을 지적합니다.

또한 이 연구는 인공 지능법의 ‘실시간’ 생체 인식 시스템의 정의가 임의적이며, 오프라인 분석 시스템을 제외한다고 주장합니다.

또한 이 제안은 법 집행과 관련이 없는 생체 인식 시스템에 대한 제한을 제공하지 않으며, 이는 GDPR에 맡겨져 있다고 주장합니다. 그러나 GDPR 자체는 각 스캔된 사람마다 높은 품질의 개인 동의를 요구하는 것을 효과적으로 불가능하게 만듭니다.

‘조화된 표준’에 대한 규제 아웃소싱

이 연구는 인공 지능법에서 가장 중요한實體는 실제로 초안 규정에서 언급되지 않는다는 점을 주장합니다. CEN(유럽 표준화 위원회)와 CENELEC(유럽 전기 표준화 위원회)은 유럽 표준화 기구(ESO) 중 두 개이며, 유럽 위원회는 인공 지능 서비스 및 배포의 규제 프레임워크를 공식화하기 위해 이러한 기구를 위탁할 수 있습니다.

이것은 인공 지능 생산자가 제안된 규정의 필수 요구 사항을 충족하는 대신 경쟁적인 규정의 표준을 따라갈 수 있음을 의미합니다. 따라서 제공업체는 2024-5년에 시행될 규정을 더 느슨하게 해석할 수 있습니다.

감정 인식 시스템의 허구화

인공 지능법은 감정 인식 및 분류 시스템의 배치를 금지하는 규정을 포함합니다. 이러한 프레임워크는 개인을 식별할 수 없지만, 개인이 무엇을 느끼는지 이해하거나 성별, 민족, 기타 경제적 및 사회적 지표에 따라 분류할 수 있다고 주장합니다.

연구자들은 이 조항이 무의미하다고 주장합니다. 왜냐하면 GDPR는 이미 이러한 시스템의 제공업체가 사용자에게 이러한 시스템의 사용에 대한 명확한 정보를 제공하도록義務화하고 있기 때문입니다.

이 연구는 이 조항이 이미 논박된 기술을 정당화한다고 주장하며, FACS 스타일의 감정 인식 시스템을 초기 산업 시대의 부끄러운 역사와 관련된 근시안적인 접근 방식의 빛에서 특징화합니다.

너무 소박한 제안

연구자들은 인공 지능법의 다른 약점에 대해 논의합니다. 예를 들어, 딥페이크에 대한 규제, 인공 지능 시스템의 탄소 배출에 대한 감독 부족, 규제 감독의 중복, 起訴可能な法的實體의 정의 부족 등입니다.

연구자들은 입법자와 시민 운동가들이 이러한 문제를 해결하기 위해 행동할 것을 촉구합니다.

연구는 인공 지능법이 인공 지능 시스템의 수평적 규제 시스템을 도입하려는 시도를 칭찬합니다. 예를 들어, 위험 평가 수준의 계층 구조를 만들고, 금지 조치를 도입하는 것을 약속하며, 유럽의 정당성을 얻기 위해 제공업체가 기여해야 하는 시스템의 공공 데이터베이스를 제안합니다. 그러나 이러한 요구 사항이 법적 논란을 일으킬 가능성이 높다고 주장합니다.