์ธ๊ณต์ง๋ฅ
AI Now ์ฐ๊ตฌ์, ๊ฐ์ ๊ฐ์ง ์ํํธ์จ์ด์ ์ค๋จ์ฉ๊ณผ ๊ธฐํ ์ค๋ฆฌ ๋ฌธ์ ์ ๋ํด ๊ฒฝ๊ณ
AI Now 연구소는 법률가와 기타 규제 기관에 감정 감지 기술의 사용을 제한하고, 직원 채용이나 학생 입학과 같은 중요한 결정에 사용되는 경우에는 금지해야 한다고 주장하는 보고서를 발표했다. 또한 보고서에는 AI 분야의 다양한 주제에 대한 여러 제안이 포함되어 있다.
AI Now 연구소는 뉴욕 대학교에 기반을 둔 연구소로, AI의 사회적 영향에 대한 연구를 수행하는 것을 목적으로 한다. AI Now는 매년 보고서를 발행하여 AI 연구의 현황과 AI의 사용에 따른 윤리적 의미에 대한 연구 결과를 발표한다. BBC에 따르면, 올해의 보고서는 알고리즘적 차별, AI 연구의 다양성 부족, 노동 문제와 같은 주제를 다루었다.
감정 인식, 즉 감정 감지 알고리즘은 빠르게 성장하는 AI 연구 분야이다. 이 기술을 사용하여 결정하는 사람들은 미세한 표정과 음성 톤, 몸 언어와 같은 신호를 분석하여 사람들의 감정을 신뢰할 수 있는 정보를 얻을 수 있다고 주장한다. AI Now 연구소는 이 기술이 광범위한 응용 분야에서 사용되고 있으며, 이를 통해 직원 채용, 보험료 결정, 학생의 집중도 모니터링과 같은 결정이 내려진다고 지적한다.
AI Now의 공동 설립자 인 케이트 크로포드(Kate Crawford) 교수는 인간의 감정을 상대적으로 단순한 모델로 정확하게 예측할 수 있다고 믿는 것이 종종 사실이라고 설명했다. 크로포드는 일부 회사들이 폴 에크만(Paul Ekman)의 연구를 기반으로 소프트웨어를 개발하고 있지만, 에크만의 이론이 도입된 이후 연구에서는 얼굴 표정의 다양성이 훨씬 더 크고, 표정은 상황과 문화에 따라 쉽게 변경될 수 있다는 것을 발견했다고 말했다.
“이 기술들이 도입되는 동안 많은 연구들이 사람들이 감정을 느끼고 얼굴 표정 사이에 일관된 관계가 없다는 것을 보여주고 있다”고 크로포드가 BBC에 말했다.
이러한 이유로 AI Now 연구소는 감정 인식의 많은 부분이 신뢰할 수 없는 이론과 의심스러운 과학에 기반하고 있다고 주장한다. 따라서 감정 감지 시스템은 더 많은 연구가 수행될 때까지 배포되어서는 안 되며, “정부는 감정 인식의 사용을 고위험 결정 과정에서 특히 금지해야 한다”고 주장한다. AI Now는 특히 고용, 교육, 경찰과 같은 “민감한 사회적 및 정치적 상황”에서 기술의 사용을 중단해야 한다고 주장한다.
최소한 하나의 감정 인식 기술을 전문으로 하는 AI 개발 회사인 Emteq는 기술의 오남용을 방지하기 위한 규제가 필요하다고 동의했다. Emteq의 창립자 찰스 은두카(Charles Nduka)는 얼굴 표정을 정확하게 인식할 수 있는 AI 시스템이 있지만, 표정과 감정 사이에 간단한 매핑이 없다고 BBC에 설명했다. 은두카는 규제가 연구를 억제할 수 있다는 것을 걱정하면서, “何か가 금지되면, 사람들이 물과 함께 아기를 내버려두지 않도록 주의해야 한다”고 말했다.
NextWeb에 따르면, AI Now는 또한 AI 산업을 이끄는 정책과 규범에 대한 여러 제안을 했다.
AI Now는 AI 산업이 더 다양한 작업 환경을 조성하고, 노동자가 침해적이고剝奪的な AI에 대한 우려를 표명할 권리를 보장해야 한다고 강조했다. 기술 노동자는 또한 자신의 노력이 유해하거나 비윤리적인 작업을 구성하는 데 사용되고 있는지에 대한 권리를 가지고 있어야 한다.
AI Now는 또한 의료 관련 AI에서 파생된 데이터의 사용에 대한 정보 제공 동의를 요구하기 위한 법적 조치를 취해야 한다고 제안했다. 이를 넘어서, 데이터 개인 정보 보호를 더 심각하게 취급해야 하며, 공공 및 사적 实体를 모두 다루는 생체 데이터에 대한 개인 정보 보호 법을 설계해야 한다.
마지막으로, 연구소는 AI 산업이 더全球的に 생각하고 행동해야 하며, 지리적 재배치, 기후와 같은 AI의 더 큰 정치적, 사회적, 생태학적 결과를 해결해야 한다고 조언했다. AI 산업의 기후 영향에 대한重大な 노력을 기울이고, 정부는 AI 산업의 기후 영향을 공개적으로 공개해야 한다고 권고했다.
