AI Now 연구소, 감정 인식 소프트웨어의 오남용과 기타 윤리 문제에 경고

AI Now 연구소는 법률가와 규제 기관에 감정 인식 기술의 사용을 제한할 것을 촉구하는 보고서를 발표했습니다. 이는 중요한 결정이 내려지는 경우, 예를 들어 직원 채용이나 학생 입학에서 감정 인식 기술의 사용을 금지하는 것을 의미합니다. 보고서에는 AI 분야의 다양한 주제에 대한 다른 제안도 포함되어 있습니다.

AI Now 연구소는 뉴욕 대학교에 기반을 둔 연구소로, 사회에 미치는 AI의 영향에 대한 연구를 수행하는 곳입니다. AI Now는 매년 보고서를 발행하여 현재 AI 연구의 상태와 AI의 사용에 따른 윤리적 의미에 대한 자신의 연구 결과를 발표합니다. BBC에 따르면, 올해의 보고서는 알고리즘적 차별, AI 연구의 다양성 부족, 노동 문제 등에 대한 주제를 다루었습니다.

감정 인식, 즉 감정 인식 알고리즘은 빠르게 성장하는 AI 연구 분야입니다. 이 기술을 사용하여 결정하는 사람들은 시스템이 마이크로 표현, 음성 톤, 몸 언어 등과 같은 신호를 분석하여 사람들의 감정 상태에 대한 신뢰할 수 있는 정보를 얻을 수 있다고 주장합니다. AI Now 연구소는 이 기술이 다양한 응용 분야에서 사용되고 있음을 지적합니다. 예를 들어, 누군가를 고용할지 결정하거나, 보험 가격을 설정하거나, 학생들이 수업에 집중하고 있는지 확인하는 데 사용됩니다.

AI Now의 공동 창립자 인 케이트 크로포드(Kate Crawford) 교수는 인간의 감정을 상대적으로 단순한 모델로 정확하게 예측할 수 있다고 믿는 것이 흔하다고 말했습니다. 크로포드는 일부 회사들이 폴 에크만(Paul Ekman)의 연구를 기반으로 소프트웨어를 개발하고 있다고 말했습니다. 에크만은 얼굴에 나타나는 여섯 가지 기본적인 감정 유형이 있다고 가정했습니다. 그러나 크로포드는 에크만의 이론이 도입된 이후의 연구에서는 얼굴 표현이 상황과 문화에 따라 쉽게 변할 수 있으며, 더 큰 변동성이 있다는 것을 발견했다고 말했습니다.

“이 기술들이 도입되는 동안, 많은 연구들이 사람들이 느끼는 감정과 얼굴의 표현 사이에 일관된 관계가 없다는 것을 보여주고 있습니다.” 크로포드가 BBC에 말했습니다.

이러한 이유로 AI Now 연구소는 감정 인식의 많은 부분이 신뢰할 수 없는 이론과 의심스러운 과학에 기반하고 있다고 주장합니다. 따라서 감정 인식 시스템은 더 많은 연구가 수행될 때까지 사용되어서는 안 되며, “정부는 특히 고위 결정 과정에서 감정 인식의 사용을 금지해야 한다”고 주장합니다. AI Now는 특히 고용, 교육, 경찰 등과 같은 민감한 사회적 및 정치적 상황에서 이 기술의 사용을 중단해야 한다고 주장합니다.

감정 인식에 전문적인 AI 개발 회사인 Emteq는 이 기술의 오남용을 방지하기 위한 규제가 필요하다고 동의했습니다. Emteq의 창립자 찰스 은두카(Charles Nduka)는 BBC와의 인터뷰에서 AI 시스템이 다양한 얼굴 표현을 정확하게 인식할 수 있지만, 표현과 감정 사이에 간단한 매핑이 없다고 말했습니다. 은두카는 규제가 연구를 억제할 수 있다는 것을 걱정하며, 규제가 지나치게 엄격해져서 연구를 방해하지는 않도록 주의해야 한다고 말했습니다.

NextWeb에 따르면, AI Now는 앞으로 AI 산업을 이끌어갈 정책과 규범에 대한 몇 가지 다른 제안도 했습니다.

AI Now는 AI 산업이 더 다양하고 포용적인 작업 환경을 조성해야 한다고 강조했습니다. 또한 노동자들은 침해적이고剝削적인 AI에 대한 우려를 표명할 권리가 있어야 합니다. 기술 노동자들은 자신의 노력이 유해하거나 비윤리적인 작업을 생성하는 데 사용되고 있는지에 대해 알 권리가 있습니다.

AI Now는 또한 의료 관련 AI에서 파생된 데이터의 사용에 대한 정보 제공 동의를 요구할 것을 법률가에게 촉구했습니다. 또한 데이터 개인 정보 보호를 더 심각하게 다루고, 공적 및 사적 实체를 모두 다루는 생체 데이터에 대한 개인 정보 보호 법을 설계하기 위해 국가가 노력해야 한다고 조언했습니다.

마지막으로, 연구소는 AI 산업이 더 글로벌하게 생각하고 행동하여, AI의 더 큰 정치적, 사회적, 환경적 결과를 해결하려고 시도해야 한다고 조언했습니다. 지리적 이전과 기후에 대한 AI의 영향에 대한 상당한 노력을 기울이고, 정부는 AI 산업의 기후 영향을 공개적으로 공개해야 한다고 권고했습니다.