감정 인식 AI 개발 시 고려해야 할 윤리적 문제

감정 조절을 위한 인공 지능은 기계 학습 분야에서 최근의 기술 발전입니다.虽然 그것은 큰 잠재력을 보여주지만, 윤리적인 문제가 그것의 채택률과 지속 가능성에 영향을 미칠 수 있습니다. 개발자들은 이러한 문제를 극복할 수 있을까요?

감정 인식 AI란 무엇입니까?

감정 인식 AI는一种 기계 학습 모델입니다. 그것은 컴퓨터 비전 기술을 사용하여 얼굴表情을 캡처하고 분석하여 이미지와 비디오에서 기분을 해석합니다. 그러나 그것은 또한 오디오 스니펫에서 음성의 тон을 결정하거나 작성된 텍스트에서 언어의 감정을 평가하기 위해 사용될 수 있습니다.

이러한 알고리즘은 인공 지능 분야에서 매력적인 발전을 나타냅니다. 지금까지 모델은 인간의 감정을 이해할 수 없었습니다. 대규모 언어 모델인 ChatGPT는 감정과 인물을 убед적으로 시뮬레이션할 수 있지만, 그것은 단지 논리적으로 단어를 연결할 수 있을 뿐입니다. 그것은 감정을 느끼지 못하고 감정 지능을 보여주지 않습니다.감정 인식 모델은 감정을 느끼지 못하지만, 그것은 감정을 감지하고 카탈로그할 수 있습니다. 이것은 인공 지능이 곧 진정으로 이해하고 감정을 보여줄 수 있을 것이라는 신호입니다.

감정 인식 AI의 사용 사례

사업가, 교육자, 컨설턴트, 정신 건강 전문가는 감정 인식 AI를 사용할 수 있는 그룹입니다.

사무실에서 위험을 평가하기

인사 팀은 알고리즘을 사용하여 팀원 사이의 이메일 또는 앱 채팅의 감정 분석을 수행할 수 있습니다. 또는它们는 감정 인식 알고리즘을 감시 시스템이나 컴퓨터 비전 시스템에 통합할 수 있습니다. 사용자는 기분을 추적하여 이직률, 번아웃률, 직원 만족도와 같은 지표를 계산할 수 있습니다.

고객 서비스 에이전트를 지원하기

소매 업체는 내부 고객 서비스 에이전트 또는 가상 에이전트를 사용하여 고스트레스 상황을 해결할 수 있습니다. 감정 인식 모델은 소비자가 화가 나면 감정의 변화를 감지하고 조치를 취할 수 있습니다. 이러한 대책은 고객 만족도와 유지率을 개선할 수 있습니다.

학생을 돕기

교육자는 원격 학습자를 위해 이 AI를 사용할 수 있습니다. 한 스타트업은 이미 자신의 도구를 사용하여 학생들의 얼굴 근육 점을 측정하고 속도와 점수를 카탈로그했습니다. 이 방법은 학생들의 기분, 동기, 강점, 약점을 결정합니다. 스타트업의 창립자는 이 소프트웨어를 사용하면 시험에서 10% 더 높은 점수를 얻을 수 있다고 주장합니다.

내부 시장 조사 수행

사업가는 감정 인식 모델을 사용하여 내부 시장 조사를 수행할 수 있습니다. 그것은 대상 고객이 제품, 서비스 또는 마케팅 자료에 어떻게 반응하는지 이해할 수 있습니다. 이를 통해 데이터 기반의 통찰력을 얻을 수 있습니다. 결과적으로, 사업가는 시장 출시 시간을 단축하고 수익을 증가시킬 수 있습니다.

감정 인식 AI의 문제점

연구에 따르면, 정확도는 훈련 데이터에 크게 의존합니다. 한 연구 그룹은 이미지에서 감정을 해석하기 위해 모델을 사용했을 때, 일본 여성 얼굴表情 데이터셋에서 92.05%의 정확도를, 확장된 Cohn-Kanade 데이터셋에서 98.13%의 정확도를 달성했습니다.

92%와 98%의 차이는 미세해 보이지만, 중요합니다. 이는 상당한 결과를 초래할 수 있습니다. 참고로, 데이터 오염률이 0.001%만으로도 모델의 백도어를 설정하거나 의도적으로 오류를 유발할 수 있습니다. 즉, 소수점 아래의 숫자도 중요합니다.

또한, 연구는 유망해 보이지만, 연구는 통제된 환경에서 수행됩니다. 실제 세계에서는 흐릿한 이미지, 가짜 얼굴表情, 나쁨 각도, 미묘한 감정이 더 흔합니다. 즉, AI는 일관되게 수행하지 못할 수 있습니다.

감정 인식 AI의 현재 상태

알고리즘 감정 분석은 텍스트의 음을 긍정적, 중립적, 부정적으로 결정하는 알고리즘을 사용하는 과정입니다. 이 기술은 현대의 감정 인식 모델의 기초입니다. 얼굴 인식 소프트웨어와 같은 유사한 기술도 발전에 기여했습니다.

오늘날의 알고리즘은 주로 행복, 슬픔, 분노, 두려움, 놀람과 같은 단순한 감정을 다양한 정확도로 감지할 수 있습니다. 이러한 얼굴表情은 본능적이고 보편적입니다. 즉, 자연스럽고 전 세계적으로 이해됩니다. 따라서 이러한 감정을 식별하는 알고리즘을 훈련시키는 것은 상대적으로 간단합니다.

또한, 기본적인 얼굴表情은 종종 과장됩니다. 사람들은 화가 나면眉를 찡그리고, 슬프면 얼굴을 찡그리고, 행복하면 미소를 짓고, 놀라면 눈을 크게 뜹니다. 이러한 단순하고 극적인 표정은 쉽게 구별할 수 있습니다. 더 복잡한 감정은 더 어려운 감정을 식별합니다.

이러한 인공 지능의 하위 집합은 주로 연구 및 개발에 남아 있습니다. 아직 복잡한 감정인 그리움, 수치, 슬픔, 질투, 안도, 혼란과 같은 감정을 다루지 못합니다. 언젠가 다룰 수 있게 될지 모르지만, 모든 감정을 해석할 수 있을지는 불분명합니다.

실제로, 알고리즘은 인간과 경쟁할 수 없을지도 모릅니다. 예를 들어, OpenAI의 GPT-4 데이터셋은 약 1 페타바이트입니다. 그러나 인간 뇌의 1 立方 밀리미터에는 약 1.4 페타바이트의 데이터가 있습니다. 신경 과학자들은 아직도 뇌가 감정을 어떻게 인식하는지 완전히 이해하지 못합니다. 따라서 매우 정확한 AI를 구축하는 것은 불가능할 수 있습니다.

이 기술을 감정 인식에 사용하는 것은 선례가 있지만, 이 분야는 여전히 기술적으로 초기 단계에 있습니다. 개념에 대한 연구는 풍부하지만, 대규모 배포의 실제 예는 거의 없습니다. 일부 징후는 채택이 느려지는 이유가 정확성과 윤리적인 문제 때문일 수 있습니다.

개발자에게 고려해야 할 윤리적 문제

한 설문조사에 따르면, 67%의 응답자가 인공 지능이 더 많이 규제되어야 한다고 생각합니다. 사람들의 마음을 편하게 하기 위해, 개발자는 편향을 최소화하고, 모델이 예상대로 작동하도록 해야 합니다. 이러한 해결책은 개발 중에 윤리적인 고려를 우선시할 때 가능합니다.

1. 동의된 데이터 수집 및 사용

동의는 인공 지능 규제가 증가하는 시대에 모든 것입니다. 직원이 자신의 얼굴表情이 모르는 사이에 카탈로그되는 것을 발견한다면 어떻게 될까요? 교육 기반 감정 분석에 대한 부모의 동의가 필요한가요, 아니면 학생들이 스스로 결정할 수 있나요?

개발자는 모델이 수집할 정보, 작동 시간, 분석 결과의 사용, 접근 권한을 명확하게 공개해야 합니다. 또한, 개인이 권한을 사용자 지정할 수 있도록 옵트아웃 기능을 포함해야 합니다.

2.匿名화된 감정 분석 출력

데이터匿名화는 개인 정보 보호 문제이기도 합니다. 개발자는 수집한 감정 정보를匿名화하여 개인을 보호해야 합니다. 최소한, 저장 중인 암호화를 강력히 고려해야 합니다.

3. 인간 중심의 의사 결정

감정 상태를 결정하기 위해 인공 지능을 사용하는 유일한 이유는 의사 결정에 정보를 제공하는 것입니다. 따라서, 그것이 정신 건강 또는 소매 환경에서 사용되든, 그것은 사람에게 영향을 미칠 것입니다. 개발자는 예기치 않은 행동을 최소화하기 위해 인간 중심의 안전 장치를 사용해야 합니다.

4. 인공 지능 출력에 대한 인간 중심의 피드백

알고리즘이 거의 100%의 정확도를 가지더라도, 여전히 오류가 발생할 수 있습니다. 모델이 50% 또는 70%의 정확도를 달성하는 경우가 흔한데, 편향이나 환각 문제는 고려하지 않습니다. 개발자는 피드백 시스템을 구현하는 것을 고려해야 합니다.

사람들은 인공 지능이 자신의 감정 상태에 대해 무엇이라고 하는지 검토하고, 그것을 거짓이라고 믿으면 항의할 수 있어야 합니다. 이러한 시스템은 가드레일과 책임성 조치를 필요로 할 것입니다. 그러나, 그것은 부정확한 출력으로 인한 부정적인 영향을 최소화할 것입니다.

윤리를 무시하는 결과

윤리적인 고려는 인공 지능 엔지니어, 기계 학습 개발자, 사업주에게 우선순위가 되어야 합니다. 왜냐하면 그것은 그들에게 영향을 미치고, 공공의 의견이 점점 더 불안정해지고, 규제가 강화되고 있기 때문입니다. 윤리를 무시하는 결과는 상당할 수 있습니다.