감정 인식 AI 개발 시 고려해야 할 윤리적 문제들

감정 조절을 위한 인공 지능은 기계 학습 분야의 최신 기술 발전 중 하나입니다.虽然 它 表现 出 很 大 的 潜 力, 但是 伦 理 问 题 可 能 会 影 响 它 的 采 用 率 和寿 命 。能 否 克 服 这 些 问 题 呢？

감정 인식 AI란?

감정 인식 AI는一种 기계 학습 모델입니다. 它 通常 依赖 于 计算 机 视觉 技术, 捕获 并 分析 面 部 表 情 以 解 析 图像 和 视频 中 的 情绪。然而, 它 也 可以 操 作 音频 片段 以 确定 语调 或 写作 文本 以 评估 语言的情绪。

这种 算法 表示 着 人工 智能 领 域 中 的 进 步, 因 为 到 目前 为 止, 模型 尚未 能够 理解 人类的情绪。虽然 大型 语言 模型 像 ChatGPT 可以 模拟 情绪 和 人 物, 但 它们 只能 逻辑 地 连 接 词汇 —— 它们 感受 不 到 任何 东 西, 也 没有 情绪 智 能。虽然 情绪 인식 모델 不 能够 感受 情绪, 但 它 可以 检测 和 目录 化 它们。这种 发 展 很 重 要, 因 为 它 表明 人工 智能 可能 很 快 就 能够真正 地 理解 和 表现 出 快乐, 悲伤 或 愤怒。这种 技术 进 步 表明 加速 发 展。

감정 인식 AI의 사용 사례

사업가, 교육자, 컨설턴트, 정신 건강 전문가 등 여러 그룹이 감정 인식 AI를 사용할 수 있습니다.

사무실에서 위험 평가

인사 팀은 알고리즘을 사용하여 이메일 또는 앱 채팅 사이의 팀원 간의 감정 분석을 수행할 수 있습니다. 또는 mereka 는 감정 인식 모델을 감시 시스템이나 컴퓨터 비전 시스템에 통합할 수 있습니다. 사용자는 기분을 추적하여 이직 위험, 번아웃률, 직원 만족도와 같은 지표를 계산할 수 있습니다.

고객 서비스 에이전트 지원

소매 업체는 내부 고객 서비스 에이전트 또는 가상 에이전트를 사용하여 고スト레스 상황을 해결할 수 있습니다. 감정 인식 모델이 기분을 인식할 수 있으므로 감정 조절 기술이나 고객이 화가 나면 음성을 변경할 수 있습니다. 이러한 대책은 고객 만족도와 유지率을 개선할 수 있습니다.

교실에서 학생们을 도와주는

교육자는 원격 학습자들이 뒤처지는 것을 방지하기 위해 이 AI를 사용할 수 있습니다. 한 스타트업은 이미 도구를 사용하여 학생들의 얼굴 근육 점을 측정하고 속도와 등급을 카탈로그화했습니다. 이 방법은 их 기분, 동기, 강점, 약점을 결정합니다. 스타트업의 설립자는 소프트웨어를 사용하면 시험에서 10% 더 높은 점수를 얻을 수 있다고 주장합니다..

내부 시장 조사 수행

사업가들은 감정 인식 모델을 사용하여 내부 시장 조사를 수행할 수 있습니다. 이는 제품, 서비스 또는 마케팅 자료에 대한 타겟 오디언스의 반응을 정확히 이해하고 데이터 기반의 통찰력을 제공할 수 있습니다. 결과적으로 시간을 절약하고 수익을 증가시킬 수 있습니다.

감정 인식 AI의 문제점

연구에 따르면 정확도는 교육 정보에 크게 의존합니다. 한 연구 그룹은 이미지에서 감정을 해석하기 위해 모델을 사용하여 92.05%의 정확도를 달성했으며, 확장된 Cohn-Kanade 데이터셋에서는 98.13%의 정확도를 달성했습니다.

92%와 98%의 차이는 미세한 것으로 보일 수 있지만 중요합니다. 이는 상당한 결과를 초래할 수 있습니다. 참고로, 0.001%의 데이터 중독률은 모델 백도어를 설정하거나 의도적으로 오류를 유발하는 데 효과적입니다. 즉, 百分 之 一도 중요합니다.

또한, 연구는 유망해 보이지만, 연구는 통제된 환경에서 수행됩니다. 실제 세계에서는模糊한 이미지, 가짜 표정, 나쁨 각도, 미세한 감정 등이 더 흔합니다. 즉, AI는 일관되게 수행하지 못할 수 있습니다.

현재 감정 인식 AI의 상태

알고리즘 감정 분석은 알고리즘을 사용하여 텍스트의 음调이 긍정적, 중립적, 또는 부정적인지 결정하는 과정입니다. 이 기술은 근본적으로 현대의 감정 감지 모델의 기초입니다. 유사한 기술인 얼굴 인식 소프트웨어도 발전에 기여했습니다.

오늘날의 알고리즘은 주로 기쁨, 슬픔, 분노, 두려움, 놀람과 같은 단순한 감정을 다양한 정확도로 감지할 수 있습니다. 이러한 표정은 본능적이고 보편적입니다. 즉, 자연스럽고 전 세계적으로 이해됩니다. 따라서 AI를 이러한 표정을 식별하도록 훈련하는 것은 상대적으로 간단합니다.

또한, 기본적인 표정은 종종 과장됩니다. 사람들은 화가 나면眉毛를 찡그리고, 슬프면 찡그리고, 행복하면 미소 짓고, 놀라면 눈을 크게 뜹니다. 이러한 단순하고 극적인 표정은 쉽게 구별할 수 있습니다. 더 복잡한 감정은 미세하거나 기본적인 표정을 결합하기 때문에 더 어려워서 식별하기 어렵습니다.

이 하위 AI는 대부분 연구 및 개발 단계에 머물러 있으므로, 아직 복잡한 감정인 그리움, 수치, 슬픔, 질투, 안도, 혼란 등을 다루지 못합니다. 언젠가 다루게 될 것입니다. 그러나 모든 감정을 해석할 수 있을지는 보장할 수 없습니다.

실제로, 알고리즘은 인간과 경쟁할 수 없습니다. 예를 들어, OpenAI의 GPT-4 데이터셋은 약 1 페타바이트입니다. 그러나 인간 뇌의 1 立方 밀리미터에는 약 1.4 페타바이트의 데이터가 들어 있습니다. 신경 과학자들은 수십 년의 연구에도 불구하고 뇌가 감정을 어떻게 인식하는지 완전히 이해하지 못합니다. 따라서 매우 정확한 AI를 구축하는 것은 불가능할 수 있습니다.

감정 인식에 대한 이 기술의 사용은 선례가 있지만, 이 분야는 여전히 기술적으로 초기 단계에 있습니다. 개념에 대한 연구는 많지만, 대규모 배포의 실제 예는 거의 없습니다. 일부 징후는 부정확성과 윤리적인 문제로 인해 채택이 느려질 수 있습니다.

AI 개발자를 위한 윤리적 고려 사항

ある 설문 조사에 따르면, 67%의 응답자가 AI는 규제되어야 한다고 생각합니다. 사람들의 마음을 편하게 하기 위해 개발자는 편향을 최소화하고, 모델이 예상대로 작동하도록 해야 하며, 결과를 개선해야 합니다. 이러한 솔루션은 개발 중에 윤리적 고려를 우선시할 때 가능합니다.

1. 동의된 데이터 수집 및 사용

동의는 AI 규제가 증가하는 시대에 모든 것입니다. 직원이 자신의 표정을 카탈로그화하는 것을 알게 되면 어떻게 될까요? 교육 기반 감정 분석에 대한 동의는 부모가 서명해야 하거나 학생이自分で 결정할 수 있습니까?

개발자는 모델이 수집할 정보, 작동 시기, 분석이 사용되는 용도,誰が 접근할 수 있는지 등을 명확하게 공개해야 합니다. 또한, 개인이 권한을 사용자 정의할 수 있도록 옵트아웃 기능을 포함해야 합니다.

2. 익명화된 감정 분석 출력

데이터 익명화는 개인 정보 보호 문제와 보안 문제입니다. 개발자는 수집한 감정 정보를 익명화하여 관련 개인을 보호해야 합니다. 최소한, 저장 중 암호화를 사용하는 것을 강력히 고려해야 합니다.

3. 인간-루프-결정-제작

감정 상태를 결정하기 위해 AI를 사용하는 이유는 의사 결정에 대한 정보를 제공하는 것입니다. 정신 건강 또는 소매 환경에서 사용되든, 사람들에게 영향을 미칩니다. 개발자는 예기치 못한 행동을 최소화하기 위해 인간-루프-안전 장치를 활용해야 합니다.

4. 인간 중심 피드백을 위한 AI 출력

알고리즘이 거의 100%의 정확도를 가졌더라도, 여전히 잘못된 결과가 발생할 수 있습니다. 모델이 50% 또는 70%의 정확도를 달성하는 것은 편향이나 환각 문제를 고려하지 않은 것입니다. 개발자는 피드백 시스템을 구현하는 것을 고려해야 합니다.

사람들은 AI가 자신의 감정 상태에 대해 말한 것을 검토하고, 그것이 거짓이라고 생각하면 항의할 수 있어야 합니다. 이러한 시스템은 가드레일과 책임성 조치를 요구할 것입니다. 그러나, 부정확한 출력으로 인한 부정적인 영향을 최소화할 것입니다.

윤리를 무시하는 결과

윤리적 고려는 AI 엔지니어, 기계 학습 개발자, 사업주들에게 중요합니다. 왜냐하면, 그것은 그들에게 영향을 미치기 때문입니다. 점점 더 불안정해지는 여론과 규제가 강화되고 있기 때문에, 윤리를 무시하는 결과는 상당할 수 있습니다.