AI 모델 및 플랫폼
AI 편향 및 문화적 고정관념: 효과, 제한, 완화
Unite.AI를 Google의 선호 소스에 추가
인공 지능(AI), 특히 생성적 AI는 인간의 인지와 지능을 이해하고 모방하는 능력으로 기대치를 초과하고 있습니다. 그러나 많은 경우에 AI 시스템의 결과 또는 예측은 다양한 유형의 AI 편향, 즉 문화적 및 인종적 편향을 반영할 수 있습니다.
Buzzfeed의 “세계의 바비 인형” 블로그(현재 삭제됨)는 이러한 문화적 편향과 부정확성을 명확하게 보여줍니다. 이러한 ‘바비 인형’은 Midjourney라는 선도적인 AI 이미지 생성기를 사용하여 세계 각지의 바비 인형이 어떻게 보일지 알아보기 위해 생성되었습니다. 이에 대해 나중에 더 자세히 обсужд겠습니다.
하지만 이것은 AI가 “인종차별적”이거나 부정확한 결과를 생산한 첫 번째 경우는 아닙니다. 예를 들어, 2022년 Apple은 애플 워치의 혈중 산소 센서가 색깔 있는 사람들에게 편향된 것으로 고소당했습니다. 또 다른 보고된 경우에는 트위터 사용자들이 트위터의 자동 이미지 자르기 AI가 흑인보다 백인과 여성보다 남성을 선호한다는 것을 발견했습니다. 이러한 경우는 중요한 도전이며, 이를 해결하는 것은 상당히 어렵습니다.
이 기사에서는 AI 편향이 무엇인지, 어떻게 우리 사회에 영향을 미치는지, 그리고 어떻게 전문가들이 편향을 완화하여 문화적 고정관념과 같은 도전을 해결할 수 있는지 간략히 обсужд겠습니다.
AI 편향이란 무엇인가?
AI 편향은 AI 모델이 특정 인구통계에 대해 차별적인 결과를 생산할 때 발생합니다. 여러 유형의 편향이 AI 시스템에 들어가고 부정확한 결과를 생산할 수 있습니다. 이러한 AI 편향 중 일부는 다음과 같습니다:
- 고정관념 편향: 고정관념 편향은 AI 모델의 결과가 특정 인구통계에 대한 고정관념 또는 인식된 개념으로 구성될 때 발생하는 현象입니다.
- 인종 편향: AI에서 인종 편향은 AI 모델의 결과가 특정 민족 또는 인종에 기반하여 개인 또는 그룹에 대해 차별적이고 불공평할 때 발생합니다.
- 문화 편향: 문화 편향은 AI 모델의 결과가 특정 문화를 다른 문화보다 선호할 때 발생합니다.
편향 외에도 다른 문제도 AI 시스템의 결과를 방해할 수 있습니다. 이러한 문제 중 일부는 다음과 같습니다:
- 부정확성: 부정확성은 AI 모델이 생산한 결과가 일관되지 않은 훈련 데이터로 인해 부정확할 때 발생합니다.
- 환각: 환각은 AI 모델이 사실적 데이터에 기반하지 않은 허구적인 결과를 생산할 때 발생합니다.
AI 편향의 사회적 영향
AI 편향의 사회적 영향은 유해할 수 있습니다. 편향된 AI 시스템은 이미 존재하는 사회적 편견을 증폭시키는 부정확한 결과를 생산할 수 있습니다. 이러한 결과는 차별과 권리 침해를 증가시키고, 채용 과정에 영향을 미치고, AI 기술에 대한 신뢰를 저하할 수 있습니다.
또한 편향된 AI 결과는 종종 무고한 개인에게 심각한 결과를 초래할 수 있는 부정확한 예측으로 이어집니다. 예를 들어, 2020년 8월, Robert McDaniel은 시카고 경찰국의 예측형 범죄 알고리즘이 그를 “의심스러운 사람”으로 표시한 결과 범죄 행위의 대상이 되었습니다.
마찬가지로 편향된 의료 AI 시스템은 환자 결과에 급작스러운 영향을 미칠 수 있습니다. 2019년, Science는 미국에서 널리 사용되는 의료 위험 알고리즘이 색깔 있는 사람들에게 편향되어 있음을 발견했으며, 이는 흑인 환자가 높은 위험 관리를 받지 못하게 되었습니다.
세계의 바비 인형
2023년 7월, Buzzfeed는 194개의 AI 생성 바비 인형을 포함한 블로그를 게시했습니다. 이 게시물은 트위터에서 바이럴되었습니다. Buzzfeed는免責 조항을 작성했지만, 이는 사용자들이 인종적 및 문화적 부정확성을 지적하는 것을 막지 못했습니다. 예를 들어, AI 생성 독일 바비 인형은 나치 SS 장군의 유니폼을 착용하고 있었습니다.
마찬가지로, AI 생성 남수단 바비 인형은 옆에 총을 들고 있는 것으로 나타났으며, 이는 AI 알고리즘에 깊이 뿌리된 편향을 반영합니다.
또한 여러 이미지는 문화적 부정확성을 보여주었습니다. 예를 들어, 카타르 바비 인형은 전통적인 아랍 남성의頭巾인 구트라를 착용하고 있었습니다.
이 블로그 게시물은 문화적 고정관념과 편향으로 인해大量한 비난을 받았습니다. 런던 상호학 학교(LIS)는 이것을 표현적 손상이라고 불렀으며, 이는 품질 기준을 강화하고 AI 감시 기관을 설립하여 방지해야 합니다.
AI 모델의 제한
AI는 많은 산업을 혁신할 수 있습니다. 그러나 앞에서 언급한 시나리오가 확산되면 일반적인 AI 채택이 감소하여 기회를 놓칠 수 있습니다. 이러한 경우는 일반적으로 AI 시스템의重大한 제한으로 인해 발생합니다. 이러한 제한 중 일부는 다음과 같습니다:
- 창의성 부족: AI는 주어진 훈련 데이터에 기반하여 결정할 수만 있으므로 창의적으로 생각하는 능력이 부족하여 창의적인 문제 해결을 방해합니다.
- 맥락적 이해 부족: AI 시스템은 지역의 맥락적 뉴앙스 또는 언어 표현을 이해하는 데 어려움을 겪어 결과에 오류가 발생할 수 있습니다.
- 훈련 편향: AI는 역사적 데이터에 기반하며, 이러한 데이터에는 모든 종류의 차별적 샘플이 포함될 수 있습니다. 훈련 과정에서 모델은 편향된 패턴을 쉽게 학습하여 불공평하고 편향된 결과를 생산할 수 있습니다.
AI 모델의 편향 감소
전문가들은 2026년까지 온라인 콘텐츠의 90%가 합성될 수 있다고 추정합니다. 따라서 생성적 AI 기술의 문제를 신속하게 최소화하는 것이 중요합니다.
AI 모델의 편향을 줄이기 위한 몇 가지 주요 전략이 있습니다. 이러한 전략 중 일부는 다음과 같습니다:
- 데이터 품질 보장: 완전하고 정확하며 깨끗한 데이터를 AI 모델에 입력하면 편향을 줄이고 더 정확한 결과를 생산할 수 있습니다.
- 다양한 데이터셋: AI 시스템에 다양한 데이터셋을 도입하면 편향을 완화할 수 있으며, AI 시스템은 시간이 지남에 따라 더 포용적이 됩니다.
- 피드백 루프: 지속적인 피드백 및 학습 루프를 통해 AI 모델은 결과를 점차 개선할 수 있습니다.
- 증가된 규제: 글로벌 AI 규제는 국경을 초월하여 AI 시스템의 품질을 유지하는 데 중요합니다. 따라서 국제 기구는 AI 표준화를 보장하기 위해 함께 일해야 합니다.
- 책임 있는 AI의 증가: 책임 있는 AI 전략은 AI 편향을 완화하고, 공정성 및 정확성을 AI 시스템에 도입하며, 다양한 사용자 기반을 위해 지속적인 개선을 추구하는 데 기여합니다.
다양한 데이터셋, 윤리적 책임, 공개 의사소통 매체를 도입함으로써 우리는 AI가 전 세계적으로 긍정적인 변화를 일으키는 원천이 될 수 있도록 보장할 수 있습니다.
AI 편향과 인공 지능의 역할에 대해 더 알아보려면 다음 블로그를 읽어보세요.
