사상 리더
AI 기반 시스템의 편향과 공정성 – 금융 범죄 예방

핵심 포인트편향된 AI 시스템은 인종이나 성별 대리 변수를 기반으로 대출을 부당하게 거절할 수 있습니다.
더 보기
- 편향된 AI 시스템은 인종이나 성별 대리 변수를 기반으로 대출을 부당하게 거절할 수 있습니다.
- 차별적인 모델 결과를 방지하기 위해 데이터의 대표성과 출처의 무결성이 중요합니다.
- 준법 감시 책임자는 데이터 과학 팀과 협력하여 책임 있는 AI 배포를 보장해야 합니다.
금융 범죄와의 전쟁에서 가장 큰 도전은 단순히 사기꾼이나 악의적인 행위를 막는 것만이 아닙니다.
최근 출시되는 최신 기술은 자체적인 문제점을 가지고 있으며, 이러한 문제점은 사기꾼을 막는 것뿐만 아니라 규제상 불이익를 피하기 위해 채택 단계에서 고려되어야 합니다. 사기 탐지에서 모델 공정성 및 데이터 편향 문제는 시스템이 특정 집단이나 데이터 범주에 지나친 가중치를 두거나 해당 집단·범주의 대표성이 부족할 때 발생할 수 있습니다. 이론적으로, 예측 모델은 다른 문화권의 성씨를 사기 계정과 잘못 연결하거나, 특정 유형의 금융 활동에 대한 위험을 특정 인구 집단에서 잘못 낮출 수 있습니다.
편향된 AI 시스템은 사람들의 평판에 영향을 줄 수 있는 심각한 위협입니다. 이러한 편향은 이용 가능한 데이터가 연구 대상 인구나 현상을 대표하지 않을 때 발생합니다. 이러한 데이터에는 예측하려는 현상을 적절히 포착하는 변수가 빠져 있습니다. 또는 데이터에는 인간이 생성한 내용이 포함되어 있을 수 있으며, 이 내용에는 문화적·개인적 경험에서 비롯된 특정 집단에 대한 편견이 포함되어 의사 결정을 왜곡할 수 있습니다. 처음에는 데이터가 객관적으로 보일 수 있지만, 데이터는 여전히 인간에 의해 수집되고 분석되므로 편향될 수 있습니다.
AI 시스템의 차별과 불공정성 위험을 해결하는 만능 해법은 없고, 기계 학습 모델의 설계와 사용에서 공정성과 편향 완화 문제를 영구적으로 해결할 방법도 없지만, 이러한 문제는 사회적 및 비즈니스적인 이유로 고려되어야 합니다.
AI에서 올바른 일을 하는 것
AI 기반 시스템의 편향을 해결하는 것은 올바른 일일 뿐 아니라 사업상으로도 현명한 선택이며, 기업 리더에게는 중대한 이해관계가 걸려 있습니다. 편향된 AI 시스템은 금융 기관이 기회, 자원, 정보 또는 서비스의 품질을 불공정하게 할당하도록 유도할 수 있습니다. 또한 이러한 시스템은 시민적 자유를 침해하거나 개인의 안전을 위협할 수 있고, 비하하거나 모욕하는 것으로 받아들여질 경우 개인의 안녕에도 영향을 줄 수 있습니다.
기업은 AI 편향의 영향력과 위험을 이해해야 합니다. 기관이 모르는 사이에 편향된 AI 기반 시스템이 유해한 모델이나 데이터를 사용하여 대출 결정에 인종 또는 성별 편향을 반영할 수 있습니다. 이름이나 성별과 같은 정보는 신청자를 불법적으로 분류하고 식별하는 대리 지표로 사용될 수 있습니다. 편향이 의도적이지 않더라도, 이는 기관을 규제 요구 사항을 준수하지 못하게 하여 특정 그룹의 사람들이대출이나 신용 한도을 불공정하게 거부당하는 위험을 초래합니다.
현재, 조직은 AI 시스템에서 편향을 성공적으로 완화하는 데 필요한 구성 요소를 가지고 있지 않습니다. 그러나 AI가 비즈니스에서 의사 결정을 지원하는 데 점점 더 많이 사용됨에 따라, 조직은 도덕적인 이유뿐 아니라 규제 요구 사항을 준수하고 수익을 늘리기 위해서도 편향을 줄이도록 노력해야 합니다.
“공정성 인식” 문화와 구현
공정성 설계와 구현에 초점을 둔 솔루션은 가장 유익한 결과를 가져올 것입니다. 제공자는 책임 있는 데이터 획득, 처리 및 관리를 알고리즘 공정성의 필수 요소로 여기는 분석 문화를 갖추어야 합니다. 왜냐하면 AI 프로젝트의 결과가 편향된, 손상된 또는 왜곡된 데이터 세트에서 생성되면, 영향을 받는 당사자는 차별적 피해로부터 적절하게 보호되지 않을 수 있습니다.
데이터 과학 팀이 고려해야 할 데이터 공정성의 요소는 다음과 같습니다:
- 대표성: 특정 상황에 따라, 불리하거나 법적으로 보호되는 그룹이 데이터 샘플에 과도하게 대표되거나 대표되지 않을 수 있습니다. 이러한 과소 또는 과대 대표는 훈련된 모델의 결과에서 취약한 당사자를 체계적으로 불리하게 만들 수 있습니다. 이러한 표본 편향을 피하기 위해, 도메인 전문 지식이 데이터와 모델링할 인구 간의 적합성을 평가하는 데 중요합니다. 기술 팀 구성원은 대표성 결함을 수정하기 위한 수정 방법을 제공해야 합니다.
- 목적에 맞는 것과 충분함: 수집된 데이터가 프로젝트의 의도된 목적에 충분한지 이해하는 것이 중요합니다. 불충분한 데이터 세트는 AI 시스템의 의도된 목적에 부합하는 정당한 결과를 도출하기 위해 고려해야 할 특성을 공정하게 반영하지 못할 수 있습니다. 따라서 프로젝트 팀의 기술 및 정책 전문가가 협력하여 데이터 양이 충분하고 목적에 맞는지 결정해야 합니다.
- 소스 무결성 및 측정 정확성: 편향 완화를 위한 첫 번째 단계는 데이터 추출 및 수집 프로세스에서 시작됩니다. 측정의 출처와 도구는 데이터 세트에 차별적 요인을 도입할 수 있습니다. 차별적 피해를 방지하기 위해, 데이터 샘플은 최적의 소스 무결성을 가져야 합니다. 이는 데이터 수집 프로세스가 적절하고 신뢰할 수 있으며, 공정한 측정 출처 및 견고한 데이터 수집 방법을 보장하는 것을 의미합니다.
- 시기성 및 최근성: 데이터 세트에 오래된 데이터가 포함되어 있으면, 기본 데이터 분포의 변경으로 인해 모델의 일반화가 부정적으로 영향을 받을 수 있습니다. 이러한 분포 이동이 사회적 관계 또는 그룹 역학의 변경을 반영한다면, 이는 실제 특성에 대한 모델의 정확성을 손상시키고, AI 시스템에 편향을 도입할 수 있습니다. 차별적 결과를 방지하기 위해, 데이터 세트의 모든 요소의 시기성과 최근성을 면밀히 검토해야 합니다.
- 관련성, 적절성 및 도메인 지식: 적절한 출처와 데이터 유형을 사용하여 강력하고 편향되지 않은 AI 시스템을 구축하는 것이 중요합니다. 인구 분포와 프로젝트의 예측 목표에 대한 탄탄한 도메인 지식은 정의된 문제를 합리적으로 해결하는 데 기여하는 가장 관련성 높은 측정 입력을 선택하는 데 중요합니다. 도메인 전문가가 데이터 과학 팀과 긴밀히 협력하여 최적의 범주와 측정 출처를 결정하는 데 도움이 될 수 있습니다.
AI 기반 시스템은 의사 결정 자동화 프로세스에서 비용 절감을 제공하지만, 금융 기관은 AI를 솔루션으로 고려할 때, 편향된 결정이 발생하지 않도록 주의해야 합니다. 규제 책임자는 데이터 과학 팀과 긴밀히 협력하여 AI 기능이 책임감 있게, 효과적이며, 편향되지 않은지 확인해야 합니다. 책임 있는 AI를 지지하는 전략은 올바른 일이며, 향후 AI 규제 준수를 위한 경로를 제공할 수도 있습니다.












