AI 기반 시스템의 편향과 공정성 – 금융 범죄 예방

금융 범죄와의 전쟁에서 가장 큰 도전은 단순히 사기꾼이나 악의적인 행위를 막는 것만이 아닙니다.

최근 출시되는 최신 기술은 자체적인 문제점을 가지고 있으며, 이러한 문제점은 사기꾼을 막는 것뿐만 아니라 규제적 hậu果를 피하기 위해 채택 단계에서 고려되어야 합니다. 사기 탐지에서 모델의 공정성과 데이터 편향은 시스템이 특정 그룹이나 범주에 대한 데이터가 과도하게 중복되거나 대표되지 않을 때 발생할 수 있습니다. 이론적으로, 예측 모델은 다른 문화의 성을 가지는 계정과 사기성 계정을 잘못 연관시킬 수 있거나, 특정 유형의 금융 활동에 대한 위험을 특정 인구 집단에서 잘못 낮출 수 있습니다.

편향된 AI 시스템은 대표적인 위협이 될 수 있으며, 이는 데이터가 인구나 현상을 대표하지 않을 때 발생합니다. 이러한 데이터에는 우리가 예측하고자 하는 현상을 적절하게 포착하지 못하는 변수가 포함되어 있습니다. 또는 데이터에는 인간이 생성한 내용이 포함되어 있을 수 있으며, 이는 문화적 및 개인적 경험에 의해 편향될 수 있습니다. 처음에는 데이터가 객관적으로 보일 수 있지만, 데이터는 여전히 인간에 의해 수집되고 분석되므로 편향될 수 있습니다.

AI 시스템과 기계 학습 모델에서 편향과 불공정성의 위험을 완전히 제거하는 방법은 없지만, 이러한 문제는 사회적 및 비즈니스적인 이유로 고려되어야 합니다.

AI에서 올바른 일을 하는 것

AI 기반 시스템에서 편향을 해결하는 것은 비즈니스 리더들에게 높은 위험을 가지고 있으며, 이는 단순히 올바른 일이 아니라, 지능적인 일입니다. 편향된 AI 시스템은 금융 기관이 기회, 자원, 정보 또는 서비스의 품질을 불공정하게 할당하도록 유도할 수 있습니다. 또한 이러한 시스템은 민감한 정보를 침해하거나 개인의 안전을 위협하거나, 개인의 복지를 손상시키는 것으로 인식될 수 있습니다.

기업은 AI 편향의 위험을 이해해야 합니다. 종종 기관은不知적으로 편향된 모델이나 데이터를 사용하여貸款 결정에 인종이나 성별 편향을 노출할 수 있습니다. 이름이나 성별과 같은 정보는 불법적인 방법으로申请자를 분류하고 식별하는 데 사용될 수 있습니다. 편향이 의도적이지 않더라도, 이는 기관을 규제 요구 사항을 준수하지 못하게 하여 특정 그룹의 사람들이貸款이나 신용을 불공정하게 거부당하는 위험을 초래합니다.

현재, 조직은 AI 시스템에서 편향을 완전히 제거하는 데 필요한 구성 요소를 가지고 있지 않습니다. 그러나 AI가 비즈니스에서 의사 결정 자동화 프로세스를 정보로 제공하는 데越來越 많이 사용됨에 따라, 조직은 편향을 줄이고, 규제 요구 사항을 준수하며, 수입을 창출하기 위해 노력해야 합니다.

“공정성 인식” 문화와 구현

공정성 설계와 구현에 초점을 둔 솔루션은 가장 유익한 결과를 가져올 것입니다. 제공자는 책임 있는 데이터 수집, 처리 및 관리를 알고리즘 공정성의 필수 구성 요소로 간주해야 합니다. 왜냐하면 AI 프로젝트의 결과가 편향된, 손상된 또는 왜곡된 데이터 세트에서 생성되면, 영향을 받는 당사자는 차별적 피해로부터 적절하게 보호되지 않을 수 있습니다.

데이터 과학 팀이 고려해야 할 데이터 공정성의 요소는 다음과 같습니다:

• 대표성: 특정 상황에 따라, 불리하거나 법적으로 보호되는 그룹이 데이터 샘플에 과도하게 대표되거나 대표되지 않을 수 있습니다. 이러한 샘플링 편향을 피하기 위해, 도메인 전문 지식이 데이터와 모델링할 인구 간의 적합성을 평가하는 데 중요합니다. 기술 팀 구성원은 대표성 결함을 수정하기 위한 수정 방법을 제공해야 합니다.
• 목적에 맞는 것과 충분함: 프로젝트의 목적에 맞는 데이터가 수집되었는지 이해하는 것이 중요합니다. 불충분한 데이터 세트는 의도된 결과를 일관되게 생성하기 위해 고려해야 할 특성을 공정하게 반영하지 못할 수 있습니다. 따라서 프로젝트 팀의 기술 및 정책 전문가가 협력하여 데이터 양이 충분하고 목적에 맞는지 결정해야 합니다.
• 소스 무결성 및 측정 정확성: 편향 완화를 위한 첫 번째 단계는 데이터 추출 및 수집 프로세스에서 시작됩니다. 측정의 출처와 도구는 데이터 세트에 차별적 요인을 도입할 수 있습니다. 차별적 피해를 방지하기 위해, 데이터 샘플은 최적의 소스 무결성을 가져야 합니다. 이는 데이터 수집 프로세스가 적절하고 신뢰할 수 있으며, 편향되지 않은 측정 출처와 데이터 수집 방법을 보장하는 것을 의미합니다.
• 시기성 및 최근성: 데이터 세트에 오래된 데이터가 포함되어 있으면, 기본 데이터 분포의 변경으로 인해 모델의 일반화가 부정적으로 영향을 받을 수 있습니다. 이러한 분포 이동이 사회적 관계 또는 그룹 역학의 변경을 반영한다면, 이는 실제 특성에 대한 모델의 정확성을 손상시키고, AI 시스템에 편향을 도입할 수 있습니다. 차별적 결과를 방지하기 위해, 데이터 세트의 모든 요소의 시기성과 최근성을 면밀히 검토해야 합니다.
• 관련성, 적절성 및 도메인 지식: 적절한 출처와 데이터 유형을 사용하여 강력하고 편향되지 않은 AI 시스템을 구축하는 것이 중요합니다. 인구 분포와 프로젝트의 예측 목표에 대한扎实한 도메인 지식은 해결책을 정의하기 위한 최적의 측정 입력을 선택하는 데 중요합니다. 도메인 전문가가 데이터 과학 팀과 긴밀히 협력하여 최적의 범주와 측정 출처를 결정하는 데 도움이 될 수 있습니다.

AI 기반 시스템은 의사 결정 자동화 프로세스에서 비용 절감을 제공하지만, 금융 기관은 AI를 솔루션으로 고려할 때, 편향된 결정이 발생하지 않도록 주의해야 합니다. 규제 책임자는 데이터 과학 팀과 긴밀히 협력하여 AI 기능이 책임감 있게, 효과적이며, 편향되지 않은지 확인해야 합니다. 책임 있는 AI를 지지하는 전략은 올바른 일이며, 향후 AI 규제 준수를 위한 경로를 제공할 수도 있습니다.