설명 가능성: 보험 및 은행에서 인공 지능의 다음 전선

Dr. Ori Katz, Analytical Research Scientist, Earnix에서 제공합니다.

과학 소설 작가 아서 클라크는 “충분히 발전한 기술은 마법과 구별할 수 없다”고 주장했습니다. 실제로, 새로운 기계 학습 알고리즘과 같은 고급 기술은 때때로 마법과 비슷합니다. 기계 학습의 진화하는 응용 프로그램, 즉 이미지 분류, 음성 인식, 보험 및 은행 산업에서의 사용은 거의 초월적인 특성을 가지고 있습니다.

많은 회사들은 전통적인 분석 모델을 변경하는 것을 주저합니다. 그리고 그것은 정당한 우려입니다. 마법은 위험합니다. 특히 그것을 잘 이해하지 못할 때 더 위험합니다. 신경망과 트리 앙상블 알고리즘은 “블랙 박스”입니다. 내부 구조가 매우 복잡할 수 있습니다. 同时, 여러 연구 [1]는 신경망과 트리 기반 알고리즘이 경험豊富한 보험 리스크 모델을 능가할 수 있음을 보여주었습니다. 이것은 새로운 알고리즘이 데이터에서 숨겨진 구조를 자동으로 식별할 수 있는 능력 때문입니다. 신경망과 트리 기반 알고리즘의 신비와 유용성은 대조적입니다. 분석 모델의 정확도와 설명 가능성 사이에는 내재된 트레이드오프가 있습니다. 어떻게 하면 모델이 어떻게 결론에 도달하는지 이해할 수 없다면 모델을 신뢰할 수 있을까요? 우리는 그냥 마법에 굴복하고, 우리가 완전히 이해할 수 없는 것을 신뢰하고 통제하는 것을 포기해야 할까요?

관리자와 분석가는 이 트레이드오프에 대해 우려하는 사람들이 유일하지 않습니다. 최근 몇 년 동안, 규제 기관은 이 산업을 모니터링하기 위해魔法의 어두운 면을 조사하기 시작했습니다. 은행과 보험 산업은 많은 аспект에서 규제되고 있습니다. 현재의 규제 트렌드는 예측 모델을 더 잘 이해하는 것입니다. 예를 들어, 유럽의 일반 데이터 보호 규정(GDPR)의 71조는 고객이 자동화된 결정 후에 설명을 얻을 권리를 가지고 있어야 한다고 규정하고 있습니다. 이 요소는 규정의 시작 이후로 매우 논쟁적인 학술 논쟁의 중심에 있습니다.

“블랙 박스” 분석 모델을 설명할 필요성은 설명 가능한 인공 지능(Explainable Artificial Intelligence)이라는 새로운 연구 분야의 등장으로 이어졌습니다. 전문가들은 블랙 박스 안을 들여다보고 마법의 일부를 풀어헤칠 수 있는 도구를 개발하고 있습니다. 연구자들이 개발한 두 가지 유형의 도구는 “전역 설명 가능성” 도구와 “로컬 설명 가능성” 도구입니다. 전자는 모델 예측의 전체를 이해하는 데 도움이 되며, 후자는 특정 예측을 설명하는 데 사용됩니다.

다음 플롯은 로컬 설명 가능성의 예입니다. 그것은 노벨 경제학상 수상자인 로이드 샤플리(Lloyd Shapley)가 여러 플레이어가 동일한 작업에 협력할 때 기여도를 계산하는 게임 이론 방법을 기반으로 합니다. 설명 가능한 인공 지능에서 “플레이어”는 모델의 특성입니다. “작업”은 모델의 예측입니다. 각 특성이 기여하는 값을 설명하는 숫자는 “샤플리 값”이라고 합니다. 최근에 연구자들은 샤플리 값을 빠르게 추정하는 방법을 개발했습니다 [2]. 이것은 예측을 다양한 특성에 공정하게 분배할 수 있도록 합니다.

특정 고객의 갱신 수요 예측을 설명하기 위한 샤플리 값을 사용

이 플롯은 시뮬레이션 데이터를 기반으로 합니다. 자동차 보험 정책 갱신 확률을 예측하는 수요 모델의 결과를 보여줍니다. 이것은 특정 고객에 대한 로컬 설명입니다. 수요 모델은 복잡한 트리 앙상블에 기반하지만, 플롯은 각 특성이 최종 예측에 미치는 별도의 기여도를 보여줍니다. 이 예에서, 모델은 평균 개인이 정책을 갱신할 확률을 0.64로 예측합니다. 그러나 이 특정 고객에게는 예측 확률이 0.72로 훨씬 높습니다. 플롯을 통해 이 차이의 원인을 볼 수 있습니다.

우리는 이 복잡한 모델의 내부 구조를 완전히 이해할 수는 없지만, 샤플리 값은 특정 예측에서 가장 중요한 특성이 무엇인지 보여주므로 일부 마법을 풀어헤칠 수 있습니다. 개별 샤플리 값을 인구 통계적으로 평균하면 모델의 전역 설명 가능성을 얻을 수 있습니다. 다른 인기 있는 설명 가능성 도구에는 “퍼ミュ테이션 특성 중요도”, 로컬에서 적합된 단순 대리 모델, 그리고 반사실적 예제 등이 있습니다 [3].

새로운 설명 가능성 도구는 기계 학습의 진화에서 필요한 다음 단계입니다.它们는 보험 회사와 은행이 기계 학습 모델을 이해하고 신뢰할 수 있도록 하며, 새로운 규제를 준수하고, 고객에게 유용한 정보를 제공할 수 있습니다. 우리는 이제 정확도와 설명 가능성 사이의 트레이드오프를 부분적으로 극복하고, 블랙 박스 특성에 대한 우려가 줄어든 새로운 기계 학습 모델의 이점을 누릴 수 있습니다.

우리 빠르게 디지털화되는 세계에서, 완전히 분석 기반으로 전환하는 것은 보험 회사와 은행의 기준 생존 조건입니다. 이것은 항상 중요했습니다. 그러나 2020년에 우리에게 가져온 불안정한 시장 조건으로 인해 이것은 필수적이 되었습니다. 보험 회사와 은행은 고객에게 더 빠르고 더 잘 서비스를 제공하기 위해 복잡한 새로운 현실을 모델링할 수 있는 더智能한 분석이 필요합니다. 설명 가능성 도구는 보험 회사와 은행이 이를 달성할 수 있도록 합니다. 시간이 지남에 따라, 기계 학습 모델은 더 이상 마법으로 간주되지 않고, 데이터 기반 비즈니스에서 필수적인 도구가 될 것입니다.

출처:

[1] Bärtl, M., & Krummaker, S. (2020). 수출 신용 금융에서 청구 예측: 4가지 기계 학습 기술의 비교. Risks, 8(1), 22.

Noll, A., Salzmann, R., & Wuthrich, M. V. (2020). 프랑스 자동차 제3자 책임 청구 사례 연구. SSRN 3164764에서 사용 가능합니다.

Fauzan, M. A., & Murfi, H. (2018). 보험 청구 예측을 위한 XGBoost의 정확성. Int. J. Adv. Soft Comput. Appl, 10(2).

Weerasinghe, K. P. M. L. P., & Wijegunasekara, M. C. (2016). 자동차 보험 청구 예측을 위한 데이터 마이닝 알고리즘의 비교 연구. European International Journal of Science and Technology, 5(1), 47-54.

[2] Lundberg, S. M., & Lee, S. I. (2017). 모델 예측을 해석하는統一적인 접근법. Advances in neural information processing systems (pp. 4765-4774).

[3] 자세한 내용은こちら를 참조하십시오: https://christophm.github.io/interpretable-ml-book/index.html