설명 가능한 AI: 표현 가능한 불 논리 수식 사용

인공 지능(AI)와 기계 학습 응용 프로그램의 폭발은 거의 모든 산업과 삶의 영역에 침투하고 있습니다.

그러나 이러한 성장은 아이러니를 동반하지 않습니다. AI는 의사 결정이나 워크플로우를 단순화하고/가속화하기 위해 존재하지만, 이를 수행하는 방법은 종종 매우 복잡합니다. 실제로 일부 “블랙 박스” 기계 학습 알고리즘은 컴퓨터 과학자들이 생성한 것일지라도 단순한 설명을 어렵게 만드는 정도로 복잡하고 다면적인 경우가 있습니다.

특정 사용 사례(예: 금융 및 의료 분야)에서는 산업 최고의 관행 또는 정부 규정에 따라 AI 솔루션의 내부 작동에 대한 투명한 설명이 요구되는 경우 이는 상당히 문제가 될 수 있습니다. 이러한 애플리케이션이 설명 가능성 요구 사항을 충족할 수 없다면, 전체 효ิภาพ에 관계없이 무용지물이 될 수 있습니다.

이 딜레마를 해결하기 위해 우리 팀은 Fidelity Center for Applied Technology (FCAT)에서 Amazon Quantum Solutions Lab와 협력하여 설명 가능한 AI(XAI)용 해석 가능한 기계 학습 모델을 제안하고 구현했습니다. 이 접근 방식은 하나 이상의 불 논리 변수에 적용할 수 있는 모든 연산자를 포함할 수 있으므로 더 유연한 규칙 기반 및 트리 기반 접근 방식에 비해 더 높은 표현력을 제공합니다.

이 프로젝트에 대한 자세한 내용은 전체 논문을 참조하십시오.

우리의 가설은 의사 결정 트리와 같은 모델이 깊고 해석하기 어려울 수 있으므로 낮은 복잡도와 높은 정확도를 갖는 표현 규칙을 찾는 것은 해결해야 할 난해한 최적화 문제라는 것이었습니다. 또한 이 고급 XAI 접근 방식을 통해 모델을 단순화함으로써 모델을 유지하고 개선하는 데 도움이 되는 편향을 노출하는 것과 같은 추가적인 이점을 얻을 수 있을 것입니다.

우리는 불 논리 수식에 기반한 접근 방식을 제안했습니다. 이러한 수식은 입력 데이터를 분류하는 데 사용되는 규칙을 가변적인 복잡도(또는 해석 가능성)로 정의할 수 있습니다. 이러한 수식은 하나 이상의 불 논리 변수(예: And 또는 AtLeast)에 적용할 수 있는 모든 연산자를 포함할 수 있으므로 더 유연한 규칙 기반 및 트리 기반 방법론에 비해 더 높은 표현력을 제공합니다.

이 문제에는 두 가지 상반되는 목표가 있습니다. 알고리즘의 성능을 최대화하는 동시에 복잡도를 최소화하는 것입니다. 따라서 두 가지 최적화 방법 중 하나를 적용하는 일반적인 접근 방식(다중 목표를 하나로 결합하거나 하나의 목표를 제한하는 것) 대신 두 가지 목표를 모두 포함하기로 결정했습니다. 이를 통해, 일반적으로 말해서, 우리의 전체 성능 지표로 균형 있는 정확도를 주로 사용합니다.

AtLeast와 같은 연산자를 포함함으로써 우리는 매우 해석 가능한 체크리스트(예: 특정 상태를 나타내는 의료 증상 목록)의 필요성을 해결하도록 동기부여되었습니다. 이러한 체크리스트를 사용하여 의사가 최소한의 증상이 존재하는 경우에만 양성 진단을 내리는 방식으로 의사 결정이 이루어질 수 있습니다. 유사하게, 금융에서 은행은 더 큰 목록에서 특정 요소의 존재 여부에 따라 고객에게 신용을 제공하는지 여부를 결정할 수 있습니다.

우리는 성공적으로 XAI 모델을 구현하고 공공 데이터 세트(신용, 고객 행동, 의료 상태)에 대해 벤치마크를 수행했습니다. 우리의 모델은 일반적으로 다른 잘 알려진 대안과 경쟁적임을 발견했습니다. 또한 우리의 XAI 모델은 특수 목적 하드웨어 또는 양자 장치에 의해 구동될 수 있으며 빠른 정수 선형 프로그래밍(ILP) 또는 제약이 없는 이진 최적화(QUBO)를 해결하는 데 사용될 수 있음을 발견했습니다. QUBO 솔버의 추가는 반복 횟수를 줄여서 빠른 제안을 통해 비 지역 이동을 빠르게 합니다.

설명 가능한 AI 모델을 사용하여 불 논리 수식을 사용하는 것은 의료 및 금융(예: 신용 점수 또는 고객이 특정 제품을 선택한 이유) 분야에서 많은 응용 프로그램을 가질 수 있습니다. 이러한 해석 가능한 규칙을 생성함으로써 우리는 향후 제품 개발 또는 개선, 마케팅 캠페인 최적화에 대한 더 높은 수준의 통찰력을 얻을 수 있습니다.

우리의 발견에 기반하여, 설명 가능한 AI를 사용하여 표현 가능한 불 논리 수식을 사용하는 것이 설명 가능성 요구 사항을 충족하는 사용 사례에 적합하고 바람직하다는 것을 결정했습니다. 또한 양자 컴퓨팅이 계속 발전함에 따라 이러한 특수 목적 하드웨어 가속기와 함께 잠재적인 속도 향상을 얻을 수 있는 기회를 예상합니다.

미래의 작업은 이러한 분류기를 다른 데이터 세트에 적용하거나 새로운 연산자를 도입하거나 이러한 개념을 다른 사용 사례에 적용하는 데 중점을 둘 수 있습니다.