표현적인 부울 공식을 사용하는 설명 가능한 AI

인공지능(AI)과 머신러닝 애플리케이션의 폭발적인 증가는 거의 모든 산업과 삶의 일부로 스며들고 있습니다.

그러나 그 성장은 아이러니 없이 이루어지지 않습니다. AI는 의사 결정 또는 워크플로우를 단순화 및/또는 가속화하기 위해 존재하지만 이를 수행하는 방법론은 종종 매우 복잡합니다. 실제로 일부 "블랙 박스" 기계 학습 알고리즘은 너무 복잡하고 다면적이어서 이를 만든 컴퓨터 과학자들도 간단한 설명을 무시할 수 있습니다.

금융 및 의학 분야와 같은 특정 사용 사례가 업계 모범 사례 또는 AI 솔루션의 내부 작동에 대한 투명한 설명을 요구하는 정부 규정에 의해 정의되는 경우 이는 상당히 문제가 될 수 있습니다. 그리고 이러한 응용 프로그램이 설명 가능성 요구 사항을 충족할 만큼 표현력이 충분하지 않으면 전반적인 효율성에 관계없이 쓸모 없게 될 수 있습니다.

이 문제를 해결하기 위해 저희 팀은 FCAT(Fidelity Center for Applied Technology) — Amazon Quantum Solutions Lab과 협력하여 표현력이 풍부한 부울 공식을 기반으로 XAI(Explainable AI)에 대한 해석 가능한 기계 학습 모델을 제안하고 구현했습니다. 이러한 접근 방식에는 하나 이상의 부울 변수에 적용할 수 있는 연산자가 포함될 수 있으므로 보다 엄격한 규칙 기반 및 트리 기반 접근 방식에 비해 더 높은 표현력을 제공합니다.

당신은 읽을 수 있습니다 전체 종이 이 프로젝트에 대한 포괄적인 세부 정보는 여기를 참조하십시오.

우리의 가설은 의사 결정 트리와 같은 모델이 깊어지고 해석하기 어려울 수 있기 때문에 복잡도는 낮지만 정확도는 높은 표현 규칙을 찾아야 하는 필요성이 해결해야 하는 다루기 힘든 최적화 문제라는 것이었습니다. 또한 이 고급 XAI 접근 방식을 통해 모델을 단순화함으로써 윤리적이고 책임 있는 ML 사용의 맥락에서 중요한 편향을 노출하는 것과 같은 추가 이점을 얻을 수 있습니다. 또한 모델을 유지 관리하고 개선하기가 더 쉽습니다.

우리는 입력 데이터가 분류되는 조정 가능한 복잡성(또는 해석 가능성)이 있는 규칙을 정의하기 때문에 표현적인 부울 공식에 기반한 접근 방식을 제안했습니다. 이러한 수식에는 하나 이상의 부울 변수(예: And 또는 AtLeast)에 적용할 수 있는 연산자가 포함될 수 있으므로 보다 엄격한 규칙 기반 및 트리 기반 방법론에 비해 더 높은 표현력을 제공합니다.

이 문제에는 알고리즘의 성능을 최대화하고 복잡성을 최소화하는 두 가지 경쟁 목표가 있습니다. 따라서 두 가지 최적화 방법 중 하나를 적용하는 일반적인 접근 방식(여러 목표를 하나로 결합하거나 목표 중 하나를 제한하는 것)을 사용하는 대신 공식에 두 가지를 모두 포함하기로 했습니다. 그렇게 함으로써 일반성을 잃지 않고 주로 균형 잡힌 정확도를 전반적인 성능 지표로 사용합니다.

또한 AtLeast와 같은 운영자를 포함함으로써 특정 상태를 나타내는 의학적 증상 목록과 같이 해석하기 쉬운 체크리스트에 대한 필요성을 해결하려는 아이디어에 동기를 부여했습니다. 긍정적인 진단을 위해 최소한의 숫자가 있어야 하는 방식으로 이러한 증상 체크리스트를 사용하여 결정을 내릴 수 있다고 생각할 수 있습니다. 마찬가지로 금융 분야에서 은행은 더 큰 목록에서 특정 수의 요인이 존재하는지 여부에 따라 고객에게 신용을 제공할지 여부를 결정할 수 있습니다.

우리는 XAI 모델을 성공적으로 구현하고 신용, 고객 행동 및 의료 상태에 대한 일부 공개 데이터 세트에서 벤치마킹했습니다. 우리는 우리 모델이 일반적으로 다른 잘 알려진 대안과 경쟁력이 있음을 발견했습니다. 또한 우리는 XAI 모델이 고속 정수 선형 프로그래밍(ILP) 또는 QUBO(Quadratic Unconstrained Binary Optimization)를 해결하기 위한 특수 목적 하드웨어 또는 양자 장치로 잠재적으로 구동될 수 있음을 발견했습니다. QUBO 솔버를 추가하면 반복 횟수가 줄어들어 로컬이 아닌 움직임을 빠르게 제안하여 속도를 높일 수 있습니다.

언급한 바와 같이 부울 공식을 사용하는 설명 가능한 AI 모델은 의료 및 Fidelity의 금융 분야(예: 신용 점수 또는 일부 고객이 제품을 선택한 반면 다른 고객은 선택하지 않은 이유 평가)에서 많은 응용 프로그램을 가질 수 있습니다. 이러한 해석 가능한 규칙을 생성함으로써 제품 개발 또는 개선의 향후 개선과 마케팅 캠페인 최적화로 이어질 수 있는 더 높은 수준의 통찰력을 얻을 수 있습니다.

연구 결과를 바탕으로 우리는 표현적인 부울 공식을 사용하는 Explainable AI가 추가 설명 가능성을 요구하는 사용 사례에 적합하고 바람직하다고 판단했습니다. 또한 양자 컴퓨팅이 계속 발전함에 따라 양자 컴퓨팅 및 기타 특수 목적 하드웨어 가속기를 사용하여 잠재적인 속도 향상을 얻을 수 있는 기회를 예견합니다.

향후 작업은 이러한 분류자를 다른 데이터 세트에 적용하거나, 새로운 연산자를 도입하거나, 이러한 개념을 다른 사용 사례에 적용하는 데 중점을 둘 수 있습니다.