구글, 새로운 설명 가능한 AI 프로그램을 만들어서 투명성과 디버깅 가능성을 향상시키다

최근에 구글은 AI 프로그램이 어떻게 결정되는지에 대한 통찰력을 얻는 것을 더 쉽게 만들고 디버깅을 쉽게 만들어 투명성을 높이는 새로운 클라우드 플랫폼을 만들었다고 발표했다. The Register에 따르면, 이 클라우드 플랫폼은 Explainable AI라고 불리며, 구글이 AI 설명 가능성에 투자하는 주요 시도이다.

인공 신경망은 오늘날 사용되는 대부분의 주요 AI 시스템에서 사용된다. 주요 AI 애플리케이션을 실행하는 신경망은 매우 복잡하고 크기가 크며, 시스템의 복잡성이 증가할수록 특정 결정이 시스템에 의해 만들어진 이유를 직관적으로 알기 어려워진다. 구글은 백서에서 설명한 바와 같이, AI 시스템이 더 강력해질수록 더 복잡해지며 디버깅하기가 더 어려워진다. 또한 투명성이 손실되며, 이는 편향된 알고리즘을 인식하고 해결하기가 더 어려워진다.

복잡한 시스템의 동작을 유도하는 이유를 해석하기가 매우 어려운的事実은 종종 심각한 결과를 초래한다. AI 편향을 해결하기가 어려워지는 것 외에도, 실제로 중요한 상관관계와 가짜 상관관계를 구별하기가 매우 어려워진다.

많은 회사와 연구 그룹은 AI의 “블랙 박스” 문제를 해결하고 충분히 설명할 수 있는 시스템을 만들기 위해 노력하고 있다. 구글의 Explainable AI 플랫폼은 이 도전에 대한 구글의 eigenen 시도이다. Explainable AI는 세 가지 도구로 구성되어 있다. 첫 번째 도구는 AI가 선택한 특징을 설명하고 특정 특징이 최종 예측에 미치는 영향 度를 나타내는 속성 점수를 표시한다. 구글의 보고서에서는 예를 들어, 변수와 같은 변수와 현재 온도, 요일, 시작 시간을 기반으로 자전거 타는 시간을 예측하는 경우를 설명한다. 네트워크가 결정한 후, 특징 중 어떤 특징이 예측에 가장 많은 영향을 미쳤는지에 대한 피드백이 제공된다.

이 도구는 이미지 데이터의 경우 어떻게 피드백을 제공하는가? 이 경우, 도구는 결정에 가장 많이 기여한 이미지 영역을 강조하는 오버레이를 생성한다.

도구킷에 있는 또 다른 도구는 “What-If” 도구로, 개별 속성이 조작됨에 따라 모델 성능의 잠재적인 변화를 표시한다. 마지막으로, 마지막 도구는 일정한 간격으로 인간 검토자에게 샘플 결과를 제공하도록 설정할 수 있다.

구글의 AI 및 머신러닝 수석 과학자 인 앤드류 무어 박사는 이 프로젝트의 영감에 대해 설명했다. 무어는 약 5 년 전 학술 커뮤니티가 AI 사용의 유해한 부작용에 대해 우려하기 시작했으며, 구글은 시스템이 윤리적으로 사용되는지 확인하고 싶었다고 말했다. 무어는 건설 노동자가 헬멧을 착용하지 않은 경우 컴퓨터 비전 프로그램을 설계하려고 했지만, 이를 너무 далеко 밀어붙이면 비인간적인 결과가 될 수 있다고 우려했다. 무어는 구글이 일반적인 얼굴 인식 API를 출시하지 않은 이유도 비슷하다고 말했다. 회사는 기술이 어떻게 사용되는지에 대해 더 많은 통제를 하려고 했으며, 윤리적으로 사용되는지 확인하고 싶었다.

무어는 또한 AI의 결정이 설명 가능해야 하는 이유를 강조했다.

“안전에 중요한 시스템이나 사회적으로 중요한 시스템이 있으며, 모델이 실수를 한 경우에는 그 것을 진단할 수 있어야 한다. 우리는 설명 가능성에 대해 무엇을 할 수 있고 무엇을 할 수 없는지에 대해 주의 깊게 설명하고 싶다. 이것은 만병통치약이 아니다.