AI의 새로운 투명성 수준 소개 – 사고 지도자

발라크리슈나 D R, 인포시스 서비스 오퍼링 헤드 – 에너지, 커뮤니케이션, 서비스, AI 및 자동화 서비스, 시니어 부사장.

2020년 1월 9일, 세계 보건 기구는 중국에서 코로나바이러스 발병을 알렸다. 3일 전, 미국 질병통제예방센터는 이미 경고를 발령했다. 그러나 캐나다의 건강 모니터링 플랫폼인 BlueDot은 2019년 12월 31일 이미 고객들에게 경고를 보냈다. 이 플랫폼은 외국어 뉴스 보고, 동식물 질병 네트워크, 공식 발표를 분석하는 인공지능 기반 알고리즘을 사용하여 위험 지역을 피하는 경고를 제공한다.

과거 몇 년 동안, 인공지능은 오늘날 빠르게 변화하는 경제에서 변革, 교란, 경쟁 우위를 위한 핵심 원천이 되었다. 전염병 추적, 국방, 의료, 자율 주행 차량 등 모든 분야에서 인공지능이 널리 채택되고 있다. PwC는 인공지능이 2030년까지 글로벌 경제에 최대 15.7조 달러를 기여할 수 있을 것으로 예상한다.

그러나 인공지능이 带来하는 희망과 함께, 투명성과 신뢰성에 대한 미답된 질문도 있다. 인공지능 시스템의 의사 결정 능력을 이해하고 예측하고 신뢰하는 것은 특히 생명, 죽음, 개인 건강과 관련된 분야에서 중요하다.

미지의 세계로

자동화된 推論 시스템이 처음 도입되었을 때,它们는 수동으로 작성된 규칙에 의존했다. 이것은 解釈하고 수정하기 쉽게 만들었지만, 확장성이 없었다. 기계 학습 기반 모델이 등장하여 이러한 필요를 해결했다. 기계 학습 모델은 인간의 개입 없이 데이터에서 학습할 수 있었다. 그러나 딥 러닝 모델은 대부분 블랙박스이기 때문에, 그們의 真実性, 신뢰성, 편향에 대한 의문을 제기한다.

현재, 딥 러닝 모델이 사용하는 推論을 추적하는 직접적인 메커니즘이 없다. 기계 학습 모델은 블랙박스이기 때문에, 설명 가능한 推論은 후속적으로 파생된다. 즉, 모델이 생성한 출력의 특성과 속성에서 설명이 파생된다. 초기에 신경망에서 규칙을 추출하는 시도가 있었지만, 현재는 네트워크가 너무 크고 다양해 규칙 추출이 불가능하다. 따라서 인공지능 모델링에 해석 가능성과 투명성을 도입하는 것이 필요하다.

밤이 지나고 낮이 온다

이 문제는 기계 학습에서 투명성을 필요로 하게 만들었고, 설명 가능한 인공지능(XAI)이 성장하게 되었다. XAI는 인공지능의 의사 결정 능력을 완전히 신뢰할 수 있도록 하는데 필요한 주요 문제를 해결하도록 설계되었다. 이는 편향과 투명성 문제를 포함한다. 이 새로운 인공지능 분야는 인공지능이 社会에益을 가져다줄 수 있도록 책임을 지게 한다.

XAI는 인공지능 시스템과 알고리즘에 내재된 편향을 해결하는 데 중요하다. 이러한 편향은 인공지능을 개발하는 사람들의 배경과 경험에 의해 발생할 수 있다. 예를 들어, 특정 민족이나 인종에 대한 차별이 실수로 발생할 수 있다. 또한, 데이터가 잘못되거나 대표성이 없는 경우에도 편향이 발생할 수 있다.

XAI는 인공지능 시스템의 블랙박스적인 의사 결정 과정을 이해하도록 설계되었다. 그것은 의사 결정에 사용된 단계와 모델을 조사하고 이해하도록 한다. XAI는 다음과 같은 중요한 질문에 답하도록 설계되었다: 인공지능 시스템이 특정 예측이나 의사 결정을 왜 내렸는가? 인공지능 시스템이 다른 행동을 왜 하지 않았는가? 인공지능 시스템이 성공이나 실패를 언제 경험했는가? 인공지능 시스템이 언제 신뢰할 수 있는 의사 결정을 내렸는가?

설명 가능한, 예측 가능한, 추적 가능한 인공지능

인공지능 시스템에서 설명 가능성을 얻는 한 가지 방법은 본질적으로 설명 가능한 기계 학습 알고리즘을 사용하는 것이다. 예를 들어, 의사 결정 트리, 베이즈 분류기, 추적 가능성과 투명성이 있는 다른 알고리즘을 사용할 수 있다. 이러한 알고리즘은 중요한 인공지능 시스템에서 필요한 가시성을 제공할 수 있다.

미국 국방 고등 연구 계획국(DARPA)은 설명 가능한 인공지능 솔루션을 개발하기 위한 연구과제를 지원하고 있다. DARPA는 인공지능 설명 가능성을 세 가지 부분으로 나눈다: 예측 정확성, 의사 결정 이해 및 신뢰, 검사 및 추적 가능성.

추적 가능성은 인간이 인공지능의 의사 결정 루프에 참여하여 필요할 때 중지하거나 제어할 수 있도록 한다. 인공지능 시스템은 특정 작업을 수행하거나 의사 결정을 내리는 것뿐만 아니라, 왜 특정 의사 결정을 내렸는지에 대한 투명한 보고서를 제공해야 한다.

알고리즘 또는 XAI 접근 방식의 표준화는 현재 불가능하다. 그러나 투명성 또는 설명 가능성의 수준을 표준화하는 것은 가능할 수 있다. 표준화 기구는 사용자와 기술 제공업체 간의 의사 소통을 촉진하기 위해 이러한 투명성 수준에 대한 공통된 이해를 도출하려고 한다.

정부, 기관, 기업, 일반 대중이 인공지능 기반 시스템에 의존함에 따라, 의사 결정 과정을 투명하게 함으로써 그들의 신뢰를 얻는 것이 중요하다. 첫 번째 글로벌 콘퍼런스인 국제 공동 인공지능 콘퍼런스: 설명 가능한 인공지능 워크샵의 시작은 XAI 시대가 도래했다는 증거이다.