기업이 책임감 있고 투명한 AI를 어떻게 만들 수 있는가 – 사상 리더

By Eric Paternoster, Infosys Public Services의 CEO

구글의 모회사 알파벳의 CEO인 순다르 피차이는 AI의 발전에 대해 “불이나 전기보다 더 심오한 것”이라고 묘사했으며, COVID-19는 이 기술의 약속을 실현하는 데 새로운 긴급성을 가져왔습니다. AI의 응용 프로그램은現在 COVID 치료를 개선하고, 잠재적인 COVID 운반자를 추적하며, 소매 웹사이트의 공급이 부족한 사용자를 위한 실시간 채팅봇을 배포하는 등 주목을 받고 있습니다. 이러한 응용 프로그램은 AI가 비즈니스의 회복력과 더 넓은 사회에益을 가져다준다는 것을 보여주었습니다.

따라서 “클라우드 네이티브”와 함께 지난 분과의流行語는 “AI-퍼스트 변환”일 수 있습니다. 이는 산업 실무자들이 COVID-19가 사라진 후에도 사실로 남을 것으로 믿는 용어입니다. 많은 회사들에게 낮은 비용(즉, 수요와 공급을 匹配하는 공급망 알고리즘)의 약속과 생산성의 훌륭한 향상(즉, 은행이 실시간으로 문서 및 신원 확인을 사용할 때)은 너무 좋은 것으로 무시하기 어렵습니다.

왜 AI-퍼스트 변환인가?

AI-퍼스트 변환에서 기업은 AI를 북극성으로 사용하여, 단순히 지능적으로 사용하는 것이 아니라, 사람, 프로세스, 시스템의 결정에 영향을 미치는 방식으로 사용하려고 합니다. 이것은 직원, 파트너, 고객 간의 역동적인 관계를 조직에 조율합니다. 이렇게 하면 기업은 빠르게 전환하여 변화하는 수요를 충족시키면서 장기적인 경쟁 우위를 창출할 수 있습니다.

그러나 모든 기업이 동일한 수준의 AI 성숙도를 가지고 있지는 않습니다. “従来의 AI 그룹” 또는 H1이라고 불리는 일부 기업이 있습니다. 이러한 기업은 经験과 투자가 적으며, 일반적으로 250년 전부터 존재하는 나이브 베이즈나 1995년에 개발된 랜덤 포레스트와 같은 고전적인 알고리즘을 사용하여 기존 시스템 내에서 단편적인 지능을 보완합니다. 이러한 AI의 사용은 엄격하게 규칙 기반이며 매우剛性이며, 발견한 규칙에서 일반화하는 능력이 부족합니다. 그리고 “딥 러닝 그룹” 또는 H2라고 불리는 기업이 있습니다. 이러한 기업은 더 복잡한 AI를 받아들이며, 신경망 기계 번역 및 전사 기반 시스템과 같은 것을 사용하여 대화형 통찰력을 얻습니다. 이러한 시스템은 더 많은 힘을 가지고 있지만, 그들이 하는 일의 이유를 쉽게 설명하지 못합니다. 또한 투명성이 부족합니다. 이러한 두 그룹에서 사용되는 AI는 종종 신뢰할 수 없거나 신뢰할 수 없으며, 정부 기관, 규제 기관, 일반 대중으로부터 부정적인 관심을 끌어들이는 편향된 결정이 될 수 있습니다.

이러한 기업은 현재 AI 구현을 한 단계 더 발전시키기 위해 움직여야 합니다 – AI가 자체 학습 및 생성되는 세 번째 캠프(H3)로. 이 시점에서 AI 시스템은 반감독 또는 무감독입니다. 투명하고 “상식”을 달성하기 위해 멀티태스크 학습을 합니다. 이러한 시스템은 더 풍부한 지능을 제공하고 실시간, 실행 가능한 통찰력을 제공합니다. 이것은 모든 단계에서 해석 가능하고 설명 가능한 잘 관리되고 거버넌스된 AI를 통해 수행됩니다.

더 책임감 있고 투명한 AI로 작업하는 방법

AI는 학교, 작업 공간, 기타 공공 기관을 관리하는 데越益 많이 사용되고 있습니다. 이러한 환경에서 AI가 공정하고 투명한지 여부는 중요합니다. 그러나 사회가 AI의 폭발적인 채택을 처리함에 따라, 규제 기관은 AI 기술의 적절한 개발 및 배포에 대한 지침을 제공하고 있지 않습니다. 따라서 기업에 책임이 있습니다. 더 넓은 기술 산업은 초기의 단편적인 AI 구현을 효율적이고 창의적이며 책임감 있고 투명한 지능형 생태계로 변환하기 위해 재정적 근육과 인적 자본을 투입해야 합니다. 이 공간으로 이동하기 위해 기업은 다음 네 가지 일을 해야 합니다:

• 인간을 루프에 유지: AI 모델은 종종 인간과 독립적으로 작동하도록 설계됩니다. 그러나 많은 경우에 인간 요소는 매우 중요합니다. 인간은 결정과 편향 및 오류를 피해야 합니다. 이러한 오류는 종종 AI 프로젝트를 방해합니다. 사기 탐지 및 법 집행이 관련된 경우 두 가지 사용 사례가 있습니다. 우리는 기업이 AI-퍼스트 여정을 시작하는 데 앞서기 위해 AI 실무자를 천천히 그러나 일관되게 시간이 지남에 따라 고용할 것을 권장합니다.
• 편향된 데이터셋 제거: 편향되지 않은 데이터셋은 신뢰할 수 있고 공정하며 차별이 없는 AI 모델을 만들기 위한 중요한 전제조건입니다. 이러한 중요성을 이해하기 위해, AI는 이력서를 단축하고 은행의 신용 점수를 평가하는 데 사용되고 있으며, 심지어 일부 사법 시스템에도 사용되고 있습니다. 이러한 풍경에서 검사되지 않은 편향은 매우 실제적인 의미를 가집니다.
• 결정이 설명 가능: 이 기능은 많은 주요 뉴스 아웃렛에서 다루어졌으며, 옳습니다. XAI는 AI 시스템이 특정 결정을 내린 이유를 설명합니다. 그것은 깊은 학습 모델의 특징 중 어떤 것이 예측이나 가설을 내리는 데 더 많이 사용되었는지 밝힙니다. 특징의 중요성을 이해하고 결정이 어떻게 도달하는지 정당화하는 것은 자율 주행 자동차 및 의료 생체 검사에 사용되는 컴퓨터 비전과 같은 사용 사례에 중요합니다.
• 결과를 신뢰성 있게 재현: 연구 프로젝트의 일반적인 필요성, AI 모델은 시간이 지남에 따라 예측을 제공할 때 일관성이 있어야 합니다. 이러한 모델은 새로운 데이터가 제공될 때 혼란을 느끼지 않아야 합니다.

이 네 가지 항목은 투명하고 지능형 생태계를 생성하여, “실시간 기업”으로 이동하는 데 도움이 될 것입니다. 여기서 편향되지 않은, 설명 가능한 결정이 실시간에 이루어지며, 전체 기업이 인간이 거버넌스하는 감각 있는 유기체로 작동합니다. 더 많은 정보를 찾으려면 Infosys 지식 연구소 백서를 읽어보십시오.