기업이 책임감 있고 투명한 AI를 만들 수 있는 방법 – 사상가

에릭 패터노스터(Eric Paternoster), 인포시스 퍼블릭 서비스즈(Infosys Public Services) CEO에 의해 작성됨

구글의 모회사 알파벳의 CEO인 순다르 피차이(Sundar Pichai)는 AI의 발전을 “불이나 전기보다 더 심오한” 것으로 묘사했으며, COVID-19는 이 기술의 약속을 실현하는 데 새로운 긴급성을 가져왔습니다. AI의 응용 프로그램은 현재 명확하게COVID-19 치료를 개선하고, 잠재적인 COVID-19 보균자를 추적하며, 재고가 부족한 소비자에게 실시간 채팅봇을 배포하는 등 명확하게 조명되고 있습니다. 이러한 응용 프로그램은 AI가 비즈니스와 더 широк은 사회의 회복力を 높인다는 것을 보여주었습니다.

따라서 “클라우드 네이티브”와 함께 지난 분기의 버즈워드는 “AI-퍼스트 변환”일 수 있으며, 이는 산업 현장에서 믿을 수 있는 것으로 간주되는 용어로, COVID-19가 사라진 후에도 사실로 남을 것입니다. 많은 회사에서는 비용을 줄이고(즉, 공급과 수요를 일치시키는 공급망 알고리즘) 생산성을 크게 높이는 약속(즉, 은행이 실시간으로 문서와 身分 확인을 사용할 때)이 너무 좋은 것으로 간주됩니다.

왜 AI-퍼스트 변환인가?

AI-퍼스트 변환에서 기업은 AI를 북극성으로 사용하여 inteligently 사용하는 것뿐만 아니라 사람들이 결정하는 과정과 시스템에 영향을 미치는 방식으로 사용하려고 노력합니다. 이는 직원, 파트너, 고객 간의 역동적인 관계를 조정합니다. 이는 기업이 빠르게 변하는 수요에 대응하고 장기적인 경쟁 우위를 창출하는 데 도움이 됩니다.

그러나 모든 회사들이 동일한 수준의 AI 성숙도를 갖고 있지는 않습니다. “클래식 AI 그룹”이라고 불리는 회사들이 있습니다. 이러한 회사들은 일반적으로 250년 전부터 존재하는 나이브 베이즈나 1995년에 개발된 랜덤 포레스트와 같은 고전적인 알고리즘을 사용하여 기존 시스템 내에서 지능을 강화합니다. 이러한 AI의 사용은 엄격하게 규칙 기반으로剛性가 있으며, 발견한 규칙에서 일반화할 수 없습니다. “딥 러닝 그룹”이라고 불리는 회사들도 있습니다. 이러한 회사들은 더 복잡한 AI를 사용하여 대화형 통찰력을 얻는 네트워크 기계 번역과 전사 기반 시스템을 사용합니다. 이러한 시스템은 더 강력하지만 쉽게 설명할 수 없습니다. 또한 투명하지 않습니다. 이러한 두 그룹에서 사용되는 AI는 종종 신뢰할 수 없으며 안정적이지 않으며 편향된 결정을 내릴 수 있습니다. 이러한 결정을 내릴 경우 정부, 규제 기관, 일반 대중으로부터 부정적인 반응을 받을 수 있습니다.

이러한 회사들은 현재 AI 구현을 다음 단계로 이동해야 합니다. 즉, AI가 자체적으로 학습하고 생성할 수 있는 세 번째 캠프(H3)로 이동합니다. 이 지점에서 AI 시스템은 반감독 또는 무감독 학습을 수행합니다. 투명하고 “상식”을 얻는 다중 태스크 학습을 달성합니다. 이러한 시스템은 더 풍부한 지능을 제공하고 실시간으로 행동할 수 있는 통찰력을 제공합니다. 이는 모든 단계에서 해석 가능하고 설명 가능한 잘 관리되고 거버넌스된 AI를 통해 달성됩니다.

더 책임감 있고 투명한 AI로 나아가기 위한 방법

AI는 점점 더 학교, 작업 공간, 기타 공공 기관을 관리하는 데 사용되고 있습니다. 이러한 환경에서 AI가 공정하고 투명한지 확인하는 것이 더 중요해졌습니다. 그러나 AI를 채택하는 폭발적인 속도와 함께, 규제 기관은 적절한 AI 기술의 개발과 배포에 대한 지침을 제공하지 못하고 있습니다. 따라서 회사들은 주도적인 역할을 맡아야 합니다. 기술 산업 전체는 초기의 단편적인 AI 구현을 효율적이고 창의적이며 책임감 있고 투명한 지능형 생태계로 변환하기 위해 재정을 투자하고 인적 자원을 투입해야 합니다. 이러한 공간으로 이동하기 위해 회사들은 다음 네 가지 일을 해야 합니다:

• 사람을 루프에 유지하십시오: AI 모델은 종종 인간과 독립적으로 작동하도록 설계됩니다. 그러나 많은 경우에 인간 요소는 매우 중요합니다. 인간은 결정을 검토하고 편향과 오류를 피해야 합니다. 사기 탐지와 법 집행이 관련된 경우 두 가지 사용 사례가 있습니다. 우리는 회사들이 AI 전문가를 꾸준히 고용하여 AI-퍼스트 여정을 시작하는 데 도움이 되기를 추천합니다.
• 편향된 데이터셋을 제거하십시오: 편향되지 않은 데이터셋은 신뢰할 수 있고 공정하며 차별하지 않는 AI 모델을 만드는 데 중요한 전제조건입니다. 중요성을 이해하기 위해, AI는 이력서를 단축하고 은행의 신용 점수를 평가하는 데 사용되고 있으며, 일부 司法 시스템에도 사용되고 있습니다. 이러한 환경에서 검사되지 않은 편향은 매우 실제적인 결과를 가져올 수 있습니다.
• 결정을 설명할 수 있게 하십시오: 이 기능은 많은 주요 뉴스 아웃렛에서 다루어졌으며, 올바른 것입니다. XAI는 AI 시스템이 특정 결정을 내린 이유를 설명하는 데 도움이 됩니다. 또한 깊은 학습 모델에서 사용된 기능의 중요성을 드러내고 예측이나 가설을 내린 이유를 설명합니다. 의사 결정의 중요성을 이해하고 의사 결정이 어떻게 이루어지는지 정당화하는 것은 자율 주행 자동차와 의료 생체 검사에서 사용되는 컴퓨터 비전과 같은 사용 사례에 필수적입니다.
• 결과를 신뢰성 있게 재현하십시오: 연구 프로젝트에서 일반적인 필요조건인 AI 모델은 일관된 예측을 제공해야 합니다. 이러한 모델은 새로운 데이터에 노출되더라도 영향을 받지 않아야 합니다.

이 네 가지 항목은 투명하고 지능형 생태계를 만들고, 우리가 “실시간 기업”이라고 부르는 것을 향해 나아가게 할 것입니다. 여기서 편향되지 않은 의사 결정을 실시간으로 내리고, 인간이 거버넌스하는 전체 기업이 지능형 유기체로 작동합니다. 더 자세한 정보는 인포시스 지식 연구소의 백서를 참조하십시오.