AI: 인민에 의한, 인민을 위한, 인민의 AI

작성자: 발라크리슈나 (발리) D R, 인포시스 서비스 오퍼레이션 헤드 – ECS, AI 및 자동화 부문 선임 부사장.

우리는 기술의 시대에 살고 있으며 인공 지능이 우리의 삶을 쉽게 만들어주는 데 열심히 일하고 있습니다. 우리의 휴대폰은 우리를 인식하고 잠금을 해제하며, 우리는 우리가 가고 싶은 곳으로 가는 가장 짧고 혼잡하지 않은 경로를 찾는 데 도움이 되는 대화형 지도를 가지고 있습니다. 또한, 우리의 집을 따뜻하게 하거나 식히는 스마트 기기와 사기 예방 및 예측을 위한 지능형 앱을 가지고 있습니다.

그러나, 이러한 지능형 AI 시스템이 공정성과 윤리적인 관점에서 우리에게 실패한 경우도 있습니다. 예를 들어, 우리와 협력하는 유명한 은행이 저희에게서 도움을 청했습니다. 그들은 그들이 대출 심사에 사용하는 AI 모델이 편향되어 있을 수 있다고 의심했기 때문입니다. 또 다른 경우에는, 기계 제조업체가 저희와 협력하여 보증 청구 패턴에서 편향을 제거하고, 그 후에 보증 청구 승인 과정을 재설계하고 자동화했습니다. 또한, 인사 관련 AI 모델은 종종 나이, 성별, 인종,甚至 우편번호와 같은 편향된 데이터 세트로 인해 부정적인 결과를 초래할 수 있습니다.

AI 편향의 영향을企業 전체에 미칠 수 있으므로, AI 시스템의 개발, 구현, 사용에 대한 윤리적인 질문들이 중심이 되고 있습니다. AI 시스템은 많은 인간의 결정의 집합체로, 이는 본질적으로 인간의 편향을 기반으로 합니다. 직원 자율성과 개인 정보의 보호, 편향이 경력 성장과 기회에 미치는 영향, 피부색, 인종 또는 성별에 대한 차별, AI 솔루션의 선택에 대한 설명 가능성 및 책임성과 같은 문제들이 뜨거운 논쟁의 대상이 되고 있습니다.

책임 있는 AI 만들기

AI 편향은 전체 조직에 걸쳐서 파급 효과를 일으킬 수 있습니다. 따라서, IT 리더들은 직원과 함께 작동하며, 직원에게 반대되는 방식으로 작동하지 않는 방식으로 AI를 배포하는지 확인해야 합니다. 이를 위해서, 조직은 다음과 같은 것을 포함하는 AI 배포를 목표로 해야 합니다.

데이터 거버넌스: AI의 윤리적인 사용은 데이터의 윤리적이고 투명한 사용에 기반합니다. 이를 위해서, IT 리더들은 데이터 보안, 무결성, 개인 정보 보호를 보장하고, 데이터 부패와 손실을 방지하는 잘 정의된 거버넌스 프레임워크를 설정해야 합니다.

책임성: 기계 학습 모델은 공정하고, 편향되지 않으며, 모든 사람을 동등하게 대우해야 합니다. 또한, 모든 속성에 대해 공정하게 이익을 분배해야 합니다. 이러한 모델은 설명 가능해야 하며, 결과가 어떻게 도출되었는지에 대한 설명을 제공해야 합니다. 예를 들어, 대출申请이 거절된 이유를 설명할 수 있어야 합니다. IT 리더들은 비즈니스 이해관계자에게 이러한 결정의 근거를 명확히 설명해야 하며, 이는 기업 내에서 투명성을 높여줍니다.

적대적 강도: 전체 AI 생태계는 AI 모델이 시뮬레이션을 통해 잠재적인 부정적인 결과를 연구하기 위해 테스트되고 해킹되어야 한다는 데 동의해야 합니다. 예를 들어, IT 리더들은 다음 테스트를 사용하여 AI 시스템을 테스트하고 잠재적인 장애물을 준비할 수 있습니다.

• 데이터 수정: 직접적으로 훈련에 사용되는 데이터 세트를 수정하여 데이터 주입, 수정 및 논리적 부패를 수행합니다.
• 모델 수정: 信頼性 감소와 오분류를 테스트합니다.
• 보조 도구: 결과를 영향하거나 부패시키는 도구를 사용합니다.

인간의 개입: AI 모델은 모든 주요 결정 지점에서 인간의 개입이 필요하며, 효과적인 백업 메커니즘 또는 AI 시스템을 회수해야 하는 경우 대체 경로가 있어야 합니다.

AI에 대한 사회적 동의 개발

이러한 지침에 추가하여, 우리는 기업 전체의 모든 리더들 간에 대규모 AI 배포의 이익, 관심, 비용 및 결과에 대한 포괄적인 토론과 협의를 촉진해야 합니다. 이러한 포괄적인 프로세스에 모든 이해관계자가 참여하여, приемлем한 결과를 결정하고, 리스크와 이익을 비교検討함으로써, AI 기술이 기업 전체에서 운영될 수 있는 라이센스를 얻을 수 있을 것입니다.

ross the enterprise, about benefits, interests, costs and consequences of any large AI deployment. Only such inclusive processes involving all stakeholders, to discuss and decide acceptable outcomes, and weigh out the risks and benefits, is likely to win AI technologies the license to operate throughout the enterprise.