사상 리더

생성적 AI의 발전으로 인해 책임 있는 AI를 다루는 시기입니다

mm
게시일
업데이트일
Unite.AI를 Google의 선호 소스에 추가

2022년에 기업들은 평균적으로 3.8개의 AI 모델을 생산에 사용했습니다. 현재, 10개 중 7개의 기업이 생성적 AI를 실험하고 있으므로, 향후 몇 년 동안 생산에 사용되는 AI 모델의 수가 급격히 증가할 것입니다. 결과적으로, 책임 있는 AI에 대한 산업 논의는 더 큰 긴급성을 갖게 되었습니다.

좋은 소식은 대부분의 조직이 이미 AI 윤리를 지지하고 있다는 것입니다. 그러나, 약 20%만이 책임 있는 AI 개발과 위험을 식별하고 완화하기 위한 프레임워크, 거버넌스, 가드레일을 갖춘 포괄적인 프로그램을 구현했습니다. AI 개발의 빠른 속도에 비추어 볼 때, 리더들은 프레임워크와 성숙한 프로세스를 구현하기 위해 앞으로 나아가야 합니다. 전 세계의 규제가 도입되고 있으며, 이미 2개 중 1개의 조직이 책임 있는 AI 실패를 경험했습니다.

책임 있는 AI를 구현하는 도전

책임 있는 AI는 최대 20개의 다른 비즈니스 기능을 포함하므로, 프로세스와 의사 결정의 복잡성이 증가합니다. 책임 있는 AI 팀은 리더십, 비즈니스 오너, 데이터, AI, IT 팀, 파트너 등과 협력하여 다음을 수행해야 합니다:

  • 공정하고 편향이 없는 AI 솔루션을 구축: 팀과 파트너는 탐색적 데이터 분석과 같은 다양한 기술을 사용하여 잠재적인 편향을 식별하고 완화할 수 있습니다. 또한, 데이터 전처리, 알고리즘 설계, 후처리에서 사용되는 데이터를 검토하여 대표적이고 균형된 데이터인지 확인할 수 있습니다. 또한, 그룹 및 개인 공정성 기술을 사용하여 알고리즘이 다른 그룹과 개인을 공정하게 대우하는지 확인할 수 있습니다. 또한, 반事実 공정성 접근법을 사용하여 특정 요인이 변경된 경우 결과를 모델링하여 편향을 식별하고 해결할 수 있습니다.
  • AI 투명성과 설명 가능성을 촉진: AI 투명성은 AI 모델이 어떻게 작동하고 결정하는지 쉽게 이해할 수 있음을 의미합니다. 설명 가능성은 이러한 결정이 비기술적인 용어로 쉽게 전달될 수 있음을 의미합니다. 공통 용어를 사용하고, 이해 관계자와 정기적으로 논의하며, AI 인식과 지속적인 학습의 문화를 조성하여 이러한 목표를 달성할 수 있습니다.
  • 데이터 개인 정보와 보안을 보장: AI 모델은大量의 데이터를 사용합니다. 기업은 첫 번째 및 第三方 데이터를 모델에 공급하고 있으며, 또한 개인 정보 보호 학습 기술, 즉 합성 데이터를 생성하여 희소성 문제를 해결하는 기술을 사용하고 있습니다. 리더와 팀은 데이터 개인 정보와 보안을 보호하기 위한 안전 장치를 검토하고 발전시켜야 합니다. 예를 들어, 합성 데이터는 고객의 주요 특성을 모방해야 하지만, 개인에게 추적할 수 없어야 합니다.
  • 거버넌스를 구현: 거버넌스는 기업의 AI 성숙도에 따라 달라집니다. 그러나, 기업은 처음부터 AI 원칙과 정책을 설정해야 합니다. AI 모델 사용이 증가함에 따라, AI 책임자를 임명하고, 프레임워크를 구현하고, 책임과 보고 메커니즘을 만들고, 피드백 루프와 지속적인 개선 프로그램을 개발할 수 있습니다.

책임 있는 AI 프로그램의 핵심 요소

책임 있는 AI 리더와 다른 기업을 구별하는 요소는 무엇일까요? 그들은:

  • AI에 대한 비전과 목표를 설정: 리더는 기업, 고객, 사회에ประโยชน을주는 AI의 비전과 목표를 전달합니다.
  • 기대치를 설정: 고위 리더는 팀에 책임 있는 AI 솔루션을 구축하기 위한 올바른 기대치를 설정합니다.
  • 프레임워크와 프로세스를 구현: 파트너는 투명한 프로세스와 가드레일이 있는 책임 있는 AI 프레임워크를 제공합니다. 예를 들어, 데이터 개인 정보, 공정성, 편향 확인이 초기 데이터 준비, 모델 개발, 지속적인 모니터링에 통합되어야 합니다.
  • 도메인, 산업, AI 기술에 접근: 팀은 비즈니스 경쟁력을 높이기 위해 AI 솔루션의 혁신을 가속화하고자 합니다. 그들은 도메인 및 산업 기술, 즉 데이터 및 AI 전략 설정 및 실행, 고객 분석, 마케팅 기술, 공급망, 기타 기능과 함께하는 파트너에게 의지할 수 있습니다. 파트너는 또한 책임 있는 AI 프레임워크와 프로세스를 사용하여 대규모 언어 모델(LLM) 엔지니어링, 개발, 운영, 플랫폼 엔지니어링 기능을 제공할 수 있습니다.
  • 가속기 접근: 파트너는 AI 생태계에 접근할 수 있게 해줍니다. 이는 전통적인 AI 및 생성적 AI 파일럿 프로젝트의 개발 시간을 최대 50%까지 줄일 수 있습니다. 기업은 시장 경쟁력을 높이는 垂直 솔루션을 얻을 수 있습니다.
  • 팀 채택과 책임을 보장: 기업과 파트너 팀은 새로운 정책과 프로세스에 대한 교육을 받습니다. 또한, 기업은 주요 정책 준수를 위해 팀을 감사합니다.
  • 결과를 정량화하기 위한 올바른 메트릭스 사용: 리더와 팀은 벤치마크와 기타 메트릭스를 사용하여 책임 있는 AI가 비즈니스 가치를 어떻게 기여하는지 보여줌으로써 이해 관계자의 참여를 유지합니다.
  • AI 시스템 모니터링: 파트너는 모델 모니터링 서비스를 제공하여 문제를 예방적으로 해결하고 신뢰할 수 있는 결과를 제공합니다.

지금 책임 있는 AI를 계획하세요

AI 혁신을 가속화하는 경우, 책임 있는 AI 프로그램이 필요할 수 있습니다. 위험을 줄이고, 프로그램과 프로세스를 성숙시키고, 이해 관계자에게 책임을 보여주기 위해 적극적으로 움직이세요.

파트너는 책임 있는 AI로 비즈니스 가치를解放하기 위해 필요한 기술, 프레임워크, 도구, 파트너십을 제공할 수 있습니다. 편향이 없는 공정한 모델을 배포하고, 제어를 강화하고, 회사 요구 사항을 준수하며, 향후 규제에 대비하세요.

mm

Dr. Ravindra Patil은 Tredence의 데이터 과학 선임 디렉터로서 15년의 산업 경험을 가진 팀을 이끌고 있습니다. 그의 전문 분야는 성공적인 팀 리더십과 효과적인 데이터 및 AI 솔루션 개발에 있습니다. 라빈드라(Ravindra)는 시멘스(Siemens)에서 경력을 시작했으며, 필립스 연구소(Philips Research)와 그 비즈니스 그룹에서 중요한 기여를 했습니다. 트레던스(Tredence)에 합류하기 전에, 그는 필립스의 40억 달러 규모의 개인 건강 클러스터(Personal Health cluster)에서 데이터 및 AI 그룹을 이끌었습니다.

그의 여정 전체를 통해, 라빈드라(Ravindra)는 여러 AI 알고리즘, 데이터 플랫폼을 개발하고, 다양한 비즈니스 부문에 통합을 촉진했습니다. 그는 인도 마드라스 이공대학(IIT Madras, India)에서 패턴 인식학의 학사와 마스터스를, 네덜란드 마스트리히트 대학교(University of Maastricht, Netherlands)에서 기계 학습의 박사 학위를 가지고 있습니다. 30개 이상의 특허 출원, 다수의 연구 논문 출판, 그리고 AIM 잡지에서 인도 최상위 100명의 AI 리더 중 한 명으로 선정됨으로써, 그의 업적은 주목할 만합니다.