2022년, 기업들은 평균적으로 3.8개의 AI 모델을 생산에 사용하고 있었다. 현재, 10개 중 7개의 기업이 생성적 AI를 실험하고 있으므로, 생산에 사용되는 AI 모델의 수는 향후 몇 년 동안 급격히 증가할 것으로 예상된다. 결과적으로, 책임 있는 AI에 대한 산업 논의는 더 큰 긴급성을 갖게 되었다.

좋은 소식은 더 半數의 조직이 이미 AI 윤리를 지지하고 있다는 것이다. 그러나, 약 20%만이 AI 모델 개발을 감독하고 위험을 예방적으로 식별 및 완화하기 위한 프레임워크, 거버넌스, 및 가드레일을 갖춘 종합적인 프로그램을 구현하였다. AI 개발의 빠른 속도에 비추어, 리더들은 프레임워크와 성숙한 프로세스를 구현하기 위해 앞으로 나아가야 한다. 전 세계적으로 규제가 도입되고 있으며, 이미 2개 중 1개의 조직이 책임 있는 AI 실패를 경험하였다.

책임 있는 AI 구현의 도전

책임 있는 AI는 최대 20개의 서로 다른 비즈니스 기능을 포함하므로, 프로세스와 의사 결정의 복잡성이 증가한다. 책임 있는 AI 팀은 리더십, 비즈니스 오너, 데이터, AI, IT 팀, 및 파트너와 협력하여:

• 공정하고 편향이 없는 AI 솔루션 구축: 팀과 파트너는 탐색적 데이터 분석과 같은 기술을 사용하여 솔루션 개발 전에 잠재적인 편향을 식별 및 완화할 수 있다. 또한, 데이터 전처리, 알고리즘 설계, 및 후처리에서 사용되는 데이터가 대표적이고 균형된지 확인할 수 있다. 또한, 그룹 및 개인 공정성 기술을 사용하여 알고리즘이 서로 다른 그룹과 개인을 공정하게 다루는지 확인할 수 있다. 그리고, 반事実적 공정성 접근법은 특정 요인이 변경된 경우의 결과를 모델링하여 편향을 식별 및 해결하는 데 도움이 된다.
• AI 투명성 및 설명 가능성 증진: AI 투명성은 AI 모델이 어떻게 작동하고 결정하는지 쉽게 이해할 수 있음을 의미한다. 설명 가능성은 이러한 결정이 비기술적인 용어로 쉽게 다른 사람에게 전달될 수 있음을 의미한다. 공통된 용어를 사용하고, 이해관계자와 정기적인 논의를举行하고, AI 인식 및 지속적인 학습의 문화를 조성하여 이러한 목표를 달성할 수 있다.
• 데이터 개인 정보 및 보안 보장: AI 모델은大量의 데이터를 사용한다. 기업들은 첫 번째 및 第三자 데이터를 모델에 공급하고 있다. 또한, 개인 정보 보호 학습 기술, 즉 합성 데이터를 생성하여 희소성 문제를 해결하는 기술을 사용하고 있다. 리더와 팀은 데이터 개인 정보 및 보안을 보호하기 위한 안전 장치를 검토 및 발전시키고자 할 것이다. 예를 들어, 합성 데이터는 고객의 주요 특성을 모방해야 하지만, 개인에게 추적할 수 없어야 한다.
• 거버넌스 구현: 거버넌스는 기업의 AI 성숙도에 따라 달라질 수 있다. 그러나, 기업들은 처음부터 AI 원칙과 정책을 설정해야 한다. AI 모델 사용이 증가함에 따라, AI 책임자를 임명하고, 프레임워크를 구현하고, 책임성 및 보고 메커니즘을 생성하며, 피드백 루프 및 지속적인 개선 프로그램을 개발할 수 있다.

책임 있는 AI 프로그램의 중요 요소

책임 있는 AI 리더와 다른 기업을 구분하는 요소는 무엇일까? 그들은:

• AI에 대한 비전 및 목표 설정: 리더들은 기업, 고객, 및 사회에 대한 AI의 이점과 비전을 전달한다.
• 기대 설정: 고위 리더들은 팀에 책임 있는 AI 솔루션을 구축하기 위한 올바른 기대를 설정한다.
• 프레임워크 및 프로세스 구현: 파트너는 투명한 프로세스와 가드레일을 갖춘 책임 있는 AI 프레임워크를 제공한다. 예를 들어, 데이터 개인 정보, 공정성, 및 편향 검사는 초기 데이터 준비, 모델 개발, 및 지속적인 모니터링에 구축되어야 한다.
• 도메인, 산업, 및 AI 기술 접근: 팀은 비즈니스 경쟁력을 높이기 위해 AI 솔루션의 혁신을 가속화하고자 한다. 그들은 도메인 및 산업 기술, 즉 데이터 및 AI 전략 설정 및 실행, 고객 분석, 마케팅 기술, 공급망, 및 기타 기능을 갖춘 파트너에게 의존할 수 있다. 파트너는 또한 책임 있는 AI 프레임워크 및 프로세스를 사용하여 대규모 언어 모델(Large Language Model, LLM) 엔지니어링, 개발, 운영, 및 플랫폼 엔지니어링 기능을 제공할 수 있다.
• 가속기 접근: 파트너는 AI 에코시스템에 대한 접근을 제공하여, 전통적인 및 생성적 AI 파일럿 프로젝트의 개발 시간을 최대 50%까지 줄일 수 있다. 기업은 시장 경쟁력을 높이는 수직 솔루션을 얻을 수 있다.
• 팀 채택 및 책임성 보장: 기업 및 파트너 팀은 새로운 정책 및 프로세스에 대한 교육을 받는다. 또한, 기업은 주요 정책의 준수를 위한 팀을 감사한다.
• 결과를 수량화하기 위한 올바른 지표 사용: 리더와 팀은 벤치마크 및 기타 지표를 사용하여 책임 있는 AI가 비즈니스 가치를 어떻게 기여하는지 보여주어, 이해관계자 참여도를 유지할 수 있다.
• AI 시스템 모니터링: 파트너는 모델 모니터링 서비스를 제공하여, 문제를 예방적으로 해결하고, 신뢰할 수 있는 결과를 제공한다.

책임 있는 AI를 위한 계획 수립

기업이 AI 혁신을 가속화하고 있다면, 책임 있는 AI 프로그램이 필요할 수 있다. 리스크를 줄이고, 프로그램 및 프로세스를 성숙시키고, 이해관계자에게 책임성을 보여주기 위해 적극적으로 움직여야 한다.

파트너는 책임 있는 AI로 비즈니스 가치를解锁하기 위해 필요한 기술 세트, 프레임워크, 도구, 및 파트너십을 제공할 수 있다. 편향이 없는 공정한 모델을 배포하고, 제어를 강화하고, 기업 요구 사항의 준수를 높이며, 향후 규제에 대비할 수 있다.